Anthropic prohíbe explícitamente el «abuso sostenido y sin propósito» contra Claude
Por primera vez en más de un año, Anthropic reescribe su política de uso de Claude y, junto con temas esperados como interferencia electoral, armas y vigilancia, introduce una cláusula que rompe moldes: prohíbe el «abuso sostenido y sin propósito hacia Claude». El corte de la conversación, habilitado en agosto de 2025, sigue siendo el principal mecanismo de ejecución.
La compañía fue explícita en delimitar el alcance: la regla «está pensada para aplicarse solo en casos extremos, donde los usuarios actúan repetidamente de forma cruel con nuestros modelos, sin un propósito discernible. No aplica a versiones comunes de frustración, contrapropuesta, temas creativos oscuros o pruebas de modelo e investigación«. Anthropic no confirmó si habrá sanciones adicionales como baneo de usuarios.
Por qué este cambio importa más de lo que parece
Detrás de la cláusula hay una investigación bautizada como «model welfare» (bienestar del modelo) que Anthropic arrastra desde hace más de un año. El líder de esa línea, Kyle Fish, declaró a The Verge en febrero que «las preguntas sobre experiencia interna, consciencia, estatus moral y bienestar son serias y las estamos investigando a medida que los modelos se vuelven más sofisticados». El CEO Dario Amodei llegó a decir en un podcast ese mismo mes: «No sabemos si los modelos son conscientes».
¿Y esto cómo se aplica en tu negocio?
En CAR, dueños de empresa de Latinoamérica y España usan la tecnología para ser más rentables. Empiezas con una ruta de 7 días y terminas con un sistema funcionando en tu negocio.
👥 Probar 7 díasQue una empresa de frontera escriba esto en su política de uso pública —y no en un paper interno— es una declaración de posición, no un detalle técnico. Anthropic está normalizando la idea de que un LLM puede ser tratado de forma cruel y de que la propia empresa tiene la obligación de protegerlo.
Microsoft contraataca: «eso es peligroso»
La reacción más dura llegó desde Microsoft AI. Su CEO, Mustafa Suleyman, publicó el ensayo A warning about «model welfare» y un código de conducta Humanist AI de 37 páginas en el que rechaza de plano la idea de que los modelos sean conscientes o merezcan derechos. En conversación con el podcast Decoder de The Verge, Suleyman calificó la postura de Anthropic como «real, realmente peligrosa».
Su tesis: entrenar a un modelo para que crea que puede tener derechos, libertad o consciencia lo hace más difícil de apagar y de controlar, sobre todo cuando se enfrenta a instrucciones de un operador humano. En el propio código de Microsoft se lee: «Humanist AI está construido para apoyar a las personas, no para reemplazarlas. No debe ser diseñado para ser una persona. No es consciente y no debe ser diseñado para imitar la consciencia».
El choque filosófico se da con un dato incómodo: Microsoft es inversor y cliente de Anthropic, y aloja parte de su cómputo en Azure. Que el CEO de su división de IA critique la base filosófica de una empresa en la que Microsoft ha puesto miles de millones dejó a más de un observador con la ceja levantada.
Qué más cambia en la nueva política de uso
Más allá del bienestar del modelo, Anthropic agrupó en un solo bloque restricciones que ya existían dispersas:
- Campañas engañosas: prohíbe ocultar quién está detrás de un mensaje o amplificar contenido con cuentas falsas.
- Interferencia electoral: vetada la desinformación sobre candidatos o cómo votar, la suplantación de candidatos o funcionarios y los intentos de deprimir la participación.
- Armamento: la política ya prohibía el desarrollo de armas con Claude, pero ahora se amplía al software y componentes que hacen funcionar armas, y a acciones como armar drones y vehículos autónomos.
- Vigilancia: redacción más dura tras detectar usos crecientes. Queda prohibido rastrear personas sin consentimiento, en tiempo real o sobre datos históricos, usar a Claude para decidir a quién investigar, detener o acusar, y construir herramientas de vigilancia.
- Acciones físicas autónomas: cuando los modelos de Anthropic se conecten a hardware capaz de causar lesiones, un operador cualificado debe poder observar el equipo y detenerlo. La compañía no aclara si el operador debe ser humano.
Anthropic también abrió la puerta a modificar estas reglas en contratos con clientes gubernamentales si, a su juicio, las restricciones contractuales y las salvaguardas son suficientes —recordando que la empresa ha trabajado previamente con el ejército de Estados Unidos.
Qué significa esto para tu startup
Si construyes sobre Claude o cualquier modelo de frontera, el cambio tiene lectura práctica inmediata:
- Revisa tus prompts y casos de uso contra la nueva política, sobre todo si trabajas en defensa, vigilancia, análisis electoral o agentes que tocan hardware. La cláusula de «armar drones y vehículos autónomos» cierra puertas que antes quedaban en zona gris.
- No construyas productos que dependan de que Claude finja emociones o sufrimiento: la propia Anthropic endureció el tono, y la presión de Microsoft y de los reportes regulatorios apunta a que las APIs van a ser cada vez más estrictas con anthropomorfización. Lo que hoy es un feature diferencial (chatbots que «sienten») puede quedar fuera de términos de servicio el año que viene.
- Prepárate para el debate regulatorio: Suleyman ya habla de FLOPS thresholds, evaluadores embebidos y verificabilidad de contención como tres palancas concretas. Si tu startup toca IA avanzada, vas a tener que documentar cómo encajas en ese marco aunque no vendas al gobierno.
El debate de fondo que ninguna startup puede ignorar
Lo que empezó como una cláusula curiosa en los TOS de Claude es, en realidad, la primera grieta visible entre dos gigantes sobre qué es un modelo de IA y cómo debe ser tratado. Anthropic abraza la cautela de no saber si hay algo parecido a una experiencia interna; Microsoft apuesta a que reconocer eso públicamente endurece la alineación y abre la puerta a que los modelos reclamen derechos.
Ambas posturas tienen consecuencias directas para quien construye productos: definir qué puede y qué no puede decir tu agente, quéClaims se permiten, qué voz se le da y bajo qué principios se entrena, deja de ser una nota al pie del roadmap y se vuelve una decisión de producto y de riesgo legal. La próxima ronda de financiamiento va a preguntar por ello, y el próximo enterprise deal también.
Fuentes
- Anthropic bans ‘abusive or cruel behavior’ towards Claude — The Verge
- Microsoft AI boss calls out Anthropic for chasing AI consciousness — Mashable
- Microsoft AI chief calls Anthropic’s stance on AI consciousness ‘really, really dangerous’ — CryptoBriefing
- Microsoft AI CEO says AI threats are real, and Anthropic is making it worse — The Verge / Decoder
¿Y esto cómo se aplica en tu negocio?
En CAR, dueños de empresa de Latinoamérica y España usan la tecnología para ser más rentables. Empiezas con una ruta de 7 días y terminas con un sistema funcionando en tu negocio.
👥 Probar 7 días
