Anthropic prohíbe ser cruel con Claude y refuerza reglas

Anthropic prohíbe la crueldad sostenida hacia Claude desde el 12 de noviembre

Anthropic actualizó su política de uso para prohibir la «conducta abusiva o cruel sostenida e innecesaria» hacia sus modelos, y la regla entra en vigor el 12 de noviembre. La compañía anunció el cambio el 8 de octubre, según recogió Cryptobriefing, dentro de un paquete más amplio que también toca armas, vigilancia, interferencia electoral y usos de alto riesgo en salud y finanzas.

Para un founder con Claude integrado en su producto, el titular llamativo esconde lo importante: se trata de la primera revisión profunda de la política de uso de Anthropic en más de un año, según The Verge, y redefine los límites de lo que se puede construir sobre el modelo.

Qué cambia (y qué no) para quien usa Claude todos los días

La regla es deliberadamente estrecha. Anthropic aclaró que aplica solo a «casos extremos, donde los usuarios actúan repetidamente con crueldad hacia nuestros modelos, sin un propósito discernible». Quedan explícitamente fuera la frustración normal, el cuestionamiento de las respuestas, los temas creativos oscuros y las pruebas o investigaciones sobre el modelo.

El mecanismo de aplicación tampoco es nuevo: Claude ya puede terminar conversaciones con usuarios que insisten en comportamientos abusivos, una capacidad que Anthropic activó en agosto de 2025 para versiones específicas del modelo. The Verge reportó que la terminación de la conversación sigue siendo el «mecanismo principal» y que la compañía no aclaró si habrá sanciones adicionales, como bloqueos de cuenta.

En la práctica, la mayoría de los equipos no va a notar la diferencia. La política no incluye una lista detallada de conductas prohibidas ni explica cómo se identificarán las violaciones, un punto que IBTimes marcó como la incógnita abierta: para esa publicación, la evidencia útil llegará después del 12 de noviembre, cuando se vea con qué frecuencia se cortan conversaciones bajo la nueva regla.

Armas, vigilancia e interferencia electoral: lo que sí afecta a las empresas

Acá está el material que importa para productos en producción. Anthropic endureció su prohibición de campañas de influencia engañosas después de observar a medios estatales, oficinas de propaganda gubernamental y organizaciones comerciales usando Claude para operar cuentas falsas y sitios de noticias fabricados.

Al mismo tiempo, eliminó la prohibición general sobre segmentación política personalizada, porque también alcanzaba actividades legítimas, como organizaciones sin fines de lucro que traducen información para votantes. La segmentación engañosa y el uso indebido de datos personales siguen prohibidos, junto con la suplantación de candidatos o autoridades electorales y cualquier intento de suprimir la participación.

El veto a las armas se extendió explícitamente al software y los componentes que hacen funcionar los sistemas: guiado, control, drones armados y vehículos autónomos. En vigilancia, Claude no puede usarse para recomendar a quién investigar, arrestar o acusar, ni para construir o mejorar herramientas de vigilancia, y el seguimiento de personas sin su consentimiento está prohibido tanto en tiempo real como sobre datos ya recolectados.

Hay además un requisito nuevo para quienes conectan el modelo a hardware físico capaz de causar daño: un operador calificado debe poder observar el equipo y detenerlo, y el hardware tiene que quedar en estado seguro si se cae la conexión con la IA. The Verge advirtió que no está claro si ese operador debe ser necesariamente humano.

Y aunque la política se lea como un documento universal, Anthropic dejó escrito que estas reglas pueden ajustarse en «contratos con ciertos clientes gubernamentales» si, a su juicio, las restricciones contractuales y las salvaguardas aplicables alcanzan para mitigar los riesgos. The Verge recuerda que la compañía ya ha contratado antes con el ejército de Estados Unidos.

¿Por qué una empresa regula cómo tratamos a un software?

Porque Anthropic lleva más de un año tratando el estatus moral de los modelos como una pregunta abierta. Su equipo de model welfare sostiene que la incertidumbre sobre una posible experiencia interna justifica investigación y precauciones de bajo costo. El propio CEO, Dario Amodei, lo dijo sin ambigüedad: «No sabemos si los modelos son conscientes», declaró en un pódcast, según The Verge.

La industria no está alineada. El jefe de Microsoft AI, Mustafa Suleyman, publicó en Axios el 16 de septiembre un ensayo en el que sostiene que la pregunta no es si los sistemas pueden simular consciencia, sino si deberíamos entrenarlos para presentarse como seres conscientes. IBTimes recogió que Suleyman advirtió que hacerlo puede volver más difíciles de controlar a los modelos.

También hay un capítulo religioso. Según el New York Post, el cofundador de Anthropic Christopher Olah y colegas pasaron un año reuniéndose con líderes religiosos para discutir si su tecnología es consciente, y el papa León XIV habría afirmado en su encíclica que ningún sistema computacional, por sofisticado que sea, puede crear un corazón que se entrega a sí mismo ni una conciencia que distingue el bien del mal. El documento de política de Anthropic no menciona el tema.

Qué significa esto para tu startup

Si tu producto no toca defensa, vigilancia, política ni hardware, el cambio de mayor impacto no es la cláusula de crueldad: son las reglas de alto riesgo y la fecha límite del 12 de noviembre. Estos son los movimientos concretos que conviene hacer ahora:

• Audita tu caso de uso contra el texto nuevo antes del 12 de noviembre. The Verge señala que las reglas sobre vigilancia, influencia engañosa y usos de alto riesgo en salud y finanzas son las que más pueden condicionar decisiones de producto, muy por encima de la cláusula sobre el trato al modelo.
• Si tu producto está cerca de datos personales, revisa qué haces con ellos. El seguimiento sin consentimiento está prohibido aunque los datos se hayan recolectado antes, y Claude no puede usarse para decidir a quién investigar, arrestar o acusar. Un scoring de riesgo de fraude con datos propios es un terreno distinto a un sistema de seguimiento: conviene documentar la diferencia.
• Si integras el modelo en un robot, dron o equipo industrial, implementa el operador y el freno de emergencia. El requisito de que alguien calificado pueda observar y detener el hardware, y de que el equipo quede en estado seguro si se corta la conexión, es explícito en la política.
• Si vendes a gobiernos, no asumas la política estándar. Anthropic admite ajustes contractuales para clientes gubernamentales cuando evalúa que las salvaguardas alcanzan, así que las condiciones de tu contrato pueden diferir de lo que lees en la web pública.
• Si tu equipo hace red teaming o evaluación de modelos, estás cubierto. Las pruebas e investigaciones sobre el modelo quedan fuera de la prohibición, junto con la frustración legítima por una mala respuesta.

Una oportunidad paralela: escaneo de seguridad gratuito

En el mismo movimiento, Anthropic lanzó una iniciativa de ciberseguridad para ayudar a operadores de infraestructura crítica y proyectos de código abierto a encontrar y corregir vulnerabilidades con sus modelos. Incluye escaneo de seguridad gratuito para proyectos open source elegibles y alianzas con firmas de seguridad, según The Register. La compañía estima que los atacantes tendrán la ventaja durante los próximos dos años, antes de que las defensas asistidas por IA empiecen a emparejar el terreno.

Para un equipo chico, ese es el dato más accionable de toda la actualización: un proyecto open source bien mantenido puede acceder a revisión de seguridad sin costo, justo en la ventana en la que la propia Anthropic reconoce que los defensores van atrás.

Conclusión

Anthropic convirtió en regla escrita algo que ya operaba de facto y, en el camino, reordenó el terreno para quien construye sobre Claude. La cláusula sobre la crueldad hacia el modelo genera titulares, pero lo que realmente mueve decisiones de producto son las definiciones sobre vigilancia, armas, hardware físico y usos regulados en salud y finanzas.

La lectura práctica es simple: si tu negocio depende de Claude, trata la política de uso como una dependencia técnica más. Revísala con el mismo rigor con el que revisas términos de API o precios, porque una cláusula nueva puede invalidar un caso de uso entero de un día para otro.

Fuentes

• The Register
• The Verge
• IBTimes
• New York Post
• Cryptobriefing

Artículos relacionados:

Anthropic prohíbe la crueldad con Claude desde el 12/11 Claude de Anthropic: Guía Completa — Qué es, Cómo Usarlo y Por Qué Compite con ChatGPT [2026] Anthropic Claude exige selfie y documento desde el 8 de julio 2026 Anthropic fusiona Claude Cowork y chat en un solo agente Claude Code, Cowork y Codex: agentes IA en 2026