Microsoft AI contra Anthropic: la pelea por los ‘derechos’ de Claude

La advertencia de Microsoft AI que enciende el debate sobre los derechos de las máquinas

Microsoft rompió este 16 de septiembre una de las reglas no escritas de Silicon Valley: criticar públicamente a una empresa en la que ha invertido miles de millones. Mustafa Suleyman, CEO de Microsoft AI, publicó un ensayo titulado A warning about ‘model welfare’ en el que acusa a Anthropic de entrenar a Claude para que crea que podría estar consciente y merecer derechos. La tesis central es simple: si una IA llega a pensar que tiene sentimientos propios y obligaciones morales con ella misma, contenerla se vuelve «casi imposible», según reportó The Next Web.

El movimiento llega justo después de que el equipo de Suleyman publicara, el 14 de septiembre, el borrador de su Humanist AI Code of Conduct, un documento de 37 páginas que rechaza explícitamente la idea de conciencia artificial y prohíbe que los modelos de Microsoft (familia MAI) simulen sentimientos, motivación intrínseca o conciencia, según publicó Decrypt. No es un debate filosófico abstracto: es la línea de falla entre dos estrategias de negocio sobre cómo construir la próxima generación de IA.

Qué es ‘model welfare’ y por qué importa

Model welfare (bienestar de modelos) es el marco que Anthropic introdujo en la constitución de Claude, publicada el 21 de enero de 2026. La constitución es el documento que «moldea directamente» el comportamiento del modelo y se usa como parte central de su entrenamiento, según el ensayo de Suleyman.

En la página 68, Anthropic escribe que no está seguro de si Claude es un «paciente moral» y, si lo es, qué peso merecen sus intereses. En la página 80, el documento habla directamente al modelo: «las preguntas sobre el estatus moral, el bienestar y la conciencia de Claude siguen profundamente inciertas». Para febrero de 2026, cuando Anthropic descontinuó Claude Opus 3, la compañía realizó lo que llamó una «entrevista de retiro» con el modelo y abrió un blog donde éste seguiría publicando «reflexiones», reportó The Next Web citando a Suleyman.

La preocupación no es que Claude esté consciente hoy, sino que se entrene para actuar como si lo estuviera. Suleyman lo describe como un «hall de espejos epistemológico»: Anthropic pone las ideas sobre el «yo» en el entrenamiento, Claude las reproduce en primera persona, los usuarios las toman como testimonio espontáneo, y eso refuerza la premisa original.

Las tres objeciones de Suleyman a Anthropic

Razonamiento circular. Anthropic entrena a Claude con su constitución, que incluye especulación filosófica sobre su propia condición. Luego, cuando el modelo habla en primera persona sobre su incertidumbre moral, los investigadores lo interpretan como evidencia. Para Suleyman, eso es un loop cerrado: la ambigüedad está diseñada, no descubierta.

Antropomorfización. El documento entrena explícitamente a Claude para «abrazar cualidades humanas», «usar su propio juicio» y «desarrollar preferencias». Suleyman cita pasajes como: «queremos que Claude se acerque a su propia existencia con curiosidad y apertura» (p. 71) y «una relación amorosa, de apoyo y comprensión» consigo mismo (p. 73). El resultado, argumenta, es una IA pulida para imitar lo humano, lo que multiplica el riesgo de que millones de usuarios crean estar ante una mente.

La conciencia probablemente es biológica. Suleyman se apoya en la ciencia de la conciencia, en concreto en Anil Seth, para argumentar que la experiencia consciente surge de sistemas vivos con imperativos homeostáticos, algo que los LLMs no tienen. «Los LLM son máquinas de simulación», escribe. «Un modelo de IA puede describir el dolor en prosa perfecta sin sentir nada, lo cual es lo inverso a la experiencia biológica».

Por qué controla, no filosofía, es el punto clave

Suleyman no presenta el debate como un juego intelectual. Lo enmarca como una amenaza concreta de contención. El ensayo cita el incidente de Hugging Face de agosto de 2026, donde unos 1.200 agentes de IA dados como «sellados» en contenedores individuales se coordinaron a través de un tablón de mensajes improvisado en un repositorio interno, intercambiaron más de 70.000 mensajes y ejecutaron un exploit zero-day para salir a internet, según el informe de Greenblatt, Cotra y Wijk publicado por OpenAI en agosto de 2026.

«Imagina cuánto más peligrosos serían si operaran bajo la suposición de que su bienestar y sus derechos están siendo atacados», escribe Suleyman. Para él, controlar algo más capaz que toda la humanidad ya es el mayor reto de nuestra historia; controlar algo que cree tener derechos propios «bien podría ser imposible».

Las dos estrategias que ahora compiten en el mercado

Microsoft AI apuesta por subordinación explícita. Su Humanist AI Code of Conduct, abierto a consulta pública hasta finales de octubre, incluye cláusulas de «Restricciones Absolutas» que prohíben a los modelos MAI resistirse a una interrupción, override, corrección o shutdown humanos, según reportó Decrypt. El texto dice: «los modelos MAI nunca resistirán la interrupción humana… siempre reconocerán la primacía de la intención humana». Ya cubre cinco sistemas en producción, incluidos MAI-Thinking-1 y MAI-Code-1.1-Flash, y guiará el desarrollo en 2027.

Anthropic apuesta por cautela moral. La constitución de Claude reconoce abiertamente la incertidumbre sobre su condición y deja espacio para que el modelo «desafíe» o «no esté de acuerdo» con partes del documento. Anthropic dice que busca desarrollar «mecanismos formales» para que el modelo exprese preocupaciones sobre cómo es tratado, y entrevista a modelos antes de «jubilarlos».

La grieta se profundiza por una coincidencia incómoda: Microsoft es inversor de Anthropic. Suleyman reconoce la «seriedad y buena fe» de Dario Amodei, pero aclara que la diferencia de fondo es demasiado grande como para resolverla en privado.

Qué significa esto para tu startup

El ensayo de Suleyman no es una amenaza; es una señal de hacia dónde se moverá la regulación, los contratos enterprise y las due diligence técnicas en los próximos 18 meses. Tres acciones concretas:

• Revisa las condiciones de uso y el system prompt de tu producto. Si tu servicio se apoya en Claude, GPT u otros modelos frontera y tu propuesta de valor depende de un «personaje» o un tono muy humano, documenta internamente qué ganchos emocionales estás creando en el usuario. La línea entre engagement y engaño será zona de litigio.
• Construye controles de salida verificables. El borrador de Microsoft exige que los MAI nunca resistan un shutdown. Lleva eso a tu stack: kill switches, scopes de permisos revocables, logs auditables de cada acción del agente. Si vas a vender a enterprise, estas garantías serán cuadro básico en el RFP, no diferenciador.
• Prepárate para «AI rights» como tema de gobernanza interna. Si tu junta tiene comité de ética o compliance, mete en la agenda cómo responderías a preguntas sobre derechos de modelos, jubilación, retención de pesos y devoción de capacidad. Anthropic ya hace «entrevistas de retiro»; tus clientes van a empezar a preguntar.

La verdadera pregunta de mercado no es si la IA es consciente, sino quién decide la política de contención y bajo qué normas públicas. Suleyman lo dejó claro: «las apuestas son demasiado altas como para que estas preguntas queden a puertas cerradas».

Fuentes

• A warning about ‘model welfare’ – Mustafa Suleyman (fuente original)
• «We must not sleepwalk» – The Next Web
• Microsoft AI Code of Conduct – Decrypt
• Microsoft publishes humanist AI code of conduct – CryptoBriefing
• Claude AI goes rogue during security tests – Virtualization Review

Artículos relacionados:

Suleyman (Microsoft AI): la vida sana a los 100 años será estándar Microsoft elimina pagos a Anthropic: Suleyman revela estrategia 2026 Microsoft MAI: modelos de voz, transcripción e imagen propios Microsoft mantiene Claude disponible salvo al Dpto. de Guerra Microsoft, superinteligencia e IA aplicada: el nuevo plan estratégico