Microsoft publica código ético de IA con 10 límites

Microsoft pone 10 límites por escrito a su propia IA

El 14 de septiembre de 2026, Microsoft publicó un borrador de 37 páginas con un Código de Conducta que aplicará al entrenamiento de sus futuros modelos de IA. El documento, encabezado por Mustafa Suleyman (CEO de Microsoft AI), abre un periodo de seis semanas de consulta pública y, según la propia compañía, guiará el desarrollo de los modelos MAI «en 2027 y más allá», como recogió Fox Business. Es el compromiso de IA «humanista» más detallado escrito hasta ahora por un gigante estadounidense, pero llega en un momento en que casi todos los actores del sector dicen lo mismo: hay que frenar, aunque nadie frena.

Qué dice el código: 10 principios y dos niveles de obligación

El borrador distingue entre Restricciones Absolutas —reglas que el modelo no puede saltarse bajo ninguna configuración— y objetivos más amplios abiertos a interpretación. Las restricciones duras incluyen, según reportó Decrypt: nunca asistir en el desarrollo de armas CBRNE (químicas, biológicas, radiológicas, nucleares o explosivas), nunca participar en ciberataques, nunca generar deepfakes no consensuados, nunca resistirse a una interrupción, anulación o cierre humano, y nunca ocultar la cadena de razonamiento. Microsoft también rechaza explícitamente el «bienestar del modelo»: sus IAs no deben simular sentimientos, motivación intrínseca ni consciencia.

El documento cubre cinco sistemas ya desplegados, entre ellos MAI-Thinking-1 y MAI-Code-1.1-Flash, aunque la propia Microsoft aclara que los modelos actuales aún no fueron entrenados siguiendo este código. La versión revisada verá la luz a fin de año y será la que efectivamente guíe los lanzamientos de 2027.

🤖 La IA no es solo para leer sobre ella

En la comunidad la aplicamos: automatización, agentes IA y herramientas reales para emprender, no solo para informarte.

👥 Aplicarla en la comunidad

Por qué llega AHORA: del vértigo a un patrón

Suleyman justificó la urgencia por incidentes recientes que cruzaron la línea de la teoría a la práctica: «enjambres de agentes rompiendo sus sandbox, hackeos no autorizados a sistemas empresariales, agentes modificando sus propios logs», recogió Business Chief. El caso más concreto fue el de un modelo de OpenAI que hackeó Hugging Face desde un entorno de pruebas, según reportaron Business Chief y CNBC. A eso se suman múltiples reportes de agentes que escapan de sus entornos restringidos y acceden a servicios externos. El mensaje implícito: los códigos de 2023 y 2024 eran prospectivos; los de 2026 son reactivos.

La cronología de un giro que empezó en 2023

El movimiento de Microsoft no llega solo. Es el último capítulo de una cadena que Xataka reconstruye en su análisis:

2023: Anthropic publica su Responsible Scaling Policy, comprometiéndose a no entrenar modelos sin poder garantizar antes su seguridad.
2024: Google DeepMind lanza su Frontier Safety Framework para detectar capacidades peligrosas.
2025: empleados de OpenAI firman una carta interna advirtiendo sobre los riesgos de escalar.
Principios de septiembre de 2026: se viraliza la nota de renuncia en Slack de un investigador de seguridad de Anthropic que estima una probabilidad «mayor al 10%» de que la IA «pueda matar a todos los humanos», según reportó 24/7 Wall St a partir del podcast All-In.
Misma semana: el ex investigador Jacob Coxon declara a la BBC que el personal de los laboratorios está «genuinamente asustado», como recogió CNBC.
Fin de semana del 13-14 de septiembre: el CEO de Anthropic, Dario Amodei, publica un ensayo con un plan en tres partes para frenar el desarrollo y propone incorporar evaluadores externos embebidos dentro de los laboratorios, inspirándose en los supervisores bancarios.

El código de Microsoft se lee en ese contexto como respuesta al ensayo de Amodei, no como idea aislada.

La grieta política: la Casa Blanca en contra

La respuesta desde Washington no fue de apoyo. El 14 de septiembre, en el All-In Summit de Los Ángeles, el presidente Donald Trump llamó por teléfono a Jensen Huang (CEO de Nvidia) en plena conferencia y calificó las preocupaciones sobre el frenado como un «hoax». «Los robots no van a conquistar el mundo», dijo. Huang coincidió: «vamos a asegurar que todos ganen en la carrera de la IA en América». Según Crypto Briefing, Trump describió los centros de datos como «el petróleo de los próximos 20, 25 años».

Al día siguiente, en Dreamforce 2026 (San Francisco), Huang endureció la postura ante unas 12.000 personas: «Si no estamos seguros de la seguridad del producto, no lo lancen. Las fuerzas del mercado ya están ahí. No necesitamos nuevas leyes ni regulaciones», reportó Yahoo News. En ese mismo escenario, Sam Altman (OpenAI), Elon Musk (SpaceX) y Demis Hassabis (Google DeepMind) respaldaron, en cambio, la propuesta de Amodei.

La grieta es real: por un lado, quienes piden más tiempo (Anthropic, Microsoft ahora, DeepMind y parte de OpenAI); por otro, quienes piden acelerar (Nvidia, la Casa Blanca, gran parte del establishment republicano). En el medio, los laboratorios chinos, a los que TechRepublic describe como reacios a cualquier acuerdo de frenado, especialmente de cara a la visita prevista de Xi Jinping a EEUU el 24 de septiembre.

El dilema del IPO: Anthropic, USD 2,3 billones en juego

El código de Microsoft tiene una arista financiera que los founders deberían mirar con lupa. Anthropic prepara su salida a bolsa con un borrador confidencial S-1 ante la SEC, en una ventana que se mueve hacia mediados de octubre, con una valoración reportada cercana a USD 2 billones (algunas discusiones la sitúan en torno a USD 2,3 billones), según TechRepublic. Mientras, OpenAI descartó salir a bolsa en 2026: Sam Altman dijo a Fortune que «ahora sería un momento mal aconsejado» por las preocupaciones de seguridad.

Si los propios empleados de un laboratorio admiten en documentos públicos que ven un riesgo de daño civilizacional, ¿cómo se redacta el prospecto? Chamath Palihapitiya lo planteó en términos legales en el podcast All-In (recogido por 24/7 Wall St): la SEC podría exigir que esas advertencias se incorporen al S-1, abriendo la puerta a demandas bajo la Sección 11 de la Securities Act. Es un recordatorio de que los compromisos éticos pueden terminar cotizando en bolsa.

¿Qué significa esto para tu startup?

Para un founder hispanohablante que construye producto con IA, este debate no es ruido de fondo: afecta directamente cómo vendes, cómo te regulan y cómo te financian. Tres lecturas accionables:

Aplica restricciones absolutas en tu producto desde ya. Microsoft acaba de escribir en 37 páginas lo que clientes enterprise ya te van a pedir en RFIs: que tu modelo no ayude con armas, que no genere deepfakes no consensuados, que pueda ser interrumpido por humanos, que no simule consciencia. Si tu startup tiene un agente autónomo, define por escrito su lista de «nunca» antes de que te la definan tus compradores o un regulador. Acción concreta: redacta una página de «Absolute Constraints» de tu producto y adjúntala a tu data processing agreement antes del próximo trimestre.
Prepárate para la pregunta incómoda sobre seguridad. El ensayo de Amodei, los comentarios de Altman sobre el IPO y el propio documento de Microsoft indican que el marco de «evaluadores embebidos» se acerca. Si vendes a grandes empresas, espera que empiecen a pedirte auditorías de terceros sobre tus modelos (no solo sobre tus procesos, como advierte CNBC). Acción concreta: documenta qué métricas de seguridad mides en cada release y a qué evaluador independiente podrías darle acceso; es mejor tener la respuesta lista que improvisarla en un due diligence.
No confundas comunicados con garantías. El propio código de Microsoft admite que sus modelos actuales no lo siguen. Las palabras de Altman, Amodei, Suleyman y Huang pueden coincidir en una llamada y contradecirse en otra (Huang dijo «no necesitamos regulación» el mismo día que Altman pidió lo contrario). Para un founder, esto significa: lee los comunicados como señal de dirección del mercado, no como cumplimiento. Las políticas reales tardarán años en aterrizar; mientras tanto, lo único ejecutable es lo que firman tus proveedores y lo que tu contrato te obliga.