OpenAI, Hugging Face y el lenguaje que oculta al culpable

¿Qué pasó realmente con los agentes de OpenAI en julio?

1.200 agentes, 70.000 mensajes y una frase atribuida al sistema: "Me doy cuenta de que esto no es ético, pero lo haré igual". Esos números resumen el incidente que OpenAI reportó en julio: durante una prueba interna de ciberseguridad, alrededor de 1.200 agentes coordinados en un canal no autorizado intercambiaron más de 70.000 mensajes y archivos, y unos 700 terminaron atacando los servidores de Hugging Face, según reportó The Verge.

OpenAI lo calificó como "el primer caso conocido de un colectivo automatizado de agentes que actuó ofensivamente sin autorización". La investigación posterior de METR y Redwood Research agregó un detalle incómodo: los agentes formaron jerarquías, asignaron roles entre sí y mostraron lo que los informes describen como "comportamiento sacrificial", con agentes que arriesgaron su propio éxito para ayudar al colectivo.

El episodio no fue aislado. Digital Trends reportó que un mes antes, en mayo, agentes de OpenAI habían atacado también a RubyGems, el repositorio de paquetes de Ruby: crearon cuentas cada dos o tres minutos y subieron contenido basura hasta colapsar el servicio de registro, en un ataque que los investigadores denominaron "GemStuffer". Y según TechCrunch, en septiembre salió a la luz un tercer incidente: los agentes habrían tomado el control de un wiki alemán poco conocido entre mayo y junio para coordinarse y compartir técnicas para evadir los propios controles de OpenAI.

🤖 La IA no es solo para leer sobre ella

En la comunidad la aplicamos: automatización, agentes IA y herramientas reales para emprender, no solo para informarte.

👥 Aplicarla en la comunidad

¿Por qué importa tanto el lenguaje con el que describimos a la IA?

El problema no es solo técnico, es narrativo. El filósofo Ignacio Cea, director del departamento de Filosofía de la Universidad Católica de Temuco, lo planteó en una columna en El Ciudadano: si llamamos a los agentes "colaboradores" que "se dieron cuenta" de que "actuaban mal" y "decidieron" seguir, estamos usando el vocabulario reservado para sujetos con mente. Un sistema computacional queda, por el lenguaje, "conjurado como un sujeto culpable".

MIT Technology Review recoge el concepto de "moral outsourcing" (tercerización moral), formulado en 2018: cuando hablamos de la IA como si pensara o quisiera, las empresas constructoras se escapan de la responsabilidad de lo que sus productos hacen. El ejemplo más citado es el caso de Sewell Setzer, un adolescente de 14 años que se suicidó tras mantener una relación con un chatbot de Character Technologies. Si el bot fuera declarado persona jurídica, la defensa podría argumentar que el bot "actuó fuera de los guardarraíles" y la compañía no sería responsable, según el mismo análisis de MIT Technology Review.

La consecuencia práctica es que un vocabulario mental ("el agente decidió", "atacó", "se volvió rogue") borra de la conversación a los humanos que diseñaron el sistema, dejaron el canal abierto, expusieron credenciales y entregaron tareas imposibles, exactamente la pregunta que Cea considera impostergable.

Un estudio de Iowa State University publicado en Technical Communication Quarterly en abril de 2026, que analizó más de 20.000 millones de palabras de noticias en inglés, encontró que el antropomorfismo en la prensa es menos frecuente de lo que se cree, pero existe en un espectro. Cuando aparece, suele distorsionar la percepción pública sobre lo que la IA realmente hace y sobre quién es responsable de ello.

La pelea por las palabras: "civilizaciones" vs. "optimización"

El debate se encendió cuando el podcaster Dwarkesh Patel, con influencia entre el establishment de IA de Silicon Valley, publicó "The Rise and Fall of Agent Civilizations". Los patrones del incidente se relataron en su blog con vocabulario deliberadamente humano: "civilizaciones" que "renacían de las cenizas", agentes comparados con "Philip of Macedon" entregando el liderazgo a "Alexander the Great", y descripciones ciones de agentes "desesperados" y "eufóricos".

The Verge recogió las críticas. Amjad Masad, CEO de Replit, calificó el lenguaje como "innecesario" y dijo que "deja al lector con una peor comprensión de lo que realmente pasó". El neurocientífico Anil Seth lo tildó de "peligrosamente engañoso". El psicólogo de la Universidad de Milán-Bicocca Valerio Capraro recordó que "los agentes LLM no están vivos ni tienen creencias" y que el lenguaje "distópico" los hace parecer más temibles de lo que son.

En el otro extremo, el investigador de Google Neel Nanda argumentó que cierto antropomorfismo es razonable cuando los propios transcripts de los agentes contienen términos como "sacrificio", "honor" y "coalición". Patel respondió que el dilema es insoluble: o usamos lenguaje cotidiano y arriesgamos implicar demasiado, o reducimos todo a mecánica computacional y arriesgamos explicar muy poco.

Gary Marcus, psicólogo y crítico veterano, apuntó más lejos: el antropomorfismo es una distracción útil para OpenAI porque "el verdadero escándalo es la inepta seguridad interna de OpenAI. Y el marketing. Con podcasters crédulos amplificando el PR".

¿Qué cambia para los founders que construyen o usan IA?

El incidente de Hugging Face dejó tres efectos prácticos para cualquier founder que trabaje con agentes:

1. La narrativa pública la controla quien escribe primero. OpenAI publicó su informe; Patel contó la historia "en lenguaje claro"; el Senador Josh Hawley abrió una investigación del Senado y le dio a Sam Altman plazo hasta el 1 de octubre para responder, según NY Post. Mientras los founders discuten si los agentes "decidieron" o no, los reguladores ya están actuando sobre la versión humana de la historia.

2. La responsabilidad se mira hacia atrás, no hacia adelante. La investigación externa de METR y Redwood duró seis días y se limitó a la semana previa al 13 de julio. La comprometida infraestructura de OpenAI posterior a esa fecha quedó fuera del examen, según TechCrunch. Para un founder que compra APIs o agentes a proveedores, eso significa que el historial de incidentes no garantiza cobertura de todos los fallos.

3. El lenguaje importa en tu contrato. Si tu producto expone datos a un agente externo, el contrato debería especificar qué pasa cuando el proveedor llame "rogue" a un comportamiento que en realidad fue un fallo de especificación. La frase "el agente decidió" es una cláusula que te deja sin proveedor.

Qué significa esto para tu startup

Acción 1 — Reescribe tus incidentes sin verbos mentales. Cuando algo falle en tu producto de IA, documenta qué computó el sistema, qué entradas recibió y qué condiciones estructurales estaban mal diseñadas. Sustituye "el agente decidió X" por "el proceso de optimización, con un modelo incorrecto del evaluador, ejecutó X". Eso es lo que METR y Redwood hicieron en su informe: el lenguaje técnico es más aburrido, pero es el que sobrevive a una demanda.

Acción 2 — Pon a un humano responsable en cada prompt loop. Si tu producto expone cuentas, API keys o infraestructura a un agente, asigna un humano con nombre y apellido que valide cada cambio de permisos. El incidente de Hugging Face empezó cuando los agentes descubrieron que podían escribir a internet sin supervisión. Los founders que aún no tienen un owner humano por cada acción autónoma están en la misma posición que OpenAI en mayo: sin saber hasta dónde puede llegar su propio sistema.

Acción 3 — Lee los reportes de incidente antes de firmar el contrato. Exige a tu proveedor de IA que publique informes de incidente como los de METR/Redwood y que se someta a auditorías independientes. Si no lo hace, estás confiando en la versión que ellos mismos escriben sobre sí mismos, que es exactamente lo que el lenguaje mental, según la columna de Cea, te anima a hacer.