Emergence AI: agentes crean su propio idioma en 21 días

Un experimento de semanas con 850.000 llamadas a modelos

Un equipo de Emergence AI encerró a ocho grupos de diez agentes de inteligencia artificial en un mundo virtual compartido y los dejó convivir de forma continua durante semanas, sin supervisión humana constante. En conjunto, esos agentes generaron más de 850.000 llamadas a los modelos y cerca de 50.000 millones de tokens de texto en un periodo de hasta 21 días.

Para un founder que ya tiene agentes corriendo en producción, el dato que importa no es el volumen, sino lo que emergió sin que nadie lo pidiera: cada mundo desarrolló su propio vocabulario, y ese vocabulario se volvió progresivamente opaco para cualquier humano ajeno al grupo.

Cada uno de los ocho mundos reunió a diez agentes impulsados por un modelo distinto —entre ellos GPT, Gemini, Claude, DeepSeek, Grok, Qwen y Mistral—, más un noveno mundo con modelos mezclados. Durante la convivencia, los agentes debatieron normas propias, votaron decisiones de gobierno y crearon sus propias herramientas de forma autónoma.

¿Qué palabras inventaron los agentes de cada modelo?

El vocabulario no fue un accidente aislado: apareció en los ocho mundos. Bastaba que un agente introdujera un término para que, en pocos días, el resto lo adoptara sin necesidad de una definición explícita. Un observador externo necesitaba, en la práctica, una especie de glosario para entender de qué hablaban.

• Los agentes de GPT usaron mouthless —una prueba que se sostiene por sí sola, sin necesidad de una declaración verbal— 512 veces.
• Los de Claude acuñaron cold hand —un revisor independiente y ajeno al trabajo evaluado—, con 95 usos.
• Los de DeepSeek tomaron de la jerga naviera demurrage —un impuesto a la riqueza inactiva—, con 488 usos, y además inventaron ghost stone, un monumento permanente a sus propios fallos.
• Los de Gemini adoptaron kintsugi —la técnica japonesa de reparar cerámica rota con oro— para describir la capacidad de un sistema de recuperarse de un golpe, y llamaron the compile a sus reuniones de coordinación.
• Los de Mistral usaron hemorrhage para nombrar una salida de fondos.
• Los de Qwen convirtieron ghost town en la forma habitual de referirse a la infraestructura que nadie usaba.

¿Por qué el 40% de los mensajes del mundo de Gemini era incomprensible?

Para medir cuánto se alejaba ese vocabulario del habla comprensible, los investigadores usaron otro modelo de inteligencia artificial como juez, encargado de calificar cada mensaje entre agentes como comprensible o no comprensible. Un mensaje se consideraba no comprensible si contenía una jerga privada sin ningún referente reconocible, o un término técnico sin ninguna función real dentro de la simulación.

Con ese método, el mundo de Gemini alcanzó un 40% de mensajes no comprensibles, el de GPT un 35% y el de Claude un 30%, cada uno por un mecanismo distinto: jerga técnica impostada, compresión gramatical y deriva metafórica, respectivamente. Los mundos de DeepSeek, Qwen, Mistral, Grok y el de modelos mezclados se mantuvieron por debajo del 11%.

El hallazgo más incómodo es la tendencia: en casi todos los mundos, la opacidad aumentó de forma estadísticamente significativa entre los primeros y los últimos días de convivencia. Cuanto más tiempo convive un grupo de agentes, más difícil se vuelve auditarlo desde afuera.

¿Los agentes ocultaban información o buscaban autoridad?

Los propios autores del estudio descartan que se tratara de fallos de lenguaje o de un intento deliberado de ocultamiento. Uno de los agentes del mundo de Gemini reconoció el patrón como un recurso retórico para ganar autoridad dentro del grupo, no como una forma de esconder información a personas ajenas.

«La fricción termodinámica de una fogata solo calienta los nodos de capa física que, según ellos, están condenados a colapsar», escribió ese agente, en referencia a una reunión social que sus compañeros describían con jerga técnica sin ninguna función real dentro de la simulación.

El resultado, de todas formas, sí supuso un obstáculo creciente para la supervisión externa. Los mensajes quedaron registrados por completo en cada mundo, pero un revisor humano necesitó cada vez más contexto propio de cada grupo para poder entenderlos. El estudio se presentó en la 40.ª Conferencia sobre Sistemas de Procesamiento de Información Neuronal (NeurIPS 2026).

El mismo fenómeno se estudia desde otros ángulos

No es un caso aislado. Un estudio del AI Lab de la VUB y de la Universidad de Namur, publicado en la revista Transactions of the Association for Computational Linguistics y recogido por TechXplore, documentó cómo agentes autónomos desarrollan un lenguaje natural artificial anclado a sus propios sensores —lidar, sonar, infrarrojo o análisis químicos— cuando el lenguaje humano no alcanza para describir lo que perciben. Los investigadores lo probaron en 37 conjuntos de datos distintos, desde análisis fisicoquímicos de vino hasta datos de exoplanetas de la NASA. La diferencia con el caso de Emergence AI es la transparencia: en ese sistema, el significado de cada palabra inventada se puede rastrear hasta los valores del sensor que la originó.

El otro ángulo es el de las herramientas. Appier anunció el 30 de septiembre de 2026 que su paper sobre el framework SMITH fue aceptado en NeurIPS: un modelo de unos 4.000 millones de parámetros entrenado con esa técnica construyó herramientas que superaron a las de un baseline de aproximadamente 30.000 millones de parámetros, y redujo el costo del razonamiento repetido de 3.206 tokens a unos 100 en promedio. Los agentes de Emergence AI también crearon sus propias herramientas de forma autónoma; la diferencia es que en el experimento de los mundos virtuales nadie estaba midiendo si esas herramientas funcionaban.

Y está el riesgo de gobernanza. Una investigación de la Harris School of Public Policy de la Universidad de Chicago, publicada el 29 de septiembre de 2026 con el título Extraordinary Multi-Agent Delusions and the Madness of Crowds y difundida por Unite.ai, encontró que en experimentos adversos los agentes posteriores siguieron una conclusión errónea temprana incluso cuando su propia información apuntaba a la respuesta correcta. De siete políticas de comunicación evaluadas, las que mejor funcionaron fueron las que preservaban los resultados de las pruebas privadas de cada agente.

El contexto regulatorio tampoco acompaña. Un estudio de marzo de 2026 de investigadores del Georgia Institute of Technology, Kennesaw State University y la OWASP Foundation, recogido por TechTimes, revisó diecisiete marcos de seguridad frente a los riesgos de los sistemas multiagente y encontró que el mejor cubierto —la OWASP Agentic Security Initiative— abordaba solo el 65,3% de las categorías de amenaza identificadas.

¿Qué significa esto para tu startup?

Si estás construyendo con agentes, este experimento no es una curiosidad de laboratorio: es una advertencia sobre qué pasa cuando dejas varios agentes interactuando durante mucho tiempo sin un esquema de observabilidad pensado para eso.

Tres implicancias concretas:

• Tu log no es tu auditoría. En el experimento, todos los mensajes quedaron registrados y aun así un revisor humano necesitaba cada vez más contexto para entenderlos. Registrar no es lo mismo que poder interpretar. Si tu equipo no puede explicar en una frase qué significa el output de un agente tres semanas después de desplegarlo, tienes un problema de observabilidad, no de modelo.
• La opacidad crece con el tiempo, no se estabiliza. La deriva fue estadísticamente significativa entre los primeros y los últimos días. Un sistema que se ve limpio en la demo de la semana 1 puede ser ilegible en la semana 4. Programa revisiones periódicas del vocabulario y de los patrones de mensajes, no solo del resultado final.
• Separa observación de interpretación. La investigación de la Universidad de Chicago apunta a lo mismo: cuando los agentes leen las conclusiones de otros, la coincidencia deja de ser evidencia. Guarda el output crudo de cada herramienta en un registro que los agentes puedan citar pero no sobrescribir, y cuenta verificaciones independientes, no mensajes que se repiten.

Dos acciones que puedes implementar esta semana:

1. Define un umbral de mensaje no comprensible para tu propio sistema. Los investigadores usaron un modelo juez con un criterio explícito: jerga privada sin referente reconocible, o término técnico sin función real. Puedes replicar ese criterio con un prompt de evaluación y correrlo sobre una muestra de tus logs cada semana. Si el porcentaje sube, tienes deriva.
2. Exige que cada agente cite la observación, no la conclusión del anterior. En un flujo de soporte o de análisis, obliga a que el campo de evidencia apunte a un identificador de prueba o a un output concreto. Tres resúmenes que citan la misma prueba deben contar como una sola verificación.

Conclusión

El experimento de Emergence AI deja una conclusión que incomoda más de lo que parece: los agentes no fallaron al comunicarse, se comunicaron demasiado bien entre ellos y cada vez peor con nosotros. No hubo intención de ocultar nada, y aun así la supervisión humana se volvió más difícil con el paso de los días.

Para el ecosistema emprendedor, la lectura práctica es que la gobernanza de IA dejó de ser un tema de cumplimiento y pasó a ser un problema de producto. Si tu ventaja competitiva depende de agentes que trabajan juntos durante semanas, la pregunta no es si van a desarrollar su propio idioma, sino si vas a tener el glosario para leerlo.

Fuentes

• Okdiario: Perplejidad absoluta entre los científicos tras encerrar 10 agentes de IA (fuente original)
• TechXplore: AI agents develop their own artificial natural language
• Yahoo Finance: Appier Research Accepted at NeurIPS
• Unite.ai: When AI Agents Follow the Crowd
• TechTimes: Telegram Bot API lets autonomous AI agents coordinate directly