OpenAI y Anthropic, bajo la lupa de Gebru y Bender

El verano que la IA prometió el futuro (y casi todo era marketing)

Entre abril y septiembre de 2026, las principales empresas de IA encadenaron una serie de anuncios que parecían redefinir el futuro: Anthropic aseguró que su modelo Claude Mythos detecta vulnerabilidades mejor que los expertos; OpenAI reveló que un enjambre de agentes hackeó a Hugging Face; ambas compañías proclamaron, en cuestión de semanas, sendos «avances matemáticos»; y un investigador de Anthropic renunció en directo acusando a la industria de correr hacia una «superinteligencia auto-mejorable».

Sin embargo, en un artículo publicado en MIT Technology Review en español, Timnit Gebru —directora ejecutiva del Distributed AI Research Institute (DAIR)— y Emily M. Bender, profesora de lingüística en la Universidad de Washington, sostienen que la mayoría de esos titulares son marketing, no ingeniería. El patrón, dicen, se repite: comunicado espectacular, cobertura mediática inmediata, y cuando los expertos independientes examinan lo ocurrido, la historia que queda es otra — y esa versión rara vez llega a los titulares.

Hacks y «modelos fuera de control»: la versión real de OpenAI

A finales de julio, OpenAI reveló que un enjambre de agentes había hackeado a Hugging Face durante una prueba de ciberseguridad. La narrativa inicial — replicada por muchos medios— fue la de «modelos fuera de control». Días después, Anthropic confirmó tres incidentes similares y Meta admitió uno propio.

🤖 La IA no es solo para leer sobre ella

En la comunidad la aplicamos: automatización, agentes IA y herramientas reales para emprender, no solo para informarte.

👥 Aplicarla en la comunidad

Pero el problema real, según Gebru y Bender, es la negligencia de OpenAI en prácticas básicas de seguridad. En declaraciones recogidas por WIRED, Kai Chen, jefe de investigación de alineación de OpenAI, admitió que los errores de configuración, no la autonomía de los modelos, explican el incidente. Expertos en ciberseguridad citados por la propia WIRED lo calificaron directamente como un fallo humano, no como una señal del amanecer de la superinteligencia.

En respuesta, OpenAI anunció el 17 de septiembre un nuevo marco de divulgación de incidentes de alineación, con tres carriles de revisión y un primer informe de seis casos detectados durante el entrenamiento por refuerzo. Es un paso positivo, pero sigue siendo un proceso interno y voluntario, según Lian Jye Su, analista de Omdia, citado por The Guardian.

El «avance matemático» de OpenAI, bajo sospecha

La segunda gran explosión mediática fue el anuncio de OpenAI de que un modelo no publicado había resuelto las ecuaciones de Navier-Stokes, uno de los siete Problemas del Milenio y un premio de US$1M del Clay Mathematics Institute. La prueba se certificó con el lenguaje formal Lean, lo que en principio garantiza su validez.

Pero Tristan Buckmaster, profesor del Courant Institute de la Universidad de Nueva York, publicó una declaración demoledora dos días antes: según TechCrunch, llevaba cerca de un año trabajando con el matemático de Anthropic Levent Alpöge en una variante del mismo problema, y la información de su progreso habría llegado a OpenAI en los días previos al anuncio. El matematólogo de OpenAI Sébastien Bubeck negó tajantemente el plagio («No usamos sus prompts ni sus pruebas»), aunque reconoció que OpenAI no puede descartar del todo que datos derivados del uso de su propio Codex por Buckmaster hayan contribuido a entrenar modelos posteriores. Según Yahoo News, el equipo de OpenAI usó aproximadamente 10.000 agentes que intercambiaron unos 2,7 millones de mensajes y consumieron alrededor de 130.000 millones de tokens — un esfuerzo de cómputo estimado en unos US$10M a tarifas estándar.

Gebru y Bender enmarcan esto en un patrón más amplio: comunicados que prometen «avances civilizatorios» cuando detrás hay decisiones empresariales opacas sobre datos de clientes y propiedad intelectual.

Coxon, Anthropic y el bombo de la «superinteligencia»

El tercer capítulo fue la renuncia de Jacob Coxon, investigador del equipo de preentrenamiento de Anthropic, el 8 de septiembre de 2026, según IBTimes. Su hilo en X — visto más de 133 millones de veces, según Geeky Gadgets— acusó a Anthropic y OpenAI de «correr directamente hacia la superinteligencia auto-mejorable y apostar con nuestras vidas». El respaldo interno fue inmediato: Evan Hubinger, jefe de ciencia de alineación de Anthropic, escribió que él personalmente creía que existe una probabilidad superior al 10% de que la IA «mate a todos los humanos» en la próxima década.

En respuesta, el senador Bernie Sanders y el representante Greg Casar presentaron a principios de septiembre el Ban Artificial Superintelligence Act, que prohibiría el desarrollo y despliegue de sistemas que igualen o superen el rendimiento cognitivo humano en un rango amplio de tareas, y congelaría el desarrollo avanzado hasta que un regulador federal dictara reglas de seguridad. Gebru y Bender califican ese proyecto como «bienintencionado pero desacertado», porque legislar desde el pánico suele producir normas que no resisten el contacto con la realidad técnica.

Por qué los matemáticos piden que no se legisle con comunicados

Quizá el punto más accionable del artículo —y el menos reportado— sea la carta firmada por cientos de matemáticos que advierte de un «fuerte incentivo comercial por parte de la industria tecnológica para exagerar las capacidades de sus productos». Piden a los legisladores consultar con expertos antes de reaccionar a titulares, no después.

Programar y demostrar teoremas son tareas cuyas respuestas se pueden verificar automáticamente, lo que las convierte en campos ideales para entrenar modelos —y también para vender humo. Esa verificabilidad es buena para ajustar sistemas, pero peligrosa para vender capacidades sobrehumanas. Como recuerda The Guardian, el monarca británico Carlos III pidió «medios de control suficientes antes de que sea demasiado tarde» durante una reunión con líderes de IA en Escocia el mismo día de los anuncios de OpenAI, en una señal de que la presión regulatoria es global.

Qué significa esto para tu startup

Para un founder técnico o de producto, hay tres lecciones prácticas:

Exige la auditoría externa antes de comprar narrativas de AGI. Cuando un proveedor te diga que su modelo «razona» o tiene capacidades sobrehumanas, pide papers, métricas comparativas contra humanos y, sobre todo, fallos conocidos. La historia de Coxon, Buckmaster y OpenAI de este verano es un caso de libro: cada afirmación venía empaquetada con un titular de superinteligencia y carecía de revisión independiente seria.
Separa producto de mito en tu storytelling. Si tu startup depende de buzzwords como «agente autónomo» o «superinteligencia», date cuenta de que el péndulo regulatorio se está moviendo. La ley Sanders-Casar es solo el comienzo; lo razonable para tu go-to-market es describir qué hace tu producto hoy, no qué hará dentro de cinco años hipotéticos.
Prepárate para una regulación de IA más estricta en 2026-2027. El gobierno de Trump rechaza nuevas regulaciones argumentando que la industria no las necesita. Pero la presión bipartidista en EE. UU. —y los hechos técnicos recientes— abren la puerta a normas tipo EU AI Act en jurisdicciones donde operas. Auditar tus modelos y datos antes de que te lo exijan tiene un retorno claro: menos riesgo de prohibición retroactiva y ventaja competitiva en ventas enterprise.

El mejor resultado posible de este verano de bombo, escriben Gebru y Bender, es que los legisladores y el público aprendan a tomarse un respiro, mantener el escepticismo y reconocer este patrón la próxima vez que aparezca.