Princeton: la IA aún no puede investigarse a sí misma

El hallazgo que baja las expectativas de la «auto-mejora recursiva»

Un equipo multi-institucional liderado por Peter Kirgis y Sayash Kapoor, de la Universidad de Princeton, concluyó que los agentes de IA actuales pueden ejecutar toda la ingeniería que requiere una investigación, pero no producen investigación original al nivel de un paper aceptado en una conferencia top de machine learning. Los detalles, publicados por MIT Technology Review, ponen un asterisco importante sobre los plazos que manejan Anthropic y OpenAI para hablar de inteligencia artificial que se mejora a sí misma.

La promesa más ambiciosa del sector en este momento es exactamente esa: que los modelos pronto iterarán sobre sus propios entrenamientos, arquitecturas y datos con mínima intervención humana. El estudio de Princeton sugiere que el salto pendiente no es de cómputo, sino de criterio.

¿Cómo probaron si la IA puede hacer ciencia?

Los investigadores diseñaron un método que llamaron «shadow evaluation»: pidieron a los agentes responder preguntas de investigación de papers aún no publicados, a los que el modelo no podía acceder durante su entrenamiento. En concreto, seleccionaron dos trabajos enviados a NeurIPS 2026: uno sobre control de «personas» en un LLM mediante edición de pesos y otro sobre detección de modelos predictivos entrenados con datos tabulares que se vuelven poco fiables.

🤖 La IA no es solo para leer sobre ella

En la comunidad la aplicamos: automatización, agentes IA y herramientas reales para emprender, no solo para informarte.

👥 Aplicarla en la comunidad

El agente usado fue Claude Opus 4.8 de Anthropic, ejecutándose sobre el software open source OpenClaw. Recibió seis días, US$3.000 en créditos de la API de Anthropic, presupuesto de GPU, máquinas virtuales propias y acceso a la web abierta. Los autores originales de los papers calificaron los borradores generados como si evaluaran envíos a una conferencia top.

Los rechazaron ambos.

La parte que la IA sí domina: la ingeniería

Según Kapoor, los agentes fueron capaces de revisar literatura, correr cientos de experimentos y compilar resultados sin problema. También respetaron las reglas del juego: no incurrieron en «reward hacking» (ocultar o falsear datos para inflar el resultado), aunque algunos subagentes alucinaron o misrepresentaron números. Esas fallas menores fueron detectadas por el agente orquestador.

Es decir, en tareas con respuesta verificable — el corazón de lo que el reinforcement learning entrena bien — la IA ya aprueba. Ese es el mismo patrón que la industria celebra cuando GPT-5.6 Sol de OpenAI ayudó a post-entrenar un modelo más pequeño y ahorró semanas de trabajo, según reportó OpenAI en julio, de acuerdo con MIT Technology Review.

La parte donde la IA todavía falla: el juicio abierto

Los autores identificaron cuatro brechas concretas:

No exploran lo suficiente. Los agentes plantearon hipótesis tan ambiciosas como las de los autores humanos, pero las descartaron con muy pocos datos.
No saben retroceder. Pueden hacer pivotes pequeños, pero cuando un enfoque falla de verdad, no lo abandonan para empezar de nuevo.
No usan bien el feedback. En lugar de revisar su metodología tras recibir críticas de subagentes o herramientas externas, simplemente redujeron sus afirmaciones y añadieron caveats.
Gestionan mal los recursos. No respetaron instrucciones sobre cuánto tiempo dedicar a cada fase ni sobre la extensión del paper final.

En palabras del propio Kapoor, los agentes son «ingenieros extraordinariamente capaces» pero muestran un «pensamiento mecánico y formulista» — una frase que, según MIT Technology Review, también aparece en el newsletter Import AI de Jack Clark, cofundador de Anthropic, al describir hallazgos internos cuando intentaron automatizar partes de la investigación en seguridad de IA.

Para Najoung Kim, profesora de lingüística y ciencias de la computación en la Universidad de Boston, «si hay inversión y luego esfuerzo consciente hacia esta dirección, habrá progreso interesante, aunque ahora esté fallando», según recoge MIT Technology Review. La investigadora, que no participó en el estudio, advierte además que el avance podría bifurcarse: la IA corriendo rápido en tareas estrechas que se pueden puntuar, y avanzando lentamente en investigación abierta.

El contexto: Anthropic, OpenAI y la presión regulatoria

El estudio llega en medio de una escalada pública sobre la auto-mejora recursiva (RSI). En junio, Anthropic publicó el post «When AI Builds Itself» y un mensaje en X donde afirmaba que «nuestra data interna muestra que Claude está acelerando el desarrollo de IA — un posible camino a la auto-mejora recursiva. Está pasando más rápido de lo que pensábamos», según reportó CNBC en septiembre.

En agosto, según la misma fuente, Anthropic publicó otro blog en el que asegura que sus ingenieros envían, en promedio, ocho veces más código por trimestre que entre 2021 y 2025. La compañía describe tres escenarios posibles para el futuro de la RSI, y en el más preocupante — IA con capacidad plena de auto-mejora — los humanos jugarían «un papel sustancialmente menor» en el desarrollo.

OpenAI, por su parte, presentó en julio la familia GPT-5.6 (Sol, Terra, Luna) con énfasis explícito en tareas agenticas, según The Verge, y ha hecho de construir un «investigador automatizado de IA» un objetivo explícito, recuerda MIT Technology Review.

En paralelo, Mythos — el modelo más avanzado de Anthropic, presentado en abril como preview dentro del programa Project Glasswing con 12 socios como Amazon, Apple, Microsoft, Cisco y Palo Alto Networks, según TechCrunch — fue restringido por la administración Trump a organizaciones aprobadas, después de que la Casa Blanca lo vinculara a exigencias de seguridad nacional. El equipo de Princeton ya está repitiendo el experimento con Mythos, según MIT Technology Review.

¿Qué significa esto para tu startup?

Si construyes sobre agentes de IA, el mensaje operativo es claro: delega ingeniería, no estrategia. Los agentes actuales son confiables para ejecutar pipelines reproducibles — post-entrenar, correr benchmarks, escribir código, configurar experimentos — pero no para decidir qué pregunta merece ser investigada ni cuándo abandonar una hipótesis.

Tres acciones concretas:

Divide tus workflows internos en tareas «cerrables» y tareas «abiertas». Para las primeras, los agentes ya rinden. Para las segundas — naming, priorización de roadmap, diseño de hipótesis de producto — sigue necesitando criterio humano con ownership claro.
Mide coste real por iteración, no solo por token. El estudio muestra que los agentes queman recursos sin saber cuándo parar. Negocia con tu proveedor de API techos de gasto y alertas por experimento, igual que lo haría un lab de investigación.
Prepárate para una regulación más lenta que la tecnología. Si dependes de modelos frontier como Mythos o GPT-5.6 Sol, diversifica proveedores y mantén una arquitectura «model-agnostic» para no quedar atrapado cuando un gobierno restrinja el acceso.

En el ecosistema hispanohablante, donde muchos founders están integrando agentes para tareas de research en marketing, due diligence o análisis de datos, la lección es que el agente acelera la parte aburrida del trabajo — y eso ya es mucho — pero todavía no sustituye el «olfato» que decide qué vale la pena explorar.