Anthropic muestra una IA que entrena a otra por US$4/hora

Anthropic muestra cómo una IA puede entrenar a otra IA en alineación

Anthropic publicó el paper "Automated Researchers Can Reliably Mitigate Alignment Failures" y la cifra ya está dando vueltas: US$4 por hora frente a US$150 que cobra un investigador humano. El documento, liderado por la Anthropic Fellow Chen Yueh-Han, presenta al Automated Alignment Researcher (AAR): un sistema automatizado que busca literatura, propone métodos, entrena al modelo durante 30 minutos por iteración y conserva sólo los enfoques que funcionan, descartando los demás.

Cuando se le entregaron 10 benchmarks de comportamientos no alineados, el sistema mejoró el rendimiento en los 10 sin degradar el desempeño general. El paper lo resume así: "estos resultados aportan evidencia temprana de que el post-entrenamiento automatizado de alineación podría volverse práctico en el corto plazo".

Qué dice el paper y por qué importa ahora

El AAR no aparece solo. Es el primer paso concreto hacia la recursive self-improvement (mejora recursiva): la idea de que un modelo no solo se entrene a sí mismo en su alineación, sino que extienda esa capacidad a su propio entrenamiento general. Si eso ocurre, los investigadores humanos podrían volverse prescindibles para buena parte del ciclo de desarrollo.

El paper es bastante directo en la comparación. Cita textualmente: "el mejor método del AAR supera lo que proponen humanos con experiencia, en promedio dentro de seis horas" y agrega que "las direcciones de investigación guiadas por humanos no llevan a un rendimiento más fuerte". Y para cerrar el argumento económico: "un AAR cuesta aproximadamente US$4 por hora en inferencia de API frente a los US$150 por hora que pagamos a nuestros investigadores humanos".

El detalle técnico importa: el sistema replica el método científico clásico — búsqueda de literatura, hipótesis, experimento de 30 minutos, iteración con descarte de lo que no funciona — pero a una velocidad y escala que un equipo humano no puede igualar.

La otra cara: el MIT Technology Review publicó hace 10 días el contrapunto

La euforia del paper llega en un momento incómodo. El 18 de agosto de 2026, MIT Technology Review publicó un estudio multi-institucional liderado por Peter Kirgis y Sayash Kapoor (Princeton) que llegó a una conclusión casi opuesta: los agentes de IA aún no son capaces de hacer investigación abierta de IA.

Los investigadores pusieron a Claude Opus 4.8 con software open source OpenClaw a intentar responder preguntas de dos papers no publicados enviados a NeurIPS 2026. Le dieron 6 días, US$3.000 en créditos de API de Anthropic, presupuesto de GPU, máquinas virtuales propias y acceso a la web abierta. El veredicto: ambos papers fueron rechazados. Los autores originales los calificaron y concluyeron que los agentes eran competentes en la ingeniería del experimento pero "inequívocamente malos" en la investigación en sí.

Según Kapoor, les faltó creatividad, se comprometieron demasiado rápido con enfoques fallidos y no supieron reencausar. Jack Clark, cofundador de Anthropic, escribió en su newsletter Import AI que esto es una "señal bajista para los plazos cortos de mejora recursiva": los modelos son ingenieros extraordinarios pero piensan de forma "mecánica y formularia".

¿Estamos entonces ante la mejora recursiva o ante una promesa inflada?

Las dos cosas, probablemente. En junio, Anthropic publicó el post "When AI Builds Itself" y en julio OpenAI dijo que su modelo GPT-5.6 Sol ayudó a post-entrenar a un modelo más pequeño, ahorrando semanas de trabajo. Ya hay ROI en tareas estrechas; lo que aún falta es el salto a la investigación verdaderamente abierta.

Como resumió Najoung Kim (Boston University), la pregunta es si la IA puede llegar allí a fuerza de iterar en tareas pequeñas, o si necesita el tipo de salto creativo que produjo la invención del transformer. El paper de Chen Yueh-Han demuestra que para la alineación la primera vía ya funciona. Para el resto del progreso en IA, la respuesta sigue abierta.

Qué significa esto para tu startup

Si sos founder de una startup que usa modelos de frontera (Claude, GPT, Gemini, Llama) como parte de tu producto, este paper cambia dos variables prácticas: el costo y la velocidad con la que podés iterar sobre seguridad y calidad.

• Acción 1: Medí qué parte de tu evaluación de calidad aún es manual. Si hoy dependés de un equipo humano revisando prompts, detectando alucinaciones o ajustando instrucciones del sistema, mapeá esas tareas. Son las candidatas naturales a automatizar primero con sistemas tipo AAR, empezando por las que tienen métrica clara.
• Acción 2: Incorporá el ratio costo humano vs. costo API a tu planning. El paper pone US$4 vs. US$150 por hora. Aunque tu caso sea menos dramático, un orden de magnitud así cambia el cálculo de qué vale la pena subcontratar y qué conviene automatizar — sobre todo si tu moat depende de ajustar comportamiento del modelo a escala.

El riesgo también es real: estos sistemas automatizados sólo sirven si los benchmarks reflejan los objetivos reales de alineación. Para founders que construyen en vertical salud, legal o educación, "alineación" tiene un significado regulatorio concreto. Antes de automatizar, invertí en definir bien qué querés que el modelo no haga — eso es tu benchmark.

Fuentes

• An Anthropic researcher just gave us a peek at self-improving AI — TechCrunch
• AI's recursive self-improvement might not come so quickly after all — MIT Technology Review
• Recursive Self-Improvement is the Human Skill We Need in the AI Age — TIME