Explosión de inteligencia: el paper que firmó Hinton en 2026

El paper de Cambridge que encendió las alarmas

El Cambridge Centre for AI Science & Policy (CASP) publicó el 28 de septiembre de 2026 un informe titulado "What if automating AI R&D triggers an intelligence explosion?", firmado por 21 investigadores, entre ellos Geoffrey Hinton, Yoshua Bengio, el científico jefe de OpenAI Jakub Pachocki y el cofundador de Anthropic Jack Clark. El texto sostiene que los sistemas de IA están en camino de automatizar "la mayor parte" del trabajo de I+D en IA "en pocos años, y posiblemente todo", y que ese escenario podría comprimir "años de avances en meses o menos" en una llamada explosión de inteligencia.

El detonante no es teórico: el paper toma como evidencia principal cifras internas que Anthropic publicó por su cuenta en septiembre. En los cinco meses entre marzo y agosto de 2026, la proporción de tareas de I+D realizadas por IA con "supervisión humana ligera" pasó del 1% al 26% dentro de la compañía, según recogió el análisis de FourWeekMBA reproducido por la newsletter japonesa yamaguchi_digest. La proporción de código aprobado dentro de Anthropic que fue escrito por IA, que estaba en "dígitos bajos" en enero de 2025, superó el 80% en mayo de 2026, de acuerdo con los mismos datos citados en el paper.

Qué dice realmente el informe de CASP

El documento no afirma que la explosión de inteligencia vaya a ocurrir mañana, pero sí que la hipótesis merece "seria atención" dada la alta apuesta. Los autores describen un bucle de retroalimentación: la IA automatiza partes de la investigación → eso produce un modelo sucesor más capaz → ese modelo sucesor automatiza aún más investigación, y así sucesivamente. Si el ciclo se cierra, capacidades que hoy tardan años en aparecer podrían llegar en meses.

🤖 La IA no es solo para leer sobre ella

En la comunidad la aplicamos: automatización, agentes IA y herramientas reales para emprender, no solo para informarte.

👥 Aplicarla en la comunidad

El paper enumera cuatro riesgos centrales si ese bucle se desata:

Aceleración de capacidades que supera la capacidad de respuesta de la sociedad.
Pérdida de control humano sobre sistemas superinteligentes.
Erosión de los contrapesos de poder dentro y entre estados, empresas y ramas de gobierno.
Una ventana de oportunidad cada vez más corta para meter gobernanza antes de que el ritmo se vuelva inmanejable.

La parte más operativa del texto son cuatro recomendaciones a policymakers que The Next Web y Implicator.ai han detallado: (1) visualizar el nivel de automatización dentro de los grandes laboratorios mediante reportes estandarizados, (2) instalar auditores independientes embedded dentro de las propias empresas, (3) fijar límites a la velocidad de mejora de capacidades, y (4) aislar experimentos de alto riesgo en entornos air-gapped (físicamente desconectados de la red). El paper también menciona planes de respuesta de emergencia y marcos de verificación transfronteriza.

Las cifras de Anthropic que sustentan la tesis

Anthropic publicó el 17 de septiembre su R&D Automation Index, que es la fuente primaria de los números del paper. Según el reporte recogido por SiliconANGLE y OfficeChai, la metodología es la siguiente: durante cuatro semanas, un agente de investigación de Claude revisó una muestra aleatoria del 20% del personal cada semana, analizando mensajes de Slack y documentación interna, hasta compilar una lista plana de aproximadamente 15.000 tareas granulares de I+D, que luego Claude organizó en un árbol de 542 nodos (378 categorías a nivel hoja). Un modelo "juez" de Claude calificó el nivel de automatización de cada rama en una escala de la organización Epoch AI que va de AL0 (sin participación de IA) a AL5 (autonomía total sin humano en el bucle). Anthropic aclara que Claude no opera todavía de forma totalmente autónoma en ninguna parte medida de la I+D en IA, es decir, el nivel AL5 no se ha alcanzado.

Los tres métricas que Anthropic hizo públicas y que el paper de CASP aprovecha son:

Automatización de I+D: Claude "lidera" el 26% del trabajo de I+D en IA de Anthropic (nivel AL4), y la cuota en nivel AL3 ("colabora") o superior supera el 90% a agosto de 2026.
Vigilancia de agentes: unos 30.000 agentes de IA realizaban trabajo de investigación e ingeniería en la plataforma interna más usada en cualquier momento de agosto de 2026. El sistema de monitorización en línea revisa el 100% de las acciones de los agentes antes de ejecutarse; tras analizar más de mil millones de decisiones en agosto, sólo bloqueó un 0,002% (aproximadamente 1 de cada 47.000).
Asignación de cómputo: en una semana muestreada de julio de 2026, alrededor del 6% del cómputo total se destinó a seguridad en IA, y un 12% adicional del cómputo de I+D "impulsado por IA" se dedicó a seguridad.

Los matices críticos que el paper no resuelve

El propio análisis de FourWeekMBA —citado por yamaguchi_digest— señala tres debilidades importantes que cualquier founder o inversor debe tener en cuenta antes de tomar el informe al pie de la letra. Primero, los dos grandes números de Anthropic (el 80% de código y el 26% de I+D) miden periodos distintos (enero de 2025 a mayo de 2026 el primero, marzo a agosto de 2026 el segundo) y no se pueden combinar en una sola métrica. Segundo, el paper no publica una definición operativa de "trabajo de I+D en IA", lo que deja margen a interpretación. Tercero, los datos son autorreportados por una sola empresa y no han sido verificados por terceros independientes, algo que el paper reconoce implícitamente al pedir justamente la creación de ese tipo de verificación.

El paper incluye, además, una línea que suele pasar desapercibida: la coautoría no implica la posición oficial de las empresas afiliadas. Pachocki (OpenAI) y Clark (Anthropic) firman "a título individual". Es decir, ni OpenAI ni Anthropic ni Microsoft respaldan formalmente las recomendaciones regulatorias del documento, aunque sus empleados más visibles las respalden a título personal. Esta distinción es relevante para cualquier founder que mire el paper esperando un compromiso corporativo.

El contexto: Amodei, el "pacing the frontier" y la grieta dentro de los labs

El paper de CASP llega en un momento unusually cargado. El sábado anterior a la publicación de las métricas, el CEO de Anthropic, Dario Amodei, había publicado un ensayo llamando a coordinar una desaceleración del desarrollo frontier "sin sacrificar la ventaja comercial del liderazgo estadounidense en IA", una propuesta que consiguió el apoyo público de Sam Altman (OpenAI), Elon Musk (xAI/SpaceX) y Demis Hassabis (Google DeepMind), según recoge SiliconANGLE. Las tres métricas de transparencia de Anthropic son, en la práctica, la primera entrega concreta del plan de tres pasos que Amodei propuso en ese ensayo.

En paralelo, un investigador senior de seguridad de Anthropic, Evan Hubinger, había estimado pocas semanas antes que existe una probabilidad superior al 10% de que la IA "pueda matar a todos los humanos" en los próximos 10 años si la tendencia de auto-mejora recursiva continúa, aunque aclaró que el riesgo de los modelos actuales sigue siendo muy bajo. La coincidencia de estos tres hitos —el ensayo de Amodei, los números de Anthropic y el paper de CASP— es lo que ha puesto el tema en primera fila del debate de política tecnológica.

Qué significa esto para tu startup

Para un founder hispanohablante que hoy mismo está construyendo producto, este debate no es abstracto: define el marco regulatorio y de costes en el que vas a operar los próximos 24 meses. Lo concreto que ya podés hacer:

Mide cuánto de tu propio código y de tu propia investigación escribe ya la IA en tu equipo. Si Anthropic está en 80% de código aprobado, probablemente tu empresa también está más cerca de ese número que del 20% que imaginan los directivos. Documentar ese ratio internamente te prepara para cuando un regulador o un cliente enterprise empiece a preguntar.
Separa el bucle de retroalimentación de tu producto. Si tu SaaS usa agentes que a su vez crean o entrenan otros agentes, mapéalos hoy: quién supervisa qué, qué pasa si falla un agente que supervisa a otro, y dónde está el "air gap" humano. El paper de CASP señala exactamente este patrón como el que hay que empezar a gobernar antes de que la complejidad lo vuelva inabordable.
No vendas "IA superinteligente" ni "AGI" en tu pitch. El paper y la respuesta del mercado (Anthropic a la baja, reguladores activándose) apuntan a un entorno donde las claims de capacidad se vuelven liabilities. Anclá tu narrativa en resultados verificables, no en benchmarks de frontera.
Prepárate para auditoría externa. Si tu cliente es enterprise o gobierno, el paper empuja a que la métrica "qué porcentaje de tu I+D hace IA" sea una pregunta estándar de procurement. Tener una respuesta documentada y trazable, aunque sea modesta, va a ser una ventaja competitiva en 2027.