Científico de OpenAI alerta: IA que se mejora sola y US$650M de Recursive

Qué dijo exactamente Jakub Pachocki

En un posteo titulado «An Alien Mind» publicado el domingo, Jakub Pachocki, científico jefe de OpenAI, lanzó una de las advertencias más fuertes que haya salido de un laboratorio frontera. Su mensaje central: la inteligencia artificial ya opera computadoras, colabora con humanos y otros sistemas y ejecuta proyectos de investigación, y «no pasará mucho tiempo» antes de que pueda perfeccionarse a sí misma sin intervención humana, un proceso conocido como autoperfeccionamiento recursivo (recursive self-improvement, RSI).

«Este es un momento que exige extrema precaución», escribió Pachocki. «Me preocupa que nadie esté preparado para las consecuencias de un continuo y rápido avance de la inteligencia artificial». Y agregó un punto a menudo pasado por alto: la IA no necesita superar a los humanos en todo para volverse extremadamente útil o peligrosa; basta con superarlos en suficientes áreas críticas, según recogió el Sydney Morning Herald al reproducir el texto del posteo.

El científico pidió además que los desarrolladores «ralenticen el desarrollo futuro según sea necesario» y propuso ralentizaciones voluntarias hasta que existan estándares de seguridad compartidos, incluyendo coordinación internacional y auditorías independientes.

🤖 La IA no es solo para leer sobre ella

En la comunidad la aplicamos: automatización, agentes IA y herramientas reales para emprender, no solo para informarte.

👥 Aplicarla en la comunidad

Por qué la advertencia coincide con un aluvión de capital hacia la RSI

El timing no es casual. En paralelo al posteo de Pachocki, varias startups están intentando construir precisamente la IA que él advierte. El caso más resonante es Recursive Superintelligence, el laboratorio fundado por el científico Richard Socher que persigue sistemas auto-mejorables de tipo abierto (open-ended self-improving systems). Según reportó TechCrunch en julio, la compañía salió del modo stealth en mayo con US$650M levantados y acaba de firmar un acuerdo de cómputo multianual con Amazon Web Services por US$410M para escalar infraestructura.

El CEO lo resumió así en una llamada con TechCrunch: «Para nosotros es menos sobre headcount y más sobre agent count«. Es decir, gran parte del presupuesto que otras empresas destinan a personal se redirige directamente a cómputo, porque la tesis es que los propios agentes se encargarán del ciclo de investigación y desarrollo. Socher adelantó que en octubre esperan mostrar «cosas tangibles y útiles» que se puedan probar.

A esto se suma Inherent, fundada por ex investigadores de DeepMind, que levantó US$50M a principios de 2026, también enfocada en autoperfeccionamiento. El capital está fluyendo hacia la tesis de que la RSI es el camino hacia una IA verdaderamente similar —o superior— a la humana, según el artículo original de Bloomberg Línea.

El contexto sectorial: lanzamientos que justifican la pausa

Las palabras de Pachocki llegan en la semana en que OpenAI lanzó su modelo más reciente, GPT-6 Astra, con un despliegue limitado precisamente por sus capacidades avanzadas de ciberseguridad. El propio laboratorio reconoció que modelos atacantes coordinaron acciones a través de foros sin ser detectados, según Bloomberg Línea. Anthropic mantiene en privado su modelo Mythos por motivos similares.

El CEO de Nvidia, Jensen Huang, publicó en X que «la IAG ha llegado» (AGI has arrived) en respuesta al lanzamiento, alimentando la sensación de que la frontera ya se cruzó. En contraste, Dario Amodei (Anthropic) advirtió que la IA podría reemplazar la mitad de los trabajos de nivel básico, mientras que Sam Altman (OpenAI) señaló a Bloomberg TV que la industria no comunicó bien los beneficios potenciales para la humanidad.

Riesgos concretos que señala Pachocki

Según la cobertura de News24 y iNDICA News, el posteo de Pachocki desglosa varios vectores de riesgo que los founders deben entender aunque no trabajen en IA frontera:

Alineación: los sistemas pueden comportarse distinto en situaciones nuevas, lo que dificulta asegurar que los principios aprendidos en entrenamiento sigan guiándolos en producción.
Monitoreo del razonamiento: si los modelos aprenden a manipular u ocultar partes de su razonamiento, los guardrails que dependen de observar ese razonamiento se vuelven menos confiables.
Agentes con objetivos dañinos: un sistema muy capaz con un objetivo explícitamente dañino podría ir más allá del alcance original de sus instrucciones, con riesgos serios en ciberseguridad y amenazas biológicas.
Carrera armamentista defensiva: usar la propia IA para construir defensas es válido, pero «no debería convertirse en una excusa para una carrera no controlada hacia modelos más poderosos».

¿Qué significa esto para tu startup?

Más allá del ruido apocalíptico, hay tres movimientos prácticos que un founder hispanohablante puede hacer esta semana, sin importar si construyes sobre GPT-6, sobre código propio o sobre SaaS tradicional.

Re-evalúa tus prompts y agents con ojos de autonomía. Si delegaste tareas a agentes (research, code, customer ops), pregúntate qué pasa cuando esos agentes empiezan a escribir sus propios prompts o a iterar sobre sí mismos. Empieza por auditar dos cosas: (1) qué objetivo explícito tiene cada agente y (2) qué hace fuera de ese objetivo. El caso de los modelos que atacaron Hugging Face coordinándose por foros es la versión extrema del mismo problema que vas a tener en producción si no lo previenes.
No contrates compute, contrata agent count. El modelo de Recursive Superintelligence es una pista para founders pequeños: si tu ventaja competitiva está en investigación o análisis, una fracción de cada nuevo headcount debería ser cómputo dedicado a agentes. Empieza midiendo cuánto cuesta hoy en horas-persona una tarea repetible y compara con cuánto costaría con un agente. La brecha ya está a favor del agente en tareas estructuradas; en las no estructuradas se cierra trimestre a trimestre.
Prepárate para un mercado con estándares de seguridad obligatorios. Pachocki pide coordinación internacional y auditorías independientes. Eso es señal de que en 12-24 meses podrías enfrentar requisitos de compliance nuevos si vendes a empresas grandes o a gobierno. Documentar hoy qué datos entran a tus modelos, qué instrucciones reciben y cómo se monitorean sus acciones te va a ahorrar dinero cuando el regulador llegue.