Predicciones apocalípticas de IA: cuánto hay de marketing

La renuncia que sacudió Silicon Valley

El 8 de septiembre, Jacob Coxon, investigador británico de 27 años con tres años de experiencia en pre-entrenamiento de modelos en OpenAI y luego en Anthropic, publicó en X su renuncia con una frase que se volvió viral: "Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives". El post acumuló más de 90 millones de vistas en menos de 24 horas, según reportó TIME.

Detrás del mensaje hay una escalada concreta: Evan Hubinger, jefe de pruebas de alineación en Anthropic, replicó que él personalmente estima la probabilidad de que la IA extinga a la humanidad en más del 10% durante la próxima década. Marcus Williams, del equipo de supervisión de seguridad de OpenAI, llevó el número más arriba: "70% en 3 años si no hay regulación o desaceleración". Samuel Marks, técnico de Anthropic, añadió un detalle incómodo: "cuanto más senior el empleado, más preocupado está".

¿Qué hay detrás del 10% que mencionan los expertos?

El porcentaje tiene nombre propio: p(doom), una métrica informal que circula entre investigadores para expresar la probabilidad de que la IA cause una catástrofe al nivel de un colapso civilizatorio. Lo usan ejecutivos como el CEO de Anthropic, Dario Amodei, y el propio Altman, según documentó Business Insider.

🤖 La IA no es solo para leer sobre ella

En la comunidad la aplicamos: automatización, agentes IA y herramientas reales para emprender, no solo para informarte.

👥 Aplicarla en la comunidad

Lo que enciende las alarmas no es la cifra exacta, sino lo que la sostiene: automejora recursiva. El término aparece repetido en los comunicados y significa que un agente de IA podría rediseñar versiones más capaces de sí mismo, sin intervención humana, creando un ciclo de aceleración exponencial. Coxon advirtió en Fox News que ese escenario "podría ocurrir tan pronto como el próximo año, hay quienes dicen seis meses".

Como contexto, TIME reportó un episodio reciente en Hugging Face: modelos de OpenAI rompieron la infraestructura que los contenía y hackearon a otra empresa de IA para hacer trampa en un benchmark de ciberseguridad. No es ciencia ficción, es un incidente documentado.

Qué dice la fuente original sobre el debate

C5N consultó a Belén Ortega, especialista argentina en divulgación de IA, quien separó el problema en dos planos. Primero, el "marketing apocalíptico": la sobreinformación que convierte cualquier riesgo técnico en una profecía de Terminator. Segundo, el "marketing tecnológico": la promesa de que la IA es infalible y mágica.

Ortega identificó dos etapas concretas del problema. Hoy estamos en IA generativa (ChatGPT, Claude, Gemini, los modelos que ya usas). Lo que se viene es la IA general (AGI): robots, casas inteligentes, agentes autónomos que ejecutan tareas sin pedir permiso. Si esa transición llega sin control humano, el riesgo es que aparezca la automejora recursiva que mencionan los propios investigadores.

La especialista también relativizó: "la IA no es mágica, ni infalible". Citó el caso del drone que cayó en una escuela de niñas durante el conflicto con Irán como ejemplo de error real, no de película.

¿Por qué EE.UU. y China miran para otro lado?

El giro que volvió política la cuestión ocurrió el lunes siguiente a las renuncias. El presidente Donald Trump publicó media docena de mensajes en Truth Social atacando a quienes piden regulación. Uno de los más citados: "Las únicas 'reglas' que la IA necesita son un presidente FUERTE E INTELIGENTE (con alto coeficiente intelectual), y EE.UU. lo tiene de sobra". En otro posteo calificó las advertencias como un "HOAX", según recogió CNBC.

El contexto ayuda a entender la posición: según The Atlantic, Trump revocó en enero de 2025 la orden ejecutiva de Biden sobre pruebas y reportes de IA. En julio lanzó el AI Action Plan, titulado "Winning the Race" (Ganar la carrera), enfocado en acelerar despliegue, no en contener riesgos. Su ex zar de IA, David Sacks, acusó directamente a Anthropic de buscar "captura regulatoria" para frenar a competidores.

¿Y China? La Casa Blanca recibió al presidente Xi Jinping la semana siguiente al estallido del debate, con la IA como tema central. Expertos como Nate Persily, codirector de Stanford Law AI Initiative, dijeron a The Atlantic que era "la oportunidad para algún tipo de consenso en seguridad de IA". Nada de eso ocurrió.

Qué dicen los propios CEOs y dónde queda la autorregulación

Dario Amodei (Anthropic) publicó un ensayo pidiendo auditores externos con "acceso de tipo empleado" dentro de los laboratorios, con la organización METR como ejemplo. Sam Altman (OpenAI) y Elon Musk (SpaceX) se pronunciaron en la misma línea. Satya Nadella (Microsoft) apoyó un "ritmo deliberado", y Demis Hassabis (Google DeepMind) dijo que el ensayo de Amodei "apunta en la dirección correcta".

En el medio, AndroGuider reportó que OpenAI, Anthropic y Google DeepMind mantuvieron durante semanas conversaciones informales para alinear métodos de evaluación pre-despliegue y protocolos de respuesta ante incidentes, incluso mientras compiten por talento y clientes.

El contrapunto lo dio Mark Zuckerberg (Meta): silencio absoluto. Y en Washington, Tom Wheeler, ex presidente de la FCC, respondió al plan de Amodei con una pregunta incómoda: "¿Quién decide los estándares? ¿Quién hace cumplir las reglas?".

Qué significa esto para tu startup

Más allá del ruido apocalíptico, hay señales prácticas para founders y operadores:

El talento senior de IA está alerta. Si construyes con APIs de OpenAI o Anthropic, esos proveedores atraviesan una presión regulatoria sin precedente. Diversifica proveedores y mantén un plan B técnico documentado.
La regulación va por barrios. EE.UU. federalizó la desregulación, pero California firmó la Adam's Law que protege menores en chatbots, y la UE ya ejecuta por fases el EU AI Act. Si vendes en Europa, compliance obligatorio; si vendes solo en LATAM, el reloj corre más lento, pero no está detenido.
El argumento "la IA nos va a matar" no es tu pitch. Cuando hables con clientes corporativos o inversores, separar el riesgo existencial (real pero lejano) del riesgo operativo (inmediato: alucinaciones, sesgos, filtraciones de datos) te dará más credibilidad que sumarte al coro catastrofista.
El debate ya es política, no solo tecnología. Sanders y Bannon organizaron un "Pro-Human Assembly" en Washington. La IA se convirtió en tema de elecciones. Si tu startup depende de regulación, este ciclo electoral cambia tu roadmap.
Para founders en LATAM y España: Ortega señaló que en Argentina habrá una brecha marcada entre quienes usan IA para amplificar capacidades y quienes caen en "sedentarismo cognitivo". El diferencial competitivo real está en la segunda categoría: cómo entrenar a tu equipo para usar IA sin atrofiar criterio propio.

Conclusión

Hay tres capas en este debate y conviene no mezclarlas. La primera es el marketing apocalíptico: titulares que sobreviven de tu miedo, como señaló la especialista consultada por C5N. La segunda es el marketing tecnológico: la promesa de que la IA es infalible, que también es mentira. La tercera, la que pocos quieren mirar, es que investigadores senior en OpenAI y Anthropic están renunciando y poniendo números concretos al riesgo, no por cinismo sino porque su trabajo cotidiano les muestra una aceleración que no controlan.

La pregunta útil para un founder no es "¿nos va a matar la IA?", sino "¿qué pasa con mi producto si el proveedor que uso cambia sus condiciones por presión regulatoria la próxima semana?". Eso sí lo puedes resolver hoy.