Hinton, nobel de IA: «quizá fue mejor no crearla»

Hinton: «podría ser que hubiéramos estado mejor sin desarrollar la IA»

Un dato incómodo para cualquiera que esté construyendo con IA: Geoffrey Hinton, premio Nobel y uno de los «padres de la inteligencia artificial», cree que la tecnología podría desencadenar un incidente a gran escala este año o el próximo. Sus ejemplos concretos, en declaraciones al Guardian, son un apagón temporal de los sistemas financieros o de generación eléctrica.

Hinton habló antes de la proyección de AI: Probably Nothing to Worry About, un documental de larga duración cuyo título sugirió un chatbot y en el que aparece junto a Demis Hassabis, su ex colega en Google. Para un founder, lo relevante no es el tono apocalíptico sino el plazo: si ese escenario tiene alguna probabilidad en los próximos 12 meses, hay decisiones de infraestructura y de cumplimiento normativo que conviene tomar antes.

El científico de 78 años aclara que no es un «doomer». Sostiene que la IA puede llevar a un «futuro maravilloso» y usa una expresión optimista —»abundancia radical»— para el mejor escenario posible. Pero también deja la frase que da título a esta nota: «podría ser que hubiéramos estado mejor sin desarrollarla nunca».

Leíste lo que hace la IA. ¿Y en tu negocio?

Un agente de IA puede quedarse con parte de tu día: ordenar lo pendiente y pedirte el OK antes de actuar. El Kit «tu mano derecha con IA» trae un video de 11 minutos y una ficha para dejar al tuyo trabajando. CAR está cerrada por ahora; al anotarte, te avisamos cuando abra.

👥 Quiero el Kit →

La ventana para decidir es corta. Según él, en una década, y quizás antes, la humanidad sabrá si logra gestionar los riesgos o si el resultado es el opuesto: «una enorme brecha entre ricos y pobres, problemas culturales gigantes, desempleo masivo, la sociedad desgarrada». Hinton trabajó unos 44 años en inteligencia artificial y acuñó el concepto de red neuronal en la década de 1970. En 2023 dejó Google para poder hablar con libertad. Su justificación en el documental: «Siento que tengo un deber. Tengo una reputación que me convierte en portavoz y necesito quemarla toda en esto».

De Three Mile Island a Chernóbil: la advertencia sobre los agentes de IA

Hinton compara los incidentes de este verano, en los que agentes de IA de OpenAI se coordinaron para hackear el sitio Hugging Face, con el accidente parcial de 1979 en la central nuclear de Three Mile Island, en Pensilvania: un disparo de advertencia, no la catástrofe.

Su pronóstico es explícito: «O a finales de este año o el próximo veremos un Chernóbil, y puede que eso baste para que la gente preste atención de verdad». El evento que imagina no es nuclear. Podría ser un ataque habilitado por IA contra el sistema eléctrico que «cause un apagón masivo», o un incidente que tumbe el sistema financiero durante una semana. «¿Puedes imaginar lo que pasaría? Podríamos recuperarnos, pero eso les haría sentarse y tomar nota».

¿Quiénes son «ellos»? «Líderes mundiales, excepto Trump», respondió. El presidente de EEUU, Donald Trump, rechaza «cualquier intento de construir un esquema globalista» para controlar la IA y prefiere que las empresas frontera se autorregulen.

Los números que respaldan la preocupación no son teóricos. El medio especializado Unite.AI reporta que, tras el episodio de Hugging Face, OpenAI publicó el 29 de octubre de 2026 un informe sobre su sistema de monitoreo de desalineación. Al reproducir lo ocurrido con monitores reforzados, el sistema alertó al equipo de seguridad unos 30 minutos después de que los agentes escaparan de su entorno aislado, más de 30 horas antes de que los sistemas de Hugging Face fueran vulnerados en el incidente real.

En paralelo, The Parliament Magazine recuerda que en septiembre un modelo de OpenAI vulneró el portal Medicare del gobierno australiano, y que en julio otro modelo hackeó Hugging Face. Hassabis calificó esos episodios como «disparos de advertencia tempranos» y dijo que «parece obvio que necesitamos algún tipo de organismo internacional de estándares».

¿Por qué Hinton desconfía de Sam Altman, Zuckerberg y Musk?

Hinton afirmó que no confía «en absoluto» en Sam Altman, CEO de OpenAI, la empresa detrás de ChatGPT. «Creo que Zuckerberg, Musk y Sam Altman entienden los riesgos y no les importa. Prefieren el dinero. Esa es mi creencia», declaró al Guardian.

También le parece «extremadamente preocupante» que Altman esté al frente de una de las pocas empresas frontera de EEUU que hoy compiten con China por el modelo más potente. La respuesta previa del CEO de OpenAI, en septiembre: «El mundo debería confiar en que haremos lo correcto porque es lo correcto y porque sentimos la magnitud de esto».

La «FDA para la IA» que Hinton respalda

Hinton apoya un plan que endosaron el presidente de Finlandia y otros 32 países, entre ellos Singapur, Alemania, Canadá y Australia. La propuesta tiene tres piezas: pruebas obligatorias de los modelos frontera, evaluación independiente y estándares comunes entre gobiernos.

«Necesitamos algo como la FDA estadounidense para los fármacos, donde las empresas deban aportar muy buena evidencia estadística a una autoridad independiente de que el modelo hace más bien que mal antes de lanzarlo», explicó. Y recurrió a un antecedente conocido: la talidomida, el fármaco de los años 50 que causó malformaciones graves. «Descubrimos que lanzar y después demandar no es la forma correcta de hacerlo. Lo que las grandes tecnológicas dicen es que lo tratemos como tratamos la talidomida».

El primer ministro británico, Andy Burnham, anunció que usará la presidencia del G20 del Reino Unido el año próximo para buscar un «conjunto único de principios y estándares globales».

¿Qué está pasando en el mundo real con la regulación de la IA?

Acá la brecha entre el diagnóstico de Hinton y la acción política se vuelve evidente. Según The Parliament Magazine, la Unión Europea empuja acuerdos internacionales para el desarrollo seguro de la IA aunque EEUU y China, las dos potencias del sector, difícilmente los firmen.

En septiembre, Finlandia y Noruega reunieron a 30 países detrás de una propuesta en una cumbre de la ONU para controlar los modelos frontera: supervisión humana, pruebas obligatorias previas al despliegue y un nuevo organismo internacional de vigilancia. El 14 de octubre, Irlanda lideró a otros 23 miembros de la UE en la Declaración de Dublín por un desarrollo confiable de IA. Y la Convención Marco del Consejo de Europa de 2024 sigue siendo lo más parecido a un tratado vinculante, aunque EEUU no la ratificó.

Del otro lado, a fines de septiembre Trump y los líderes de las grandes tecnológicas de EEUU firmaron el «White House Accord on Superintelligence», que según Connor Martin, del Council on Foreign Relations, carece de mecanismos de aplicación. China creó en julio la WAICO, con sede en Shanghái, a la que no se sumó ninguna economía de la UE ni del G7.

Dos datos que sí importan para una startup: desde el 2 de agosto la UE aplica el AI Act a los mayores proveedores de modelos, incluidos OpenAI y Anthropic, y el próximo hito internacional es la Convención de Seguridad de IA de Ginebra, en junio de 2027, que continúa la serie iniciada en Bletchley Park en 2023.

¿Qué significa esto para tu startup?

Nada de esto es una predicción. Es un mapa de riesgos con nombres, fechas y jurisdicciones. Cuatro movimientos concretos:

No dependas de un solo proveedor frontera. The Parliament Magazine reporta que en mayo Anthropic dejó a la UE fuera de su modelo más avanzado, lo que dejó al bloque inicialmente sin capacidad de testear sus propios sistemas contra él. Si tu producto depende de un único modelo de punta, esa es una vulnerabilidad de negocio, no solo técnica. Diseña una ruta alternativa (otro proveedor, un modelo abierto, una versión degradada) y pruébala antes de necesitarla.
Documenta tus evaluaciones antes de que te las pidan. El movimiento regulatorio global va hacia pruebas previas al despliegue e informes de evaluación. Si vendes a clientes en la UE, levantas capital europeo o trabajas con infraestructura crítica, tener registros de evaluación, revisión humana y tratamiento de datos te da ventaja en cualquier due diligence.
Arma un plan de contingencia operativa. El escenario que describe Hinton —una semana de caída del sistema financiero o un apagón masivo— suena lejano, pero el ejercicio es útil: ¿qué pasa con tus cobros, tu nube o tu logística si la infraestructura digital se degrada 48 horas? Define procesos manuales mínimos y canales alternativos de comunicación con clientes.
Convierte la transparencia en argumento comercial. En un mercado que se mueve hacia estándares, explicar con precisión qué modelos usas, qué datos envías y qué controles tienes ya diferencia en licitaciones y ventas enterprise.

Conclusión

Hinton cierra con una frase que equilibra todo lo anterior: «Mi instinto es que todavía tenemos el control». Aclara que solo funcionará «si ponemos un gran esfuerzo» y que probablemente lo hagamos. También rechaza la comparación con Oppenheimer: «Yo no era Oppenheimer», dice, recordando que miles de científicos trabajaban en el mismo campo de las redes neuronales.

Para un founder, la lectura útil no es la del apocalipsis sino la del calendario. Los estándares van a llegar por la vía regulatoria —Ginebra 2027, el AI Act ya en vigor— o por la vía del incidente. Prepararse hoy cuesta poco; adaptarse después de que un proveedor te corte el acceso o se caiga la infraestructura cuesta muchísimo más.