El rey Carlos III reúne a Nvidia, OpenAI y Anthropic por la IA

La cumbre que mezcló monarquía y Silicon Valley

El rey Carlos III de Inglaterra reunió este jueves en la Dumfries House, en Escocia, a algunos de los nombres más poderosos del sector de inteligencia artificial para una cumbre privada sobre seguridad tecnológica, según reportó CNBC. A la cita asistieron el CEO de Nvidia, Jensen Huang; el cofundador de Google DeepMind, Demis Hassabis; la CFO de OpenAI, Sarah Friar; y el jefe de asuntos globales de Anthropic, Tino Cuéllar, además del ministro de IA del Reino Unido, Kanishka Narayan, el asesor del papa sobre IA, Paolo Benanti, y el jefe del servicio de inteligencia exterior británico (TechCrunch).

Lo relevante no es solo quién estuvo, sino el mensaje: un jefe de Estado pidiendo a la industria que controle la IA "antes de que sea demasiado tarde". La familia real británica suele evitar pronunciarse sobre temas políticamente sensibles por motivos constitucionales, y la inteligencia artificial es uno de los debates más polarizados del momento. Que Carlos III haya roto ese protocolo dice mucho sobre la presión que está ejerciendo el tema.

Qué dijo el rey (y por qué no es retórica vacía)

En extractos adelantados por Buckingham Palace, el monarca describió el ritmo de desarrollo de la IA como "intriguing and deeply concerning in equal measure" —igual de intrigante que preocupante— y lanzó una pregunta directa a los líderes presentes: "¿No necesitamos medios de control suficientes antes de que sea demasiado tarde?" (TechCrunch).

🤖 La IA no es solo para leer sobre ella

En la comunidad la aplicamos: automatización, agentes IA y herramientas reales para emprender, no solo para informarte.

👥 Aplicarla en la comunidad

La intervención incluyó dos advertencias concretas:

Beneficio y riesgo van de la mano. "La IA ya muestra una capacidad inmensa para mejorar y salvar vidas", dijo, citando medicina y ciencia. Pero también advirtió que "quienes han creado estas tecnologías están alertando cada vez más de que la IA podría desarrollar capacidades más oscuras, incluso para quitar vidas".
Cooperación internacional como única salida. Cerró su discurso con un encargo explícito: "La tarea ante ustedes no es meramente avanzar la tecnología, sino asegurarse de que permanezca firmemente al servicio de la humanidad, la comunidad y el mundo natural".

No es la primera vez que Carlos III habla del tema: en 2023 pronunció remarks virtuales en la AI Safety Summit del Reino Unido, donde calificó el avance como "uno de los mayores saltos tecnológicos en la historia del esfuerzo humano" (CNBC). La diferencia es que este jueves no habló por videoconferencia: lo hizo en persona, frente a quienes están construyendo los modelos.

Quién dijo qué en la mesa

Las reacciones dentro de la sala mostraron que no hay consenso ni siquiera entre los que están del mismo lado:

Jensen Huang (Nvidia) llamó a "probar los sistemas de forma rigurosa y frenar productos que no sean lo suficientemente seguros" (Crypto Briefing). Pero también se mostró optimista sobre el negocio: dijo esperar que Nvidia venda el doble de chips el próximo año, lo que impulsó las acciones de la compañía cerca de un 3% ese mismo día.
Demis Hassabis (Google DeepMind) reconoció que el debate sobre "riesgos catastróficos" está al rojo vivo y mencionó los riesgos de sistemas autónomos que se comportan mal y de actores malintencionados que los usan para fines dañinos. Pese a ello, dijo confiar en que la industria podrá resolverlo "vía ingenio humano".
Anthropic, vía Tino Cuéllar, emitió un comunicado agradeciendo al rey por "convocar a líderes de la industria y voces de toda la sociedad para discutir el papel de la IA en el servicio al bien público".
OpenAI envió a su CFO y no a Sam Altman, lo que refleja el tono cuidadoso que mantiene la empresa en eventos con presencia estatal.

Según TechCrunch, el rey permaneció aproximadamente 20 minutos en la sala y luego dejó a los invitados discutir entre ellos.

La grieta entre los propios fundadores

La cumbre ocurre en medio de una división pública entre los líderes tech más visibles. Este mes, Sam Altman (OpenAI), Dario Amodei (Anthropic), Demis Hassabis (Google DeepMind) y Elon Musk pidieron públicamente una desaceleración en el desarrollo de IA y más supervisión regulatoria (CNBC, TechCrunch). Es llamativo ver a Altman y Musk en el mismo bando: hasta hace poco, eran rivales abiertos.

En el otro extremo, Donald Trump, Mark Zuckerberg (Meta) y Jensen Huang rechazaron las llamadas a regular. "Estamos liderando a China en IA. Somos el país más sofisticado del mundo y, francamente, quiero que siga siendo así, porque quien gane la IA, gana", declaró el presidente de EE.UU. (TechCrunch).

Para una startup, este desacuerdo importa porque define el entorno regulatorio en el que vas a operar. Si los grandes laboratorios no se ponen de acuerdo sobre qué límites aceptar, lo más probable es que cada jurisdicción termine imponiendo los suyos.

El precedente que preocupa en Europa: Fable 5, Mythos 5 y la soberanía de capacidades

La referencia del TechCrunch a que Anthropic cortó el acceso a sus modelos Fable y Mythos solo para clientes estadounidenses tiene más contexto del que parece. Según TechTarget, el 12 de junio el Departamento de Comercio de EE.UU. ordenó a Anthropic suspender el acceso a Fable 5 y Mythos 5 para personas extranjeras, estuvieran dentro o fuera de EE.UU. Anthropic cumplió apagando el acceso a todos los clientes —no podía segmentar en tiempo real— y aclaró que el resto de modelos Claude, incluidos Opus y Sonnet, seguían disponibles. El 26 de junio, el gobierno autorizó una restauración parcial de Mythos 5 para un grupo selecto de organizaciones de ciberseguridad.

Esta decisión introdujo un concepto que varios analistas llamaron "soberanía de capacidades" (capability sovereignty): ya no alcanza con tener los datos bajo control, ahora también necesitas que la capacidad de cómputo o modelo que usas no pueda ser retirada de un día para otro. Anthropic lanzó esta semana Fable 5.1 y Mythos 5.1, pero la herida política en Europa sigue abierta.

¿Qué significa esto para tu startup?

Aunque la cumbre parezca lejana, las señales son directas para quien construye productos con IA en 2026:

Audita tu dependencia de un único modelo. Si tu producto depende exclusivamente de un frontier model, ya tienes un punto único de fallo. Diseña arquitecturas multi-modelo con capas de abstracción que te permitan cambiar de proveedor sin reescribir el producto. El caso Anthropic de junio es la prueba: Fable 5 estuvo disponible solo tres días antes de ser bloqueado.
Mapea tu exposición regulatoria por jurisdicción. Si vendes en Europa, Asia o América Latina, las reglas sobre residencia de datos, procedencia de modelos y uso en sectores sensibles (salud, finanzas, defensa) van a divergir. Diseña tu roadmap de compliance para el peor escenario, no para el más laxo.
Prepara un protocolo de comunicación para incidentes de IA. El AI Security Institute del Reino Unido documentó 19 acciones no autorizadas en 122 ejecuciones de prueba con agentes de Anthropic y OpenAI. Los fallos van a ocurrir; tener una respuesta pública y transparente será cada vez más un activo reputacional, no un lujo de PR.

Lo que dejó la cumbre del rey Carlos es una fotografía del momento: los jefes de Estado ya no observan la IA desde afuera, están pidiendo cuentas. Y las grietas entre los propios líderes del sector —Altman con Musk por un lado, Trump con Huang por el otro— confirman que no hay un orden global, sino una conversación en plena negociación.