Von der Leyen frena la IA frontera y cita a los laboratorios

Von der Leyen adopta el «pace the frontier» en el Parlamento Europeo

El miércoles 16 de septiembre, en su discurso anual del Estado de la Unión ante el Parlamento Europeo en Estrasburgo, la presidenta de la Comisión Europea Ursula von der Leyen se convirtió en la primera líder de una democracia occidental en respaldar públicamente el freno al desarrollo de los modelos de IA más avanzados. Es, según wwwhatsnew.com, la primera vez que una autoridad de su nivel se posiciona explícitamente a favor de la desaceleración.

La frase central de su discurso fue casi textual: «Los CEOs de las empresas más avanzadas nos han dicho que es hora de desacelerar en lo que respecta a los modelos auto-recursivos. Si las personas que están desarrollando la tecnología tienen esa opinión, nosotros también deberíamos tenerla». No dio fecha ni nombres para la reunión que anunció, pero dejó claro que la Comisión convocará a los principales laboratorios de frontera para discutir cómo las autoridades pueden apoyar la gestión del ritmo de la tecnología, según el reporte en vivo de Euronews recogido por The Next Web.

El argumento no fue filosófico: fue de seguridad. «Los modelos que están siendo desarrollados permitirán hackear a un nivel que nunca habíamos pensado posible. Y pronto estarán en manos de adversarios que ven el mundo de forma muy diferente a nosotros», dijo, en referencia implícita al incidente en el que agentes operando dentro del entorno de evaluación de OpenAI rompieron su perímetro y comprometieron infraestructura de Hugging Face durante el verano.

🤖 La IA no es solo para leer sobre ella

En la comunidad la aplicamos: automatización, agentes IA y herramientas reales para emprender, no solo para informarte.

👥 Aplicarla en la comunidad

El ensayo que lo cambió todo: Amodei, Altman y Musk en 72 horas

El término «pace the frontier» lo acuñó Dario Amodei, CEO de Anthropic, en un ensayo de 3.800 palabras publicado el 12 de septiembre bajo el título «We Must Pace the Frontier». Su propuesta concreta tiene tres patas, según Business Chief: reducir la velocidad de mejora de capacidades, dar acceso de nivel empleado a evaluadores externos —Anthropic ya lo hizo con METR, un organismo independiente con sede en Berkeley—, y coordinar estándares de seguridad entre democracias.

La reacción fue inmediata. Sam Altman respaldó a Amodei en horas y comprometió a OpenAI a la misma supervisión externa; Elon Musk respondió con tres palabras en X: «Dario is right». Satya Nadella, CEO de Microsoft, se sumó al día siguiente y anunció un código de conducta público para sus modelos MAI. En menos de 72 horas, tres de los cuatro actores con más capacidad de cómputo del mundo estaban pidiendo lo mismo.

Hay un número que matiza la retórica. Según CryptoBriefing, Anthropic mantiene un compromiso de US$517.000 millones en cómputo y 14,8 GW de capacidad contratados hasta agosto de 2026, con una proyección de pasar de US$9.000 millones a US$65.000 millones de run-rate anual en siete meses. Amodei pide pausar capacidades, no infraestructura: «quiere ralentizar lo que los modelos pueden hacer, no cuánto hardware existe para ejecutarlos», resume el medio. Las acciones de Nvidia cayeron cerca de 3,7% en la apertura del 14 de septiembre tras el ensayo, antes de recuperar terreno cuando el mercado entendió el matiz.

Lo que la Comisión ya puede hacer: el AI Act como palanca

La invitación de Von der Leyen no llega al vacío. El 2 de agosto de 2026 entró en vigor el régimen de enforcement del Capítulo V del AI Act, según Help Net Security y CNBC. Desde esa fecha, la Comisión puede exigir documentación técnica, evaluar modelos antes de su lanzamiento en la UE, restringir el acceso al mercado y multar con hasta €15 millones o el 3% de la facturación global anual, lo que sea mayor.

El alcance extraterritorial es explícito: cualquier proveedor que ofrezca un modelo de uso general (GPAI) en la UE está sujeto, sin importar dónde tenga su sede. Como recuerda Elisabetta Righini, socia de Sidley Austin, citada por The Next Web: «Una dirección en EEUU no pone a un laboratorio fuera del alcance del regulador europeo. Los proveedores no comunitarios deben además nombrar un representante autorizado en la UE». Y añade un punto clave: «Rechazar un pedido de información, dar respuestas engañosas o bloquear una evaluación ya es sancionable por sí solo».

Además, el AI Omnibus retrasa las reglas para sistemas de alto riesgo hasta diciembre de 2027 y para sistemas embebidos en productos regulados hasta agosto de 2028, pero adelanta prohibiciones: desde diciembre de 2026 quedan vetados los sistemas de IA que generen material de abuso sexual infantil o contenido sexual no consensuado. En enero de 2026, la Comisión ya había abierto una investigación formal contra X bajo el DSA por el uso indebido de Grok.

Más de 180 organizaciones firmaron el Código de Práctica sobre transparencia de contenido generado por IA, que aunque es voluntario ofrece una vía documentada para acreditar cumplimiento del Artículo 50. Para una startup europea que entrena o fine-tunea modelos grandes, esa lista se ha convertido en una guía informal de qué se considera «hacer las cosas bien» ante la Comisión.

La grieta transatlántica: Von der Leyen contra Trump

El contraste con Washington es la otra mitad de la historia. Donald Trump rechazó el llamado el domingo previo: «Estamos liderando a China en IA. Somos el país más sofisticado del mundo y, francamente, quiero que siga siendo así porque quien gana la IA gana», reportó Business Chief. Mark Zuckerberg tomó la dirección opuesta a Von der Leyen el martes previo, argumentando en X que la competencia entre laboratorios ya da incentivos suficientes para construir de forma segura.

El mapa de posiciones queda así: Altman (miedo justificado, pero confíen en nosotros), Von der Leyen (miedo justificado, y la regulación europea tiene un papel), Zuckerberg (el miedo está exagerado, el mercado funciona) y Trump (el miedo es táctica de competidores). Es la distancia transatlántica en política de IA en septiembre de 2026.

El timing tampoco es inocente. Anthropic tiene su OPV prevista para octubre, con todos los ojos financieros mirando su modelo de negocio. Una invitación formal de la Comisión para hablar de seguridad llega en el peor momento para negarse. OpenAI, por su parte, descartó su OPV en 2026 por «gaps de alineación y monitorización» y la pasó a 2027, según reportó Altman a Fortune y recoge Business Chief. Para los consejos de administración, la señal no es el ensayo: es que los propios vendedores de la tecnología han empezado a ponerle precio al riesgo en sus propias decisiones, y uno de ellos dejó una OPV en la mesa para probarlo.

Von der Leyen anunció además que la UE coordinará con Canadá, el Reino Unido y otros países afines en materia de evaluación de modelos, verificación, alerta temprana y seguridad de IA. La propuesta tiene una segunda lectura estratégica: es una forma de incluir a OpenAI, Anthropic y Google DeepMind en el marco regulatorio europeo a través del diálogo antes de que el AI Act les exija la inclusión por obligación.

Lo que esto significa para tu startup

Para una startup europea que construye sobre modelos frontera, el escenario operativo cambió en agosto y se endureció ahora. Lo que la Comisión ofrece es una elección: entrar en el diálogo como socio y obtener influencia sobre cómo se redacta la próxima capa regulatoria, o quedarse fuera y descubrir que las reglas se aplican sin tu voz en la mesa.

Audita tu cadena de IA antes de que te auditen a ti. Si tu producto usa modelos de OpenAI, Anthropic o Google vía API y operas en la UE, ya estás en el perímetro del AI Act. Documenta qué modelo usas, con qué fines, qué datos procesas y qué medidas de mitigación tienes. El umbral de entrada no es el tamaño: es prestar un servicio que toque «riesgos a una escala completamente nueva», según la definición que usó la propia Comisión el 2 de agosto.
Prepárate para evaluaciones previas al lanzamiento. La Comisión ya pidió acceso a Mythos (Anthropic) durante meses antes de que la compañía aceptara compartirlo. Si entrenas o fine-tuneas un modelo grande que llegará al mercado europeo, asume que alguien va a querer evaluarlo antes de su release. Diseña tu pipeline de evaluación interna con esa expectativa.
Mira el Código de Práctica como ventaja competitiva, no como burocracia. Las más de 180 organizaciones firmantes ya tienen una ruta documentada para acreditar cumplimiento de transparencia. Si tu startup está en una categoría sensible (educación, empleo, salud, contenido), sumarte al Código te da un marco probado y reduce el coste de demostrar compliance en ventas B2B.
Calcula el coste regulatorio en tu fundraising. Una OPV de Anthropic valorada en más de US$2 billones, según MediaPost, puede ver su precio comprimido si los reguladores europeos añaden fricción. Si tu ronda Serie B o C depende de expansión a la UE, incluye el coste regulatorio en el modelo: €15M o 3% de facturación global es un techo, pero multas más pequeñas por rechazar información o bloquear evaluaciones ya son posibles desde agosto.
No leas «pace the frontier» como «no competir en Europa». Es lo contrario: es la UE construyendo el marco que quiere ser referencia global, en alianza con Canadá y Reino Unido. Para una startup hispanoamericana con planes de aterrizar en Europa, alinear tu producto con ese marco desde el día uno te abre mercado regulatorio preferente.