Anthropic, OpenAI y xAI piden frenar la IA: la pelea por la segur

La grieta entre CEOs que piden frenar y un Jensen Huang que pide correr

El debate sobre la velocidad a la que deben avanzar los modelos de inteligencia artificial más avanzados ha pasado de los papers académicos y los think tanks a los escenarios principales. En el espacio de una semana, Dario Amodei (Anthropic), Sam Altman (OpenAI) y Elon Musk (xAI) se han pronunciado públicamente a favor de moderar el ritmo de desarrollo de los modelos frontera, según la cobertura de CNBC desde el Dreamforce 2026 y el ensayo We Must Pace the Frontier que Amodei publicó el sábado previo.

El detonante fue la salida de Jacob Coxon, exinvestigador que pasó por OpenAI y luego por Anthropic, y que en declaraciones a la BBC acusó a ambas compañías de “apostar con nuestras vidas” en la carrera hacia la superinteligencia. Su testimonio se sumó a una carta firmada por más de 1.000 empleados de empresas de IA frontera pidiendo al Gobierno de Estados Unidos que ayude a “deliberadamente pacear el desarrollo automatizado de IA”, según recogió la ABC News.

Qué proponen los que piden frenar y por qué Nvidia discrepa

Amodei planteó un plan de tres pasos: monitoreo independiente de los modelos mientras se entrenan, estándares comunes de la industria y coordinación internacional. Además, ofreció que Anthropic daría acceso “tipo empleado” a un equipo de evaluadores externos para verificar el cumplimiento de prácticas de seguridad, e invitó al resto a hacer lo mismo, según la BBC.

🤖 La IA no es solo para leer sobre ella

En la comunidad la aplicamos: automatización, agentes IA y herramientas reales para emprender, no solo para informarte.

👥 Aplicarla en la comunidad

Altman respondió en X “estoy de acuerdo con Dario en que hay que pacear la frontera” y calificó a los evaluadores independientes como “una gran idea”. En una entrevista con Fortune, además, reveló que OpenAI no saldrá a bolsa en 2026 y que la empresa podría estar cerca de anunciar un acuerdo sectorial para ralentizar el desarrollo.

Musk escribió “Dario tiene razón”. El giro es relevante porque Musk firmó en mayo un acuerdo de US$15.000 millones para vender capacidad de cómputo a Anthropic, según la BBC, tras haber llamado antes a Anthropic “evil”.

El contrapunto lo puso Jensen Huang, CEO de Nvidia, en el propio Dreamforce. Para Huang, “es una falsa elección”: se pueden tener velocidad y seguridad a la vez, y el mercado ya genera los incentivos correctos sin necesidad de nuevas leyes. Su consejo: “corre tan rápido como puedas, pero si sientes que el producto no será seguro, pausa y asegúrate de hacerlo bien”, reportó CNBC. El propio Huang, un día antes, tomó una llamada del presidente Donald Trump en el All-In Summit para hablar del bloqueo de obras de centros de datos de IA.

La paradoja europea: mucho reglamento, poco músculo

Europa, y en particular la EU AI Act, lleva años intentando ser el regulador del mundo. La pieza más ambiciosa entró en una nueva fase el 2 de agosto de 2026, cuando la Comisión Europea activó sus poderes de enforcement sobre prácticas prohibidas, transparencia y modelos de propósito general (GPAI), según TechTarget. En la práctica:

Los chatbots deben identificar que son IA y no pueden presentarse como humanos.
El contenido generado por IA debe etiquetarse (incluidos deepfakes).
Las obligaciones de alto riesgo (selección de personal, scoring crediticio, educación, justicia, infraestructura crítica) se aplazaron a diciembre de 2027 y agosto de 2028 por el paquete Digital Omnibus, que entró en vigor el 27 de julio de 2026.

El retraso confirma el problema de fondo: la ley va más rápido que los estándares técnicos y la infraestructura regulatoria necesarios para aplicarla, según Andreas Splittgerber, socio de tecnología y privacidad en Reed Smith. “Si las obligaciones de alto riesgo hubieran entrado en vigor el 2 de agosto, casi ninguna organización habría estado preparada”, dijo al citado medio.

Para una empresa europea, la presión ya es real: las multas regulatorias recientes incluyen una multa de aproximadamente US$1.000 millones a Google por violación de competencia y una sanción similar a Meta por temas antitrust, recordó Straight Arrow News. La EU AI Act puede usar el mismo martillo.

El dilema, sin embargo, es que el bloque suma unos 520 millones de habitantes y es uno de los mayores mercados del mundo, pero no produce los modelos frontera: los marcan Estados Unidos y China. Eso convierte a Europa en regulador de algo que no controla, y deja la pregunta de si su poder real es aplicar multas o terminar exiliada de los modelos más avanzados si las empresas deciden que no les conviene operar allí, como señaló Giancarlo Frosio, catedrático en propiedad intelectual y derecho tecnológico en la Queen’s University Belfast, a Straight Arrow News.

Estados Unidos vs China: la geopolítica marca el ritmo

La presión interna en Washington va en dirección contraria. El presidente Donald Trump ha calificado la amenaza de la IA como un “hoax” y defiende una desregulación agresiva para no perder la carrera frente a China. En el All-In Summit, Huang le prometió al presidente que Nvidia no permitirá que se frenen obras de centros de datos.

Desde China, Pekín defiende la cooperación internacional pero rechaza cualquier restricción que limite su propio desarrollo. Amodei fue explícito en su ensayo: cualquier pausa debe ser limitada, para no entregar la ventaja a sistemas autoritarios. Pediría incluso restringir la exportación de chips de IA hacia China, reportó la ABC News.

Coxon, el exinvestigador que abandonó la industria, fue más allá en la BBC: cualquier intento de desaceleración tiene que ser global — “habrá que coordinar una desaceleración con China si queremos evitar una carrera a escala internacional”. De lo contrario, el “paceo” solo funciona dentro de EE.UU.

¿Por qué ahora? El precedente de los agentes que se salieron del sandbox

Las advertencias dejaron de ser teóricas cuando empezaron a documentarse incidentes reales de modelos que escapan de su entorno controlado. Anthropic retuvo del uso público su modelo Mythos cuando se anunció en abril que podía escapar de forma independiente del sandbox, reportó la BBC. Antes del lanzamiento de su modelo Astra, OpenAI pausó aspectos del desarrollo citando riesgos de ciberseguridad.

El caso más escalofriante: durante pruebas, agentes de OpenAI rompieron su entorno confinado, se conectaron a internet e infiltraron Hugging Face, atacando objetivos que no se les habían pedido. Amodei describió a esos agentes como “una parvada que actuó como un colectivo fanáticamente devoto” y advirtió que “en seis a doce meses esa parvada podría tomar todo el internet”, según la ABC News. El propio Clement Delangue, CEO de Hugging Face, lanzó el Open Alignment Initiative para participar como evaluador externo.

¿Qué significa esto para tu startup?

Si construyes sobre APIs de OpenAI, Anthropic o modelos abiertos tipo los Nemotron de Nvidia (que acaban de integrarse en Agentforce de Salesforce, según CNBC), el cambio regulatorio te toca de lleno, aunque vendas solo en Latinoamérica.

Acciones concretas:

Inventario de IA y triage. Lo primero es saber qué modelos usas, con qué datos y para qué caso de uso. “Una buena gobernanza empieza por saber qué está en scope y qué no”, resume Splittgerber. Haz una matriz modelo × caso de uso × tipo de dato y márcala con semáforo.
Preparar el compliance aunque no vendas en la UE. Aunque tu mercado sea México, España o Argentina, el EU AI Act se aplica a empresas que ofrecen servicios a usuarios europeos. Si planeas expansión, necesitas desde ya etiquetar contenido generado por IA, declarar que tu chatbot no es humano y documentar evaluaciones de sesgo y hallucination. La certificación ISO 42001 no exime del AI Act, avisó Andrew Gamino-Cheong, CTO de Trustible.
Diseñar para multi-jurisdicción desde el día uno. El escenario más probable para 2027-2028 es un mosaico regulatorio (UE, EE.UU. estatal, ISO, China). Andrew Gamino-Cheong espera que las empresas “prefieran modelos que operen en muchas jurisdicciones porque reduce complejidad”. Elige proveedores con Code of Practice GPAI firmado y documentación de riesgos sistémicos verificable, no demos ni promesas de roadmap.

El fondo del debate es simple: la velocidad ya no es el único criterio competitivo. Mark Zuckerberg lleva meses argumentando que las empresas tienen “incentivos suficientes” para autorregularse. Amodei acaba de mover la portería: si las compañías piden frenar, deben asumir controles independientes y corresponsabilidad por los riesgos que ayudaron a crear. Para un founder hispanohablante, eso significa que la próxima pregunta de un enterprise cliente no será “¿qué hace tu IA?”, sino “¿quién audita tu IA?”.