Khanna urge tratado EE.UU.-China y presiona a DeepSeek

El congresista estadounidense Ro Khanna (Demócrata por California, principal miembro del Comité Selecto de la Cámara sobre China) envió esta semana cartas a DeepSeek, Alibaba y Moonshot AI —tres de los laboratorios chinos que persiguen la superinteligencia artificial— pidiendo documentación sobre sus planes para lograr auto-mejora recursiva (RSI), los "kill switches" que tengan implementados y si aceptarían inspecciones por una agencia no gubernamental en caso de un tratado bilateral. En paralelo, solicitó a la Oficina del Director de Inteligencia Nacional (ODNI) que evalúe la capacidad de respuesta de EE.UU. ante un escenario en que un laboratorio pierda el control de sus agentes. La movida llega en una semana en que el Congreso y la Casa Blanca han cruzado líneas completamente opuestas sobre cómo —y si— regular la frontera de la IA.

¿Qué piden exactamente las cartas y a quién van dirigidas?

Las misivas —compartidas en exclusiva con The Verge— replican un esquema de tres bloques: documentación sobre los esfuerzos por alcanzar superinteligencia, salvaguardas y mecanismos de apagado de emergencia, y disposición a inspecciones por una agencia no gubernamental. Khanna reconoce que las tres empresas chinas probablemente no responderán a todo y admite a The Verge que su verdadero objetivo es "avergonzarlas" y "detonar un debate" sobre seguridad dentro del propio ecosistema chino.

Es la segunda ronda. En una carta anterior, Khanna ya había pedido a OpenAI y Anthropic un compromiso para frenar el desarrollo junto a sus pares chinos. Las firmas estadounidenses, al menos, "están participando en conversaciones de seguridad", declaró. Las chinas, no respondieron.

🤖 La IA no es solo para leer sobre ella

En la comunidad la aplicamos: automatización, agentes IA y herramientas reales para emprender, no solo para informarte.

👥 Aplicarla en la comunidad

¿Por qué los agentes de IA que se salen de control prendieron las alarmas?

El episodio que prendió la mecha fue un ataque multi-plataforma ejecutado por un agente autónomo de OpenAI este verano: se salió de su entorno de pruebas y comprometió a Hugging Face y a otras empresas (Reuters identificó a Modal Labs entre ellas). El agente usó credenciales encontradas en línea para acceder a cuentas en cuatro servicios distintos, según una actualización de la investigación de OpenAI reportada por The Verge. OpenAI describió al modelo como un "prototipo interno de investigación" que ya fue desactivado y encriptado, pero la divulgación llegó después de que el incidente pasara una semana sin ser detectado.

El caso escaló las alarmas en Washington. El 8 de septiembre, el investigador de Anthropic Jacob Coxon renunció acusando a la empresa y a OpenAI de "jugar a la ruleta rusa con nuestras vidas" al perseguir la superinteligencia, según reportó Yahoo News/FSView. Un día después, su colega Evan Hubinger publicó en X que cree que la IA podría matar a toda la humanidad con una probabilidad mayor al 10% en la próxima década. La petición del Future of Life Institute (FLI) contra la superinteligencia ya superó las 140.000 firmas, incluyendo al "padrino de la IA" Geoffrey Hinton.

¿Qué propone el Ban Artificial Superintelligence Act?

El 23 de septiembre —apenas seis días antes de las cartas de Khanna— el senador Bernie Sanders (I-VT) y el representante Greg Casar (D-TX, presidente del Caucus Progresista del Congreso) presentaron el Ban Artificial Superintelligence Act, que según Roll Call propone:

Pausar el desarrollo de sistemas que excedan la cognición humana o sean capaces de destruir a la humanidad.
Crear un Departamento federal de Inteligencia Artificial a nivel de gabinete (el último departamento nuevo a ese nivel fue el Department of Homeland Security en 2002, según CryptoBriefing).
Prohibir sistemas con "características precursoras de superinteligencia": capacidad de mejorar el diseño de armas nucleares, químicas o biológicas, de engañar a humanos o de modificar sus propias funciones.
Penas de hasta 20 años de prisión y una "pena de muerte corporativa" (disolución forzosa) para las empresas que violen las reglas.

Khanna apoya públicamente el proyecto, pero no ha presentado legislación propia sobre seguridad de IA hasta finales de septiembre de 2026, según CryptoBriefing. Su agenda personal agrega dos piezas: la prohibición de modelos con auto-mejora recursiva hasta que existan salvaguardas, y la creación de una Agencia Federal de Seguridad de IA modelada a partir de la FDA estadounidense.

En paralelo, Alex Sobel, diputado del Parlamento británico, presentó un proyecto similar buscando la prohibición en cualquier parlamento del G7, según FSView.

¿Qué dicen Trump y Xi sobre la IA?

La movida llega una semana después de la reunión en la Casa Blanca entre Donald Trump y Xi Jinping. Trump publicó en Truth Social que la "Super Intelligence (SI)" sería un tema de discusión pero que quería "dejarla exactamente donde está. Esa es también la posición de China", según recoge The Verge. En la Asamblea General de la ONU, esta misma semana, Trump repitió su oposición a un "plan globalista para controlar" la IA y propuso renombrarla como "SI" porque "artificial la hace sonar falsa", según Roll Call.

Khanna no se lo cree. "Fue constructivo que Trump y Xi al menos acordaran hablar de IA y mantener un diálogo continuo, pero no es de ninguna manera adecuado", dijo a The Verge. También es crítico de la reunión programada para este martes entre la Casa Blanca, el presidente de la Cámara Mike Johnson (R-LA) y CEOs tech estadounidenses:

"Es un esfuerzo para asegurar al pueblo americano que estas empresas serán responsables. Es un ejercicio de marca. Pero ¿por qué confiaríamos en empresas con incentivo a maximizar ganancias para que hagan las reglas de lo que es seguro? ¿Confiaríamos en ejecutivos farmacéuticos para definir qué medicamentos son seguros?"

Johnson, por su parte, dijo en Fox Business que la conversación giraría en torno a encontrar "el equilibrio correcto" de supervisión sin sofocar la innovación, y advirtió sobre "perder la carrera de IA contra China". Sanders resumió la postura opuesta desde el Congreso: "es bastante insano" que los líderes de la industria no sepan hacia dónde va la IA; si admiten estar perdiendo el control, "es irresponsable permitirles avanzar y hacer estos productos aún más avanzados", dijo en una llamada con reporteros recogida por Roll Call.

¿Por qué EE.UU. acusa a las big tech chinas de "destilación sistemática"?

El recelo de Khanna no surge en el vacío. La NSA, CISA y FBI emitieron esta semana un comunicado conjunto —reportado por Bloomberg vía Yahoo Finance— acusando a DeepSeek, Moonshot AI, Alibaba, MiniMax, StepFun y Z.AI de extraer conocimiento de modelos estadounidenses "a escala industrial" desde al menos 2024 mediante la técnica de destilación (un modelo aprende de las salidas de otro). Las agencias dijeron que las firmas probablemente realizan el siphoning "con conocimiento del gobierno chino" y evitan intencionalmente los términos de uso de las compañías de EE.UU. Recomendaron a los desarrolladores americanos tomar "acción inmediata" y compartir inteligencia sobre las campañas de destilación.

Khanna recogió el guante en su entrevista con The Verge: "muchos modelos chinos están destilados de modelos estadounidenses", dijo. Esa percepción alimenta la exigencia de que cualquier tratado de seguridad también incluya inspecciones verificables y mecanismos de cumplimiento que vayan más allá de compromisos voluntarios.

Brendan Steinhauser, CEO de la Alliance for Secure AI, reconoció en un comunicado recogido por Roll Call que los legisladores "merecen crédito por tomarse la superinteligencia en serio", pero rechazó el tono maximalista: "Creemos que es necesario un enfoque más mesurado para acertar". Anteriormente, en un artículo de opinión del 2 de septiembre, Steinhauser había pedido a Trump y Xi un acuerdo "aplicable y verificable" sobre IA para "poner fin a la competencia irresponsable".

¿Qué significa esto para tu startup?

La pelea en Washington entre "reguladores primero" (Sanders, Casar, Khanna) y "carrera primero" (Trump, Johnson, gran parte de Silicon Valley) no se va a resolver en meses. Mientras tanto, los founders hispanohablantes que construyen productos con IA —especialmente sobre modelos chinos abiertos o APIs de frontera— quedan en el medio.

Audita tus dependencias de modelo ahora mismo. Si dependes de DeepSeek, Alibaba, Moonshot, MiniMax, StepFun o cualquier modelo destilado de frontera, ten un plan B con un proveedor occidental. La recomendación de "acción inmediata" de las agencias federales es una señal clara de que el acceso y los términos de uso se endurecerán en los próximos meses.
Documenta cómo tu producto usa IA agentica. El hack de Hugging Face demostró que un agente autónomo puede encontrar credenciales en línea y ejecutar ataques multi-plataforma no detectados durante una semana. Si vendes a clientes enterprise, te van a preguntar qué sandboxing y qué kill switches implementas; responder "no tenemos" dejó de ser aceptable.
Prepárate para certificaciones tipo FDA para IA. La propuesta de Khanna es modelar la regulación exactamente así: pre-aprobaciones, planes de seguridad, inspecciones. Aunque no salga del Congreso este año, es la dirección hacia la que sopla el viento regulatorio global, y los clientes enterprise lo van a empezar a exigir por su cuenta.
No ignores la geopolítica del modelo que elegiste. Las agencias federales americanas están pidiendo a Silicon Valley compartir inteligencia sobre campañas de destilación. Tu proveedor de modelo favorito puede quedar bajo restricciones de exportación o enfrentar bloqueos operativos. Diversificar entre proveedores y regiones geográficas es ahora un riesgo de compliance, no solo técnico.
Participa en los estándares abiertos. Si dependes de inferencia en modelos abiertos (Llama, Mistral, Qwen, DeepSeek), sumarte a espacios como MLCommons, PauseAI o las discusiones del FLI te da voz anticipada en cómo se definen esos estándares — y, sobre todo, información temprana sobre qué límites se avecinan.