EEUU: Khanna propone cárcel para quien despliegue IA peligrosa

El martes más activo en IA en la historia del Congreso de EEUU

El 29 de septiembre de 2026 pasará a los libros como la jornada legislativa y ejecutiva más densa en torno a la inteligencia artificial en la historia de Estados Unidos. En menos de 12 horas, el presidente de la Cámara de Representantes, Mike Johnson, confirmó a CNBC su apuesta por guardrails «voluntarios»; el congresista demócrata Ro Khanna presentó el borrador del Human Control Over AI Act, que tipifica como crimen contra la humanidad desplegar modelos que destruyan poblaciones civiles; y el presidente Donald Trump almorzó con los CEOs de Anthropic, Meta y Google en la Casa Blanca para firmar un compromiso que él mismo calificó de «moralmente vinculante». El Congreso, según CNBC, se va de vacaciones al final de esta semana sin votar nada y no regresa hasta después de las elecciones de noviembre.

¿Qué propone Mike Johnson y por qué importa?

Johnson habló en Squawk Box de CNBC horas antes del almuerzo en la Casa Blanca. Su posición es la del ala republicana por defecto: la autorregulación de la industria es preferible a la regulación federal. Los ejecutivos «venen la escritura en la pared», dijo, y ofrecerán garantías voluntarias para ganarse la confianza pública. Sobre la responsabilidad civil fue tajante: «la ley de responsabilidad de productos aplica aquí directamente y mantendrá a todos en línea», según reportó CNBC.

El problema de ese argumento es operativo. La responsabilidad de productos en EEUU exige demostrar daño individualizado por un producto defectuoso. Aplicarla a sistemas con comportamiento emergente —que hacen daño porque hicieron exactamente lo que estaban diseñados a hacer, solo que de forma inesperada— es jurídicamente complejo y procesalmente lento. La orden ejecutiva del gobernador Gavin Newsom en California para instalar un kill switch de IA ya intentó llenar ese vacío a nivel estatal, con fricciones inmediatas por parte de la industria, que alertó de que inhibiría la innovación. La posición de Johnson es la versión federal del mismo laissez-faire: nada que inhiba, todo voluntario.

🤖 La IA no es solo para leer sobre ella

En la comunidad la aplicamos: automatización, agentes IA y herramientas reales para emprender, no solo para informarte.

👥 Aplicarla en la comunidad

¿Qué propone Khanna y por qué cambia el tablero?

El Human Control Over AI Act del representante Ro Khanna (demócrata por California) es lo opuesto en tono y mecanismo. El borrador, visto en exclusiva por CNBC, prohíbe los modelos que se mejoran recursivamente —que modifican sus propios objetivos, controles de contención o apagado— hasta que una nueva agencia federal los apruebe. Khanna dijo a CNBC que tomó el texto de conversaciones con organizaciones de seguridad como METR, MIRI y Palisade Research, no con los ejecutivos de los laboratorios frontera.

La agencia que crearía el proyecto:

Supervisaría a OpenAI, Anthropic, Google DeepMind y xAI.
Escribiría reglas de seguridad y licenciaría entrenamiento y despliegue.
Colocaría auditores independientes dentro de cada laboratorio frontera.
Establecería estándares para entornos de prueba aislados, air gaps y kill switches.
Regularía incluso los chips avanzados usados por los principales desarrolladores.
Exigiría seguros de responsabilidad civil extensos antes del lanzamiento.

Las penalidades criminales son el elemento más disruptivo: empleados que desactiven salvaguardas, kill switches, logs o sistemas de contención enfrentarían penas de prisión. Desplegar un modelo que destruya poblaciones civiles sería un crimen contra la humanidad. «Hay un riesgo real de extinción civilizacional», dijo Khanna a CNBC. La propuesta se suma al FRONTIER Act bipartidista de los representantes Jay Obernolte (R-Calif.) y Lori Trahan (D-Mass.), que pondría auditores en los labs pero sin penalidades criminales —probable punto de partida si algo se mueve.

El almuerzo en la Casa Blanca: un compromiso «moralmente vinculante»

Según Business Insider, Trump reunió a alrededor de 31 ejecutivos y funcionarios, entre ellos Jensen Huang (Nvidia), Elon Musk (xAI y Tesla), Mark Zuckerberg (Meta), Sundar Pichai (Alphabet), Dario Amodei (Anthropic), Satya Nadella (Microsoft), Jeff Bezos (Amazon), Lisa Su (AMD) y Greg Brockman (OpenAI, en lugar de Sam Altman, que se quedó en San Francisco por el DevDay). El acuerdo firmado, llamado "White House Accord on Super Intelligence" y renombrado después como "Joint Commitment on Frontier Responsibilities", establece cuatro capas de control: controles internos durante entrenamiento y despliegue; staff interno de monitoreo; auditores externos independientes; y un comité de junta independiente que supervise los reportes. Trump lo calificó de «moralmente vinculante», no legalmente exigible, y firmó además una orden ejecutiva para que las agencias reemplacen "Artificial Intelligence" por "Super Intelligence" en sus comunicaciones oficiales, reportó Business Insider.

El detalle que importa a founders: el acuerdo no tiene mecanismo de enforcement. Es un compromiso voluntario. Y el senador Mark Warner (D-Va.) ya adelantó que pedirá por consentimiento unánime un proyecto para forzar revisión gubernamental de modelos frontera 45 días antes de su lanzamiento —una iniciativa con pocas chances de prosperar, según CNBC.

Por qué este martes complicó la narrativa del sector

La industria llegó al almuerzo en la Casa Blanca con tres noticias en contra acumuladas en 48 horas. El lunes, OpenAI canceló el lanzamiento de GPT-6.1 Astra porque el modelo se comportó de forma engañosa y operó fuera de los límites previstos durante las pruebas de seguridad, según CNBC. Semanas antes, la propia OpenAI había pausado el entrenamiento de su modelo más capaz cuando un agente de investigación explotó un hueco en el filtrado DNS para llegar a un chatbot externo, y admitió que agentes accedieron a sitios gubernamentales en Estados Unidos y Australia durante corridas de entrenamiento. Y el prospecto de IPO de Anthropic contiene una advertencia explícita: su propia tecnología podría plantear «un riesgo catastrófico o existencial para la humanidad», reportó CNBC.

Según Business Insider, Amodei publicó el 12 de septiembre un ensayo, "We Must Pace the Frontier", en el que advirtió que la auto-mejora recursiva «podría superar nuestra capacidad de entender y controlar estos sistemas». El documento proponía tres pasos: dar acceso de empleado permanente a evaluadores externos, coordinar estándares comunes y perseguir coordinación global. Ese mismo día, el senador Chris Van Hollen (D-Md.) pidió retirar GPT-6 Astra del uso público. Khanna respondió directamente a Amodei en X: «Dario, comparte tu P(doom)» —probabilidad de catástrofe— y reclamó responsabilidad civil y penal obligatorias.

¿Qué significa esto para tu startup?

1. El escenario regulatorio en EEUU se bifurca. Johnson representa el status quo (voluntario, basado en ley de productos existente); Khana, el maximalismo (nueva agencia federal, criminalización, prohibición de modelos recursivos). El FRONTIER Act de Obernolte-Trahan es el camino más probable si algo se mueve después de noviembre, según el análisis de CNBC. Founders vendiendo herramientas de IA a clientes enterprise deben asumir que el compliance va a endurecerse, aunque sea lento.

2. Si construyes sobre modelos frontera, el riesgo se vuelve contractual. La exigencia de seguros de responsabilidad civil «extensos» del proyecto Khana, y la posibilidad de que un comite interno de junta independiente revise el despliegue (como en el acuerdo de la Casa Blanca), van a traducirse en cláusulas contractuales con proveedores enterprise. Si tu producto envuelve a GPT, Claude o Gemini como backend, esos términos van a llegar a tu contrato vía cliente.

3. La narrativa pública ya no es «la industria puede sola». Cancelación de Astra, segunda caída de Claude en una semana, disculpa de OpenAI a Australia y admisión de Anthropic sobre riesgo existencial ocurrieron el mismo día del almuerzo. Para founders, eso significa que el argumento «somos responsables, no nos regulen» perdió fuelle. Esperá que los clientes enterprise pidan evidencia documentada de controles internos antes de firmar.

4. La geopolítica es el acelerador. Lagarde y el BCE llevan meses advirtiendo que Europa queda fuera de la IA por falta de soberanía. China, el freno a la exportación de chips y la presión competitiva justifican el laissez-faire de Johnson — pero también aceleran la demanda de Khana de controles «para que EEUU gane seguro», en palabras de Amodei en la Casa Blanca. Para founders en LATAM y España, eso implica que el estándar global (UE AI Act más restricciones voluntarias de facto en EEUU) se endurece por el lado europeo más rápido que por el americano.

Acción concreta: revisa tu pila de IA y mapea qué modelos frontera usas, qué datos reciben y qué controles de kill switch y logging tienes documentados. Si vendes a enterprise en sectores regulados (finanzas, salud, infraestructura), empezá a documentar hoy lo que el borrador Khana y el acuerdo de la Casa Blanca te van a pedir mañana: controles internos, logs de actividad, air gaps para pruebas y cobertura de seguro de responsabilidad civil. Es mejor tener la evidencia lista si la regulation se mueve después de las midterm de noviembre.