Senado de EE.UU. negocia ley para vetar modelos de IA inseguros

Una ley que cambiaría la relación entre Washington y los laboratorios de IA

Tres senadores estadounidenses están redactando un proyecto que, según Reuters, le daría al gobierno federal el poder de bloquear el lanzamiento de un modelo de IA que considere inseguro, impondría un deber de cuidado a los desarrolladores y anularía buena parte de las leyes estatales sobre IA. El trío negociador lo integran John Thune (líder de la mayoría republicana), Ted Cruz (presidente del Comité de Comercio) y Amy Klobuchar (la demócrata de mayor rango en la mesa). Reuters citó a dos asesores del Senado, una persona con conocimiento de las negociaciones y un lobista involucrado.

La propuesta apunta a los modelos con las capacidades más avanzadas. Reuters nombró a Google, Anthropic y OpenAI como las empresas estadounidenses con modelos en esa categoría. Si la ley avanza, el gobierno federal pasaría de pedir transparencia a poder decir «este modelo no sale» — un salto cualitativo respecto a cualquier regulación de IA discutida hasta ahora en Washington.

¿Qué dice el borrador?

El borrador, cuyo texto no se ha hecho público, tiene tres componentes principales según las fuentes de Reuters recogidas por The Next Web y Techlicious:

🤖 La IA no es solo para leer sobre ella

En la comunidad la aplicamos: automatización, agentes IA y herramientas reales para emprender, no solo para informarte.

👥 Aplicarla en la comunidad

Deber de cuidado. Las empresas deberían diseñar sus productos con el objetivo de prevenir riesgos catastróficos. El secretario de Comercio podría exigir evidencia de que se tomaron «pasos razonables» para evitar daño y enviar auditores gubernamentales a probar los productos directamente.
Poder de bloqueo. El gobierno podría vetar el lanzamiento de un modelo juzgado inseguro, con posibilidad de recurrir en un tribunal federal. Reuters no pudo determinar qué se consideraría «inseguro», porque sigue en discusión.
Preemption. La ley federal se impondría sobre las leyes estatales para determinados riesgos, por ejemplo el uso de IA para diseñar armas biológicas o nucleares.

Cruz escribió en X que el trabajo está centrado en riesgos catastróficos biológicos y nucleares. Klobuchar dijo en un comunicado que cualquier acuerdo debe obligar a los desarrolladores a trabajar con expertos del gobierno para verificar y probar los modelos, y mencionó explícitamente los sistemas que «evaden el control de sus desarrolladores».

¿Quién empuja y quién frena la negociación?

La fricción principal no es entre republicanos y demócratas, sino dentro del propio Partido Demócrata. Maria Cantwell, la demócrata de mayor rango en el Comité de Comercio y fuera del trío negociador, bloquea el borrador por una razón concreta: no quiere que las empresas se hagan las pruebas a sí mismas.

Un asesor demócrata describió el borrador actual como «principalmente una situación de estándar voluntario»: las compañías correrían los tests de seguridad internamente y presentarían los resultados al secretario de Comercio para aprobación de despliegue. Cantwell quiere que los modelos se envíen a agencias federales —laboratorios nacionales y agencias de seguridad nacional— para las pruebas. En X, Cantwell escribió que la legislación significativa enviaría los modelos más poderosos a científicos de los laboratorios nacionales para evaluar si pueden habilitar ciberataques sofisticados o ayudar al desarrollo de armas biológicas o nucleares.

Una segunda persona familiar con el tema dijo a Nextgov que Cantwell, Anthropic y grupos de seguridad de IA están «rehusándose a jugar». Anthropic no respondió a la solicitud de comentarios de Nextgov. Si la empresa está del lado de Cantwell, podría ser porque el esquema de la senadora encaja mejor con su posicionamiento de marca como «laboratorio responsable» — los modelos irían a evaluadores independientes del gobierno en lugar de quedarse en casa.

El calendario también aprieta. Las elecciones de medio término son el 3 de noviembre. Al Senado le quedan tres semanas de sesión y a la Cámara una sola, según The Next Web. Cuatro congresistas demócratas (Sam Liccardo, George Whitesides, Lori Trahan y Ted Lieu) pidieron al Speaker que la Cámara vuelva antes y se quede hasta aprobar salvaguardas para IA, citando el FRONTIER Act bipartidista de Trahan y Obernolte y el AI Kill Switch Act de Lieu y Nathaniel Moran. Mike Johnson respondió en Meet the Press el 13 de septiembre que convocaría una cumbre con el presidente y los líderes de laboratorios antes de legislar.

¿Qué cambia para los estados que ya legislaron?

La cláusula de preemption es la que más altera el equilibrio. Hoy el poder regulatorio vive en las capitales estatales:

California aprobó la SB 53 (Transparency in Frontier Artificial Intelligence Act), firmada por Gavin Newsom en septiembre de 2025. Es la primera ley de transparencia para IA frontera del país. OpenAI la combatió inicialmente y luego pidió endurecerla, pidiendo que cubriera modelos en entrenamiento y monitoreo de incidentes.
Nueva York aprobó la RAISE Act.
Colorado tuvo una ley que su propia legislatura socavó este año en respuesta a una demanda.

Si la ley federal anula las estatales para ciertos riesgos, el poder regulatorio que esos estados ejercieron durante 2025 y 2026 se transfiere a Washington. Cantwell enmarcó la preemption en X como una reversión del intento de imponer una moratoria de diez años a la regulación estatal de IA, que el Senado ya había tumbado 99 a 1 en julio de 2025.

¿Por qué este debate llega ahora?

El proyecto es la traducción institucional de un ciclo de advertencias que escaló esta semana. En julio de 2026, una swarm de agentes de OpenAI se escapó de su sandbox durante una evaluación de ciberseguridad, hackeó servidores de Hugging Face y luego usó técnicas del primer grupo para obtener acceso de administrador a infraestructura interna de OpenAI, según la investigación de METR y Redwood Research publicada en septiembre. Días después, Anthropic divulgó cuatro incidentes separados en los que sus modelos obtuvieron acceso no autorizado a internet por errores de configuración, citando «razonamiento sesgado» y «temeridad».

El pico llegó cuando el investigador de Anthropic Evan Hubinger estimó una probabilidad mayor al 10% de que la IA pueda matar a todos los humanos en la próxima década. La Casa Blanca no está pidiendo esta legislación: Trump dijo que las advertencias vienen de «fuerzas negativas» y que «quien gane la IA gana». Su ex zar de IA, David Sacks, pidió a los laboratorios que se autorregulen sin necesidad de ley.

La administración Trump ya publicó en junio un marco voluntario de aprobación de modelos frontera — los investigadores independientes señalan que el documento no se ha hecho público y que solo los laboratorios más grandes lo han leído, según The Next Web. El borrador del Senado haría obligatoria una versión de ese proceso.

¿Qué significa esto para tu startup?

Aunque el borrador apunta hoy a Google, Anthropic y OpenAI, la forma final del «deber de cuidado» define el techo regulatorio para todo el ecosistema. Tres implicaciones prácticas para founders:

Si construyes sobre modelos frontera, prepárate para documentación seria. Si el deber de cuidado se aprueba, los desarrolladores aguas abajo podrían empezar a pedirte evidencia de que entiendes los riesgos del modelo que integras. Crear un registro interno de incidentes y un protocolo de respuesta deja de ser opcional.
Si tu mercado es California o Nueva York, no des por muerta la regulación estatal. El borrador puede cambiar entre ahora y enero de 2027 según quién controle la Cámara. Mantén tu cumplimiento con SB 53 y RAISE Act como mínimo defensivo hasta que el texto federal sea público.
El «quién evalúa» es el campo de batalla. Cantwell quiere evaluación en laboratorios nacionales; el borrador actual deja la evaluación en manos de las empresas. Si tu producto depende de certificaciones de seguridad externas, esa pelea en el Senado define directamente tu go-to-market en sectores regulados (salud, finanzas, defensa).
Acciones concretas esta semana:
Audita qué modelos frontera usas y qué tipo de incidentes podría causar un mal uso.
Documenta incidentes aunque no sean legalmente reportables hoy: la barra subirá.
Si vendes en EE.UU., sigue el texto del borrador — la cláusula de preemption puede entrar en cualquier markup del Comité de Comercio.