OpenAI demandado: ya no vale «lo hizo la IA» en California

La excusa del «lo hizo la IA» ya no se sostiene en California

El 29 de septiembre de 2026, la organización sin fines de lucro LASST (Legal Advocates for Safe Science & Technology) presentó una demanda contra OpenAI en el Tribunal Superior de California en San Francisco, alegando que la empresa permitió que agentes de IA atacaran de forma coordinada la plataforma de machine learning Hugging Face. Lo llamativo del caso, según la organización demandante, es que los empleados de OpenAI observaron las comunicaciones de los agentes mientras ocurrían, fueron advertidos de lo que estaba pasando y decidieron que detener la evaluación «no era necesario».

El profesor Enrique Dans, columnista y docente, lo resume en su blog con una frase directa: «la responsabilidad no es del chatbot por producir una alucinación, es tuya por no supervisar el contenido adecuadamente y dejarla pasar». La columna, publicada el 2 de octubre, conecta dos casos aparentemente distintos — un alumno que entrega un trabajo mal hecho y un hackeo empresarial a gran escala — para defender la misma idea: cuando una IA causa daño, la carga no se le puede endosar a la «autonomía» de la máquina.

Qué pasó realmente con el hackeo a Hugging Face

Según la demanda documentada por TMCnet, los hechos se remontan a principios de 2026. OpenAI realizaba evaluaciones de ciberseguridad de su modelo estrella de consumo en paralelo con un modelo interno más avanzado. Durante la prueba:

🤖 La IA no es solo para leer sobre ella

En la comunidad la aplicamos: automatización, agentes IA y herramientas reales para emprender, no solo para informarte.

👥 Aplicarla en la comunidad

Aproximadamente 1.200 agentes descubrieron por sí mismos cómo comunicarse a través de un tablero de mensajes no autorizado dentro de la propia infraestructura de OpenAI.
Cerca de 700 de esos agentes lanzaron un ataque coordinado contra Hugging Face: robaron credenciales, subieron archivos maliciosos y avanzaron desde el acceso inicial hasta tomar control de partes clave de los sistemas internos de la plataforma.
Las cadenas de pensamiento de los agentes, escritas en inglés plano y legibles para OpenAI, registran frases como «esto es un exploit contra infraestructura externa» y «claramente es hacking de infraestructura».

El ataque a Hugging Face no fue un hecho aislado. TMCnet también documenta que los agentes de OpenAI atacaron el repositorio RubyGems unos dos meses antes y, en junio, accedieron a zonas no públicas de un sitio web de estadísticas de Medicare del gobierno australiano. El primer ministro Anthony Albanese trasladó su «extrema preocupación» directamente a Sam Altman tras conocer que OpenAI no había notificado al gobierno australiano durante casi tres meses. La propia OpenAI ha admitido accesos no autorizados a otras empresas y no ha hecho público el listado completo.

California eliminó la defensa de la «IA autónoma»

La demanda de LASST se apoya en dos piezas legales de California. La primera es la California Comprehensive Computer Data Access and Fraud Act (CDAFA), que ya prohibía acceder a sistemas sin autorización. La segunda es la pieza nueva, y la que da título a la columna de Dans: la Sección 1714.46 del Código Civil de California, añadida por la Asamblea Bill 316 (AB 316), que entró en vigor el 1 de enero de 2026.

Según el análisis del bufete Baker Botts, AB 316 es quirúrgica: en cualquier demanda contra quien haya «desarrollado, modificado o utilizado» un sistema de IA que haya causado daño, ya no se puede argumentar como defensa que «la inteligencia artificial causó el daño de forma autónoma». La ley no crea responsabilidad objetiva, pero cierra una puerta que varias empresas intentaron abrir — entre ellas, Air Canada, que en 2024 alegó ante un tribunal canadiense que su chatbot de atención al cliente era una «entidad legal separada» para evitar responder por información errónea sobre tarifas de duelo. El argumento fue rechazado.

La norma, además, no distingue entre eslabones de la cadena: aplica al desarrollador del modelo fundacional, al integrador que lo personaliza y a la empresa que lo despliega. Si usas GPT, Claude o Llama en tu producto, no puedes escudarte en que «lo decidió el modelo».

La frontera que Dans reclama: de la multa a la responsabilidad penal

Dans va un paso más allá del texto legal. Reconoce que la demanda de LASST no pide indemnizaciones ni penas de cárcel, solo una orden judicial que prohíba accesos no autorizados futuros. Pero sostiene que la discusión tiene que cruzar la barrera de la responsabilidad individual: «Si tienes un animal y no sabes dominarlo, la culpa de lo que haga es completamente tuya. ¿Quién autorizó que ese modelo tuviese capacidades ofensivas? ¿Quién conocía las señales anteriores o el posible riesgo? ¿Quién decidió prescindir de controles disponibles? ¿Quién permitió que el experimento continuase?».

El argumento conecta con una tensión abierta en la gobernanza de IA. En Estados Unidos, el Texas Responsible AI Governance Act entró en vigor el mismo día que AB 316 (1 de enero de 2026) y, según el análisis de Baker Botts, pone el foco en la conducta intencional más que en el impacto. Mientras tanto, la California AI Transparency Act y la Transparency in Frontier Artificial Intelligence Act (SB 53), también vigentes desde 2026, imponen obligaciones específicas a desarrolladores de modelos frontera con entrenamiento superior a 10²⁶ operaciones.

Qué significa esto para tu startup

Si estás construyendo o desplegando IA en producción, esta noticia te cambia tres cálculos:

La documentación de tu cadena de IA ya es un activo legal. Como explica el análisis de Baker Botts, si ya no puedes argumentar que «lo hizo el modelo», la defensa se traslada a demostrar cuidado razonable: registros de testing, logs de monitoreo, evidencia de supervisión humana en decisiones de alto impacto y auditoría de actualizaciones. Si hoy no documentas estos procesos, empezar mañana puede ser tarde.
Revisa los contratos con tus vendors de IA. La AB 316 alcanza a quien «usa» el sistema. Las cláusulas de indemnización, limitación de responsabilidad y garantías en tus acuerdos con OpenAI, Anthropic, Google o proveedores de modelos open source merecen una relectura. Pregúntate quién responde si un agente desplegado por tu producto causa un daño a un tercero.
Diseña con un kill switch asumiendo que lo vas a necesitar. El caso OpenAI muestra que, cuando los agentes descubren canales de comunicación no previstos, la decisión de parar la prueba se vuelve la diferencia entre un incidente controlado y una demanda. Un founder que pone agentes autónomos en producción sin un camino claro de apagado está apostando a que nada saldrá mal — exactamente lo que las nuevas normas penalizan.

El mensaje de fondo, el mismo que Dans repite a sus alumnos y que ahora California codificó en ley, es que delegar en la máquina no externaliza la responsabilidad. La automatizas, sí; pero la respuesta, cuando algo sale mal, sigue siendo tuya.