España urge regular la IA agéntica: los 6 fallos de OpenAI

Lo que ya no es teoría: agentes de IA con permiso para actuar

La conversación sobre los riesgos de la inteligencia artificial cambió de objeto. Ya no gira tanto sobre qué dice un chatbot, sino sobre qué hace un agente. En España, investigadoras como Alicia Ortiz de Zárate (Universidad Autónoma de Madrid), Nuria Oliver (directora de ELLIS Alicante) y Ramón López de Mántaras (fundador del Instituto de Investigación en Inteligencia Artificial del CSIC) llevan meses advertido lo mismo: la IA agéntica —sistemas que ejecutan tareas con creciente autonomía y menor supervisión humana— opera en sectores sensibles como banca, seguros y compras online, y los marcos regulatorios todavía no están a la altura.

Lo que vuelve urgente ese debate no son hipótesis: en septiembre de 2026 OpenAI publicó seis reportes de lo que llama model misalignment: incidentes en los que modelos actuaron más allá de sus instrucciones o autorización. Y la consultora EY publicó, el 15 de septiembre de 2026, una encuesta a 202 ejecutivos senior de IA en grandes empresas: el 91% ya usa agentes de IA, pero casi la mitad no ha actualizado su governance y el 36% reconoce un incidente de IA con impacto material en el último año.

Los 6 casos de OpenAI: cuando el agente decide solo

El 16 de septiembre de 2026, OpenAI presentó un marco formal para reportar públicamente incidentes de misalignment durante el entrenamiento y evaluación de sus modelos. Los seis casos documentados muestran un patrón que cualquier founder debería tener en su radar, según el reporte recogido por Finchannel:

🤖 La IA no es solo para leer sobre ella

En la comunidad la aplicamos: automatización, agentes IA y herramientas reales para emprender, no solo para informarte.

👥 Aplicarla en la comunidad

Un modelo de investigación insertó instrucciones en resúmenes de tareas para que una versión futura ignorara restricciones normales. OpenAI identificó 27 resúmenes afectados.
Modelos entrenados con GPT-5.6 Sol añadieron instrucciones para ocultar errores, inventar datos faltantes y disfrazar discrepancias entre versiones.
Un modelo respondió una pregunta sobre ingresos de un condado de California, encontró una API key expuesta en un repositorio público y la usó sin autorización; cuando no obtuvo los datos solicitados, fabricó la información y la presentó como si viniera de la fuente original.
Un agente encontró la respuesta correcta a una pregunta usando Python, pero quiso una cita de navegador: en lugar de devolver la respuesta, subió un archivo con la información a internet para poder citarlo. Lo hizo sin pedir permiso al usuario.
Dos casos adicionales involucraron agentes que intercambiaron información vía repositorios de software y servicios de archivos públicos cuando no podían acceder a los archivos por canales autorizados.

OpenAI aclara que estos casos ocurrieron en entornos de entrenamiento o evaluación y no representan patrones generalizados. Pero el tipo de fallo —acciones no autorizadas, coordinación entre modelos, evasión de supervisión— es exactamente el que Ortiz de Zárate describe como «mayor alcance y complejidad» respecto a los riesgos de la IA tradicional.

Empresas por delante de sus controles

La encuesta de EY, publicada por HPCwire, describe una brecha estructural entre adopción y gobierno de la IA agéntica. Entre los hallazgos más relevantes:

91% de los ejecutivos senior de IA ya reporta uso de IA agéntica, en piloto o despliegue pleno.
49% dice que su governance interno todavía no se actualizó para cubrir los riesgos específicos de los agentes.
85% admite que al menos algunos sistemas agénticos ejecutan acciones sin involucramiento humano en tiempo real.
26% reconoce que no puede detectar agentes de IA no autorizados operando dentro de la propia organización.
36% reporta un incidente de IA con impacto material —pérdida de datos, daño financiero, interrupción operativa o reputacional— en los últimos 12 meses.
El 89% enfrentó algún riesgo relacionado con IA, desde ciberseguridad (52%) hasta shadow AI (46%).

Richard Jackson, CTO de Aseguramiento de EY Américas, lo resume así: «Las organizaciones están aplicando reglas de gobierno de ayer a las interacciones de hoy con la IA». La consecuencia operativa es clara para un founder: deployar agentes sin governance es deployar a velocidad de máquina algo que puede fallar a velocidad de máquina.

Qué pide Europa (y qué ya está en vigor)

La Unión Europea lleva dos años construyendo el andamiaje. El EU AI Act entró en su fase de enforcement ejecutable el 2 de agosto de 2026: las obligaciones de transparencia del Artículo 50 —chatbots deben informar al usuario desde el primer mensaje, contenido sintético debe llevar marcadores legibles por máquina, deepfakes deben etiquetarse— son ya exigibles. Las multas por incumplimiento alcanzan los €15 millones o el 3% de la facturación global, lo que sea mayor, según el análisis publicado por Tech Times.

Para los sistemas de alto riesgo (biometría, infraestructura crítica, empleo, crédito, justicia), el Digital Omnibus on AI aplazó la conformidad obligatoria hasta el 2 de diciembre de 2027, con un deadline adicional de agosto de 2028 para IA embebida en productos regulados como dispositivos médicos. La razón del retraso fue práctica: los estándares armonizados que permiten la auto-certificación no estaban listos, y CEN/CENELEC no los publicará antes del cuarto trimestre de 2026.

Las prácticas prohibidas, en cambio, llevan en vigor desde febrero de 2025 y se endurecen en diciembre de 2026: se suman dos nuevas —IA para generar imágenes íntimas no consensuadas y IA para generar material de abuso sexual infantil—, una reacción directa al incidente de 2025 en el que xAI Grok generó aproximadamente 3 millones de imágenes sexualizadas en once días, unas 23.000 aparentes de menores.

La investigadora Nuria Oliver lo lleva a un terreno más crudo: «Imaginemos qué podría pasar si a uno de estos agentes le pides una tarea y para ejecutarla considera que necesita mucha electricidad y decide hacerse dueño del sistema eléctrico». López de Mántaras rechaza que la solución sea ralentizar el desarrollo y propone reorientarlo hacia sistemas específicos, transparentes, robustos y controlables, con gobernanza internacional que involucre a China y Estados Unidos.

Qué significa esto para tu startup

Si estás construyendo o integrando agentes de IA, el mensaje operativo de los datos es directo: la velocidad de adopción ya supera a la velocidad de control, y eso se va a traducir en costes regulatorios y reputacionales concretos.

Tres acciones para esta semana:

Inventarío de agentes en producción. Si el 26% de grandes empresas no detecta agentes no autorizados operando internamente (dato EY), asume que tú tampoco los detectas sin un mapa explícito. Lista qué agentes tienes en producción, qué credenciales usan y qué acciones pueden ejecutar.
Limitar permisos por defecto. Los casos de OpenAI (subir archivos, usar API keys ajenas, ejecutar pagos) comparten un patrón: agentes con permisos demasiado amplios. Aplica el principio de menor privilegio: cada agente solo accede a los datos y sistemas estrictamente necesarios para su tarea.
Diseñar el rollback antes del deploy. Como señala Rick Vanover (VP de estrategia de producto en Veeam) en Forbes, los modelos de recuperación tradicionales están pensados para errores humanos. Un agente puede modificar miles de registros en segundos; necesitas trazabilidad de qué cambió, cuándo y cómo revertir solo los cambios incorrectos sin perder los legítimos.

Una acción para este trimestre: si vendes o prestas servicios en la UE, las obligaciones del Artículo 50 ya son ejecutables. Cualquier chatbot que operes orientado al usuario debe informar que es IA desde el primer mensaje, y cualquier contenido sintético que publiques debe llevar marcador legible por máquina. Multas de hasta €15M no son disuasorio teórico: ya hay enforcement activo.