IA agéntica: AI Congress pide control humano y gobernanza

Qué pasó en el AI Congress: 2.200 inscritos y una advertencia

2.200 personas se inscribieron a la duodécima edición del AI Congress, celebrada del 20 al 22 de octubre de 2026 en Barcelona y organizada por Eurecat en el marco del CIDAI. El evento reunió a más de medio centenar de ponentes con un mensaje incómodo para quien está desplegando agentes: ampliar la autonomía de un sistema de IA exige más gobernanza, no menos.

Para un founder con agentes ya en producción, la advertencia llega en un momento delicado. La capacidad de los modelos dejó de ser el cuello de botella; lo que falta es la infraestructura organizativa para que esos agentes hagan lo que se espera de ellos sin desalinearse del criterio humano.

Joan Mas, director del congreso y director científico del Área Digital de Eurecat, lo resumió así: la IA agéntica «ha eclosionado este último año» y abre oportunidades de automatización importantes, pero también plantea «interrogantes respecto a los riesgos y las protecciones que tenemos que incluir en estos agentes, para que no se desalineen del criterio humano en sus decisiones».

Leíste lo que hace la IA. ¿Y en tu negocio?

Un agente de IA puede quedarse con parte de tu día: ordenar lo pendiente y pedirte el OK antes de actuar. El Kit «tu mano derecha con IA» trae un video de 11 minutos y una ficha para dejar al tuyo trabajando. CAR está cerrada por ahora; al anotarte, te avisamos cuando abra.

👥 Quiero el Kit →

El riesgo operativo: un agente repite el error mil veces

La frase que mejor captura el problema la puso Ariadna Font, cofundadora y CEO de Alinia AI: «la IA agéntica multiplica no solo la productividad, sino también el volumen y la velocidad de los errores. Una persona se equivoca una vez, pero un agente repite el error mil veces antes de que nadie se haya dado cuenta».

El matiz importa porque cambia la naturaleza del riesgo. En un proceso manual, un fallo humano es un evento puntual y alguien lo nota. En un proceso agéntico, un fallo de criterio se convierte en patrón: el agente lo replica a velocidad de máquina hasta que alguien lo detecta, y para entonces ya puede haber enviado correos, ejecutado pagos o abierto accesos.

Ese patrón ya se puede medir. El informe 2026 State of Developer Identity Risk de BlueFlag Security encontró que el 83% de las organizaciones tiene agentes de código que nadie aprobó formalmente, que el 56% opera con agentes autónomos funcionando con identidad propia y que en más de 1 de cada 5 organizaciones un agente autónomo ya fusionó código sin ninguna persona en el bucle de revisión, según recoge el comunicado de la compañía difundido por Business Wire.

La gobernanza se juega en tres momentos, no en un documento

Un error frecuente es tratar la gobernanza de IA como un manual que se escribe una vez y se archiva. La gobernanza efectiva se ejecuta en tres capas distintas, cada una con su propio tipo de riesgo:

Construcción: si el agente se creó con su propósito y sus acciones permitidas explícitamente definidos.
Despliegue: si está configurado para su rol con los permisos correctos y sin excesos.
Ejecución: si se comporta de forma segura y si una persona puede intervenir cuando hace falta.

El Forbes Technology Council describió este esquema en un análisis sobre lo que llama la «paradoja agéntica»: cuanto más autónoma es la IA, más peso ganan la supervisión humana y la alineación organizativa. Y señala que existen marcos de referencia para ordenar esa discusión, como el AI Risk Management Framework del NIST, que estructura la IA responsable en funciones de gobernar, mapear, medir y gestionar.

El Pulse Report de ISMG para el evento HumanX 2026 en Ámsterdam llega a una conclusión parecida con otra fórmula: la supervisión humana debe ser proporcional al riesgo. Las decisiones irreversibles, subjetivas y de alto impacto requieren criterio humano; las actividades de menor riesgo sí pueden operar de forma autónoma.

¿Por qué el despliegue local vuelve a la mesa?

El congreso vinculó la gobernanza con una decisión que parecía puramente técnica: dónde se ejecutan los modelos. Los participantes presentaron los modelos personalizados que funcionan de forma local en la infraestructura de la organización como una alternativa a los servicios en la nube basados en grandes modelos de frontera, con objetivos de control de datos, privacidad, eficiencia y menor dependencia de proveedores externos.

Conviene leerlo con precisión: se planteó como una opción para atender esas prioridades, no como una realidad ya generalizada en las empresas. La propia Europapress, al anunciar el programa, situó la edición de 2026 en torno a la supervisión humana, la seguridad, la soberanía tecnológica y la sostenibilidad.

La pieza técnica que hace viable esa opción es la compresión de modelos. Jezabel R. Garcia, directora científica de IA de Multiverse Computing, explicó que esa técnica permite mantener la capacidad de un modelo y reducir su tamaño y consumo energético en más de un 50%, lo que acerca la posibilidad de ejecutar IA allí donde aporta valor: dispositivos, empresas, hospitales y administraciones públicas. Es el dato de su exposición sobre compresión, no una medición del conjunto de soluciones del congreso.

Datos personales: la supervisión deja de ser un trámite

Meritxell Borràs, directora de la Autoridad Catalana de Protección de Datos (APDCAT), puso el foco en lo que cambia cuando un agente trabaja con información personal. Ahí la supervisión no es solo un control de calidad del output: las decisiones sobre cómo funciona el agente son también decisiones sobre el tratamiento de datos.

A eso se suma el cumplimiento del Reglamento de Inteligencia Artificial (AI Act), que las sesiones sobre agentes y sistemas multiagente abordaron junto a las recomendaciones de seguridad técnica. La consecuencia práctica para una startup es que la pregunta «¿puede este agente ejecutar esta tarea?» ya no se responde sola: hay que responderla junto con «¿qué protección la acompaña?» y «¿qué obligación normativa aplica?».

¿Qué significa esto para tu startup?

El congreso no trajo una receta, pero sí un criterio que puedes aplicar esta semana. La experta en transformación digital Pooja Munshi lo formuló como IA intencional: sistemas alineados con objetivos definidos y con las necesidades de las personas y las organizaciones. Antes de ampliar la autonomía de un agente, define qué proceso automatizas, qué criterios humanos debe respetar, qué protecciones actúan durante la ejecución y bajo qué condiciones usa los datos.

Acciones concretas que se desprenden del debate:

Haz inventario de agentes, incluidos los no aprobados. Si el 83% de las organizaciones tiene agentes que nadie autorizó formalmente, lo más probable es que tú también. Empieza por saber qué corre, con qué identidad y con qué permisos.
Escribe órdenes de trabajo acotadas, no prompts abiertos. Un agente al que le pides «genera una lista de pagos atrasados y avisa a los proveedores» toma decisiones sobre qué datos extraer y si la información puede salir de la empresa. Delimita el alcance y los datos permitidos antes de darle la mano.
Escalona la aprobación humana por riesgo. Reserva la revisión obligatoria para acciones irreversibles, con datos personales o de alto impacto económico. Automatizar el resto.
No confundas tiempo recuperado con ahorro. Desde MIT Sloan advierten que recuperar un 20% del tiempo de una persona no equivale a un 20% de ahorro en coste laboral. Define métricas de negocio antes de escalar.
Prepárate para que la implementación sea el trabajo pesado. La investigación de Katherine Kellogg y coautores en MIT Sloan encontró que el 80% del esfuerzo de un despliegue de IA se fue en tareas poco glamorosas: ingeniería de datos, alineación de stakeholders, gobernanza e integración de flujos de trabajo. Presupuesta ese tiempo.

Un dato de contexto que ayuda a calibrar la madurez del mercado: una encuesta de primavera de 2025 de MIT Sloan Management Review y Boston Consulting Group halló que el 35% de los encuestados ya había adoptado agentes de IA y otro 44% planeaba desplegarlos en breve. La adopción va más rápido que la gobernanza.

Conclusión

El AI Congress deja una idea que vale para cualquier startup que esté automatizando con agentes: la autonomía no es un interruptor de encendido, es un permiso que se gana capa por capa. La velocidad de ejecución de un agente solo es una ventaja si puedes explicar qué hizo, por qué lo hizo y quién responde cuando se equivoca.

La pregunta que deberías llevarte no es cuántos agentes puedes poner a trabajar, sino cuántos puedes supervisar de verdad. Ese número, hoy, es tu techo real de automatización.