AI Congress 2026: la IA agéntica exige control humano

Un congreso con 2.200 inscritos y una advertencia incómoda

La duodécima edición del AI Congress, impulsada por el CIDAI y organizada por el centro tecnológico Eurecat, reunió esta semana en Barcelona a más de 2.200 inscritos y a medio centenar de ponentes. El mensaje central fue incómodo para quien ya tiene agentes corriendo en producción: la automatización creció mucho más rápido que la capacidad de gobernarla.

El congreso subrayó la importancia de alinear las capacidades de automatización de la IA agéntica con criterios humanos, para responder a retos de seguridad y gobernanza desde el punto de vista empresarial, social y medioambiental. No es un debate filosófico: es una decisión de arquitectura que tu equipo tendrá que tomar este año.

¿Por qué la IA agéntica multiplica los errores?

La frase que mejor resume el tono del evento la dio Ariadna Font, cofundadora y CEO de Alinia AI: "la IA agéntica multiplica no solo la productividad, sino también el volumen y la velocidad de los errores. Una persona se equivoca una vez, pero un agente repite el error mil veces antes de que nadie se haya dado cuenta".

La consecuencia práctica, según Font, es que lo urgente no es sumar más agentes sino invertir en marcos y sistemas robustos de control y gobernanza. Su lectura del mercado es directa: "no ganará quien tenga más IA, sino quien mantenga el control con criterio humano".

Joan Mas, director del congreso y director científico del Área Digital de Eurecat, puso el foco en la velocidad del cambio: la IA agéntica "ha eclosionado este último año" y abre oportunidades reales de automatización, pero deja abiertos los interrogantes sobre los riesgos y las protecciones que hay que incorporar para que los agentes no se desalineen del criterio humano en sus decisiones.

¿Qué es la IA soberana y por qué gana terreno en Europa?

La segunda idea fuerza del congreso apunta a dónde se ejecutan los modelos. La próxima evolución, según el evento, se centrará en personalizar modelos que funcionen de manera independiente y local sobre infraestructuras de las propias empresas y organizaciones. El objetivo declarado: mantener el control sobre los datos, garantizar la privacidad, reducir la dependencia de proveedores externos y ser más eficientes, como alternativa competitiva a los servicios en la nube de los grandes modelos de frontera.

Jezabel R. Garcia, directora científica de IA de Multiverse Computing, lo formuló así: "la próxima revolución de la IA no es un modelo más grande, sino un modelo que funciona allá donde aporta valor, en un dispositivo, en una empresa, dentro de un hospital o en una administración pública". Según explicó, la compresión permite mantener la capacidad de un modelo mientras reduce su tamaño y su consumo energético en más de un 50%, lo que habilita una IA soberana, eficiente y sostenible en Europa.

En la bienvenida institucional, el presidente de Eurecat, Daniel Altimiras, sostuvo que el reto "ya no es solo entender qué puede hacer la IA, sino incorporarla de manera efectiva, segura y responsable a nuestras organizaciones y convertirla en competitividad, productividad y nuevas oportunidades de crecimiento". El secretario de Telecomunicaciones y Transformación Digital de la Generalitat de Catalunya, Albert Tort, añadió la capa de propósito: una IA orientada a resolver problemas reales, generar valor público y reforzar la competitividad de las empresas.

¿Qué dicen los datos sobre la gobernanza de agentes?

El diagnóstico que más debería preocupar a un founder viene de fuera del congreso. Un estudio de Enterprise Management Associates para Protegrity, presentado como parte de un webinar sobre fricción en la adopción de IA y difundido por TMCnet, encuestó a 152 líderes de TI y seguridad y encontró que el 82% vivió retrasos en el despliegue de IA por revisiones de seguridad o cumplimiento, y que dos tercios de esos retrasos duran un mes o más.

El dato revelador es qué hacen las organizaciones mientras esperan: el 81% ya desplegó agentes con herramientas deshabilitadas o autonomía restringida para acelerar la salida a producción, y el 69% opera agentes que escriben en bases de datos y disparan APIs externas. Es decir, se recorta la capacidad del agente para pasar el filtro de seguridad, en lugar de rediseñar el filtro. El mismo estudio señala que el 88% de los encuestados planea aumentar su presupuesto de IA agéntica al menos un 10% el próximo año.

Un segundo informe, el de Optro sobre la empresa agéntica de 2026 —recogido por Yahoo Finance y basado en una encuesta a más de 400 responsables de gobernanza, riesgo, cumplimiento y auditoría—, cuantifica el costo del desfase: el 34% de las organizaciones ya actuó sobre una decisión o un resultado inexacto de un agente; el 38% autoriza a agentes a aprobar o rechazar transacciones; el 34% les permite modificar controles o políticas y el 27% cambiar permisos de usuarios. Además, el 46% reporta que sus empleados dedican más tiempo a revisar y corregir salidas de IA.

¿Qué exige ya el AI Act y la normativa de protección de datos?

Meritxell Borràs, directora de la Autoridad Catalana de Protección de Datos (APDCAT), abordó el ángulo regulatorio con precisión técnica: los agentes consultan, modifican e intercambian datos personales, de modo que los riesgos para los derechos de las personas se amplifican y, con ellos, las responsabilidades de las organizaciones. Su receta pasa por aplicar protección de datos desde el diseño y por defecto, garantizar una supervisión humana efectiva y recordar que ya existe el derecho a no ser objeto de decisiones individuales automatizadas.

Según recogió Law&Trends, Borràs también pidió una estrategia coordinada en responsabilidad, gobernanza y transparencia, y defendió que los equipos de diseño y desarrollo de sistemas de IA cuenten con un experto en protección de datos y derechos fundamentales. Mencionó además el modelo FRIA catalán, impulsado por la APDCAT, como pionero en Europa. El congreso dedicó además sesiones a ejemplos de sistemas multiagente por sectores y al cumplimiento del Reglamento de Inteligencia Artificial (AI Act).

En la vereda del propósito, la experta internacional en transformación digital Pooja Munshi introdujo el concepto de IA intencional: aquella alineada con objetivos concretos y con las necesidades de las personas, las organizaciones y el medioambiente. Su trabajo reciente como responsable del Programa de las Naciones Unidas para el Medio Ambiente la llevó a una recomendación simple y difícil de ejecutar: formular mejores preguntas y escuchar a las personas, las evidencias y el entorno que la tecnología afecta.

¿Qué significa esto para tu startup?

Si tu producto o tus operaciones dependen de agentes que ejecutan acciones, este congreso marca el cambio de fase. La experimentación ya no es el cuello de botella; la gobernanza lo es. Y las decisiones concretas son tuyas:

• Haz un inventario de permisos reales, no de intenciones. Lista cada agente que tienes activo y qué puede hacer sin humano en el medio: leer, escribir en bases de datos, disparar APIs, aprobar transacciones, cambiar permisos. El informe de Optro muestra que un tercio de las organizaciones ya autoriza decisiones de alto impacto a agentes y solo el 9% rediseñó sus flujos de trabajo para absorberlas con seguridad.
• Pon límites por diseño antes de escalar. El estudio de EMA revela que la restricción de autonomía se usa hoy como atajo para acelerar el despliegue, no como política. Define desde el principio qué acciones requieren aprobación humana, con registro y trazabilidad de cada decisión, y quién es el dueño de esa política dentro de la empresa.
• Nombra un responsable con criterio humano. La propuesta de Font es organizativa, no técnica: alguien debe poder detener un agente y explicar por qué. Si vendes a la Unión Europea o procesas datos personales, ese rol además tiene respaldo normativo, porque la supervisión humana efectiva y el derecho a revisión de decisiones automatizadas ya forman parte del marco aplicable.
• Evalúa modelos locales o comprimidos para los casos sensibles. Cuando los datos no pueden salir de tu infraestructura, la combinación de modelos más pequeños y compresión —que según Garcia reduce tamaño y consumo energético en más de un 50%— deja de ser un experimento académico y pasa a ser una alternativa de costo y de cumplimiento.

La conclusión del congreso es incómoda pero accionable: la ventaja competitiva en IA agéntica no vendrá de tener más agentes, sino de tener agentes cuyo comportamiento puedas explicar, limitar y revertir. Esa capacidad se construye antes del incidente, no después.

Fuentes

• Marketing Insider Review: AI Congress 2026 pide alinear la IA agéntica con criterios humanos
• Casa Domo: la automatización de la IA agéntica exige control humano
• Law&Trends: Meritxell Borràs reclama una estrategia coordinada ante los riesgos de la IA agéntica
• Europa Press: el AI Congress 2026 se centrará en la supervisión humana de la IA y la seguridad
• Yahoo Finance: uno de cada tres organizaciones actuó sobre decisiones erróneas de agentes de IA, según Optro
• TMCnet: EMA analiza la fricción entre adopción de IA y seguridad empresarial