IA agéntica sin revisión humana: quién responde si falla

De chatbot a agente: por qué cambió la pregunta

Un chatbot responde; un agente actúa. Esa es la línea que Elisenda Bou-Balust, fundadora de Cala, trazó en una reciente conversación con el ecosistema fundador español: «Le das un objetivo y él mismo descompone la tarea en pasos, usa herramientas, evalúa los resultados y los corrige hasta completar la tarea». La diferencia parece técnica, pero redefine el riesgo: ya no se trata de una respuesta incorrecta, sino de una acción incorrecta con consecuencias operativas — un cambio en un sistema, una transferencia ejecutada, una configuración desplegada en producción.

Este desplazamiento es el que ha puesto en el centro del debate una cuestión que las grandes tecnológicas no han resuelto: cuántas decisiones puede tomar un agente sin revisión humana y quién responde cuando falla. En España, dos startups — Cala y Multiverse Computing — están construyendo piezas opuestas pero complementarias de esa nueva infraestructura: una la capa de datos verificados que alimenta a los agentes, la otra la eficiencia que los hace desplegables sin hyperscaler.

Lo que ya está pasando en las empresas

El debate ya no es teórico. Según la encuesta Enterprise Readiness for Agentic Engineering & Autonomous Cloud Operations publicada el 17 de agosto de 2026 por Caylent sobre 200 líderes empresariales en Estados Unidos y Canadá, el 59,5 % de las organizaciones ya ejecuta agentes de IA de forma autónoma en producción, y un 23,5 % los tiene desplegados de forma amplia en flujos de ingeniería y operaciones. Los casos de uso principales son testing automatizado (67,5 %), respuesta a incidentes (60,5 %) y escritura y commit de código autónomo (43 %).

🤖 La IA no es solo para leer sobre ella

En la comunidad la aplicamos: automatización, agentes IA y herramientas reales para emprender, no solo para informarte.

👥 Aplicarla en la comunidad

El dato más revelador del estudio es el de los límites que las propias empresas se imponen: el 98 % de los líderes permitiría a un agente ejecutar cambios en producción bajo condiciones específicas, y solo un 2 % rechaza cualquier nivel de autonomía sin safeguards. El 83 % sitúa los guardrails al mismo nivel o por encima de la inteligencia del modelo como palanca para acelerar la adopción. En otras palabras, las empresas no esperan modelos más listos: esperan sistemas de control mejores.

¿Quién responde cuando el agente falla?

Esa pregunta todavía no tiene respuesta uniforme. El informe «When AI leaves the chat and enters the workflow» publicado por Optro el 5 de agosto de 2026, tras cuatro encuestas a 1.928 profesionales de auditoría, riesgo y cumplimiento en Norteamérica, Reino Unido, Alemania y EAU, dibuja un desfase preocupante: el 85 % de las organizaciones ha integrado IA en operaciones核心, pero solo una cuarta parte tiene visibilidad real de cómo la usan sus empleados.

Las cifras de incidentes en los últimos 12 meses son las que más llaman la atención: el 40 % de las organizaciones reportó salidas inexactas de IA, el 27 % sufrió filtraciones de datos y el 26 % enfrentó acciones regulatorias vinculadas al uso de IA. Casi dos tercios (65 %) registraron un incidente relacionado con agentes de IA en ese período. Y pese a que el 58 % de los líderes cree que sus controles de gobernanza mantienen el ritmo de la adopción, solo el 18 % tiene mitigaciones de riesgo activas desplegadas.

La conclusión de Guru Sethupathy, GM de AI Governance en Optro, es directa: «Los modelos de gobernanza diseñados para procesos manuales estáticos no pueden seguir el ritmo de los sistemas autónomos de acción». La cita de Mark Taylor, Director de Information Security Risk Management en Newell Brands, condensa el problema en una frase operativa: «‘La IA decidió’ no es defendible. Los reguladores siempre han esperado una persona identificable detrás de cada decisión que afecte a un cliente, un mercado o un registro».

En el frente regulatorio, el senador estadounidense Mark Warner presentó en 2026 el borrador del AI AGENT Act, que obligaría a los proveedores de «agentes custodios» a registrarse ante la FTC antes de acceder a interfaces de grandes plataformas. Aunque la norma apunta a consumo, analistas de Forrester y Kadence International coinciden en que se convertirá rápidamente en una referencia de procurement empresarial: una lista de proveedores vetados como mínimo de entrada en cualquier proceso de compra.

La tesis española: soberanía y eficiencia como capa de defensa

Las dos protagonistas de la conversación española no compiten contra OpenAI, Anthropic o Google en el entrenamiento de modelos generalistas. Compiten río abajo, donde se decide si un agente es confiable, desplegable y soberano.

Cala, con sede en Barcelona, fue cofundada a principios de 2025 por Elisenda Bou-Balust (ex responsable de Conocimiento Multimedia en Apple tras venderle Vilynx por cerca de USD 50 millones en 2020) e Issey Masuda Mora. Cerró una ronda pre-seed de €7 millones liderada por Lightspeed Venture Partners, con Kfund, Kibo Ventures y Masia, más ángeles de ElevenLabs, Palo Alto Networks y X. Su tesis: los agentes actuales hacen búsquedas web no verificadas y obtienen «datos desordenados y carísimos de procesar», así que preprocesa registros mercantiles, filings regulatorios, sanciones y datos de mercado en hechos estructurados para que cualquier agente los consulte directamente. Con 20 personas y oficina entre San Francisco y Boston, su plan para 2026 es crecer en cartera de clientes en EE. UU.

Multiverse Computing, basada en San Sebastián, opera en la otra cara del problema: el coste y la dependencia energética de correr modelos grandes. Anunció el 27 de julio de 2026 una Serie C de hasta USD 570 millones (€500 millones) a una valoración pre-money de USD 1.700 millones (€1.500 millones), un salto de 5x respecto a su Serie B. La ronda está co-liderada por Forgepoint Capital International, BNPP Solar Impulse Venture Fund y Bullhound Capital, con compromisos adicionales de Santander Alternative Investments, Tikehau Capital, HP Inc., Orange Ventures, Scania Invest, NAventures (National Bank of Canada), Qatar Development Bank, Zouk Capital, SETT, EIC Fund y los fondos vascos Hazten y Kutxa Fundazioa. Si cierra al tope, el funding total acumulado alcanzará los USD 800 millones. La Serie B, recordemos, fue de €189 millones en junio de 2025.

Su producto estrella, CompactifAI, aplica redes tensoriales — un marco matemático proveniente de la física cuántica — para comprimir modelos entrenados entre un 80 % y un 95 % manteniendo el rendimiento. En una prueba reciente, según reportó SiliconANGLE, redujo Llama 3.3 70B de Meta de 130 GB a 65 GB en disco, ejecutable en CPU Intel Xeon 6 sin requerir GPU de alta gama. Sus clientes ya incluyen Iberdrola, Bosch, Telefónica, Allianz, Bank of Canada, Indra y PwC.

El error estratégico de envolver un modelo en un chat

Enrique Lizaso, CEO y cofundador de Multiverse Computing, identificó tres trampas mortales para una startup de IA agéntica: confundir interfaz con producto (ponerle marca a un wrapper de un modelo de terceros es una capa que cualquiera replica en semanas), no tener tesis de coste (si el margen depende del precio por token del proveedor, no hay negocio defendible) e ignorar la distribución (gana quien ya tiene la relación con el cliente, no quien tiene el modelo más nuevo).

La consecuencia operativa para un founder es clara: el valor se ha desplazado a quien resuelve el problema real de un vertical, despliega con seguridad, adapta el modelo a un dominio y lo hace correr con la latencia y el coste que exige el caso de uso. Como resumió Bou-Balust: «Quien entiende bien un sector o una necesidad concreta está mucho más cerca de poder construir la solución».

¿Qué significa esto para tu startup?

Diseña con un «circuit breaker» desde el día uno. Si tu agente puede ejecutar acciones con consecuencias operativas — mover dinero, modificar producción, enviar datos a terceros — define umbrales de rollback automático, auditoría inmutable y un humano en el loop para acciones de alto impacto. El 98 % de las empresas acepta autonomía solo bajo condiciones específicas: el safeguard no es opcional, es el producto.
Tu tesis de coste debe sobrevivir a una subida del proveedor. Si tu margen depende del precio por token de OpenAI o Anthropic, no tienes negocio: cualquier ronda de Series B de un competidor que te presione precio te deja sin aire. Construye compresión, caché, routing entre modelos o despliegue on-prem como Multiverse, o capa de datos estructurados como Cala, antes de tu próxima ronda.
La soberanía ya es un requisito de compra, no marketing. Gobiernos, banca y operadores de infraestructura crítica en Europa y Oriente Medio piden explícitamente que modelo, datos e inferencia queden dentro de sus fronteras. Si tu SaaS depende de enviar datos a una API de un proveedor estadounidense, estás descartado por defecto en esos verticales.
No compitas en modelo fundacional; compite en el problema vertical. Como apuntó Bou-Balust, los modelos de OpenAI, Anthropic y Google ya hicieron el trabajo pesado. Tu ventaja está en entender un sector mejor que nadie y construir la capa de confianza, compresión y despliegue alrededor del modelo — exactamente el terreno donde Cala y Multiverse están levantando capital.