Agentes de IA en empresas: quién responde por sus acciones

Por qué los agentes de IA son distintos a un chatbot

Un agente de IA no se limita a responder una pregunta. Puede abrir un correo, consultar una base de datos, conectarse a un sistema de pagos, modificar registros y hasta coordinarse con otros agentes sin que un humano apruebe cada paso. Esa autonomía cambia el cálculo de riesgo. "Un agente no solamente genera una respuesta: puede interactuar con un correo, acceder a una base de datos, conectarse con un sistema de pagos o trabajar con información sensible", explica Diego Crigna, Hybrid Cloud Practice Manager Argentina, Paraguay y Uruguay de Logicalis, en el comunicado que dio origen a esta nota.

La consecuencia directa: cuando un agente falla o actúa fuera de lo previsto, no hay un humano con el dedo en el botón. Si nadie fue designado como responsable, la organización termina reaccionando tarde, sin logs claros y sin saber a quién pedirle explicaciones.

El dato que duele: 68% de las empresas no tiene cómo gobernarlos

El Cost of a Data Breach Report 2026 de IBM, elaborado por el Ponemon Institute sobre 602 organizaciones breachadas entre marzo de 2025 y febrero de 2026, dimensiona el problema con cifras que deberían preocupar a cualquier founder:

• El 68% de las organizaciones afectadas por filtraciones no contaba con mecanismos adecuados para gestionar la IA o detectar usos no autorizados, según recogió Logicalis del informe original.
• Los ataques impulsados por IA crecieron un 56% interanual y ya representan una de cada cuatro brechas maliciosas, de acuerdo con TechRepublic.
• Una brecha con IA involucrada cuesta en promedio US$6 millones, frente a los US$4,99 millones del promedio global, una diferencia de aproximadamente US$1 millón por incidente, según IBM.
• El 92% de las organizaciones breachadas por un sistema de IA carecía de controles de acceso adecuados sobre esos modelos y aplicaciones, reporta Help Net Security.
• Cerca de 7 de cada 10 organizaciones breachadas no tienen políticas de gobernanza de IA, y menos de 1 de cada 5 coordina a su equipo de gobernanza con el de seguridad.

Para una startup que está apurada por meter agentes en su stack, el mensaje es incómodo: el costo de no gobernar ya está medido, y se paga por incidente.

Shadow AI: el riesgo de prohibir en lugar de regular

La respuesta instintiva de muchas organizaciones es bloquear el acceso a ChatGPT, Claude y compañía. Es exactamente lo que no hay que hacer, advierte Logicalis, porque empuja a los empleados hacia herramientas personales y cuentas externas donde la empresa pierde toda visibilidad sobre qué datos salen, qué plataforma los procesa y bajo qué condiciones. A ese fenómeno se lo conoce como shadow AI.

Los números lo respaldan:

• El shadow AI estuvo involucrado en el 43% de los incidentes analizados por IBM, más del doble que el año anterior, según TechRepublic.
• El 78% de los usuarios utiliza herramientas de IA propias en el trabajo, de acuerdo con un informe de ESET recogido por Cinco Días.
• Hasta un 20% de las organizaciones ha sufrido brechas vinculadas al uso no autorizado de IA, y cada incidente de este tipo puede elevar el costo medio de una brecha en más de €500.000, según ESET.

Prohibir no funciona porque la tentación de productividad es demasiado fuerte. La salida pasa por hacer atractiva la oferta corporativa: herramientas aprobadas, contratos con cláusulas de protección de datos, modelos on-prem o en entornos aislados para la información sensible, y canales claros para que un dev o un PM pidan acceso sin saltar el filtro.

Qué pasa en Argentina: 12 provincias con IA, pero poco gobierno

El fenómeno no es ajeno a la región. El informe "No solo IA en Gobiernos Provinciales de Argentina", elaborado por CIPPEC en 2026, relevó experiencias de implementación de IA en 12 de las 24 jurisdicciones del país, con 29 iniciativas detectadas: 23 operativas y 6 en etapa piloto o de desarrollo.

El nivel de formalización, sin embargo, es desigual:

• Solo 10 jurisdicciones cuentan con alguna referencia formal sobre gobierno de datos.
• 8 desarrollaron marcos normativos vinculados al uso de IA.
• Entre las 10 provincias que respondieron el autodiagnóstico, 7 disponían de sistemas para gestionar identidades y accesos, pero únicamente 2 habían incorporado autenticación multifactor y mecanismos para clasificar y segmentar información sensible.

En el sector privado argentino, la conversación reproduce el mismo patrón: adopción que corre más rápido que las reglas. En el ámbito legislativo, el debate sobre sociedades automatizadas ya contempla la obligatoriedad de un administrador humano y mantiene la responsabilidad empresarial frente a daños derivados de decisiones algorítmicas.

Qué necesita un agente de IA para operar con responsabilidad

Logicalis y los reportes especializados coinciden en un mínimo viable de gobernanza. Para una empresa que está poniendo agentes en producción, estos son los controles que no pueden faltar:

• Identidad digital propia para cada agente, tratada como un usuario más en el sistema de gestión de accesos.
• Permisos limitados por diseño: qué datos puede leer, qué operaciones puede ejecutar, qué sistemas puede tocar, y nada más.
• Trazabilidad completa: log de cada intervención, con timestamp, input, acción tomada y cuenta que la autorizó.
• Un responsable humano identificable, no un área difusa. Esto es explícito en la posición de Logicalis y replica el marco de la Microsoft Foundry con sus guardrails, audit logs y FinOps integrados desde el diseño.
• Inventario de agentes aprobados y separación clara entre IA de bajo riesgo (resúmenes) y agentes que tocan datos sensibles o disparan acciones.
• Pruebas previas al despliegue: red teaming, revisión de prompts, test de inyección y simulación de incidentes con el agente en el loop.

Microsoft, con Foundry, y los reportes de IBM coinciden en el mismo punto: la gobernanza no se agrega después, se embebe en el diseño del agente desde el primer commit.

Qué significa esto para tu startup

Si estás construyendo o integrando agentes de IA, la pregunta "¿quién responde si esto sale mal?" tiene que tener un nombre y un apellido antes de que el agente entre en producción, no después del primer incidente. El costo de no hacerlo ya está medido en dólares y el de esperar a que pase algo es varias veces mayor al de hacerlo bien desde el inicio.

Tres acciones concretas para esta semana:

• Audita qué agentes corre hoy tu equipo sin que TI lo sepa. Un Google Doc compartido con una lista honesta, una Slack pública o un spreadsheet alcanzan. Lo que no se nombra no se gobierna.
• Asigna un dueño por agente, no por área. Un dev, un PM o un head de operaciones con nombre y apellido. Si el agente toca datos de clientes, ese dueño firma el runbook de incidentes.
• Empieza por un agente de bajo riesgo y trátalo como si fuera crítico. Permisos mínimos, logs completos, revisión semanal. Lo que aprendes ahí escala a los demás sin repetir errores caros.

La presión por adoptar IA no se va a detener. La diferencia entre las startups que escalan y las que aparecen en el próximo reporte de IBM la van a marcar las decisiones que tomes antes de que tu agente toque el primer registro de producción.

Fuentes

• Infosertec: Agentes de IA, las empresas necesitan un responsable (Logicalis)
• TechRepublic: IBM — AI-Enabled Data Breaches Cost Organizations $6M on Average
• Help Net Security: Data breach cost 2026 averaged $4.99M, AI attacks ran higher
• Abacus News: AI Security Costs Reshape Business Risk Models
• Cinco Días (El País): Evitar el shadow AI, el gran reto para las empresas en 2026