IA en empresas: 7 riesgos silenciosos que las fragilizan

Los siete riesgos que ya están dentro de tu empresa

Un empleado de finanzas de Arup autorizó 15 transferencias a cinco cuentas bancarias por unos US$25 millones después de una videollamada en la que su director financiero y varios colegas estaban presentes. Todos, menos él, eran sintéticos. El caso, reconstruido por la policía de Hong Kong y recogido por el New York Post, no es una anécdota de ciencia ficción: es el estado actual del riesgo operativo para cualquier empresa que ya usa IA a diario.

Mientras el debate público discute si la IA va a destruir la humanidad —una decisión que, como ironiza Leo Piccioli en su análisis para Forbes Argentina, depende de cuatro o cinco personas entre las que no estamos ni tú ni yo—, hay siete formas mucho más aburridas y mucho más caras de perder una empresa. Ninguna incluye robots asesinos. Todas tienen lo mismo en común: agregan fragilidad sin que se note.

Piccioli, economista y ex CEO de Officenet y Staples, las ordena así: dependencia, captura, suplantación, dilución, atrofia, esterilidad y apagón. Vale la pena recorrerlas una por una, porque cada una trae una pregunta de auditoría que puedes responder esta semana.

Leíste lo que hace la IA. ¿Y en tu negocio?

Un agente de IA puede quedarse con parte de tu día: ordenar lo pendiente y pedirte el OK antes de actuar. El Kit «tu mano derecha con IA» trae un video de 11 minutos y una ficha para dejar al tuyo trabajando. CAR está cerrada por ahora; al anotarte, te avisamos cuando abra.

👥 Quiero el Kit →

Dependencia: ¿qué hace tu empresa que ya no sabría hacer sin IA?

Hay algo que tu empresa hacía hace dos años y hoy no sabría hacer sin la IA que usa. Ese es el punto de partida.

Un estudio de KPMG de 2025 citado por Piccioli encontró que más de la mitad de quienes usan IA en el trabajo no se lo cuentan a su jefe. Traducido: tu equipo ya está apoyado en herramientas que nadie eligió, nadie auditó y nadie puede listar. Funcionan, son más rápidas y más baratas en el corto plazo. La fragilidad aparece después.

La pregunta de auditoría es incómoda: de todo lo que hoy tu empresa hace con IA, ¿cuánto lo decidiste tú y cuánto simplemente empezó?

Captura: tus datos viven adentro de sistemas que no controlas

Cuando Spirit Airlines se liquidó y se vendió todo lo vendible, la compra que llamó la atención fue la de Google: US$10 millones por los datos. Correos, comunicaciones internas, planillas, reservas e información de recursos humanos.

Si tus datos valen eso cuando la empresa ya no existe, valen mucho más mientras funciona. Y cada vez que metes contratos, código, estrategias o números dentro de un sistema que no controlas, una parte de tu conocimiento queda fuera de la organización. Ya no controlas del todo dónde está, cuánto tiempo se queda, quién puede verlo ni bajo qué reglas futuras.

Suplantación: el fraude con voz y cara clonada ya es barato

El caso de Arup es la versión corporativa de una estafa que también llega a tu WhatsApp personal: la voz, el tono y el alias correctos, pero no es tu familiar. La diferencia es el volumen.

Un competidor puede hacerse pasar por cliente y sacarte precios, plazos y nombres. Eso existió siempre, pero antes era caro: el mystery shopper era uno por trimestre. Ahora pueden ser mil por semana, cada uno con una voz distinta y una historia coherente.

Cinco meses antes del fraude de Arup, tres agencias de seguridad de Estados Unidos ya habían advertido que los deepfakes eran cada vez más baratos de producir y habían identificado la suplantación de líderes y directores financieros como amenaza directa, según el recuento del New York Post. A partir de noviembre de 2024, la red de control de delitos financieros de Estados Unidos (FinCEN) reportaba un aumento de actividad sospechosa con medios deepfake, en particular documentos de identidad falsos usados para burlar verificaciones.

La defensa no es tecnológica, es de proceso: un segundo canal, una palabra acordada, una llamada de vuelta al número que ya tenías. Pregúntate cuántas personas en tu empresa pueden autorizar un pago o una entrega con solo reconocer una voz.

Dilución: cuando la decisión se justifica nombrando a la IA

Un gerente que no puede explicar una decisión sin nombrar la herramienta no tomó una decisión: la tramitó. El problema no es pedirle una recomendación a una máquina. Es usarla sin hacerse responsable.

Delegar la redacción está bien. Delegar el análisis ayuda. Delegar la decisión es regalar lo último que queda adentro de la empresa.

Atrofia: el junior que ya no se contrata

Microsoft Research y Carnegie Mellon les preguntaron a 319 trabajadores del conocimiento por 936 tareas reales. El resultado: cuanta más confianza tiene alguien en la IA, menos pensamiento crítico aplica; cuanta más confianza tiene en sí mismo, más. No prueba que la IA vuelva incapaz a quien la usa, pero sí muestra que cuando confiamos más en la herramienta, revisamos menos.

El otro frente es el empleo junior. El Digital Economy Lab de Stanford viene midiendo el fenómeno sobre sueldos reales: entre los 22 y los 25 años, en las ocupaciones más expuestas a la IA, el empleo está 19% por debajo de donde estaría si hubiera crecido al ritmo de las ocupaciones menos expuestas. Un año antes, la brecha era del 15%.

Lo importante no es el número, es el mecanismo. El ajuste no se hace despidiendo: se hace contratando menos. El junior hacía las tareas aburridas, y ahora las hace la máquina, mejor y más barata. El problema es que esas tareas eran el lugar donde alguien aprendía el oficio. Un estudio publicado en The Quarterly Journal of Economics sobre 5.172 agentes de soporte encontró que la asistencia de IA aumentó los casos resueltos por hora 15% en promedio, con las mayores ganancias entre los trabajadores menos experimentados, según recogió CNN. Si en los últimos doce meses no entró nadie a hacer ese trabajo, ¿lo decidiste o te pasó?

Esterilidad y apagón: la eficiencia que te deja sin holgura

No hay internet. O hay internet y no hay luz. O hay luz y no hay combustible. La IA no inventó estos riesgos, pero apoyamos cada vez más procesos críticos sobre la misma infraestructura: conectividad, nube, electricidad, software, automatización.

Cada mejora te vuelve más eficiente mientras todo funciona, y potencialmente más frágil cuando algo deja de funcionar. No hace falta un plan de continuidad de 40 páginas: alcanza con preguntarse cada trimestre cuántas horas sin internet o sin electricidad puede seguir facturando tu empresa.

Nassim Taleb separa tres estados: lo frágil se rompe con el desorden, lo robusto lo aguanta, lo antifrágil mejora con él. Una empresa eficiente no es automáticamente robusta. Muchas veces es al revés, porque cada mejora le fue sacando una holgura.

¿Qué significa esto para tu startup?

El dato de contexto que más debería incomodar a un founder no es el fraude de US$25 millones: es que 62% de las organizaciones ya usa agentes de IA y que los líderes esperan invertir en promedio US$173 millones en IA en los próximos doce meses, según la encuesta trimestral de KPMG que publicó CNN. Con ese volumen de gasto entrando a las empresas, la pregunta ya no es si adoptar IA, sino quién responde por ella.

Tres acciones concretas para esta semana:

Haz el inventario de IA no autorizada. Pregunta a cada área qué herramientas usa, para qué y con qué datos. No para prohibir: para saber. Si más de la mitad de tu equipo no lo cuenta, el problema no es la herramienta, es que no hay canal para contarlo.
Pon un segundo canal obligatorio para pagos y entregas. Define un monto a partir del cual se exige verificación por un canal distinto al que originó la solicitud, con un número que ya tenías. Es la defensa más barata contra la suplantación con voz clonada.
Protege el primer escalón de tu equipo. Si automatizaste las tareas repetitivas del junior, decide explícitamente qué va a aprender ahora esa persona. Si no entra nadie abajo, en diez años no tienes a quién ascender.

Piccioli lo resume con su algoritmo EAT —eliminar, automatizar, tercerizar, en ese orden— leído al revés: sirve para sacarte de encima lo repetitivo y quedarte con lo que ninguna máquina hace, como construir una relación, ganar la confianza de alguien o inventar algo que no existe. La tecnología te hace más eficiente. El riesgo aparece cuando, en nombre de esa eficiencia, dejas de saber, dejas de decidir o dejas de confiar en tu equipo.