Jon Hernández: IA, agentes autónomos y el caso Anthropic

El caso Anthropic: 12 horas para entrar por la puerta de un proveedor

Una startup de ciberseguridad accedió a información interna de Anthropic en menos de 12 horas. Ese es el episodio que el divulgador Jon Hernández analizó con Infobae, y su primera aclaración es clave: no hubo una intrusión directa en Claude, el modelo de la compañía, sino el acceso a un servicio externo que Anthropic utiliza.

Según el reporte de The Washington Post que recoge Anadolu Agency, la startup Cathedral —fundada por exmiembros del Departamento de Eficiencia Gubernamental (DOGE) de Estados Unidos— identificó vulnerabilidades en software empresarial de terceros. Sus agentes de IA llegaron a transcripciones de reuniones, detalles de salarios y ofertas de trabajo, y mensajes de Slack. Anthropic confirmó que se accedió a un "conjunto limitado" de sus sistemas de ventas, recursos humanos y TI, y que cerró las vías expuestas.

La lección no es sobre Anthropic. Es sobre sus proveedores. "Nos estamos encontrando ante casos de problemas de ciberseguridad en todo el software que tenemos en la humanidad prácticamente", señaló Hernández. Y agregó que la IA puede acelerar la identificación de vulnerabilidades y facilitar ataques que antes exigían más tiempo y conocimiento especializado.

Leíste lo que hace la IA. ¿Y en tu negocio?

Un agente de IA puede quedarse con parte de tu día: ordenar lo pendiente y pedirte el OK antes de actuar. El Kit «tu mano derecha con IA» trae un video de 11 minutos y una ficha para dejar al tuyo trabajando. CAR está cerrada por ahora; al anotarte, te avisamos cuando abra.

👥 Quiero el Kit →

¿Por qué los agentes de IA son un riesgo distinto a un chatbot?

Un asistente conversacional responde consultas. Un agente ejecuta tareas: consulta correos, procesa documentos, recopila información e interactúa con plataformas externas. La diferencia no es de grado, es de superficie de ataque.

"El riesgo es tanto como lo que tú le des acceso", advirtió Hernández. Si un agente tiene permisos sobre datos sensibles o servicios financieros, un error de configuración deja de ser un incidente de software y se convierte en una fuga o en una transferencia no autorizada.

El mercado ya lo está midiendo. Una encuesta de Gartner entre 297 líderes sénior de ciberseguridad, recogida por TechObserver, encontró que el 41% había sufrido al menos un incidente de ingeniería social con deepfake en una llamada de audio en los 12 meses previos, y el 36% en una videollamada. El mismo relevamiento mostró que el 79% de los CISOs reportó phishing o compromiso de correo empresarial, y el 58% incidentes de vishing o smishing. La IA no reemplaza esos ataques: los personaliza y los vuelve más difíciles de distinguir.

Deepfakes: cuando la videollamada ya no prueba identidad

Durante años, la recomendación estándar ante una solicitud sospechosa fue "verifícala en persona o por video". Hernández advierte que esa garantía se está erosionando: la calidad de las producciones sintéticas puede dificultar la identificación incluso en una videoconferencia laboral.

El problema se agrava con la circulación de modelos de código abierto, que pueden modificarse y usarse sin que sus desarrolladores controlen cada aplicación. Existen herramientas para detectar contenido sintético, pero su alcance depende de la tecnología empleada y de que existan mecanismos de verificación implementados.

Para el especialista, el desafío es desarrollar defensas que evolucionen al mismo ritmo que las herramientas que producen y distribuyen estos contenidos. No es una carrera que se gane una sola vez.

Alineamiento: el "cómo" que nadie eligió

Hay un riesgo menos visible que el hackeo y que Hernández pone sobre la mesa: un sistema puede cumplir el objetivo que le marcaste usando un procedimiento que no habías previsto.

"A pesar de que nosotros podamos marcar el objetivo, el cómo lo resuelva no tiene por qué gustarnos", explicó. Cuanto mayor es la autonomía del agente y más herramientas tiene disponibles, más importa auditar sus decisiones y anticipar consecuencias. La dificultad crece cuando varios agentes interactúan entre sí y coordinan tareas.

Sobre la regulación, Hernández fue directo: "La caja de Pandora está abierta, no hay vuelta atrás". Una vez que un modelo abierto se distribuye, sus creadores pierden control sobre cada uso. También cuestionó medir estos sistemas con un coeficiente intelectual único, porque la IA puede superar a los humanos en tareas específicas y fallar en otras.

Su pronóstico para el corto plazo es incómodo: "Lo peor está por venir", dijo, y ubicó los próximos 18 meses como un período especialmente exigente para las defensas frente a nuevas amenazas.

¿Qué significa esto para tu startup?

Si tu equipo ya conectó un agente a tu CRM, tu correo o tu sistema de pagos, el escenario de Cathedral aplica directamente a ti. La buena noticia es que la mayoría de las mitigaciones son de proceso, no de presupuesto.

Aplica el principio de mínimo privilegio a cada agente. Antes de darle acceso a un sistema, pregúntate si esa tarea realmente lo necesita. Separa permisos de lectura y de escritura, y limita explícitamente las acciones irreversibles (pagos, envíos, cambios de accesos) a aprobación humana.
Diseña verificación independiente para solicitudes sensibles. Gartner recomienda que la confirmación segura sea un comportamiento esperado en pedidos de alto impacto, sin importar si llegan por correo, voz, video o una app de IA. Un segundo canal verificado para aprobar un pago vale más que cualquier capacitación anual.
Audita a tus proveedores, no solo tu infraestructura. El caso Anthropic muestra que el vector fue software de terceros. Revisa qué herramientas SaaS tienen acceso a tus datos, con qué permisos y qué garantías de seguridad ofrecen.
Documenta antes de escalar. Si vas a ampliar las capacidades de un agente, define primero cómo vas a evaluar sus decisiones y quién responde cuando algo sale mal.

El gasto en seguridad está subiendo en paralelo. En el India Mobile Congress 2026, Fortinet señaló a Business Standard que la porción del presupuesto de TI destinada a ciberseguridad pasó de alrededor del 6,5% a un rango de 8% a 8,5%. La pregunta para un founder no es si invertir, sino en qué: en detectar mejor, o en evitar que una sola interacción engañosa se convierta en un incidente.

La conclusión de Hernández no invita a frenar la adopción. Invita a dejar de tratar la seguridad como un problema que se resuelve después del lanzamiento. La tecnología avanza más rápido que la capacidad de controlarla, y la única respuesta práctica es diseñar el control desde el principio.