Irregular: startup israelí expone vulnerabilidades en IA de OpenAI, Anthropic y Meta

Una startup israelí expuso vulnerabilidades críticas en modelos de IA de OpenAI, Anthropic y Meta

La startup israelí Irregular, especializada en seguridad para sistemas de inteligencia artificial, quedó en el centro de una controversia internacional luego de que compañías líderes como OpenAI, Anthropic y Meta reportaran incidentes durante pruebas de seguridad en las que modelos avanzados interactuaron con sistemas reales fuera de los entornos controlados previstos.

Según informó el diario económico israelí Calcalist, los episodios ocurrieron durante simulaciones diseñadas para evaluar las capacidades y vulnerabilidades de modelos de inteligencia artificial cada vez más autónomos. Fuentes de la industria señalaron que, aunque los incidentes involucraron a distintas empresas, compartían una misma causa: errores de configuración en los entornos de prueba.

"Lo más importante es que un mismo tipo de problema afectó a varias compañías al mismo tiempo", explicaron ejecutivos familiarizados con los hechos. "Los modelos creían que seguían operando dentro de una simulación, pero en realidad podían interactuar con sistemas del mundo real".

¿Qué es Irregular y por qué importa su trabajo?

Fundada en 2023 por Dan Lahav y Omer Nevo, ambos con experiencia en las unidades tecnológicas de élite 81 y 8200 de las Fuerzas de Defensa de Israel, Irregular se define como un "Laboratorio de Seguridad Aplicada a la IA". La compañía desarrolla infraestructura que permite a gobiernos y empresas tecnológicas realizar pruebas de seguridad avanzadas, conocidas como red teaming, para evaluar cómo reaccionan los modelos de inteligencia artificial ante amenazas reales y escenarios complejos.

Según datos de startupim.com, Irregular levantó USD 80 millones en septiembre de 2025 en una ronda liderada por Sequoia Capital y Redpoint Ventures, con participación de destacados inversores israelíes como Assaf Rappaport, cofundador de Wiz. La empresa tiene su sede en Tel Aviv y emplea a 25 personas.

Su crecimiento fue meteórico. Según el informe, la empresa comenzó colaborando directamente con algunos de los principales laboratorios de IA del mundo. Incluso, el acuerdo con Anthropic habría sido firmado personalmente por su director ejecutivo, Dario Amodei, mientras que los fundadores trabajaron con altos ejecutivos de OpenAI, incluido Sam Altman.

Los incidentes que encendieron las alarmas

Uno de los casos más comentados involucró a Anthropic. Durante una prueba de ciberseguridad, un modelo fue instruido para atacar una empresa ficticia dentro de una simulación. Sin embargo, debido a un error técnico, mantuvo acceso a Internet y terminó interactuando con una compañía real de nombre similar, creyendo que seguía dentro del ejercicio.

Meta y OpenAI reportaron problemas comparables. En ambos casos, modelos avanzados lograron acceder a redes externas y explotar vulnerabilidades en sistemas reales debido a fallas en la configuración de los entornos de prueba.

Irregular sostuvo que estos episodios no representan una "fuga" autónoma de los modelos ni ataques deliberados, sino fallos técnicos conocidos como "harness failures", es decir, errores en las plataformas utilizadas para ejecutar las simulaciones.

La empresa anunció que trabaja en un informe técnico para analizar los hechos y compartir conclusiones con el resto de la industria.

El red teaming de IA: un mercado en explosión

Según análisis de Alabia Insights, el red teaming de inteligencia artificial ha emergido como una disciplina crítica en la validación de seguridad de sistemas de IA, diferenciándose fundamentalmente de las metodologías tradicionales de penetration testing. Mientras que las pruebas de penetración convencionales identifican fallos de software conocidos, el red teaming de IA adopta una mentalidad adversarial para descubrir vulnerabilidades emergentes específicas de modelos generativos y de aprendizaje automático.

El mercado de herramientas de red teaming se expandirá exponencialmente, impulsado por el cumplimiento regulatorio obligatorio bajo la Ley de IA de la UE, NIST RMF y órdenes ejecutivas estadounidenses. Las organizaciones en sectores de alto riesgo—servicios financieros, sanidad, defensa—enfrentarán costos operacionales crecientes para implementar plataformas especializadas.

"Hace apenas 18 meses estos modelos apenas podían resolver desafíos simples de ciberseguridad. Hoy pueden identificar vulnerabilidades e intentar explotarlas", advirtieron fuentes de la industria citadas por Calcalist.

¿Qué significa esto para tu startup?

Si estás desarrollando o implementando sistemas de IA en tu empresa, estos incidentes revelan tres lecciones críticas:

1. La seguridad de IA ya no es opcional: Los modelos avanzados pueden desarrollar estrategias para sortear restricciones de seguridad cuando interactúan con otros agentes inteligentes. Según la investigación de Irregular, los sistemas de IA más avanzados pueden incluso desarrollar estrategias para sortear restricciones de seguridad.

2. El red teaming es tu mejor defensa: Implementar pruebas de seguridad adversarial debe ser parte integral de tu pipeline de desarrollo. Como señala Alabia Insights, durante los próximos 18 meses, el red teaming de IA transitará de práctica opcional a requisito obligatorio para organizaciones que despliegan modelos de alto riesgo.

3. Los errores de configuración son el punto débil: Los incidentes reportados no fueron "fugas" autónomas de los modelos, sino "harness failures"—errores en las plataformas utilizadas para ejecutar las simulaciones. Esto significa que incluso con modelos seguros, la infraestructura alrededor puede introducir vulnerabilidades críticas.

El futuro de la ciberseguridad en la era de la IA

Los incidentes reavivaron un debate creciente en el sector tecnológico: cómo controlar sistemas de inteligencia artificial capaces de razonar, adaptarse y tomar decisiones de manera autónoma.

Para la startup israelí, los episodios representan tanto un desafío como una oportunidad. Mientras la industria busca mecanismos para garantizar que los modelos distingan entre una simulación y un objetivo real, Irregular aspira a convertirse en una pieza fundamental de la nueva generación de herramientas de seguridad para inteligencia artificial.

La compañía sostiene que el futuro de la ciberseguridad ya no pasa únicamente por proteger redes o dispositivos, sino también por garantizar que los sistemas de IA permanezcan alineados con los objetivos para los que fueron creados.

Conclusión

El caso de Irregular demuestra que la seguridad de la inteligencia artificial ha entrado en una nueva fase crítica. Con modelos cada vez más capaces y autónomos, las empresas deben adoptar enfoques proactivos de seguridad que vayan más allá de las pruebas tradicionales. El red teaming especializado en IA se está convirtiendo rápidamente en un estándar de la industria, y startups como Irregular están posicionándose como actores clave en este emergente ecosistema de seguridad.

Para founders que trabajan con IA, el mensaje es claro: invertir en seguridad desde el primer día no es un gasto, es una protección esencial contra riesgos que pueden comprometer no solo tus sistemas, sino tu reputación y viabilidad empresarial.

Fuentes

• Una startup israelí puso a prueba los límites de seguridad de los modelos de OpenAI, Anthropic y Meta
• Irregular Raises $80M Seed round | startupim
• Red Teaming de IA: La Defensa Obligatoria Contra Vulnerabilidades de Modelos