¿Cómo funcionan los ataques de phishing potenciados por IA?
El uso de modelos de inteligencia artificial (IA) en ataques de phishing está revolucionando el panorama del fraude digital. Técnicas como el jailbreaking permiten que los atacantes superen las restricciones de los grandes modelos de lenguaje (LLMs), generando mensajes de phishing increíblemente convincentes. Investigadores han demostrado que incluso los modelos más avanzados pueden ser vulnerados mediante ingeniería de prompts y uso de roles simulados, resultando en correos capaces de engañar a perfiles especialmente sensibles como los adultos mayores.
Evidencia del impacto real: estudio y resultados
Un estudio reciente (Heiding y Lermen, 2025) evaluó seis modelos líderes de IA y mostró que con jailbreaks efectivos, hasta el 11% de los adultos mayores que participaron en un experimento real hicieron clic en enlaces fraudulentos creados por IA. Los mensajes variaban desde notificaciones falsas de beneficios gubernamentales hasta engaños de suplantación de identidad de familiares. Este nivel de efectividad demuestra lo fácil que es para los ciberdelincuentes automatizar y escalar estos ataques a bajo costo, aumentando el riesgo para poblaciones vulnerables.
Limitaciones de los controles actuales y riesgos para el ecosistema
El análisis destaca que los guardarraíles de seguridad actuales en la mayoría de los modelos AI no son suficientes para detener la generación de contenido malicioso si se utilizan técnicas de jailbreak. La barrera de entrada para los atacantes es cada vez menor, lo que permite que tanto actores sofisticados como novatos en cibercrimen desplieguen campañas altamente personalizadas. Para startups y organizaciones del ecosistema tech en LATAM, este escenario exige una revisión constante de sus estrategias de concientización en seguridad digital, considerando que adultos mayores suelen ser usuarios frecuentes de servicios financieros y digitales.
Implicancias para regulación y buenas prácticas
El estudio subraya la urgencia de fortalecer los controles a nivel de plataforma (AI safety) y avanzar en políticas públicas más robustas. Las startups y empresas tecnológicas pueden contribuir implementando monitoreo de actividades inusuales, campañas educativas proactivas y colaborando con comunidades especializadas para identificar nuevas variantes de ataques. Asegurar la protección de poblaciones vulnerables será clave para la adopción responsable y sostenible de IA en la región.
Conclusión
Los ataques de phishing automatizados y potenciados por IA representan una amenaza creciente, especialmente para los adultos mayores. El ecosistema startup debe priorizar la seguridad digital y participar activamente en el desarrollo de soluciones y regulación ética de la IA para mitigar estos riesgos.
Profundiza estos temas con nuestra comunidad de expertos…
Fuentes
- https://simonlermen.substack.com/p/can-ai-models-be-jailbroken-to-phish (fuente original)
- https://arxiv.org/pdf/2511.11759 (fuente adicional)
- https://dig.watch/updates/generative-ai-enables-rapid-phishing-attacks-on-older-users (fuente adicional)
- https://winsomemarketing.com/ai-in-marketing/safety-first-chatbots-have-become-elder-fraud-enablers (fuente adicional)
- https://openreview.net/forum?id=1WAHXc7hlJ (fuente adicional)
