AgentPay UdeSA: US$ 32K en premio por seguridad en IA

El dato que importa: US$ 32.000 en premio con solo 3 estudiantes

Tres estudiantes de la Universidad de San Andrés ganaron el primer puesto en un hackatón organizado por Anthropic (creadores de Claude) y Kaszek, llevándose US$ 32.000 en premios: US$ 30.000 en créditos de API y US$ 2.000 en efectivo. De más de 3.000 postulantes, solo 250 fueron seleccionados para competir.

Para founders que evalúan integrar agentes de IA en sus operaciones financieras, este caso demuestra que la seguridad no es un problema resuelto — y que hay oportunidades reales en construir capas de protección determinísticas.

¿Qué es AgentPay y cómo funciona técnicamente?

AgentPay es una solución de seguridad para agentes de IA que ejecutan transacciones financieras. El problema que resuelve es crítico: si un agente autónomo puede hacer pagos por sí mismo, también puede ser manipulado mediante prompt injection, inducido a autorizar transferencias indebidas o cometer errores por alucinaciones del modelo.

👥 ¿Quieres ir más allá de la noticia?

En nuestra comunidad discutimos las tendencias, compartimos oportunidades y nos ayudamos entre emprendedores. Sin humo, solo acción.

👥 Unirme a la comunidad

La arquitectura propuesta incluye tres componentes clave:

Análisis de contexto: evalúa quién pide la operación, monto, destinatario, frecuencia e historial para detectar patrones anómalos
Detección de riesgo antifraude: identifica instrucciones sospechosas o fuera del comportamiento normal y puede bloquear operaciones
Seguridad determinística: usa reglas rígidas de software en lugar de confiar en otra IA para vigilar a la primera, evitando que alucinaciones o prompts maliciosos autoricen acciones indebidas

Esta última capa es la diferenciación clave: en sistemas críticos financieros, no alcanza con tener «otro modelo de IA mirando al primero». Si ambos pueden equivocarse o ser engañados, el sistema sigue siendo frágil.

¿Por qué la seguridad determinística cambia el juego para founders?

La tendencia global es clara: las empresas quieren usar agentes de IA autónomos, pero no quieren perder gobernanza sobre pagos, compliance y seguridad. AgentPay toca uno de los problemas fundamentales de la IA aplicada a finanzas: dar autonomía sin perder control.

Los riesgos principales que cualquier founder debe considerar al implementar agentes autónomos:

Alucinaciones: el modelo inventa información o justifica acciones con datos falsos, lo que en finanzas termina en pagos erróneos
Prompt injection: atacantes introducen instrucciones ocultas para manipular al agente y enviar dinero a terceros
Autonomía excesiva: si el agente opera sin límites, un error se vuelve ejecución real, no solo una respuesta incorrecta
Falta de trazabilidad: es difícil auditar por qué el agente tomó cierta decisión sin controles externos

Competidores y soluciones adyacentes en el mercado

No existe un competidor directo idéntico a AgentPay, pero hay categorías y empresas que operan en espacios adyacentes que todo founder debería conocer:

Plataformas de control de agentes y seguridad de IA:

Lakera: seguridad para LLMs y agentes, foco en prompt injection
Protect AI: seguridad para supply chain y despliegue de modelos
Cloudflare AI Gateway: observabilidad, control y filtrado para aplicaciones con LLMs

Soluciones antifraude de pagos y risk engines:

Stripe Radar, Sift, Feedzai, Forter: se enfocan en fraude, identidad o scoring, aunque no específicamente en agentes autónomos

La diferenciación de AgentPay está en combinar agentic AI security con fraude en pagos y control determinístico. Eso mezcla el mundo de seguridad de IA con el mundo fintech, un espacio relativamente vacío.

¿Qué significa esto para tu startup?

Si estás construyendo o implementando agentes de IA en tu negocio, especialmente en operaciones financieras, este caso ofrece lecciones accionables:

1. No confíes ciegamente en la autonomía del agente

Implementa capas de validación externas. AgentPay demuestra que las reglas determinísticas (límites de monto, listas de beneficiarios permitidos, umbrales de frecuencia) son más confiables que depender exclusivamente de que «la IA se controle a sí misma».

2. Diseña con human-in-the-loop desde el inicio

Para transacciones above cierto threshold, requiere aprobación humana. No esperes a tener un incidente de fraude para agregar esta capa. Los mejores sistemas de agente combinan automatización con puntos de control estratégicos.

3. Prioriza trazabilidad y auditoría

Cada decisión del agente debe quedar registrada con contexto completo: qué instrucción recibió, qué datos consultó, qué reglas aplicó y por qué tomó esa decisión. Esto es crítico para compliance y para debugging cuando algo sale mal.

4. Considera el mercado de AI safety como oportunidad

Si tu startup está buscando problema-producto fit, la seguridad de agentes autónomos es un espacio con demanda creciente y relativamente poca competencia establecida. LatAm tiene talento técnico capaz de competir globalmente en este nicho.

El impacto en el ecosistema startup latinoamericano

Este caso tiene implicaciones que van más allá del premio:

Validación regional: talento universitario latinoamericano compitiendo y ganando en hackatones de empresas líder globales de IA
Puente entre LatAm y frontier AI: Anthropic, Kaszek y Digital House juntos en Buenos Aires es señal de madurez del ecosistema
Señal para infraestructura: la región puede producir soluciones de infraestructura y seguridad, no solo apps de consumo
AI safety aplicada: en LatAm, muchas startups usan IA como feature; aquí se usa IA para hacer segura la IA, una tesis más defendible

El desafío ahora para el equipo de AgentPay será pasar de hackatón a producto: cumplimiento regulatorio, integración con rails de pago, demostración de reducción real de fraude y ventas enterprise. Son los mismos desafíos que cualquier deep tech startup enfrenta, pero el validación inicial es sólida.

Acciones concretas para implementar esta semana

Si tu startup usa o planea usar agentes de IA en operaciones financieras:

Audita tus flujos actuales: identifica dónde un agente podría ejecutar una transacción sin validación humana y agrega un checkpoint
Define reglas determinísticas: establece límites de monto por transacción, listas blancas de destinatarios y frecuencias máximas antes de requerir aprobación manual
Implementa logging completo: cada acción del agente debe quedar registrada con timestamp, instrucción original, datos consultados y decisión tomada
Evalúa proveedores de seguridad: investiga Lakera, Protect AI o soluciones similares si estás en producción con agentes autónomos

Conclusión

AgentPay demuestra que hay oportunidades reales en construir infraestructura de seguridad para la era de los agentes autónomos. Los US$ 32.000 en premio son validación inicial, pero el mercado real está en ayudar a empresas a adoptar IA sin perder control sobre sus operaciones financieras.

Para founders hispanohablantes, el mensaje es claro: el talento técnico de la región puede competir globalmente en categorías de frontier tech. La clave está en identificar problemas reales (como la seguridad en agentes autónomos) y construir soluciones que combinen lo mejor de la automatización con controles humanos estratégicos.

¿Estás construyendo en AI safety o implementando agentes autónomos en tu startup? Únete a la comunidad de Ecosistema Startup para conectar con otros founders enfrentando los mismos desafíos, acceder a recursos exclusivos y compartir aprendizajes del ecosistema global.