Reconocimiento facial IA: cuando el algoritmo encarcela inocentes

Un algoritmo como única prueba: el caso que sacudió el debate sobre IA y justicia

En julio de 2025, agentes del orden llegaron armados al domicilio de Angela Lipps, una abuela de 50 años residente en Tennessee, para arrestarla por fraude bancario. El problema: ella no había cometido ningún delito. La única razón para su detención fue que un software de reconocimiento facial con inteligencia artificial había emparejado su imagen con la de una sospechosa captada en cámaras de vigilancia en Fargo, Dakota del Norte, a más de 1.200 millas de distancia de donde ella vivía.

Lo que vino después es una historia que todo founder y profesional que trabaja con IA debería leer con atención: Lipps pasó casi seis meses en prisión —incluidos al menos 108 días documentados— antes de que los cargos fueran desestimados. Perdió su casa, su coche y su perro. Y todo porque nadie en la cadena de decisiones se tomó el tiempo de verificar si el algoritmo tenía razón.

Cómo una coincidencia facial se convirtió en una orden de arresto

La Policía de Fargo analizó videos de vigilancia relacionados con retiros fraudulentos realizados con una identificación falsa. Introdujeron fotogramas en el software de reconocimiento facial, que arrojó a Angela Lipps como resultado. Los detectives compararon su foto de licencia de conducir y sus imágenes en redes sociales basándose en criterios tan vagos como «rostro, complexión y peinado».

👥 ¿Quieres ir más allá de la noticia?

En nuestra comunidad discutimos las tendencias, compartimos oportunidades y nos ayudamos entre emprendedores. Sin humo, solo acción.

👥 Unirme a la comunidad

Con esa coincidencia como única evidencia, solicitaron y obtuvieron una orden de arresto. Nadie intentó contactar a Lipps antes del arresto. Nadie verificó su coartada. Nadie recogió prueba independiente. Los registros bancarios y de GPS que finalmente demostraron su inocencia —ubicándola a más de mil millas del lugar del crimen— estaban disponibles, pero no se buscaron.

El octavo caso: un patrón que no es accidental

Lo más alarmante del caso de Angela Lipps no es que ocurriera una vez, sino que ya ha ocurrido al menos ocho veces en Estados Unidos, según una investigación de The Washington Post publicada en 2025. En todos los casos documentados, el patrón se repite con una precisión perturbadora:

En seis de los ocho casos, los investigadores no verificaron coartadas.
En dos casos, se ignoró evidencia directamente contradictoria.
En cinco casos, no se recopiló prueba clave antes de proceder al arresto.
Al menos 15 departamentos de policía en 12 estados usaron coincidencias de IA como única base, violando sus propias políticas internas.

El primero en vivirlo fue Robert Williams, arrestado en Detroit en 2020 por el supuesto robo de relojes de la marca Shinola. El algoritmo había emparejado un video granulado de baja calidad con su foto de licencia caducada. Fue liberado tras demostrar su inocencia y más tarde llegó a un acuerdo legal con la ciudad. Antes que él, en 2019, Nijeer Parks fue detenido diez días en Woodbridge, Nueva Jersey, pese a tener una coartada sólida y diferencias físicas evidentes con el sospechoso.

Por qué esto importa si trabajas con IA o construyes tecnología

Para los founders y equipos que desarrollan o implementan soluciones basadas en inteligencia artificial, este caso no es solo una historia de injusticia: es una advertencia operativa y ética de primer orden.

El problema no es solo el algoritmo, sino la ausencia de fricción humana

Los sistemas de reconocimiento facial no son infalibles. Estudios del Instituto Nacional de Estándares y Tecnología (NIST) de EE.UU. han documentado tasas de error significativamente más altas en personas de piel oscura, mujeres y adultos mayores. Pero incluso si el algoritmo tuviera una precisión del 99%, el 1% restante representa miles de vidas reales cuando se aplica a escala.

El verdadero fallo en el caso de Lipps no fue tecnológico en origen: fue la ausencia total de supervisión humana crítica. El software hizo su trabajo —con error— y nadie en la cadena cuestionó el resultado. La IA se convirtió en el punto final de la toma de decisiones, en lugar de ser un punto de partida para la investigación.

El riesgo de la automatización sin responsabilidad definida

Cuando un sistema automatizado toma una decisión que nadie revisa, el daño que puede causar escala en proporción directa a la velocidad y el alcance del sistema. En el ecosistema startup, esto se traduce en una pregunta que todo equipo debería hacerse antes de desplegar cualquier solución de IA con consecuencias relevantes para las personas: ¿quién es responsable cuando el modelo se equivoca?

No basta con incluir disclaimers en los términos de uso. La gobernanza de la IA —los protocolos que determinan cuándo un humano debe revisar, validar o frenar una decisión automatizada— es parte integral del diseño del producto, no un añadido posterior.

Regulación: lenta pero en marcha

El caso de Angela Lipps ha intensificado el debate legislativo en varios estados de EE.UU. sobre la necesidad de protocolos obligatorios antes de usar coincidencias de reconocimiento facial como base para una orden de arresto. La Unión Europea, con su AI Act ya en vigor, clasifica los sistemas de identificación biométrica remota en espacios públicos como de «alto riesgo», imponiendo requisitos estrictos de supervisión humana y transparencia. En América Latina, el debate está recién comenzando, pero el caso de Lipps llegará a los parlamentos de la región más pronto que tarde.

Lo que un founder puede aprender de esto hoy

Si estás construyendo un producto con IA —o evaluando proveedores que la usan—, estas son las preguntas que deberías responder antes de avanzar:

¿Cuál es la tasa de error del modelo en los grupos demográficos a los que sirves? No todas las métricas de precisión son iguales para todos los perfiles.
¿Existe un protocolo claro de revisión humana antes de que una decisión automatizada tenga consecuencias irreversibles para una persona?
¿Quién asume la responsabilidad cuando el sistema falla? Debe estar definido antes del lanzamiento, no después del primer incidente.
¿Tienes mecanismos de apelación o corrección accesibles para los afectados? La velocidad de automatización no puede superar la capacidad de los humanos de impugnar errores.

El caso de Angela Lipps no pide que abandonemos la inteligencia artificial. Pide que la usemos con la responsabilidad que su poder exige. La tecnología que puede cambiar vidas también puede arruinarlas si se despliega sin las salvaguardas adecuadas.

Conclusión

Seis meses de prisión por una coincidencia que nadie quiso cuestionar. El caso de Angela Lipps es el octavo en EE.UU. con el mismo patrón y, casi con certeza, no será el último. Para quienes construimos tecnología en América Latina, la lección es clara: la IA sin supervisión humana no es eficiencia, es riesgo sistémico. La velocidad de implementación nunca puede justificar la omisión de los mecanismos que protegen a las personas de los errores del modelo. Ese equilibrio —entre escalar con IA y mantener la responsabilidad humana— es uno de los retos más importantes que enfrentan los founders hoy.

Profundiza estos temas con nuestra comunidad de founders expertos en IA responsable y gobernanza tecnológica.

Unirme a la comunidad