El ataque: cómo una prenda burla a la IA de videovigilancia
El diseñador alemán Simon Weckert presentó en Berlín Digital Camouflage, una camisa hawaiana de manga corta con estampado de manchas rosas, verdes y naranjas que cuesta alrededor de US$88 y que, según el creador, vuelve difícil de identificar a quien la usa frente a sistemas de detección de personas basados en inteligencia artificial.
La prenda fue desarrollada como respuesta a la instalación prevista de cámaras de videovigilancia con IA en la plaza Kottbusser Tor, en el barrio de Kreuzberg, y se presenta en un momento en que la videovigilancia automatizada se expande en ciudades de Europa y Estados Unidos, según reportó la cadena pública alemana Deutsche Welle (DW) y replicó Infobae.
Weckert explicó a la revista británica Dezeen que los detectores visuales actuales "nunca aprendieron qué es un ser humano", sino cómo son los humanos desde una perspectiva probabilística a partir de millones de imágenes de entrenamiento. Para la máquina, dijo, una persona es "un conjunto de estadísticas visuales" que el estampado busca romper.
🤖 La IA no es solo para leer sobre ella
En la comunidad la aplicamos: automatización, agentes IA y herramientas reales para emprender, no solo para informarte.
👥 Aplicarla en la comunidad¿Por qué los detectores visuales fallan ante estampados estridentes?
La técnica detrás de la camisa corresponde a lo que en ciberseguridad se llama ataque adversarial, concretamente del subtipo evasion. Según la guía de TechTarget sobre aprendizaje automático adversarial, los ataques de evasión ocurren durante la fase de inferencia: se introducen perturbaciones cuidadosamente construidas en la entrada del modelo para empujarlo a clasificar mal, sin necesidad de tocar el entrenamiento.
Weckert llamó a su método "bucle adversarial": enfrentó versiones sucesivas del estampado contra el detector y, a partir de la respuesta del programa, introdujo cambios en la siguiente iteración. Cada ajuste buscaba reducir la confianza con la que el software identificaba una figura humana.
El sistema usado en las pruebas fue YOLO (You Only Look Once), un detector de objetos de código abierto sobre el que se construyen muchos productos comerciales de vigilancia. El portal Gizmodo afirmó haber reproducido el efecto con otro detector accesible desde el navegador: el programa seguía reconociendo como personas a los transeúntes del fondo, pero no identificaba como tal a la figura en primer plano con la prenda puesta.
Weckert: del carrito con 99 móviles al "bucle adversarial"
La intervención conecta con un trabajo anterior de Weckert que, según DW, recorrió en 2020 calles de Berlín arrastrando un carrito con 99 teléfonos móviles conectados a internet para engañar a Google Maps: el sistema interpretó el desplazamiento lento como una concentración de tráfico y mostró atascos inexistentes.
La idea de ropa pensada para desorientar cámaras no aparece en soledad. Gizmodo menciona a Urban Privacy, que vende bufandas, buzos y remeras para dificultar la vigilancia, y a Cap_able, enfocada en prendas de punto de mayor precio. El portal Futurism vinculó además la camisa con un antecedente literario: la "camiseta más fea del mundo" imaginada por William Gibson en la novela Zero History, publicada en 2010 como una creación deliberadamente extrema.
La rebelión contra la videovigilancia masiva se acelera en EE.UU.
El lanzamiento coincide con un momento crítico para la videovigilancia con IA en Estados Unidos. La organización civil DeFlock, que mantiene una base de datos colaborativa, contabiliza más de 130.000 lectores automáticos de patentes (ALPR) instalados en calles de todo el país, según reportó NPR.
De esas cámaras, alrededor de 120.000 son operadas por la empresa Flock Safety, que centraliza las lecturas en una base de datos nacional consultable por policías locales. El CEO de Flock, Garrett Langley, defendió en una entrevista con NPR que las comunidades están más seguras gracias a su tecnología.
La presión ciudadana, sin embargo, ha crecido. Más de 100 municipios cancelaron o suspendieron sus contratos con Flock o con empresas similares desde 2025, y las cámaras han sido vandalizadas en al menos 36 estados, según el mismo relevamiento de DeFlock recogido por NPR. Newsweek, que también cita datos de DeFlock, precisa el desglose: 46 comunidades cancelaron contratos, 20 rechazaron propuestas, 19 desactivaron cámaras, 8 las retiraron y 12 pausaron o suspendieron sus programas.
La ACLU calificó como "en gran medida insatisfactorios" los cambios anunciados por Flock para responder a las críticas —entre ellos, reducir el periodo de retención de datos—, según el mismo reporte de NPR.
Los rivales intentan ocupar el espacio. Axon, la compañía de TASER y cámaras corporales, dijo en una llamada de resultados que está viendo "un número significativo de agencias" migrar desde Flock hacia sus productos ALPR. Motorola Solutions, Verkada, Rekor y Genetec también se posicionan, según el análisis de mercado de Civic IQ recogido por Newsweek. Matthew Guariglia, analista senior de políticas de la Electronic Frontier Foundation, advirtió a NPR que cambiar de proveedor no resuelve el problema: "es solo reemplazar una cámara de un color por una cámara de otro color".
Qué significa esto para tu startup
El caso de Weckert deja tres lecciones prácticas para founders que están construyendo —o evaluando— productos de visión por computadora o de seguridad:
- Tu modelo es más frágil de lo que parece. Si entrenas un detector con datasets públicos (COCO, Open Images, ImageNet) y lo expones a un adversario activo, el ataque de evasión es barato y rápido. Cualquier producto que se presente como "detecta X" debería tener un plan de pruebas adversariales antes de salir a producción, igual que se hace con pentesting.
- El cuello de botella de los ALPR no es la cámara, es la base de datos nacional. El análisis de la ACLU explica que el valor de Flock está en que el 75% de sus 5.000 clientes policiales comparten lecturas en su red National Lookup, creando una red que ninguna cámara aislada puede igualar. Si vendes B2B a fuerzas de seguridad, la pregunta sobre qué datos cruza tu sistema con terceros vale tanto como la precisión del modelo.
- Hay un nicho abierto en contra-vigilancia. Cap_able y Urban Privacy ya venden prendas con estética "ponible" para evadir IA, no solo camisetas experimentales. Si tu startup trabaja en privacidad, wearables o adversarial ML, esta categoría está pasando del terreno artístico al producto.
Fuentes
- La camisa que engaña a las cámaras de vigilancia con IA — Infobae
- Adversarial machine learning: Threats and countermeasures — TechTarget
- Flock's Major Rivals as Cameras Spark Increasing Backlash — Newsweek
- As Flock battles public scrutiny, other police surveillance companies see an opening — NPR
- Beware of Other License Plate Surveillance Companies Besides Flock — ACLU
🤖 La IA no es solo para leer sobre ella
En la comunidad la aplicamos: automatización, agentes IA y herramientas reales para emprender, no solo para informarte.
👥 Aplicarla en la comunidadArtículos relacionados:
Flock Safety: 120.000 cámaras y herramienta opaca contra abuso policial en 2026
Flock Safety pide «compromiso» y la presion sube en ambos bandos
Flock Safety: 120.000 cámaras y el debate que llega a Europa
Flock Safety: 80.000 cámaras con IA y valoración de $8.400M
Flock Safety: 30 ciudades cancelan por fallo de privacidad 2026
