El diseño se llama Digital Camouflage (“camuflaje digital”) y lo creó el artista y tecnólogo berlinés Simon Weckert como respuesta directa a un proyecto concreto: la instalación de cámaras de videovigilancia con inteligencia artificial en Kottbusser Tor, una de las estaciones de metro más transitadas de Berlín.
Cómo se diseña una prenda para engañar a una IA
Según reportó PetaPixel, Weckert no diseñó el patrón a ojo: usó otra inteligencia artificial en lo que se conoce como un “bucle adversarial”, un método de prueba y error automatizado (en este caso, una técnica que describe como TC-EGA) hasta encontrar una combinación de colores y formas capaz de confundir a un sistema de visión por computadora. Después probó el resultado contra YOLO, un modelo de detección de objetos en tiempo real, de código abierto y ampliamente usado tanto en investigación académica como en sistemas de videovigilancia comerciales.
“Esto era necesario porque los puntos ciegos de una máquina no son intuitivos para los humanos: no se puede diseñar contra la percepción de una máquina a simple vista, solo la máquina puede decirte qué es lo que no logra ver”, explicó Weckert. Es, en otras palabras, un diseño hecho a prueba, no por intuición estética.
Qué le rompe exactamente a un detector de personas
La explicación técnica que dio Weckert apunta a un mecanismo bastante específico: “las transiciones de color saturado disparan con fuerza en las primeras capas de la red, mientras que las formas superpuestas rompen la continuidad del contorno del cuerpo, así que el detector ya no puede unir las partes en una sola figura”. Dicho de otro modo, el patrón no vuelve invisible a la persona: interfiere con el paso en el que el sistema intenta trazar un contorno coherente y reconocerlo como “un cuerpo humano completo”, en lugar de una serie de fragmentos de color inconexos.
Esta clase de intervención se conoce en la literatura académica como “parche adversarial” (adversarial patch), y no es un concepto nuevo: un trabajo de 2019 de investigadores de la Universidad KU Leuven, en Bélgica, ya había demostrado que era posible imprimir patrones capaces de esconder a una persona de detectores basados en YOLO en condiciones del mundo real, no solo en simulaciones de laboratorio. El artista y programador Adam Harvey viene explorando variantes del mismo problema desde antes, con su proyecto CV Dazzle, centrado en patrones de maquillaje y peinado pensados para confundir a los sistemas de reconocimiento facial.
No es magia: los límites que conviene tener claros
La descripción de que la camisa hace que su usuario “no registre como persona para la máquina” es una simplificación llamativa, pero exagerada si se toma en sentido literal. Distintos análisis técnicos posteriores a la difusión del proyecto señalan que lo más preciso es decir que el patrón reduce la confianza de detección o provoca que el modelo no identifique a la persona en algunos fotogramas, no que la vuelva invisible de forma general y permanente para cualquier sistema de inteligencia artificial.
Además, la efectividad de un parche adversarial suele estar ajustada a un modelo o una familia de modelos específicos: un patrón optimizado contra YOLO no necesariamente funciona igual de bien contra un sistema de detección basado en una arquitectura distinta, entrenado con otros datos, o contra las versiones más recientes del propio YOLO, que se actualiza con regularidad. Es una limitación estructural de este tipo de ataques: funcionan mientras el detector se comporte como cuando se optimizó el patrón en su contra, y pierden eficacia apenas el modelo cambia.
Un problema que la industria de la vigilancia ya viene monitoreando
El propio campo de la seguridad informática lleva años documentando el fenómeno inverso al que persigue Weckert: patrones adversariales usados de forma maliciosa, por ejemplo pegados sobre señales de tránsito para intentar confundir los sistemas de visión de vehículos autónomos. La existencia de proyectos de arte como Digital Camouflage funciona, en ese sentido, como una forma pública y explícita de señalar una vulnerabilidad que la investigación en seguridad de sistemas de IA ya identificó puertas adentro, pero que rara vez llega a discutirse fuera de papers técnicos.
Para Weckert, el objetivo del proyecto es sobre todo simbólico: una respuesta visible, casi paródica, a la expansión de sistemas de videovigilancia automatizada en espacios públicos como el metro de Berlín, en un momento en que ese tipo de infraestructura se instala cada vez con menos debate público sobre sus límites y su margen de error.
