Las cámaras de vigilancia ya no se limitan necesariamente a grabar lo que ocurre frente a ellas. Algunos sistemas incorporan inteligencia artificial capaz de identificar personas, objetos o determinados comportamientos, una evolución que también ha reavivado las preocupaciones sobre privacidad. En Berlín, donde recientemente comenzó una prueba con este tipo de tecnología, el artista alemán Simon Weckert decidió responder de una forma poco convencional: diseñando una camisa pensada para confundir a las máquinas.
Weckert no es nuevo en este tipo de experimentos. En 2020 se hizo conocido por caminar por las calles de Berlín arrastrando un carrito cargado con 99 teléfonos móviles, una intervención con la que consiguió provocar que Google Maps interpretara que existía una congestión de tráfico donde en realidad no la había.
Ahora su objetivo son los algoritmos de visión artificial.
Una camisa que intenta volverse invisible para la IA
La prenda, llamada Digital Camouflage Shirt, utiliza un estampado formado por figuras abstractas en tonos verdes, rosas y naranjas. Para una persona puede parecer simplemente un diseño llamativo, pero su distribución de formas y colores fue creada con otro propósito: dificultar que determinados algoritmos reconozcan correctamente el cuerpo humano.
El diseñador realizó pruebas utilizando YOLO —You Only Look Once—, una conocida familia de sistemas de detección de objetos utilizada en numerosos proyectos de visión artificial.
La clave está en que estos modelos no observan una escena de la misma manera que una persona. En lugar de comprender de forma intuitiva que delante de ellos existe un ser humano, analizan patrones visuales, texturas, bordes y relaciones estadísticas aprendidas durante su entrenamiento.
Un patrón especialmente diseñado puede alterar esas señales y reducir la confianza con la que el algoritmo clasifica aquello que está observando.
La llamada moda adversarial
El proyecto forma parte de una corriente conocida como adversarial fashion o moda adversarial, que intenta trasladar al mundo físico técnicas utilizadas desde hace años en investigaciones sobre inteligencia artificial.
Distintos experimentos académicos han demostrado que determinados estampados colocados sobre ropa, objetos o superficies pueden dificultar la identificación realizada por algunas redes neuronales. La idea consiste en introducir pequeñas perturbaciones visuales capaces de confundir al modelo sin que necesariamente resulten incomprensibles para una persona.
El desafío para Weckert fue convertir esos patrones en algo que alguien quisiera llevar puesto. Los diseños adversariales más efectivos suelen ser visualmente caóticos, por lo que buscó un equilibrio entre eficacia técnica y estética. Paradójicamente, también utilizó herramientas de inteligencia artificial durante el proceso de diseño.
No existe una capa de invisibilidad universal
La camisa, sin embargo, está lejos de convertir a quien la lleva en invisible frente a cualquier cámara. Su funcionamiento depende del algoritmo utilizado, la distancia, el ángulo de la cámara, la iluminación y la forma en que haya sido entrenado el sistema. Un patrón que funciona frente a una versión concreta de un detector puede dejar de hacerlo frente a otro modelo o después de una actualización.
Además, en el espacio público resulta prácticamente imposible saber qué software utiliza cada cámara.
Por eso, Weckert no garantiza que su camisa consiga evitar todos los sistemas de detección. Más que una herramienta infalible, el proyecto funciona como una demostración de una debilidad importante de la visión artificial: incluso sistemas avanzados pueden interpretar el mundo de formas muy diferentes a las de los seres humanos.
Y mientras las ciudades incorporan cada vez más cámaras capaces de analizar automáticamente lo que observan, prendas como esta convierten un problema técnico en una pregunta mucho más amplia: hasta qué punto queremos que los algoritmos sean capaces de reconocernos cuando caminamos por la calle.
