Deutsche Welle
Una camisa diseñada para esquivar cámaras con IA se ha convertido en el nuevo símbolo de la resistencia contra la vigilancia masiva, gracias a un estampado que confunde a los algoritmos de reconocimiento.
Olvídate del espía de gabardina y gafas oscuras. La resistencia contra la vigilancia masiva tiene ahora un nuevo uniforme, y se parece más al de un turista perdido en Cancún que al de un activista clandestino. Se trata de una camisa hawaiana, manga corta, abotonada, con un estampado tan chillón que cuesta mirarlo sin parpadear.
Su creador, el diseñador alemán Simon Weckert, la ha bautizado como "Digital Camouflage" y pretende volver a quien la lleva invisible, al menos para determinados ojos algorítmicos.
Una camisa hawaiana contra la vigilancia con IA
El punto de partida del proyecto está en Berlín. Weckert desarrolló la prenda ante la prevista implantación de videovigilancia con inteligencia artificial (IA) en Kottbusser Tor, según explica en la presentación de "Digital Camouflage". Pero el problema al que apunta va mucho más allá de la capital alemana.
En Estados Unidos, por ejemplo, la expansión de los lectores automáticos de matrículas coincide con un fuerte rechazo a este tipo de vigilancia. Gizmodo cifra en 130.000 los dispositivos instalados por Flock y sus competidores en todo el país.
Mientras la respuesta institucional avanza con lentitud, también aparecen formas más creativas de esquivar estos sistemas. La de Weckert consiste en volver contra los algoritmos sus propios criterios de reconocimiento. La técnica tiene un nombre: "ataque adversarial".
Cómo funciona el ataque adversarial
La clave está en cómo "ve" una inteligencia artificial. Weckert lo
resume con una lógica casi filosófica. Estos sistemas "nunca han
aprendido qué es un ser humano", explicó a Dezeen, sino cómo son los
humanos desde un punto de vista estadístico a partir de millones de
imágenes de entrenamiento.
Para la máquina, una persona es, en esencia, "un conjunto de
estadísticas visuales". Y ese es precisamente el punto débil que
aprovecha la camisa.
Por eso, la estridencia del tejido cumple una función muy concreta. La
combinación de manchas rosas, verdes y naranjas altera las pistas
visuales que el detector utiliza para reconocer la silueta humana. La
intención es que el cuerpo deje de presentarse ante el algoritmo como
una forma suficientemente coherente para que lo detecte como una
persona.
De ahí la paradoja de "Digital Camouflage". Cuanto más llamativo e
hipnótico resulta el estampado para un ser humano, menos sentido puede
tener para el detector.
Pero la ironía no termina ahí. Para encontrar un estampado capaz de
confundir a la inteligencia artificial, Weckert recurrió precisamente a
ella durante el desarrollo del diseño. Lo hizo mediante un proceso que
denomina "bucle adversarial".
El método consistía en enfrentar sucesivas versiones del estampado al
sistema de detección y utilizar su propia respuesta como guía para la
siguiente modificación. Cada resultado servía para ajustar el diseño y
seguir rebajando la confianza con la que el programa reconocía una
figura humana.
El resultado no se quedó únicamente en la teoría. Weckert probó el
resultado con YOLO, un sistema de detección de objetos de código
abierto.
Gizmodo, por su parte, afirma haber obtenido un efecto comparable al
someter la prenda a otro detector accesible desde el navegador. En esa
prueba, el software seguía detectando como personas a los transeúntes
situados al fondo, mientras que la figura con la camisa en primer plano
no era reconocida como persona.
La ocurrencia tiene incluso un precedente ficticio. Futurism compara la
prenda con la "camiseta más fea del mundo" que William Gibson imaginó
en su novela Zero History, publicada en 2010 y descrita como una
creación deliberadamente extrema.
El diseñador que ya había engañado a Google Maps
Tampoco resulta extraño que una idea así venga de Weckert. No era la
primera vez que jugaba con la percepción de un sistema automatizado.
Como ya informó DW, en 2020 recorrió calles de Berlín tirando de un
carrito con 99 teléfonos móviles conectados a internet. Google Maps
interpretó ese desplazamiento lento como una concentración de tráfico y
mostró atascos que en realidad no existían. Entonces consiguió alterar
la representación del tráfico que generaba el sistema. Ahora aplica una
lógica parecida a la detección visual del cuerpo humano.
Y no está solo. Alrededor de la preocupación por la vigilancia ha
surgido también un pequeño mercado de ropa concebida para despistar a
las cámaras. Gizmodo menciona a Urban Privacy, que comercializa desde
bufandas hasta sudaderas y camisetas, y a Cap_able, centrada en prendas
de punto de precios considerablemente más elevados.
"Digital Camouflage" lleva esa misma inquietud al terreno del arte y
plantea una pregunta que va más allá de su estampado imposible. Si las
máquinas aprenden a reconocernos a partir de patrones visuales, quizá
también podamos aprender a vestirnos para dejar de parecerles humanos.
La privacidad, al menos en este caso, empieza en el armario.
origen:
(https://www.dw.com/es/crean-una-camisa-hawaiana-capaz-de-burlar-el-reconocimiento-por-ia/a-78549371)
