Simon Weckert es un diseñador y artista alemán que trabaja en la intersección entre tecnología, espacio público y vigilancia digital. Sus proyectos suelen poner a prueba sistemas que forman parte de la vida cotidiana y cuestionar la manera en que las máquinas observan, clasifican y condicionan el comportamiento de las personas.
Su última creación apunta directamente a las cámaras equipadas con inteligencia artificial: Weckert diseñó una camisa que, mediante una combinación de colores y formas, puede confundir a determinados sistemas de visión artificial hasta conseguir que el algoritmo deje de reconocer como persona a quien la lleva puesta.
La prenda se llama Digital Camouflage y surgió como una respuesta al despliegue de sistemas automatizados de vigilancia en espacios públicos de Berlín.
“Quería una respuesta con la que uno pudiera plantarse delante de esas cámaras”, explicó Weckert, en diálogo con el medio, sobre su creación.
El punto de partida de la idea fue Kottbusser Tor, una concurrida zona de la capital alemana donde comenzaron a utilizarse cámaras equipadas con un sistema capaz de analizar conductas de los peatones.
“El disparador fue concreto: Berlín encendió su primer escáner de comportamiento con inteligencia artificial, un software que clasifica lo que hace cada transeúnte entre ‘normal’ y ‘sospechoso’”, contó.
Su intención, sin embargo, no fue desarrollar una herramienta para ocultar físicamente a las personas. La camisa resulta perfectamente visible para el ojo humano. El engaño ocurre solamente frente al algoritmo que intenta determinar si lo que aparece delante de la cámara es una persona.
Cómo funciona la camisa que engaña a la inteligencia artificial
Digital Camouflage utiliza una técnica conocida como ataque adversarial, que consiste en introducir modificaciones en una imagen o en un objeto para provocar errores en la interpretación de un modelo de inteligencia artificial.
En este caso, el ataque, en lugar de estar escondido dentro de un archivo digital, está impreso directamente sobre la tela.
Los sistemas de visión artificial aprenden a identificar personas después de analizar grandes cantidades de imágenes y encontrar patrones que se repiten. A partir de esos datos reconocen características como la forma del cuerpo, sus proporciones y la relación entre distintas partes de una figura.
Weckert buscó interferir precisamente en esas referencias: “Los sistemas de detección nunca aprendieron qué es un ser humano: memorizaron cómo se ven estadísticamente a partir de millones de imágenes”, explicó al medio.
Según el diseñador, las formas superpuestas del estampado alteran la silueta del cuerpo y dificultan que el software relacione elementos como la cabeza, los hombros y las piernas dentro de una misma figura.
A ese efecto se suman los colores intensos del diseño, que introducen información visual adicional en la imagen analizada por el sistema: “El ojo humano inmediatamente ve a una persona con una camisa llamativa; el algoritmo no ve nada”, resumió Weckert.
Pero eso no significa, por supuesto, que la prenda otorgue una suerte de invisibilidad universal frente a las cámaras.
Los límites de Digital Camouflage
Weckert reconoce que una de las principales limitaciones de estos ataques es que un diseño capaz de engañar a un modelo de IA no necesariamente funcionará contra otro.
“Los patrones adversariales son específicos de cada modelo y su capacidad de transferirse a otros sistemas es limitada”, explicó.
Por ese motivo, el experimento no demuestra que la camisa pueda engañar a todas las cámaras con inteligencia artificial ni que consiga evitar cualquier tecnología de reconocimiento facial.
El propio diseñador aclaró además que las demostraciones de su proyecto se realizaron con un detector genérico de código abierto y no aseguró que el resultado pueda reproducirse contra un sistema gubernamental específico.
Vigilar e intervenir: la evolución del panóptico en la era de la inteligencia artificial
En el panóptico de Foucault, el poder de la vigilancia no estaba solamente en mirar, sino en hacer que la posibilidad de ser observado terminara influyendo sobre la conducta. Con cámaras capaces de analizar movimientos y comportamientos mediante inteligencia artificial, esa idea encuentra una expresión nueva en las calles.
“La vigilancia cambia a las personas. Una plaza vigilada hace que caminemos, nos reunamos y hablemos de otra manera. La libertad se reduce silenciosamente, sin que haya un solo arresto”, explicó Weckert.
El diseñador planteó también que la presencia constante de sistemas automatizados puede modificar el comportamiento de quienes presencian alguna situación inusual en la calle. “Cuando un sistema oficial está mirando, intervenir empieza a sentirse como el trabajo de otra persona: la cámara se encargará, así que nadie tiene que hacerlo”, explicó. Y agregó: “Pero una cámara no puede intervenir; solamente puede grabar”.
Weckert señaló además un problema menos visible: las alertas de los sistemas de reconocimiento no impactan de la misma manera sobre todos. En el experimento de Berlín, una de las conductas captadas por las cámaras que puede activar un aviso a las autoridades es que una persona se acueste en el espacio público. Pero en Kottbusser Tor, el lugar, además de tránsito para miles de trabajadores, es también un espacio de permanencia para personas en situación de calle. “Para muchas de ellas, esa plaza es su hogar. El sistema puede marcarlas simplemente por existir allí”, explicó.
Es entonces cuando aparece una diferencia entre quienes tienen la posibilidad real de retirarse de esa vigilancia y quienes no pueden hacerlo: “Quienes tienen un espacio privado pueden alejarse de las cámaras; quienes viven en el espacio público, no”, afirmó Weckert.
Esa discusión conduce a un terreno distinto al tecnológico: qué límites existen para que un Estado analice o identifique a personas que simplemente circulan por un lugar público y qué herramientas tiene un ciudadano para oponerse.
Reconocimiento facial en la vía pública: qué pasa con la privacidad
El sistema que motivó el proyecto de Weckert analiza comportamientos y movimientos en el espacio público. Sin embargo, el reconocimiento facial plantea también un grave problema: el uso de datos biométricos para identificar personas a distancia, un terreno que también genera fuertes cuestionamientos legales.
Para David Regairaz, abogado especialista en inteligencia artificial, protección de datos personales y ciberseguridad, ese tipo de tecnología supone un avance sobre los derechos de las personas. “La identificación mediante reconocimiento facial, de manera remota y en tiempo real en espacios públicos, implica una afectación sobre los datos personales sensibles de las personas. Cuando el uso de esas tecnologías no está justificado, los ciudadanos deben tener derecho a oponerse”, expresó.
El especialista señaló al medio que existen jurisdicciones donde estos usos están fuertemente restringidos y solo se admiten bajo circunstancias excepcionales. Un ejemplo es la Unión Europea. Su Reglamento de Inteligencia Artificial restringe el uso policial de sistemas de identificación biométrica remota en tiempo real en espacios públicos y establece excepciones concretas, como la búsqueda de determinadas víctimas o personas desaparecidas, la prevención de amenazas graves y la localización de sospechosos por determinados delitos. También impone condiciones sobre su alcance y, como regla, exige una autorización judicial o de una autoridad administrativa independiente.
Por otra parte, Regairaz también advirtió: “En general, el consentimiento no es la base legal para este tipo de tratamiento de datos debido a que rara vez puede encontrarse de manera libre y sin condicionamientos”, explicó. En esos casos, agregó, la justificación suele estar vinculada con el ejercicio de funciones estatales o, en el ámbito privado, con otras bases legales admitidas para el tratamiento de información.
Pero eso no implica una autorización sin límites: “En todos los casos, su uso debe darse con estricto apego a los principios de la ley”, afirmó. Y concluyó: “Hay muy poco margen para que este tipo de tecnologías pueda ser usado legalmente”.
Qué ocurre con las personas que una cámara registra aunque no sean buscadas
Uno de los problemas de la identificación biométrica masiva aparece precisamente por la cantidad de personas que un sistema necesita observar para localizar a otra.
En una calle, una estación o una plaza pueden pasar cientos o miles de personas que no están sospechadas de ningún delito ni son buscadas por la Justicia.
¿Qué debería suceder con sus imágenes y datos? Para Regairaz, no deberían permanecer almacenados como consecuencia de un proceso indiscriminado de identificación: “No deberían existir imágenes obtenidas mediante identificación biométrica en espacios públicos a distancia y en tiempo real de personas que no son buscadas por la Justicia ni sospechosos de participar en un delito”, sostuvo. “De existir, deben ser destruidas con protocolos que garanticen la imposibilidad de recuperar esa información”, agregó.
La normativa europea establece restricciones similares para los supuestos excepcionales en los que permite la identificación biométrica remota en tiempo real con fines policiales. Entre otras condiciones, exige límites temporales, geográficos y personales, y prevé que, en determinadas situaciones urgentes en las que una autorización posterior sea rechazada, los datos obtenidos sean eliminados.
Para Regairaz, una persona que tenga conocimiento de que sus datos fueron tratados también puede intentar conocer qué información se conserva sobre ella: “No habría obstáculo alguno para que una persona le requiera al Estado que informe si posee datos personales sobre su persona, pero el ejercicio de este derecho debe ser regular y no abusivo”, explicó.
¿Es legal usar una camisa para impedir que una cámara te identifique?
La creación de Weckert lleva el debate hasta una situación novedosa: si una persona utiliza deliberadamente una prenda destinada a dificultar el funcionamiento de un sistema automatizado, ¿está protegiendo su privacidad o incumpliendo una norma?
Para Regairaz, una persona puede adoptar medidas para evitar una identificación biométrica indiscriminada en un espacio público: “Una persona podría usar una remera que evite que el Estado o un particular use biometría para identificarlo en tiempo real, a distancia, en espacios públicos y sin su consentimiento, desde que cualquiera puede protegerse de que un tercero le ocasione un daño injustificado”, afirmó.
El abogado tampoco considera que el Estado pueda establecer una prohibición general contra este tipo de prendas únicamente porque dificulten el reconocimiento automatizado.
Según Regairaz, las autoridades conservan además otros medios tradicionales para ejercer sus funciones de seguridad sin necesidad de someter a un número indeterminado de ciudadanos a un proceso permanente de identificación biométrica.
Digital Camouflage lleva la discusión mucho más allá de una prenda capaz de confundir a un algoritmo. El proyecto expone hasta qué punto la inteligencia artificial puede intervenir en el espacio público y obliga a revisar qué lugar ocupan la privacidad, el anonimato y la libertad de movimiento en ciudades cada vez más vigiladas.