Een bont overhemd waarmee je voor kunstmatige intelligentie kunt ‘verdwijnen’. Het klinkt als sciencefiction, maar de Duitse kunstenaar Simon Weckert heeft precies zo’n kledingstuk gemaakt. Zijn shirt weet een AI-systeem voor persoonsdetectie daadwerkelijk voor de gek te houden. En daarmee stelt hij een veel grotere vraag: hoeveel vertrouwen moeten we hebben in digitale bewaking die burgers zelf nauwelijks kunnen controleren?
Wie het shirt van Simon Weckert ziet, denkt waarschijnlijk niet meteen aan hightech verzet tegen de surveillancestaat. Het ding oogt vooral als een Hawaïshirt dat na drie cocktails ruzie heeft gekregen met een kleurenprinter. Maar juist dat bizarre patroon heeft een functie.
Weckert noemt zijn project Digital Camouflage. Het kledingstuk is ontworpen om computer vision, software waarmee camera’s bijvoorbeeld mensen en objecten herkennen, in verwarring te brengen. Voor onze ogen blijft de drager gewoon een mens. Voor een getest AI-model kan diezelfde persoon ineens uit beeld verdwijnen.
AI ziet geen mens meer
Het geheim zit niet in een onzichtbaarheidsmantel, maar in wat een zogenoemde adversarial attack heet. Een AI-systeem kijkt namelijk anders naar een afbeelding dan wij. Het zoekt naar statistische patronen in onder meer vormen, randen, kleuren en texturen die het tijdens zijn training heeft leren koppelen aan het begrip ‘persoon’.
Verstoor precies die kenmerken en het systeem kan de mist ingaan. Het patroon op Weckerts shirt is met dat doel ontwikkeld. Hij testte het tegen YOLO, een bekende opensourcefamilie van systemen voor objectdetectie. Bij demonstraties worden andere voorbijgangers door het systeem netjes als ‘person’ gemarkeerd, terwijl de drager van het shirt niet wordt herkend.
Dat is op zijn minst fascinerend. We bouwen een wereld waarin algoritmen steeds vaker mogen bepalen wat een camera ziet. Vervolgens blijkt een bont stukje textiel genoeg om zo’n algoritme zand in de digitale ogen te strooien.
Geen magische mantel
Hier is wel een belangrijke kanttekening nodig. Wie het shirt aantrekt, wordt niet ineens onzichtbaar voor iedere bewakingscamera. Weckert beweert dat zelf ook niet.
Het kledingstuk is getest tegen YOLO. Dat betekent niet automatisch dat het ook werkt tegen ieder commercieel camerasysteem, gezichtsherkenningssoftware of de systemen die politie en overheden gebruiken. Weckert zegt expliciet dat hij geen claims doet over specifieke gesloten overheidssystemen.
En precies daar wordt zijn kunstproject interessanter dan het shirt zelf. Want bij een opensourcesysteem kunnen onderzoekers bekijken hoe het werkt en proberen het te testen. Bij veel gesloten systemen kan dat niet. Burgers weten daardoor lang niet altijd precies hoe betrouwbaar de technologie is die hen observeert.
Het shirt kunnen we testen. De camera die naar ons kijkt soms niet. Dat is de werkelijke boodschap.
De man van de 99 telefoons
Wie de naam Simon Weckert bekend voorkomt, heeft een goed geheugen. In 2020 haalde hij wereldwijd het nieuws met een even simpel als briljant experiment. Hij stopte 99 smartphones in een rood karretje en trok daarmee langzaam door straten in Berlijn.
Google Maps gebruikte locatiegegevens van smartphones om de verkeersdrukte te bepalen. Een grote hoeveelheid langzaam bewegende telefoons op dezelfde plek leek voor het systeem dus op langzaam rijdend verkeer.
Het gevolg? Google Maps kleurde de straat rood en registreerde een verkeersopstopping terwijl er in werkelijkheid nauwelijks verkeer was. Het systeem kon destijds Weckerts truc niet onderscheiden van echte verkeersdrukte.
Ook toen ging het Weckert niet alleen om de grap. Zijn punt was dat digitale systemen onze werkelijkheid niet alleen beschrijven, maar haar ook kunnen beïnvloeden. Als Google denkt dat ergens file staat, kan het automobilisten omleiden. Een fout in de digitale werkelijkheid krijgt daarmee gevolgen in de echte wereld.
Zes jaar later doet hij met zijn shirt eigenlijk hetzelfde kunstje. Alleen is de inzet inmiddels groter.
Van verkeersinformatie naar bewaking
Een verzonnen file is grappig. Een AI-systeem dat ten onrechte besluit dat iemand verdacht gedrag vertoont, is dat een stuk minder.
Weckert koppelt zijn project nadrukkelijk aan de opkomst van geautomatiseerde camerabewaking in de openbare ruimte. Zijn werk ontstond mede tegen de achtergrond van nieuwe cameratechnologie in Berlijn. Volgens hem moeten we ons afvragen wat er gebeurt wanneer software niet alleen registreert dát iemand ergens loopt, maar ook gedrag probeert te classificeren.
Daar zit de politieke vraag. We zijn razendsnel bezig kunstmatige intelligentie toegang te geven tot steeds meer delen van het openbare leven. Camera’s worden slimmer. Software kan beelden automatisch analyseren. Systemen kunnen personen en voertuigen herkennen en enorme hoeveelheden beeldmateriaal doorzoeken.
Maar wie controleert de controleur? Een overheid zal zeggen dat dergelijke technologie helpt bij veiligheid en opsporing. Dat argument verdient serieus genomen te worden. Slim cameratoezicht kan immers nuttig zijn.
Maar veiligheid ontslaat de overheid niet van de plicht om transparant te zijn over de betrouwbaarheid, proportionaliteit en controleerbaarheid van zulke systemen. Sterker nog: hoe machtiger de technologie, hoe belangrijker die controle wordt.
Een shirt van ongeveer 88 dollar
Het mooiste is misschien dat Weckert zijn protest niet heeft opgeborgen in een museum waar drie kunstcritici er met een glas witte wijn naar kunnen staren. Hij heeft er een daadwerkelijk draagbaar kledingstuk van gemaakt.
Volgens recente berichtgeving kost het shirt ongeveer 88 dollar. Een deel van de opbrengst gaat volgens Weckert naar organisaties die zich inzetten voor digitale burgerrechten en tegen uitbreiding van surveillance.
Maar koop het vooral niet met het idee dat je voortaan als een digitale geest langs iedere beveiligingscamera kunt wandelen. Dat kan het shirt niet garanderen.
Het bewijst iets anders. Een systeem dat voor het menselijk oog een doodnormale man in een schreeuwerig overhemd ziet, kan door een slim gekozen patroon ineens besluiten dat er helemaal geen persoon staat.
En ondertussen worden vergelijkbare vormen van kunstmatige intelligentie steeds verder onze openbare ruimte binnengereden. Daarom is dat rare Hawaïshirt uiteindelijk niet het probleem.
Het is de vraag. Het echte probleem begint wanneer de overheid systemen gebruikt die ons voortdurend mogen bekijken, terwijl wij niet mogen bekijken hoe die systemen tot hun oordeel komen.
Steun Realistische Reflecties
Wilt u dat Realistische Reflecties blijft groeien als onafhankelijk platform voor scherpe columns, analyses en geluiden die elders te weinig ruimte krijgen? Steun ons dan met een donatie. Iedere bijdrage, groot of klein, helpt ons om onafhankelijk te blijven, nieuwe schrijvers een podium te bieden en ons bereik verder uit te bouwen. Samen houden we het vrije en kritische geluid levend. Doneren kan via deze link