Foto: Tijdens de twaalfde editie van de Big Brother Awards gaf Hans de Zwart een speech in de grote zaal van de Stadsschouwburg in Amsterdam. Over Stevie Wonder en Ray Kurzweil, de staat van gezichtsherkenning, en over dat we nu een grens moeten trekken.
Goedenavond allemaal!
Het is een voorrecht om hier in deze prachtige Stadschouwburg te staan. Zeker nu die stampvol zit met mensen die de privacydiscussie nog lang niet “beu” zijn.
Het Britse satirische nieuwsprogramma Have I Got News for You heeft altijd een ronde met de titel Odd one out. Daar wil ik hier vanavond even mee beginnen. Welke van de volgende vier foto’s hoort niet in dit rijtje thuis?
Is dat…
Stevie Wonder?
Rob Bertholee?
De optofoon?
of Ray Kurzweil?
Nou? Wie denken jullie?
Inderdaad, het is Rob Bertholee. Niet omdat ik hem beu ben, maar wel omdat hij de enige van de vier is die schaamteloos privacyliefhebbers beschuldigt van het goedkeuren van terroristische aanslagen.
Aan de hand van de andere drie foto’s wil ik kort vertellen over de verhouding tussen wat er technologisch mogelijk is en wat de overheid doet.
En daarvoor moeten we dus beginnen bij de optofoon.
Dit apparaat is uitgevonden in 1913 en hielp blinden en slechtzienden bij het lezen van boeken. Letters werden door een soort scanner omgezet in muzikale tonen. Alleen als je echt veel oefende kon je het apparaat gebruiken.
Dit is een 17-jarige Ray Kurzweil die in 1965 in het TV-programma I’ve Got a Secret demonstreert hoe hij een zelfgemaakte computer muziek heeft laten componeren en uitvoeren. Toen al was hij een geniale ingenieur.
Dit is dezelfde Ray Kurzweil die nu één van de grondleggers is van de Singularity University waar je ‘exponentieel’ leert denken. Als transhumanist probeert hij niet te sterven voordat de medische wetenschap mensen voor eeuwig in leven kan houden —om dat voor mekaar te krijgen slikt hij voor duizenden dollars 100 pillen per dag, te koop via Ray and Terry’s Longevity Products—. Kurzweil probeert ook al een aantal jaar het brein van zijn overleden vader na te bouwen.
In 1976 lanceerde hij de Voice Reader een apparaat waarmee blinden en slechtzienden boeken kunnen lezen. Dat apparaat bracht drie nieuwe technologieën bij elkaar: een scanner, een text-to-speech synthesizer en —heel belangrijk— een versie van Optical Character Recogniton (OCR, het herkennen van letters in beeld) die meerdere lettertypes kon herkennen.
Stevie Wonder was zo enthousiast over het apparaat dat hij eind jaren ’80 voor de Kurzweil Reader een spotje opnam.
Google levert inmiddels Optical Character Recognition diensten op afroep. Voor een paar dollar per 1.000 foto’s, kijken de systemen van Google naar je plaatje en vissen de tekst eruit. Hier ziet Google bijvoorbeeld wie vorig jaar de publieksprijs won.
Deze zelfde technologie is de motor achter automatische nummerplaat herkenning, ANPR.
Wij hebben allemaal als persoon ook een uniek kenteken… Ons gezicht.
Jullie hebben inmiddels allemaal het prachtige grafische ontwerp van deze awards gezien. Pleun Gremmen heeft zich voor dat ontwerp onder andere laten inspireren door de manier waarop computeralgoritmes ons gezicht ‘bekijken’.
Ook op het gebied van gezichtsherkenning is de technologie keihard gegaan. Het is tegenwoordig voor een computer triviaal om te herkennen waar op een beeld de gezichten te zien zijn. En die gezichten kunnen feilloos gekoppeld worden aan eerdere foto’s met hetzelfde gezicht. Gezichtsherkenning weeft zich langzaam maar zeker in onze maatschappelijke transacties. Facebook weet bijvoorbeeld precies op welke foto jij wel en niet staat en op Schiphol checkt een poortje of je nog steeds lijkt op je foto. Bij mij werkt dat overigens nooit, maar dat kan komen omdat dit…
…mijn paspoort foto is. Echt… Het is een soort optische illusie van de schaduw onder mijn neus. Ik had geen snor.
Met mijn privacyvriendelijke zoekmachine heb ik een uurtje onderzoek gedaan naar waar en hoe gezichtsherkenning wordt ingezet. Het resultaat was zelfs voor mij —dit is immers mijn werk— ontluisterend.
Banken en credit card maatschappijen gebruiken bijvoorbeeld technologie als FacePhi om je gezicht te veranderen in een wachtwoord. Inclusief even knipperen om te laten zien dat je nog leeft.
Uber maakt op willekeurige momenten foto’s van haar Chinese chauffeurs en gebruikt dan Faceplusplus om te zien of de persoon die achter het stuur zit wel de persoon is die zich ooit bij Uber had aangemeld.
Met Churchix kun je als kerkleider, op basis van een video-feed van een camera bij de ingang, geautomatiseerd bijhouden welke leden wel of niet naar de kerk zijn gekomen op een bepaalde dag.
En het meest dystopische voorbeeld van het afgelopen jaar is gemaakt op basis van VK, het grootste sociale netwerk van Rusland. Het laat namelijk zien hoe makkelijk je geprofileerd kunt worden, zonder dat je het door hebt.
FindFace geeft je de mogelijkheid om aan de hand van foto’s van mensen te zoeken binnen VK naar hun profielen.
De 21-jarige Russische fotograaf Egor Tsvetkov heeft in de metro van Moskou foto’s gemaakt van reizigers om daar vervolgens via FindFace het VK-profiel bij te vinden. Bij de jonge mensen in de metro lukte het hem om in 70% van de gevallen de fysieke wereld te koppelen aan de virtuele wereld. Ik betwijfel of die metro-reizigers wisten dat dit überhaupt mogelijk is, laat staan zo makkelijk.
Het herkennen en analyseren van gezichten kun je inmiddels ook als dienst afnemen. Een soort kunstmatige intelligentie as a service. Bij Microsoft heet het Cognitive Services en kun je voor anderhalve dollar 1.000 gezichten analyseren. Dat ziet er ongeveer zo uit:
Ik heb deze foto geüpload. Het gezicht van Bertholee wordt snel herkend en de coördinaten van het tipje van de neus of de wenkbrauwen kun je direct uitlezen. Maar het algoritme genereert nog meer data.
Je kunt ook zien dat de meneer op deze foto volgens Microsoft 61.8 jaar oud is. In het echte leven is hij 61.26 jaar oud. Er zijn ook scores voor gezichtsbeharing. Een 0.1 bij de snor voor Bertholee.
Het is natuurlijk ‘movember’ op dit moment, dus Microsoft heeft een herkenningsdienst voor snorren opgezet. Je kunt daarmee dus je steun aan de gezondheid van mannen kwantificeren. Ik heb dat toch even snel voor mezelf getest.
En mijn non-snor blijkt langer dan 71% van de andere deelnemers.
In de opsporing wordt al jarenlang gewerkt met gezichtsherkenning. Dit jaar schreef de Wall Street Journal bijvoorbeeld dat in China politiewagens worden uitgerust met een camera op het dak. Deze kijkt 360 graden om zich heen en kan tot op 60 meter afstand gezichten scannen en bekende criminelen eruit pikken.
Het Georgetown Law Center on Privacy and Technology deed dit jaar onderzoek naar de database met gezichten die door de Amerikaanse politiediensten worden bijgehouden. Ze kwamen er achter dat foto’s van 117 miljoen Amerikanen in ongereguleerde databases van Amerikaanse politiecorpsen zitten. Deze mensen kunnen altijd geïdentificeerd worden. Ze noemen het de ‘perpetual line-up‘.
Je bent niet alleen heel makkelijk te identificeren aan de hand van je foto. Machine learning maakt het mogelijk dat je emoties ook herkend worden.
Je ziet hier bijvoorbeeld dat Bertholee neutraal is en vooral niet bang, of blij. Microsoft heeft hier uiteraard een dienst van gemaakt.
Alex Emmons van The Intercept was bijvoorbeeld op een conferentie waar Microsoft deze technologie aan het verkopen was om hun klanten inzicht te geven in de emoties van een groot publiek, zoals bijvoorbeeld bij een politieke rally of een sportwedstrijd.
En het gaat nog een stap verder.
Het Israelische FACEPTION doet aan geautomatiseerde gezichtsprofilering.
Ze beloven de persoonlijkheid van iemand af te kunnen lezen op basis van een beeld van een gezicht. FACEPTION heeft hun kunstmatige intelligentie alvast met wat handige categorieën getraind. Ze zeggen dat ze bijvoorbeeld professionele pokerspelers kunnen onderscheiden van normale pokerspelers, of mensen met een hoog IQ van mensen met een laag IQ. Uiteraard kan FACEPTION ook helpen bij het vinden van witte-boordencriminelen, terroristen en pedofielen. Laten we even kijken naar hun promo:
Camera’s die automatisch en ongericht onschuldige mensen identificeren, die daarbij een analyse maken van de emoties van die mensen en ze vervolgens profileert op basis van die data.
Het is tijd om Orwell’s 1984 erbij te pakken. Hij schreef in 1948:
It was terribly dangerous to let your thoughts wander when you were in any public place or within range of a telescreen. The smallest things could give you away. A nervous tic, an unconscious look of anxiety, a habit of muttering to yourself—anything that carried with it the suggestion of abnormality, of having something to hide. In any case, to wear an improper expression on your face [..] was itself a punishable offence. There was even a word for it in Newspeak: facecrime, it was called.
Facecrime… Daar zijn we nu dus aangekomen.
Wat te doen?
In onze tentoonstelling Rendering Realities —overigens hier in de Stadsschouwburg gratis te bekijken tot en met woensdagavond— wordt ook het project URME van Leonardo Selvaggio tentoongesteld. Leonardo heeft zijn eigen gezicht beschikbaar gesteld aan de wereld. In uw programmaboekje vind u wat hij zijn instapmodel noemt. Mijn collega demonstreert hier even hoe dat eruit ziet:
Als je zijn gezicht als masker draagt dan wordt jouw gedrag toegeschreven aan zijn identiteit. Dat heeft twee voordelen: Ten eerste blijft jouw identiteit een onbeschreven blad. Maar daarnaast help je met het koppelen van heel veel verschillende soorten gedrag aan één identiteit en schop je daardoor profileringsalgoritmes zoals FACEPTION in de war.
Maar naast deze artistieke interventie is er natuurlijk meer nodig om ervoor te zorgen dat je als onschuldige burger vrij op straat kan lopen en je geen zorgen hoeft te maken dat je fysieke aanwezigheid wordt gekoppeld aan je online profiel.
We moeten nu een grens trekken.
In een democratie zoals de onze is het onacceptabel dat burgers ongericht, op grote schaal en zonder dat ze het doorhebben geïdentificeerd, geprofileerd en bekeken worden. Dat geldt op straat, maar dat geldt net zo goed voor de internetkabel.
Bits of Freedom maakt zich daar hard voor. En we kunnen jullie hulp gebruiken.
We hebben grote ambities voor volgend jaar. Het begint al de komende weken, dan moeten we de sleepnetwet en het hackvoorstel stoppen. We willen het Nederlandse standpunt op versleuteling in Europa uit kunnen dragen, grenzen stellen aan profilering en we hopen volgend jaar onze eerste rechtszaak te doen.
Maar om onafhankelijk te kunnen blijven werken hebben we dit jaar nog 200 nieuwe donateurs nodig. Daar kunt u bij helpen. U kunt hier donateur worden.
Als u al donateur bent, zou u dan alstublieft willen proberen om, ergens in uw kring van bekenden, een nieuwe donateur te werven? We hopen zo snel mogelijk, met uw hulp, die 200 nieuwe donateurs te halen…
Als donateur moet u weten dat u niet de enige bent die privacy belangrijk vindt. Duizenden gingen u al voor met een donatie. We zitten hier met honderden mensen in de Stadsschouwburg. Eind oktober waren het ‘Privacy Weken’ op de Nederlandse televisie. Heel Paradiso zat vol tijdens een examen over Google. Vorige week ging er een Hollywood film over Snowden in première. Het is tegenwoordig zelfs mogelijk om een bestseller te schrijven over privacy. Er was een week dat het boek ‘Je hebt wél iets te verbergen’ op de tweede plek van de lijst met meest verkochte boeken in Nederland stond. Na ‘De wereld volgens Gijp’, en voor Geert Mak. Inmiddels zijn er meer dan 25.000 exemplaren van het boek verkocht.
Bits of Freedom kan rekenen op honderden vrijwilligers.
Waarvan er veel op deze slide staan en er tientallen vanavond weer helpen.
We zijn dus met veel. Connected we stand.
Dank u wel.
De gebruikte bronnen voor deze speech en de credits voor de beelden zijn hier te vinden.