De belangen van de burger
Tessa zet zich al jaren vrijwillig in voor Bits of Freedom. Omdat ze het belangrijk vindt dat de overheid bij besluitvorming de stem van de burger meeneemt, en omdat ze mee wil helpen om te zorgen dat digitale burgerrechten op de agenda blijven. Tessa stemde op minister Schippers.

Een andere vrijwilliger die ik sprak heeft in het verleden stage gelopen bij Bits of Freedom. Zij is zich vooral bewust van de psychologische kanten van het privacyvraagstuk, en dan met name hoe een nadruk op terrorismepreventie ertoe leidt dat we als maatschappij onze grenzen steeds verder oprekken. Zij stemde op WhatsApp, omdat ze zich als gebruiker bedrogen voelt.

De zorgen van een cryptograaf
Luuk ervaart gouden tijden in zijn vak: er is vanuit het bedrijfsleven veel vraag naar het versleutelen van data. Maar hij vreest ook een keerzijde, waarbij het beroep binnen een paar jaar wellicht als crimineel wordt beschouwd. Luuk stemde op minister Schippers.

Frisse blikken
Presentator Oscar Kocken wist pas sinds vrijdag hoe de show zou worden, lang leve improvisatietheater! Over privacy wist hij wel al het één en ander, maar door het oefenen voor de show werd de noodzaak voor hem pas echt duidelijk. “Het publiek van de Big Brother Awards zal hier wellicht niet zoveel nieuws hebben geleerd, ik wel en ik deel graag de boodschap. En vanaf nu alleen maar Signal!”

Margarita Osipian cureerde de tentoonstelling ‘Rendering Realities’ waarmee ze op een positieve manier wil waarschuwen voor wat er allemaal kàn op het gebied van surveillance. Ze wil laten zien dat privacy niet zwart-wit is, maar dat de keuzes die je maakt vaak wel heel directe gevolgen hebben, ook voor anderen.

Keuzes maken
Lilia Kai nam namens Open Whisper Systems de Felipe Rodriguez Award in ontvangst. Open Whisper Systems is de organisatie achter de privacyvriendelijke appdienst Signal en hielp daarnaast het afgelopen jaar ook WhatsApp de berichten van hun miljard gebruikers te versleutelen. Lilia vertelde in haar ontvangstspeech dat ze haar skills als developer in wilde zetten voor privacy en toen logischerwijs bij Signal terecht kwam. Op vele verzoek van gebruikers werk ze daar aan de desktopapplicatie. In de komende jaren, zegt Lilia, gaat encryptie een grotere rol spelen, zeker nu Signal heeft bewezen dat het qua gebruiksgemak niet onder doet voor andere applicaties. Maar de toekomst van encryptie is niet alleen maar positief: overheden spreken zich steeds vaker uit tegen versleuteling. Lilia benadrukt dan ook dat alleen versleuteling niet de oplossing is. OWS onderscheidt zich ook door zo min mogelijk data op te slaan (dataminimalisatie) waardoor ze bij vorderingen heel weinig over hun gebruikers kunnen opgeven.

Which emotion did Bits of Freedom-director Hans de Zwart show when he narrated about a world full of cameras that analyze faces and facial expressions? With the help of a set of websites and promotional videos, he showed what the current state of facial recognition technology is. Although its use is still limited, it will definitely expand largely during the years to come. Once that point is reached, another paragraph from Orwell’s 1984 will be realized.

Of course, an award show does not mean anything without the awards. Minister Schippers, of the Ministry of Health, Welfare, and Sport, received the award for her bill for the expansion of health insurance companies’ ability to obtain access to the medical files of patients in order to tackle fraud. For the public that nominated the minister, this is one of many cases in which the medical professional confidentiality is being crumbled. This time in order to reach a very limited result, too. Minister Schippers has stated that she did not have the time to personally come and accept the award. She did have a written response for the audience. In Dutch, from 1:15:17.

The experts presented their award to the municipality of Rotterdam. Since 2006, municipalities have the legal means to refuse housing to “unemployed newcomers” in certain neighborhoods of the city. By now, fifteen municipalities turn out to consult the police on whether they are familiar with these people. Expert Bart the Koning about this nomination, “Citizens are being labeled as potential risks, and are in fact preventively punished for actions they have not yet committed, on the basis of criteria and data that are unknown to them”. The alderman responsible, alderman Schneider, did not come to accept the award, but also gave a written response. In Dutch, from 44:18.

The Felipe Rodriguez Award is the award Bits of Freedom presents to someone who has made an extraordinary contribution to the enhancement of privacy. This year, the award was presented to Open Whisper Systems: the maker of the chat-app Signal and the protocol of the same name for end-to-end encryption. This enables users to communicate securely: only the receiver can decrypt the sender’s message. Making mass-surveillance impossible is Open Whisper System’s goal. Therefore, they even helped competing apps, such as WhatsApp, Facebook and Google’s Allo, with which suddenly over a billion people can communicate securely. During the beautiful acceptance speech by developer Lilia Kai, she urged those present to remain optimistic, “We cannot win a war against surveillance if we are losing a battle against ourselves.” This one is in English, from 1:34:25. And please, do read the full text of Lilia Kai’s speech.

In the exhibition ‘Rendering Realities’, that was part of the Big Brother Award. Leonardo Selvaggio’s work aims to undermine the system of facial recognition. The attendees of the award show were handed out a mask of his face. With this donation people can protect themselves. The exhibition was still for two more days, after which the Big Brother Awards were officially completed with the workshop ‘Hacking the chat bots’.

On behalf of Open Whisper Systems, thank you to Bits of Freedom, for this award. It’s truly a pleasure to be here with all of you tonight.

Felipe Rodriguez, for whom this award is named, made the following observation, circa 1995:

Today people can talk over the Internet, play games together, send pictures, send video transmissions, radio et cetera. Never before have people been communicating so massively, on an international scale. Every person is a medium that generates network traffic.

Now here we are in 2016, and these words have only become more true. The internet, computers, and cell phones, are making our world more connected than ever before. Unfortunately, that also leaves our communications more vulnerable than ever before. Our telephone companies, online service providers, and social media sites all occupy positions of great privilege in this network, privilege that is all too easily abused, either by these corporations themselves, or by the governments that might compel them to compromise their own users.

Sometimes I almost wish I’d been born before the internet, or even before radios or phone lines. Back then, intercepting another person’s messages was actually quite challenging. You at least had to shoot a small bird out of the air or overtake a galloping horse.

Of course, sending messages in the first place was also more difficult back then. First you had to train the bird or hire the horseman, and overall I’d have to admit I do prefer modern times. Bird trainers have been largely replaced by software developers like myself, for whom message transmission is a small matter of programming, but for big brother, message interception is a small matter of paperwork. Mass communication comes hand in hand with mass surveillance.

Given the reality of this situation, it is easy to feel overwhelmed. Most of us are utterly dependant on email, chat, search engines, websites, online maps, menus, markets and more, simply to navigate our daily lives, and all too often, we convince ourselves that there’s nothing we can do to protect our own network traffic from interception, so we may as well just give up, accept the bad with the good and just go about our business as usual.

But when Edward Snowden revealed to the world just how deep the scope of government surveillance has become, he also gave us a message of hope. He said:

Encryption works. Properly implemented strong crypto systems are one of the few things that you can rely on.

At Open Whisper Systems, our goal is to make mass surveillance impossible. Our strategy is the combination of privacy-preserving technology with familiar, frictionless, user experience.

At the beginning of 2013 we had what amounted to a simple clone of the default SMS app for Android phones, with a layer of opportunistic end-to-end encryption built in.

That was nearly four years ago now, and since then we’ve evolved into a fully fledged multi-device encrypted messaging service, spanning the Android, iOS, and Desktop ecosystems, with millions of registered users and counting.

To the average user, our app, Signal, doesn’t look much different from any other messaging app, (which was, after all, the point).

But the most important difference is that when big brother does come knocking, we have practically no information to give.

Signal messages are protected by the Signal Protocol, which is fast becoming the de-facto standard for end-to-end encryption of large-scale messaging services. It has now been implemented in multiple third-party platforms including WhatsApp, Facebook Messenger, and Google Allo.

There was never any question of whether these kinds of integrations were in line with our goal of eliminating mass surveillance. We built Signal to prove that end-to-end encryption can work for anyone, and at scale. We gave it away for free to ensure that there were no barriers to entry. We open sourced it so that it could be seen and used and improved. And we partner with other organizations to help them protect their own users, because when it comes to mass surveillance, we’re not safe until we’re all safe.

I first became involved with Open Whisper Systems in the spring of 2013. I didn’t know that much about cryptography at the time. I didn’t know much about mobile app development specifically. But I knew how to code, I knew how to learn, and I knew that I wanted to contribute to the privacy movement. And when I looked around at all my friends who were interested in those topics, there was one messaging app that they seemed to have in common…

Today I’m the maintainer of Signal Desktop, a companion app to Signal on your Android or iOS device, which allows you to send and receive secure messages from the comfort of your keyboard. It’s been a long journey to get here, easily the greatest challenge of my professional life so far, but also the most rewarding.

We haven’t solved all the problems. Metadata hiding, or in other words, concealing each user’s social graph even from ourselves, is still a challenge, but one that we’ve been thinking a lot about lately.

Of course, there are some problems in the world that Open Whisper Systems can’t solve. Crypto won’t fix economic inequality, irresponsible corporate policies or unjust legislation. Crypto won’t eliminate racism, sexism, or fascism. For those kinds of problems we still need organizers and activist groups like Bits of Freedom, taking action on a human level to effect social change. But those groups in turn need us, to give them the means to speak freely. In short, encryption won’t save the world, but neither will the world be saved without encryption.

So to those of you with the skills to help us build better tools: come, join us. We still have plenty of work to do. And to those of you on the frontlines, protesting, campaigning and organizing and doing the really hard work, on problems which have no technical solutions, to you I say thank you, we’re with you, and we’re counting on you, now more than ever.

To anyone and everyone else, you take the first step to support and protect others, simply by protecting yourself. Use encrypted messaging by default and reclaim your right to privacy. But above all, don’t give up. Don’t succumb to privacy nihilism. Because we can’t win a war against surveillance if we’re losing a battle against ourselves.

Again, on behalf of Whisper Systems, dank je wel and good night.

Welke emotie toonde Bits of Freedom-directeur Hans de Zwart toen hij verhaalde over een wereld die volhangt met camera’s die gezichten en gezichtsuitdrukkingen analyseren? Aan de hand van een serie websites en promotionele video’s liet hij zien wat de stand van gezichtsherkenning is. Het gebruik ervan is nu nog beperkt, maar zal komende jaren zeker een vlucht nemen. Het lijkt wel geïnspireerd op een letterlijke paragraaf uit Orwell’s ‘1984’.

Natuurlijk is een awardshow niets zonder prijzen. Minister Schippers, van Volksgezondheid, kreeg de Publieksprijs voor haar wetsvoorstel voor een uitbreiding van de mogelijkheid voor zorgverzekeraars om inzage te krijgen in het medisch dossier van patiënten om fraude aan te pakken. Voor het publiek dat de minister nomineerde is dit het zoveelste voorbeeld van het afkalvende medisch beroepsgeheim, dit keer ook nog eens om een heel mager resultaat te bereiken. De minister gaf daarop een schriftelijke reactie, dit kan je terugkijken vanaf minuut 1:15:17.

De experts gaven de prijs aan de Gemeente Rotterdam. Sinds 2006 is het voor gemeentes wettelijk mogelijk om “werkloze nieuwkomers” in bepaalde buurten te weigeren. Inmiddels blijken vijftien gemeenten aan de politie te vragen of deze mensen bij hun bekend zijn. Expert Bart de Koning over deze nominatie: “Burgers worden hierbij tot potentiële risico’s bestempeld en in feite preventief gestraft voor daden die ze nog niet begaan hebben, op grond van criteria en data die ze niet kennen.” Verantwoordelijk wethouder Schneider gaf ook een schriftelijke reactie, die je vanaf minuut 44:18 kan zien.

De Felipe Rodriguez Award reikt Bits of Freedom uit aan iemand die een uitzonderlijke bijdrage heeft geleverd aan het bevorderen van privacy. De prijs ging dit jaar naar Open Whisper Systems: de makers van de chat-app Signal en het gelijknamige protocol voor end-to-end versleuteling. Gebruikers kunnen daardoor veilig appen: alleen de ontvanger kan het bericht van de verzender ontsleutelen. Massasurveillance onmogelijk maken is hun doel. Ze hielpen daarom zelfs ook concurrerende apps als WhatsApp, Facebook en Google’s Allo. Tijdens de prachtige speech van developer Lilia Kai, drukte ze de aanwezigen op het hart optimistisch te blijven: “We can’t win a war against surveillance if we’re losing a battle against ourselves.” (Minuut 1:34:25)

In de tentoonstelling ‘Rendering Realities’, die onderdeel uitmaakt van de Big Brother Awards, probeert Leonardo Selvaggio het systeem van gezichtsherkenning te ondermijnen. De bezoekers van de awardshow kregen een masker met zijn gezicht uitgedeeld. Met deze donatie kunnen mensen zichzelf beschermen. Overigens, de tentoonstelling is gratis te bekijken tot en met woensdag, de dag waarop de Big Brother Awards dan echt helemaal worden afgesloten; met een workshop chatbots kraken.

Van gala tot erkenning van de prijzen: wat is voor jou typisch Big Brother Awards?

“De kracht van de Big Brother Awards is dat we sinds het in leven roepen van de verkiezing in 2002 nooit de positie van ‘underdog’ hebben aangenomen, maar altijd groots hebben uitgepakt. Zo waren de eerste edities echt gala’s, met mannen in jacquet en dames in het lang. Inmiddels hebben de Big Brother Awards steeds meer laten zien dat het een verkiezing van het volk is, dat het iedereen aan gaat. Ons idee was ook: we gaan het groots aanpakken, zodat je er niet om heen kunt. Dat is een hele goede basis geweest, daarmee hebben we de BBA meteen op de kaart gezet.”

Wat was de grootste uitdaging tijdens de eerste Big Brother Awards show?

“Het vinden van juryleden was een opgave, het leefde vooral bij een handjevol bezorgde mensen, een verdwaalde politica en journalist. Inmiddels is de aandacht en interesse voor het onderwerp geëxplodeerd, mede omdat het niet alleen maar technisch en ingewikkeld is, maar iedereen aangaat. Ook al begrijp je niet hoe een Elektronisch Patiënten Dossier werkt, dat het opslaan en delen van persoonsgebonden documenten een ding is, dat is voor een veel grotere groep duidelijk.”

Er is sinds het lekken van de NSA-documenten door Snowden steeds meer aandacht voor het onderwerp, toch gaan maar weinig burgers over tot actie. Hoe kan dat? 

“Snowden liet zien dat er vrij permanent wetten worden geschonden, wilde burgers bewust maken van wat er bij overheden en in de politiek wordt gedaan om controle te hebben over mensen. Eerst onder het mom terrorisme-bestrijding, nu omdat je je onschuld vooraf moet bewijzen. Mensen maken zich zeker zorgen over de maatregelen die de overheid neemt, maar vinden het ook lastig om een stem te vinden om dat tegen te spreken. Het is een mechaniek dat zich steeds afspeelt: er wordt iets bekendgemaakt over misbruik van privégegevens, mensen ageren, de overheid belooft verbetering maar de situatie blijft vrijwel onveranderd. Zolang overheden niet continue verantwoording aan burgers hoeven af te leggen, zullen zij de kans houden om dingen in de doofpot te stoppen en zo hun beleid ongewijzigd kunnen aanhouden of doorvoeren.”

Heb je het gevoel dat veel pijnpunten van nu overeenkomen met die uit de tijd dat jij jureerde?

“Ja, er is nog veel overlap, zoals het EPD, de WIV, bewaren van kentekenregistraties etc. Er is nu sneller commotie als er iets speelt waarbij privacy in het geding komt, media ageren daar bewuster op en journalisten hebben er hun specialisatie van gemaakt. Maar de kern is nog steeds hetzelfde: de overheid probeert steeds weer grote bevoegdheden te krijgen, op basis van het vertrouwen dat wij als burgers in een democratie daarin horen te hebben.

De overheid kan steeds ondoorzichtiger opereren, omdat we haar vertrouwen. Als burger zouden we de overheid meer moeten kunnen controleren en zou de overheid transparanter moeten communiceren.”

Zou een (Europese) richtlijn een oplossing zijn? 

“Het onderwerp behelst verschillende niveaus: Europees, landelijk, lokaal. Een richtlijn is niet genoeg. De manier waarop je data beschermt verschilt per discipline: onderwijs, medisch. Centrale opslag, of op hoger niveau. We moeten ons bij alle systemen afvragen: wat doen we met informatie? Kan ik daar als burger zelf in? Hoe zit de beveiliging in elkaar? Wie heeft uiteindelijk de controle? De veiligheid van data is steeds belangrijker, data kan steeds meer ingezet worden als wapen of als pressiemiddel. Data is macht voor hackers, criminelen, concurrentie en politiek. Los van de vraag van wie data is, zou daar ook focus op moeten liggen.”

Wat is jouw grootste persoonlijke pijnpunt? 

“De leefstijl afhankelijke uitkering gaat me aan het hart. Mensen op dat niveau worden op voorhand als verdacht aangemerkt en moeten daarom huiszoekingen ten allen tijde toestaan. Fraudes in de zorg worden verhaald op patiënten, mensen die de zorg nodig hebben, terwijl we weten dat het vooral de grote spelers zijn die frauderen. Dat burgers met hun privacy moeten betalen om hun onschuld te bewijzen, dat kan niet juist zijn.”

Wat vindt jij een goed voorbeeld van een project dat positieve verandering met zich mee brengt?

“Buurtzorg Enschede heeft bewezen dat het afwijken van bestaande regels werkt: het zorgbudget wordt door de medewerkers naar eigen inzicht verdeeld, in plaats van de regels strikt te hanteren. Ze kijken naar persoonsgebonden noodzaak en wensen. Het bewijst dat het werkt om als overheid minder te reguleren en controleren, maar op basis van vertrouwen te werken. Het is bewezen efficiënter, er is meer tijd voor cliënten en ze krijgen meer zorg op maat voor hetzelfde geld. Mede door informatie goed in te zetten. Dat geeft moed!”

Wat kunnen mensen doen om zelf beter met hun privacy om te gaan én de overheid een halt toe te roepen?

“Je afvragen wat voor partij er zit achter alles waar je persoonlijke data mee deelt. Facebook Messenger bijvoorbeeld: waarom zou ik persoonlijke boodschappen verspreiden via een commerciële partij met als verdienmodel ‘gepersonaliseerde’ advertenties? Maar ook anders stemmen. Er zijn partijen die duidelijk in hun partijvoorstellen het onderwerp aanhalen en oplossingsgericht denken voor zowel overheid als burger. En er zijn altijd alternatieven.

Lees veel over het onderwerp, laat je stem horen. Leer en probeer. Het boek ‘Je hebt niets te verbergen’ is een goede start waarbij het excuus dat het onderwerp te technisch zou zijn, absoluut niet op gaat. Wordt vrijwilliger of donateur van Bits of Freedom, zodat je actief kunt bijdragen aan onderzoek en het aan de tand voelen van politica en instanties. ”

Naast de tips van Karin tippen we je nog eens de Internetvrijheid Toolbox, met hands-on tips om zelf de privacy op je telefoon, computer en internetverbinding te vergroten. 

Goedenavond allemaal!

Het is een voorrecht om hier in deze prachtige Stadschouwburg te staan. Zeker nu die stampvol zit met mensen die de privacydiscussie nog lang niet “beu” zijn.

Het Britse satirische nieuwsprogramma Have I Got News for You heeft altijd een ronde met de titel Odd one out. Daar wil ik hier vanavond even mee beginnen. Welke van de volgende vier foto’s hoort niet in dit rijtje thuis?

Is dat…

Stevie Wonder?

Rob Bertholee?

De optofoon?

of Ray Kurzweil?

Nou? Wie denken jullie?

Inderdaad, het is Rob Bertholee. Niet omdat ik hem beu ben, maar wel omdat hij de enige van de vier is die schaamteloos privacyliefhebbers beschuldigt van het goedkeuren van terroristische aanslagen.

Aan de hand van de andere drie foto’s wil ik kort vertellen over de verhouding tussen wat er technologisch mogelijk is en wat de overheid doet.

En daarvoor moeten we dus beginnen bij de optofoon.

Dit apparaat is uitgevonden in 1913 en hielp blinden en slechtzienden bij het lezen van boeken. Letters werden door een soort scanner omgezet in muzikale tonen. Alleen als je echt veel oefende kon je het apparaat gebruiken.

Dit is een 17-jarige Ray Kurzweil die in 1965 in het TV-programma I’ve Got a Secret demonstreert hoe hij een zelfgemaakte computer muziek heeft laten componeren en uitvoeren. Toen al was hij een geniale ingenieur.

Dit is dezelfde Ray Kurzweil die nu één van de grondleggers is van de Singularity University waar je ‘exponentieel’ leert denken. Als transhumanist probeert hij niet te sterven voordat de medische wetenschap mensen voor eeuwig in leven kan houden —om dat voor mekaar te krijgen slikt hij voor duizenden dollars 100 pillen per dag, te koop via Ray and Terry’s Longevity Products—. Kurzweil probeert ook al een aantal jaar het brein van zijn overleden vader na te bouwen.

In 1976 lanceerde hij de Voice Reader een apparaat waarmee blinden en slechtzienden boeken kunnen lezen. Dat apparaat bracht drie nieuwe technologieën bij elkaar: een scanner, een text-to-speech synthesizer en —heel belangrijk— een versie van Optical Character Recogniton (OCR, het herkennen van letters in beeld) die meerdere lettertypes kon herkennen.

Stevie Wonder was zo enthousiast over het apparaat dat hij eind jaren ’80 voor de Kurzweil Reader een spotje opnam.

Google levert inmiddels Optical Character Recognition diensten op afroep. Voor een paar dollar per 1.000 foto’s, kijken de systemen van Google naar je plaatje en vissen de tekst eruit. Hier ziet Google bijvoorbeeld wie vorig jaar de publieksprijs won.

Deze zelfde technologie is de motor achter automatische nummerplaat herkenning, ANPR.

Wij hebben allemaal als persoon ook een uniek kenteken… Ons gezicht.

Jullie hebben inmiddels allemaal het prachtige grafische ontwerp van deze awards gezien. Pleun Gremmen heeft zich voor dat ontwerp onder andere laten inspireren door de manier waarop computeralgoritmes ons gezicht ‘bekijken’.

Ook op het gebied van gezichtsherkenning is de technologie keihard gegaan. Het is tegenwoordig voor een computer triviaal om te herkennen waar op een beeld de gezichten te zien zijn. En die gezichten kunnen feilloos gekoppeld worden aan eerdere foto’s met hetzelfde gezicht. Gezichtsherkenning weeft zich langzaam maar zeker in onze maatschappelijke transacties. Facebook weet bijvoorbeeld precies op welke foto jij wel en niet staat en op Schiphol checkt een poortje of je nog steeds lijkt op je foto. Bij mij werkt dat overigens nooit, maar dat kan komen omdat dit…

…mijn paspoort foto is. Echt… Het is een soort optische illusie van de schaduw onder mijn neus. Ik had geen snor.

Met mijn privacyvriendelijke zoekmachine heb ik een uurtje onderzoek gedaan naar waar en hoe gezichtsherkenning wordt ingezet. Het resultaat was zelfs voor mij —dit is immers mijn werk— ontluisterend.

Banken en credit card maatschappijen gebruiken bijvoorbeeld technologie als FacePhi om je gezicht te veranderen in een wachtwoord. Inclusief even knipperen om te laten zien dat je nog leeft.

Uber maakt op willekeurige momenten foto’s van haar Chinese chauffeurs en gebruikt dan Faceplusplus om te zien of de persoon die achter het stuur zit wel de persoon is die zich ooit bij Uber had aangemeld.

Met Churchix kun je als kerkleider, op basis van een video-feed van een camera bij de ingang, geautomatiseerd bijhouden welke leden wel of niet naar de kerk zijn gekomen op een bepaalde dag.

En het meest dystopische voorbeeld van het afgelopen jaar is gemaakt op basis van VK, het grootste sociale netwerk van Rusland. Het laat namelijk zien hoe makkelijk je geprofileerd kunt worden, zonder dat je het door hebt.

FindFace geeft je de mogelijkheid om aan de hand van foto’s van mensen te zoeken binnen VK naar hun profielen.

De 21-jarige Russische fotograaf Egor Tsvetkov heeft in de metro van Moskou foto’s gemaakt van reizigers om daar vervolgens via FindFace het VK-profiel bij te vinden. Bij de jonge mensen in de metro lukte het hem om in 70% van de gevallen de fysieke wereld te koppelen aan de virtuele wereld. Ik betwijfel of die metro-reizigers wisten dat dit überhaupt mogelijk is, laat staan zo makkelijk.

Het herkennen en analyseren van gezichten kun je inmiddels ook als dienst afnemen. Een soort kunstmatige intelligentie as a service. Bij Microsoft heet het Cognitive Services en kun je voor anderhalve dollar 1.000 gezichten analyseren. Dat ziet er ongeveer zo uit:

Ik heb deze foto geüpload. Het gezicht van Bertholee wordt snel herkend en de coördinaten van het tipje van de neus of de wenkbrauwen kun je direct uitlezen. Maar het algoritme genereert nog meer data.

Je kunt ook zien dat de meneer op deze foto volgens Microsoft 61.8 jaar oud is. In het echte leven is hij 61.26 jaar oud. Er zijn ook scores voor gezichtsbeharing. Een 0.1 bij de snor voor Bertholee.

Het is natuurlijk ‘movember’ op dit moment, dus Microsoft heeft een herkenningsdienst voor snorren opgezet. Je kunt daarmee dus je steun aan de gezondheid van mannen kwantificeren. Ik heb dat toch even snel voor mezelf getest.

En mijn non-snor blijkt langer dan 71% van de andere deelnemers.

In de opsporing wordt al jarenlang gewerkt met gezichtsherkenning. Dit jaar schreef de Wall Street Journal bijvoorbeeld dat in China politiewagens worden uitgerust met een camera op het dak. Deze kijkt 360 graden om zich heen en kan tot op 60 meter afstand gezichten scannen en bekende criminelen eruit pikken.

Het Georgetown Law Center on Privacy and Technology deed dit jaar onderzoek naar de database met gezichten die door de Amerikaanse politiediensten worden bijgehouden. Ze kwamen er achter dat foto’s van 117 miljoen Amerikanen in ongereguleerde databases van Amerikaanse politiecorpsen zitten. Deze mensen kunnen altijd geïdentificeerd worden. Ze noemen het de ‘perpetual line-up‘.

Je bent niet alleen heel makkelijk te identificeren aan de hand van je foto. Machine learning maakt het mogelijk dat je emoties ook herkend worden.

Je ziet hier bijvoorbeeld dat Bertholee neutraal is en vooral niet bang, of blij. Microsoft heeft hier uiteraard een dienst van gemaakt.

Alex Emmons van The Intercept was bijvoorbeeld op een conferentie waar Microsoft deze technologie aan het verkopen was om hun klanten inzicht te geven in de emoties van een groot publiek, zoals bijvoorbeeld bij een politieke rally of een sportwedstrijd.

En het gaat nog een stap verder.

Het Israelische FACEPTION doet aan geautomatiseerde gezichtsprofilering.

Ze beloven de persoonlijkheid van iemand af te kunnen lezen op basis van een beeld van een gezicht. FACEPTION heeft hun kunstmatige intelligentie alvast met wat handige categorieën getraind. Ze zeggen dat ze bijvoorbeeld professionele pokerspelers kunnen onderscheiden van normale pokerspelers, of mensen met een hoog IQ van mensen met een laag IQ. Uiteraard kan FACEPTION ook helpen bij het vinden van witte-boordencriminelen, terroristen en pedofielen. Laten we even kijken naar hun promo:

Camera’s die automatisch en ongericht onschuldige mensen identificeren, die daarbij een analyse maken van de emoties van die mensen en ze vervolgens profileert op basis van die data.

Het is tijd om Orwell’s 1984 erbij te pakken. Hij schreef in 1948:

It was terribly dangerous to let your thoughts wander when you were in any public place or within range of a telescreen. The smallest things could give you away. A nervous tic, an unconscious look of anxiety, a habit of muttering to yourself—anything that carried with it the suggestion of abnormality, of having something to hide. In any case, to wear an improper expression on your face [..] was itself a punishable offence. There was even a word for it in Newspeak: facecrime, it was called.

Facecrime… Daar zijn we nu dus aangekomen.

Wat te doen?

In onze tentoonstelling Rendering Realities —overigens hier in de Stadsschouwburg gratis te bekijken tot en met woensdagavond— wordt ook het project URME van Leonardo Selvaggio tentoongesteld. Leonardo heeft zijn eigen gezicht beschikbaar gesteld aan de wereld. In uw programmaboekje vind u wat hij zijn instapmodel noemt. Mijn collega demonstreert hier even hoe dat eruit ziet:

Als je zijn gezicht als masker draagt dan wordt jouw gedrag toegeschreven aan zijn identiteit. Dat heeft twee voordelen: Ten eerste blijft jouw identiteit een onbeschreven blad. Maar daarnaast help je met het koppelen van heel veel verschillende soorten gedrag aan één identiteit en schop je daardoor profileringsalgoritmes zoals FACEPTION in de war.

Maar naast deze artistieke interventie is er natuurlijk meer nodig om ervoor te zorgen dat je als onschuldige burger vrij op straat kan lopen en je geen zorgen hoeft te maken dat je fysieke aanwezigheid wordt gekoppeld aan je online profiel.

We moeten nu een grens trekken.

In een democratie zoals de onze is het onacceptabel dat burgers ongericht, op grote schaal en zonder dat ze het doorhebben geïdentificeerd, geprofileerd en bekeken worden. Dat geldt op straat, maar dat geldt net zo goed voor de internetkabel.

Bits of Freedom maakt zich daar hard voor. En we kunnen jullie hulp gebruiken.

We hebben grote ambities voor volgend jaar. Het begint al de komende weken, dan moeten we de sleepnetwet en het hackvoorstel stoppen. We willen het Nederlandse standpunt op versleuteling in Europa uit kunnen dragen, grenzen stellen aan profilering en we hopen volgend jaar onze eerste rechtszaak te doen.

Maar om onafhankelijk te kunnen blijven werken hebben we dit jaar nog 200 nieuwe donateurs nodig. Daar kunt u bij helpen. U kunt hier donateur worden.

Als u al donateur bent, zou u dan alstublieft willen proberen om, ergens in uw kring van bekenden, een nieuwe donateur te werven? We hopen zo snel mogelijk, met uw hulp, die 200 nieuwe donateurs te halen…

Als donateur moet u weten dat u niet de enige bent die privacy belangrijk vindt. Duizenden gingen u al voor met een donatie. We zitten hier met honderden mensen in de Stadsschouwburg. Eind oktober waren het ‘Privacy Weken’ op de Nederlandse televisie. Heel Paradiso zat vol tijdens een examen over Google. Vorige week ging er een Hollywood film over Snowden in première. Het is tegenwoordig zelfs mogelijk om een bestseller te schrijven over privacy. Er was een week dat het boek ‘Je hebt wél iets te verbergen’ op de tweede plek van de lijst met meest verkochte boeken in Nederland stond. Na ‘De wereld volgens Gijp’, en voor Geert Mak. Inmiddels zijn er meer dan 25.000 exemplaren van het boek verkocht.

Bits of Freedom kan rekenen op honderden vrijwilligers.

Waarvan er veel op deze slide staan en er tientallen vanavond weer helpen.

We zijn dus met veel. Connected we stand.

Dank u wel.

De gebruikte bronnen voor deze speech en de credits voor de beelden zijn hier te vinden.

Publieksprijs: Edith Schippers brokkelt medisch beroepsgeheim verder af
Met 51% van de stemmen is minister Edith Schippers door het publiek tot winnaar verkozen vanwege haar voorstel voor een nieuwe Wet marktordening gezondheidszorg. De nominatie benadrukt het belang van het medisch beroepsgeheim dat “de veilige arts-patiëntrelatie” beschermt. Immers, een patiënt kan alleen goed behandeld worden als die zich vrij voelt om een arts intieme informatie te vertellen die essentieel is voor een goede behandeling. Maar dit wetsvoorstel zorgt voor een uitbreiding van de mogelijkheid voor zorgverzekeraars om inzage te krijgen in de medisch dossiers van patiënten om fraude aan te pakken. Het steekt des te meer dat dit wordt voorgesteld voor het bestrijden van fraude die voor het overgrote deel niet door verzekerden wordt gepleegd en bovendien nog geen 1% van de totale zorgkosten bedraagt.

Iedereen kon kandidaten nomineren en daarna op de top-drie stemmen. De andere kandidaten waren WhatsApp vanwege de gebroken belofte over datadelen met Facebook en Rob Bertholee, omdat het hoofd van de AIVD de privacydiscussie beu is… en versleuteling eigenlijk ook.

Expertprijs:
 Gemeente Rotterdam bepaalt waar jij mag huren
Sinds 2006 is het voor gemeentes wettelijk mogelijk om nieuwe huurders in bepaalde buurten te weigeren. Dat bleek weinig effectief. Inmiddels blijken 15 gemeenten —waaronder vaandeldrager van de wet, Rotterdam— te controleren of “nieuwkomers” bij de politie bekend zijn. Dat mocht niet, maar werd in daarna in wetgeving gegoten. De gemeente Rotterdam heeft aangekondigd om in bepaalde buurten “asociale, criminele of geradicaliseerde” bewoners te weren. Expert Bart de Koning over deze nominatie: “Burgers worden hierbij tot potentiële risico’s bestempeld en in feite preventief gestraft voor daden die ze nog niet begaan hebben, op grond van criteria en data die ze niet kennen.” Bits of Freedom verkoos deze genomineerde tot winnaar, omdat het past in een zorgelijke trend: mensen worden steeds vaker in risicoprofielen geplaatst, met ingrijpende consequenties, zonder dat inzichtelijk is op basis van welke gegevens dat gebeurt of duidelijk is of die gegevens kloppen. Daarbij is het nog maar de vraag of deze ingrijpende maatregelen nu wel effectief zullen zijn.

De andere twee kandidaten waren staatssecretaris Dijkhoff voor het kiezen voor schijnveiligheid door de politie kwetsbaarheden in onze digitale communicatiemiddelen te laten gebruiken en het Verbond van Verzekeraars vanwege het vogelvrij verklaren van klanten door in de strijd tegen fraude onderzoeksbureaus ruim baan te geven.

Jaya Baloo (KPN), Bart de Koning (De Correspondent), Arnold Roosendaal (Privacy Company), Tanja Lange (Technische Universiteit Eindhoven), Gerrit-Jan Zwenne (Universiteit Leiden), Dennis Broeders (Erasmus Universiteit Rotterdam), Frederik Zuiderveen Borgesius (Universiteit van Amsterdam) en Ot van Daalen (Project Moore) dienden nominaties in voor de Expertprijs.

Positieve privacyprijs: Felipe Rodriguez Award voor Open Whisper Systems
De positieve privacyprijs, de Felipe Rodriguez Award, is uitgereikt aan Lilia Kai, developer bij Open Whisper Systems. Zij zorgden er dit jaar voor dat de privécommunicatie van meer dan een miljard WhatsApp-gebruikers in één klap écht privé blijft. Dankzij de versleuteling die ook achter hun eigen chatapp Signal zit, kan iedereen nu moeiteloos zonder meelezers met elkaar chatten. Een grote stap in de strijd tegen criminaliteit en massasurveillance.

Felipe Rodriguez was een van de oprichters van XS4ALL en De Digitale Stad, een van de steunpilaren van Bits of Freedom en grondlegger van de digitale burgerrechtenbeweging in Nederland. Felipe overleed in 2015, maar zijn levensverhaal laat zien hoeveel verschil een individu kan maken. Met deze prijs hopen XS4ALL en Bits of Freedom dat zijn voorbeeld anderen inspireert om zich in te zetten voor privacy en internetvrijheid.

• De uitgebreide onderbouwing voor de nominaties voor zowel de Expertprijs als de Publieksprijs: bigbrotherawards.nl/genomineerden en een perskit met beelden: bigbrotherawards.nl/wp-content/uploads/2016/11/2016big-brother-awards-beelden-perskit-fin.zip;
• Meer informatie over de Big Brother Awards, het programma en de sprekers vind je op www.bigbrotherawards.nl, de gebruikte hashtag is #BBA16;
• De Felipe Rodriguez Award is mede mogelijk gemaakt met steun van XS4ALL: blog.xs4all.nl/felipe-rodriquez/
• Voor meer informatie over Bits of Freedom, zie bof.nl.

Prijzenceremonie
We hebben theatermakers Oscar Kocken en Daan Windhorst uitgenodigd om de staat van privacy in Nederland vanuit alle mogelijke perspectieven te belichten. Reken op sketches, liedjes en een satirisch overzicht van alles wat het afgelopen jaar terecht tot ophef leidde, of onterecht werd genegeerd. Daarnaast reiken we natuurlijk ook drie prijzen uit. De publieksprijs en expertprijs gaan naar de grofste privacyschenders van het afgelopen jaar. De Felipe Rodriguez Award, vernoemd naar grondlegger van de digitale burgerrechtenbeweging in Nederland, wordt uitgereikt aan een persoon of organisatie die het afgelopen jaar grote positieve impact had op onze privacy.

Met: Oscar Kocken en Evita de Roode (presentatie), Daan Windhorst (satirisch jaaroverzicht en visuals), Erik van der Horst, Dorien van Gent, Jip Smit en Bram Suijker (zang en spel), Jan Groenteman, Keez Groenteman, Daniel Rose en Aron Raams (muziek), Hero Kaspers (techniek).

Tentoonstelling
Margarita Osipian stelde voor ons de tentoonstelling ‘Rendering Realities’ samen. De vragen die daarin centraal staan zijn: Hoe behouden we onze autonomie wanneer we door de publieke ruimte bewegen? Hoe engageren we op een waardevolle manier met de vaak onzichtbare surveillancesystemen waarin we dagelijks verwikkeld zijn? De tentoonstelling kan t/m 16 november worden bezocht.

Met: Timo Arnall, Paolo Cirio, Heather Dewey-Hagborg, Dries Depoorter, Hasan Elahi, Roos Groothuizen, Jasper van Loenen, en Leonardo Silvaggio.

Meer info
Kaartjes kosten €25. Met dit bedrag help je de Big Brother Awards kostendekkend te maken. We willen echter niet dat de prijs een belemmering vormt voor je aanwezigheid, daarom is er ook een gereduceerd tarief van €12,50. Je kunt hier je kaarten kopen.

De Big Brother Awards ontleent zijn naam aan de totalitaire, alziende leider ‘Big Brother’ uit de roman 1984 van George Orwell. De organisatie van de Nederlandse Big Brother Awards is in handen van Bits of Freedom, een onafhankelijke burgerrechtenbeweging die opkomt voor communicatievrijheid en privacy op internet. Elk jaar maken personen, bedrijven en overheden die zich het afgelopen jaar hebben onderscheiden door grove inbreuken op de privacy en vrijheid van burgers kans de Publieksprijs of Expertprijs mee naar huis te nemen. Bits of Freedom wil hiermee laten zien hoe het in het afgelopen jaar gesteld was met het recht op privacy in Nederland.

Workshop chatbots kraken
Benieuwd of chatbots anders op jou reageren dan op je buurman of -vrouw? Onder leiding van Hackers & Designers voelen we chatbots aan de tand over hun vooroordelen en aannames. Geen technische kennis vereist, laptop meenemen is handig!

The Smell of Data
‘The Smell of Data’ is voor datalekken wat de kanarie was voor gaslekken. Leanne Wijnsma, de kunstenaar achter dit werk, vertelt over wat haar inspireerde om een oeroud zintuig in te zetten voor meer inzicht in onze digitale omgeving.

Meer info
Locatie: SSBA Salon, Amsterdam. De deuren openen om 19:00, we beginnen om 19:30. Gratis entree. Voertaal: Engels.

De tentoonstelling ‘Rendering Realities’ opent op maandag 14 november om 19:30, tegelijk met de Big Brother Awards 2016. Je kunt ‘Rendering Realities’ ook bezoeken op dinsdag 15 en woensdag 16 november tussen 12:00 en 18:00.

Hackers & Designers is een community-run platform dat zich inzet voor meer begrip van hedendaagse digitale cultuur en meer agency binnen nieuwe digitale systemen. Lees hier meer over wat ze doen.

Leanne Wijnsma studeerde in 2013 af aan het Sandberg Instituut in Amsterdam. In haar werk speelt ‘instinct’ een grote rol. ‘The Smell of Data’ ontwikkelde ze in samenwerking met filmmaker Froukje Tan.