Met zijn dystopische roman 1984 creëerde George Orwell een metafoor om het belang van privacy kracht bij te zetten: 'Big brother is watching you'. Orwell liet zien hoe ongebreidelde surveillance en brute interventies door de overheid van (bijna) iedere burger een mak schaap maken. Iets wat je iemand die opgroeide in het voormalige Oostblok niet hoeft uit te leggen. Maar daar waar de Stasi in haar hoogtijddagen één informant per twintig Oost-Duitse burgers had, lopen we nu allemaal rond met onze eigen Stasi-agent: de smartphone. Toch lijkt ons dit weinig te deren. De voordelen van overal en altijd online zijn, in contact te zijn met je vrienden of collega’s, en niemand meer de weg te hoeven vragen, zijn simpelweg overweldigend. Van Big Brother heeft iedereen natuurlijk wel gehóórd. Maar er echt tegenaan lopen: nee, dat overkomt slechts een zeer kleine minderheid. En die zal het er dan zelf wel naar gemaakt hebben.
En, heel eerlijk gezegd ligt het grootste gevaar van een gebrek aan privacy daar ook niet. Het echte gevaar zijn niet de - helaas ook in deze tijd onvermijdelijke - despoten die ons ongelimiteerd in de gaten houden. Overduidelijke surveillance, en de daarmee gepaard gaande zichtbare en voelbare repressie, creëert uiteindelijk vanzelf het verzet dat leidt tot hun ondergang. De Berlijnse Muur is tenslotte ook gevallen.
Nee, het echte gevaar is Big Mother, die zich vermomt als een welmenende overheid of een superklantgericht bedrijf, en die ons subtiel stuurt (‘nudgen’) naar de hoek waar ze ons hebben willen.
Dat sturen gebeurt door ‘slimme’ algoritmen die op basis van een grote hoeveelheid persoonlijke gegevens beslissen welk nieuws goed voor ons is, welke aanbieding ons op het lijf geschreven is, welke opleiding we kunnen kiezen, of welke baan we mogen hebben. Algoritmen die bepalen wat we wel en niet te zien krijgen, die het (beperkte) menu samenstellen waar we vandaag uit mogen kiezen.
Het probleem is dat zowel de makers, als wij - de mensen die blootgesteld worden aan hun beslissingen - niet weten hoe deze slimme algoritmen werken, en dat deze algoritmen hun beslissingen niet uitleggen of beargumenteren. Bovendien weten we niet welke persoonlijke gegevens gebruikt worden om zo’n beslissing te nemen, waardoor we dus ook niet kunnen controleren of de gegevens juist zijn, of dat ze wellicht buiten hun oorspronkelijke context verkeerd geïnterpreteerd worden.
Big Mother dus. Die alles van je weet. Het beste met je voor heeft. Voor gevaren en misstappen behoedt. Maar je daarom verstikt. Die voorkomt dat je je eigen leven leidt, je eigen fouten maakt, en daarvan leert. Voorkomt dat je jezelf laat gelden. Voorkomt dat je zelf over de wereld nadenkt, en haar verandert daar waar dat volgens jou nodig is.
Big Mother. Waar we ons van los moet rukken. En wel snel. Voordat we onder haar moederliefde bezwijken. En willoze, gedrogeerde, slaven van de slimme algoritmen zijn geworden.
Deze column verscheen op 6 januari 2018 in het Morgen katern van het FD, onder de titel “Ruk je los van Big Mother”.
Slimme algoritmen waren 25 jaar geleden aanleiding om projecten voor het realiseren van slimme dienstverlening van de overheid (i.c. Arbeidsvoorziening) stop te zetten, omdat de redenen waarop het op deze slimme wijze geproduceerde advies niet konden worden gereproduceerd en daardoor ongeschikt voor een beslising van de overheid. Beoogde toepassingen voor het matching op competenties, voor het zoeken en vinden van beschikbare banen (vacatures) ten behoeve van het beschikbare aanbod (werkzoekenden), die zouden worden gebaseerd op slimme zoekroutines van bijvoorbeeld de Neural Network Utility van IBM, bleken destijds onacceptabel in het sociale zekerheidsdomein. Inmiddels zijn we technisch en maatschappelijk ruim 25 jaar verder en wordt Big Brother van George Orwell uit 1984 geparafraseerd. Het losrukken van Big Mother is een prachtige metafoor en een hopeloze noodkreet (#hoedan?). Er zijn ongetwijfeld acties denkbaar die dit losrukken mogelijk en doeltreffend maken: welke?
Oké, maar hoe dan, volgens u?