De Raad van Europa de Europese Unie komt
met nieuwe voorstellen voor het bestrijden van kindermisbruik.
Onderdeel daarvan is nog steeds een ‘kinderpornoverklikker’ op onze
telefoons, die ieder te verzenden bericht controleert op kinderporno.
In reactie op kritiek
van experts
en het Europese
Parlement zijn een tweetal veranderingen
voorgesteld. Deze zijn slechts van cosmetisch aard. Vandaar dat we weer in de pen
zijn geklommen.
De voorstellen zijn in essentie hetzelfde gebleven. Bepaalde berichtendiensten worden, na een risicoanalyse, verplicht een kinderpornoverklikker in the bouwen in de apps op onze telefoons. Deze verplichting geldt mogelijk ook voor end-to-end versleutelde berichtendiensten (zoals WhatsApp, Signal en iMessage). De verklikker (de technische term is ‘client-side scanning’) moet bij het versturen van een bericht/appje met een plaatje controleren of het kinderporno is, en zo ja, de verzender aangeven bij de opsporingsdiensten. Zoals eerder uitgelegd moet de verklikker:
De Raad van Europa de Europese Unie heeft de voorstellen
aangepast, met het doel om ze gerichter te maken en de impact op
cybersecurity te verminderen. Zo hangt de specifieke verklikker die
berichtendiensten moeten gebruiken af van het risico dat deze dienst
voor het verspreiden van kinderporno wordt gebruikt. Bovendien zou de
verklikker enkel ‘gericht’ moeten zijn op verdachte personen, en
alleen een melding moeten doen na een aantal mogelijke hits op
kinderporno. Echter, wat de Commissie voor ogen heeft (een gerichte
aanpak van de verspreiding van kinderporno) is simpelweg
onmogelijk.
De suggestie dat de verklikker enkel ‘gericht’ is op verdachte personen is onterecht. Verdenking is in deze context niets anders dan dat volgens de verklikker iemand al eens eerder geprobeerd heeft kinderporno te versturen. Met andere woorden: de verklikker draait nog steeds in iedere app die als hoog risico is geïdentificeerd - dat kan zeker ook een app zijn die u en ik dagelijks gebruiken om met familie, vrienden of zakelijke contacten te communiceren.
Het risico op een onterechte melding wordt niet wezenlijk kleiner als deze melding pas na een aantal mogelijk hits daadwerkelijk wordt gedaan. Als ik foto’s van mijn zieke kind aan de dokter stuur, of mijn kinderen seksueel getinte foto’s aan hun partners sturen, dan is er zeker een kans dat deze allemaal (onterecht) als kinderporno zullen worden aangemeld, en dat ik, of mijn kinderen, dus wel degelijk (onterecht) worden aangegeven.
Dat de voorstellen de cyberveiligheid geen schade berokkenen is schijnheilig: theoretisch is het inderdaad zo dat de versleuteling zelf niet gebroken hoeft te worden. In plaats daarvan kijkt de verklikker mee voordat het bericht met het plaatje versleuteld wordt. Daarmee wordt het uiteindelijke doel van versleuteling (namelijk de vertrouwelijkheid, het ‘digitale briefgeheim’, te beschermen) om zeep geholpen. Versleuteling is zinloos als iemand mag meekijken voordat je versleuteld. Voor veilige digitale communicatie is betrouwbare versleuteling essentieel. Veilige digitale communicatie is het fundament onder cybersecurity, waar we op moeten kunnen vertrouwen als we digitaal zaken doen, online vergaderen, digitaal samenwerken, politieke beslissingen nemen.
Kinderporno is natuurlijk verschrikkelijk, en de bestrijding daarvan enorm belangrijk. Wat is dan het probleem van zo’n kinderpornoverklikker?
Het principiële bezwaar is dat de overheid zo een voet tussen de deur krijgt van ons ‘digitale huis’, wat onze telefoon in de praktijk is. We hebben immers onze telefoon praktisch altijd bij ons en delen zo ons hele privéleven met onze telefoon. Traditioneel zijn woningen min of meer vrij van inmenging door de overheid. (Zelfs tijdens corona kon de overheid niet veel meer doen dan aanbevelingen doen over het aantal bezoekers dat we thuis toe zouden laten.) Alleen onder specifieke voorwaarden mag de politie een huiszoeking doen. In een vooraf aangewezen woning. In een democratische rechtstaat zijn dergelijke waarborgen essentieel: de opsporingsdiensten, de overheid, is in haar macht tot controle en disciplinering inherent beperkt. De kinderpornoverklikker is dat niet: deze draait straks 24 uur per dag, 7 dagen per week, op de telefoon van praktisch iedere Europese burger. Dit is een volstrekt nieuwe opsporingsmaatregel die we tot nu nog niet kennen. De kinderpornoverklikker is enigszins te vergelijken met een camera in ieder huis die een melding aan de politie doet als deze huiselijk geweld detecteert. Omdat we de bestrijding van huiselijk geweld (terecht) zeer belangrijk vinden. Ondanks dat we dat wel degelijk vinden, voert zo’n maatregel overduidelijk te ver. Onze telefoon verdient daarom een vergelijkbare mate van bescherming.
De kinderpornoverklikker geeft (als het gaat om het detecteren van onbekend materiaal) veel valse meldingen, waardoor mensen onterecht als verdacht worden aangemerkt. Dit is zeer stigmatiserend. Zelfs een bijna perfecte scanner gebaseerd op kunstmatige intelligentie heeft al snel een foutmarge van 0,1 procent. Met 140 miljard WhatsApp berichten per dag leidt dat nog tot een miljoen foute meldingen per dag (als 1 op de honderd berichten gecontroleerd moet worden omdat deze een afbeelding bevatten). De politie gaat overspoeld worden door valse meldingen, waardoor de echte meldingen ondersneeuwen en niet effectief vervolgd kunnen worden. De kinderpornoverklikker is dus niet effectief en niet proportioneel.
De kinderpornoverklikker kan ook eenvoudig (zonder tussenkomst van de dienstaanbieders) misbruikt worden voor het detecteren van ander ongewenst materiaal, zoals antisemitische afbeeldingen of haatzaaien, als de overheid daar de opdracht toe zou geven. Dit is moeilijk te controleren omdat de verklikker (vanwege de afschuwelijke aard van het materiaal) niet zichtbaar kán en mág maken welke afbeeldingen gedetecteerd zullen gaan worden. De kinderpornoverklikker zet dus een eerste stap op een glijdende schaal van meer directe, alomtegenwoordige, controle en disciplinering. Terecht kun je stellen dat dergelijke beslissingen door een overheid democratisch gelegitimeerd zijn. Maar dat betekent niet per definitie dat zo’n beslissing terecht is; kijk bijvoorbeeld naar het (opnieuw) strafbaar stellen van abortus in de VS, of het gebrek aan LGBTQ rechten decennia geleden, of in bepaalde minder democratische landen om ons heen, of de afwezigheid van vrouwenstemrecht honderd jaar geleden.
Dit alles is niet los te zien van de druk vanuit de opsporingsdiensten om iets te doen tegen het oprukkende gebruik van end-to-end versleuteling. Onder het argument dat ze niets meer kunnen lezen. Terwijl aan de andere kant net zo goed beargumenteerd kan worden dat de opsporingsdiensten kunnen grasduinen in veel meer gegevens over ons internet en sociale mediagebruik, en onze locatiegegevens.
De kinderpornoverklikker is slechts symptoombestrijding. Voor het detecteren van onbekende kinderporno is het niet eens effectief. En voor het detecteren van bekende kinderporno is het een disproportionele schending van de privacy in ons ‘digitale huis’, waar de verklikker 24 uur per dag, 7 dagen per week ons in de gaten houdt. Het ondermijnt de bescherming van het digitale briefgeheim die versleuteling ons biedt, door mee te kijken als we een ‘brief’ in de ‘envelop’ stoppen. Daarmee ondermijnt de Commissie de cyberveiligheid die ze zegt juist te willen beschermen.
Laat de overheid zich meer richten op het voorkomen van kindermisbruik. Iets waar ook het Europese Parlement voor pleitte in reactie op het eerdere voorstel van de Commissie.