Het kind krijgt de rekening

Door Robbert Hoving, directeur-bestuurder Offlimits

Ieder kind heeft recht op een veilige jeugd en moet beschermd worden tegen (online) seksueel kindermisbruik. Het is daarom goed dat de Europese Unie zich momenteel buigt over nieuwe regels ter voorkoming en bestrijding van seksueel misbruik van kinderen. Het huidige voorstel tast echter de privacy van internetgebruikers aan, lijkt niet proportioneel en maakt het internet juist onveiliger voor alle internetgebruikers en kinderen in het bijzonder.

Veilig en vrij internet

Het voorstel bevat een groot aantal maatregelen om het bezit en de verspreiding van dit materiaal tegen te gaan en slachtofferschap van vaak zeer jonge kinderen terug te dringen. De oorsprong van het wetsvoorstel is erin gelegen bedrijven aan te spreken op hun rol en verantwoordelijkheid, ze te activeren en desnoods juridisch aan te kunnen pakken om zo dit doel te bereiken. Aan het voorstel wordt ondertussen al geruime tijd gesleuteld, maar het vinden van een goede balans blijkt een lastige exercitie. Wat begon als een mogelijkheid bedrijven te activeren, begint steeds meer op het intensiveren van de rol van de overheid te lijken. Politie en Openbaar Ministerie kijken met enige argwaan naar wat er in potentie op hen af lijkt te komen. Het EU-center dat in het wetsvoorstel een belangrijke rol krijgt bij het beoordelen van mogelijk illegaal materiaal, lijkt een enorm bureaucratisch apparaat met vele honderden medewerkers te moeten worden als het voorstel in ongewijzigde vorm doorgang vindt.

Offlimits staat voor een vrij en veilig internet, waar de mensenrechten online beschermd worden. Dat betekent dat we continu kijken naar de balans tussen vrijheid en begrenzing. Met dit wetsvoorstel is die balans zoek en wordt een discussie ontketend die helemaal niet gaat over de bescherming van kinderen tegen online seksueel misbruik, maar een discussie die gaat over het absolute recht op privacy en het al dan niet opheffen van end-to-end encryptie. Wij staan voor een integrale aanpak van preventie, samenwerking met de sector en als sluitstuk uitvoerbare wetgeving om actie te kunnen ondernemen als dat nodig is, maar ook voor het voeren van de zuivere discussie. Want het vraagt om een meer fundamentele discussie die zoekt naar een balans tussen bescherming van de privacy enerzijds en de mogelijkheid om -wanneer daar gerede grond toe is- in die privacy in te grijpen anderzijds.

Woensdag 11 oktober vond in de Tweede Kamer een rondetafelgesprek over client-side scanning plaats, waarbij chatberichten van burgers worden gecontroleerd zoals in het EU-voorstel het geval is.

Inbreuk op privacy

In dit voorstel kunnen bedrijven verplicht worden privé-communicatie te scannen op beeld en tekst. Om mee te kunnen kijken in persoonlijke communicatie, moet de end-to-end-encryptie van berichten worden doorbroken of verzwakt. Want er moet niet alleen kunnen meegekeken op iemands telefoon: het moet ook mogelijk zijn om een beeld door te sturen ter analyse wanneer er een mogelijke ‘hit’ gevonden is. Dat kan simpelweg niet met end-to-end encryptie. De grote vraag is, welke deur zet je hiermee open voor toekomstig ander gebruik?

Het gaat eraan voorbij dat het overgrote merendeel van de berichten geen ongewenste inhoud bevat. Zo zou een foto van een meisje in bikini op het strand die uitgewisseld wordt tussen ouder en kind, met deze wet een ‘hit’ kunnen opleveren. Of denk aan een conversatie tussen twee jongeren die elkaar met toestemming en strikt privé seksueel getinte berichten of afbeeldingen sturen. Omdat de leefwereld van jongeren online is, kan ook seksueel experimenteren zoals sexting daarvan onderdeel zijn. Meekijken in privé-communicatie draagt daarmee juist bij aan onveiligheid en zorgt voor een enorme inbreuk op privacy van gebruikers.

AI biedt geen adequate oplossing

In de zoektocht naar mogelijk nieuw materiaal wordt in het wetsvoorstel uitgegaan van technieken zoals Artificiële Intelligentie, zoals die in de nabije toekomst beschikbaar zouden moeten zijn. Hiervoor is de technologie simpelweg nog niet ontwikkeld genoeg, zeker als deze teksten moet beoordelen van allerlei verschillende talen. En al zou de technologie wel ver genoeg zijn en een kleine foutmarge hebben, dan heb je het nog steeds over gigantische hoeveelheden data die gecontroleerd moeten worden door mensen. Dit zorgt voor een enorme hoeveelheid aan materiaal dat nauwelijks is te overzien. Met al deze data wordt vervolgens een database aangelegd, die ook persoonlijke informatie bevat die uiteindelijk niet gerelateerd bleek aan seksueel misbruik van kinderen.

Onterecht gecriminaliseerd

Ook bestaat de kans dat iemand onterecht gecriminaliseerd wordt, bijvoorbeeld door vals-positieven van het systeem, of doordat de telefoon door iemand anders wordt gebruikt dan uit de registratie blijkt. Onterecht bestempeld worden als verdachte, kan iemands leven ontwrichten – en dat van de betrokken kinderen. Een onterechte melding kan zelfs leiden tot een echte veroordeling, die soms pas na vele jaren hoger beroep teruggedraaid wordt. Overigens is het zeer de vraag of politie en Openbaar Ministerie in de Europese landen ooit zover zullen komen. In het voorstel staat immers niets over de capaciteit die nodig is om ook iets met de enorme hoeveelheid informatie te doen. We zien nu al dat de capaciteit er niet is, dus het risico is groot dat meldingen in de toekomst slechts op een grote stapel zullen belanden.

Oplossingen

Wat is dan wel de oplossing? Voor ons staat het beschermen van kinderen tegen online seksueel geweld centraal. Onderdeel van een integrale aanpak van preventie, samenwerking met de sector en dus uitvoerbare wetgeving om actie te kunnen ondernemen als dat nodig is. Zo zet Offlimits ten eerste in op voorkomen van seksueel kindermisbruik. Zo richten we ons met de hulplijn Stop it Now specifiek op (potentiële) kijkers van seksueel beeldmateriaal van minderjarigen en (potentiële) plegers van seksueel kindermisbruik en helpen we hen hun gedrag te voorkomen of te veranderen. En met Helpwanted richten we ons door middel van voorlichting en educatie op een gezonde en veilige (seksuele) online ontwikkeling en kunnen we hulp bieden via telefoon en anonieme chat als er toch sprake is van online (seksueel) misbruik. Door onze nauwe samenwerking met de social media platformen kunnen we snel helpen. Daarnaast werkt Offlimits aan de bestrijding van seksueel beeldmateriaal van minderjarigen middels het Meldpunt Kinderporno.

Offlimits hecht veel waarde aan de samenwerking met de sector, zoals hosting partijen en social media platformen: de meeste partijen willen zelf ook niet dat er beelden van seksueel misbruik van minderjarigen bij hen gehost worden. Om een voorbeeld te noemen: het Meldpunt Kinderporno heeft een technisch hulpmiddel gebouwd om het uploaden van bekend materiaal van seksueel misbruik van minderjarigen te voorkomen (3 I’s: ). We zien dat veel hostingpartijen deze API vrijwillig al gebruiken. Wetgeving zou er vooral voor moeten zijn om gericht (zware) sancties op te kunnen leggen aan bedrijven die moedwillig blijven bijdragen aan de verspreiding van beelden van seksueel kindermisbruik. In Nederland zijn we hier al ver mee, getuige de oprichting van het ATKM, de Autoriteit Online Terroristisch en Kinderpornografisch Materiaal.

Het nieuw op te richten EU-center kan daarbij ook een belangrijke rol vervullen. Bijvoorbeeld bij het delen van best-practices, ondersteunen van landen die een aanpak in eigen land vorm willen geven of het gecoördineerd aanpakken van zogeheten bad-hosters. Verspil geen enorme hoeveelheden geld aan een karrevracht aan moderatoren maar versterk de Europese lidstaten op het vlak van politie, Openbaar Ministerie en hulpverlening.

Het is goed dat er in de Tweede Kamer een rondetafelgesprek werd gevoerd. Want de oplossing is niet makkelijk. De oproep is dat wel: voer de discussie over privacy en client-side scanning niet in het kader van deze regulering. Want zo bestaat de kans dat het uitstekende werk zoals in Nederland met een veelheid aan partners wordt gedaan in de aanpak van online kindermisbruik, in een verkeerde context wordt gezet. En worden kinderen die beschermd moeten worden gebruikt in een discussie waarin zij niet betrokken horen te zijn.