Standpunt over de Europese Verordening ter voorkoming en bestrijding van seksueel kindermisbruik

Proportionaliteit

De Europese Commissie rechtvaardigt dit wetsvoorstel op basis van een aantal cijfers dat gegeven wordt. Er wordt gesproken over een explosieve groei van het aantal meldingen en 85 miljoen foto’s en video’s van kinderporno die alleen al in 2021 zijn onderschept. Maar een stijging van het aantal meldingen wil niet zeggen dat er ook meer kindermisbruik plaatsvindt. Ten eerste weet men niet of de stijging van de meldingen komt door een groei in het gebruik van internet, betere detectiemiddelen of betere bereidheid tot melden.. Daarnaast zegt het aantal meldingen niets over de omvang van het daadwerkelijke misbruik.

Uit onderzoek van META (Facebook) blijkt dat de afbeeldingen van seksueel kindermisbruik die zij hebben ondervangen voor bijna 90% van het totaal uit slechts enkele afbeeldingen bestaat. Dat wil zeggen dat 90% van de afbeeldingen die gedeeld worden bestaan uit slechts vijf à zes unieke beelden.

Aantasten privacy

De Europese Commissie wil internetbedrijven verplichten te scannen op beeld én tekst in privé- communicatie op bekend en onbekend misbruikmateriaal. Het scannen van privé-communicatie is een inbreuk op de privacy van het kind en is een schending van artikel 16 van het Kinderrechtenverdrag van de Verenigde Naties, hetgeen alleen gerechtvaardigd zou zijn wanneer het kind beter beschermd wordt. Maar het voorstel maakt het internet juist onveiliger voor kinderen. Het internet is voor kinderen een onlosmakelijk onderdeel van hun leven. Daarbij hoort ook het onderling sturen van seksueel getinte foto’s. Het is een onderdeel van het opgroeien en de seksuele ontwikkeling. Het gros van deze uitwisseling van afbeeldingen gebeurt zonder enige problemen. Het voorstel zorgt ervoor dat alle afbeeldingen onderschept kunnen worden, juist ook wanneer er geen problematische situatie is. Vervolgens worden de afbeeldingen door vele mensen bekeken om te analyseren. Daarmee wordt er onnodig een enorme inbreuk gepleegd op de privacy van het kind. Het voorstel heeft dus geen rekening gehouden met de diversiteit van de redenen om naaktbeelden te delen, noch het feit dat veel materiaal vrijwilliger gedeeld wordt.

Onveiliger internet

Om de kans dat de beelden in verkeerde handen vallen te verkleinen, is een veilige omgeving van groot belang. Het voorstel van de Commissie maakt de omgeving juist onveiliger. Om mee te kijken in versleutelde berichten (end-to end-encryptie) moeten er achterdeurtjes worden ingebouwd. Dit zal kinderen en jongeren juist schaden. Nu al worden kinderen en jongeren afgeperst met foto’s uit gehackte sociale media accounts. Kwetsbaarheden introduceren voor de opsporing maakt het internet ook onveiliger voor hen. Als je een achterdeur op een kier zet bij de bestrijding van misbruik, opent het ook nieuwe wegen voor kwaadwillenden.

Artificiële Intelligentie is onvoldoende ontwikkeld

In de zoektocht naar mogelijk nieuw materiaal wordt in het wetsvoorstel uitgegaan van technieken, zoals Artificiële Intelligentie, zoals die in de nabije toekomst beschikbaar zouden moeten zijn. De suggestie wordt gewekt dat de techniek zo ver gevorderd is, dat met Artificiële Intelligentie afbeeldingen van kindermisbruik goed te onderscheiden zijn. Maar die technologie is nog helemaal niet ver genoeg om dat te kunnen. Ook het scannen op tekst, waarbij het met technologie mogelijk moet zijn om gesprekken op eventuele schadelijke inhoud te analyseren, staat nog in haar kinderschoenen. Navraag leert dat de ontwikkelaars van de technieken scannen op teksten als: ‘is je moeder thuis?’ Dit soort teksten kan door heel veel onschuldige burgers gebruikt worden.

Meldpunten worden buiten werking gesteld en websites niet aangepakt

Wanneer een platform een aanwijzing krijgt op verplicht scannen, moet al het gevonden materiaal gemeld worden aan het nieuw op te richten onafhankelijk Europese Centrum. Daarmee komen er geen meldingen meer naar de Meldpunten. Een wereldwijd netwerk van samenwerking komt daarmee onder druk te staan en snelle acties om afbeeldingen te verwijderen verdwijnen. Het internationale netwerk van meldpunten Inhope, heeft haar zorgen geuit over deze ontwikkeling. Zorgwekkender is dat het voorstel vooral toeziet op prive-communicatie, zoals chats, emails, berichten in social media, maar niet op de websites waar de Meldpunten mee te maken hebben. Het probleem van de verspreiding van dit materiaal zoals we dat in Nederland kennen wordt hiermee nagenoeg niet aangepakt.

Vrijwillig scannen

In het voorstel worden platforms verplicht om actief afbeeldingen van seksueel kindermisbruik op te sporen en te rapporteren bij de autoriteiten. Alle vrijwillige inspanningen worden voortaan verboden. Ook activiteiten anders dan het scannen, maar die wel patronen van misbruik kunnen ontdekken, zijn voortaan verboden. Het wetsvoorstel maakt de aanpak van online kindermisbruik minder flexibel.

Wat dan wel?

Offlimits vindt dat aanbieders van online diensten op vrijwillige basis, met getoetste waarborging, door moeten kunnen blijven gaan met het scannen op bekende afbeeldingen van seksueel kindermisbruik. Om dit mogelijk te maken zou de tijdelijke ontheffing (derogatie) van de Elektronische Communicatiewet (EECC) gedeeltelijk in een permanente ontheffing kunnen worden omgezet.

Programma’s die gebruik maken van artificiële intelligentie of het scannen op tekst zijn niet volwassen genoeg om ingezet te worden voor een detectie die uiteindelijk kan leiden tot rechtsvervolging. Deze horen dus niet in die ontheffing thuis.

Andere wijze van detecteren moeten mogelijk zijn, met de juiste waarborgen. Voorstellen daartoe kunnen getoetst worden aan privacy wetgeving. Hier kan het Europees Centrum een belangrijke rol in spelen. Ook kan het Europees Centrum een rol spelen bij het aanbieden van middelen om platforms te helpen hun netwerk schoon te houden. Onze ervaring leert dat vele website eigenaren niet goed weten waar te beginnen om het probleem op hun netwerk te voorkomen of aan te pakken. Daarnaast bepleit Offlimits het hebben van een toezichthouder, zoals het ATKM in wording, zodat lakse aanbieders van internetdiensten beboet kunnen worden.

Als laatste benadrukt Offlimits dat preventie nagenoeg geen rol heeft en preventie van daderschap veel te weinig aandacht heeft in het voorstel. In alle gevallen heeft voorkomen van het misbruik de voorkeur boven het slechts detecteren van kwaad dat als geschied is.