09-01-2026
Offlimits is geschrokken van de recente berichtgeving over online platform X, dat via de ingebouwde AI-chatbot Grok het grootschalig genereren en verspreiden van seksuele deepfakes mogelijk heeft gemaakt. Bestaande foto’s worden misbruikt om vrouwen en minderjarigen te seksualiseren en vervolgens te verspreiden met als doel te intimideren, te vernederen en te bedreigen. Dat is uiterst zorgwekkend. Online seksueel geweld vraagt om een gezamenlijke reactie van politiek, wetgever, rechtspraak en samenleving, en in het bijzonder richting platformen die dit geweld via kunstmatige intelligentie mogelijk maken.
Uit ons eerdere onderzoek - in samenwerking met Boekx advocaten en met ondersteuning van Fonds Slachtofferhulp - naar nudify websites bleek al hoe eenvoudig het is om seksuele deepfakes van zowel vrouwen als minderjarigen te genereren. Dit bleek laagdrempelig mogelijk met Grok: met minimale prompts en waarbij Grok zelf bovendien suggestieve en expliciete suggesties voor prompts gaf. Sindsdien benadrukt Offlimits de urgentie om nú een adequate aanpak te realiseren. Dat deze praktijken nu op nog grotere schaal konden plaatsvinden via de chatbot van online platform X vraagt om een duidelijk signaal: dit soort toepassingen hoort niet te bestaan. De intentie en de handeling zijn moreel op geen enkele manier uit te leggen.
De Europese Commissie geeft aan dat de al lopende onderzoeken naar X zijn uitgebreid vanwege de seksuele deepfakes. Inmiddels heeft Grok ‘excuses’ aangeboden en het genereren van afbeeldingen voor de meeste gebruikers zonder abonnement uitgeschakeld. Maar van talloze vrouwen en kinderen zijn zonder toestemming foto’s geseksualiseerd. Zij zijn slachtoffer geworden van seksuele deepfakes. Laten we ons in Nederland, net zoals Australië en het Verenigd Koninkrijk doen, duidelijk uitspreken: dit soort toepassingen moeten verboden zijn. Er is namelijk geen enkele uitlegbare reden waarom dit zou moeten bestaan. Zeker niet in combinatie met een wereldwijd social media platform zoals X waardoor het voor iedereen bereikbaar is en doodeenvoudig verspreid kan worden, met alle desastreuse gevolgen van dien.
Offlimits roept techbedrijven op om proactief op te treden tegen online seksueel geweld, onder strikt toezicht van de bevoegde toezichthouders. Offlimits is hierover in goed gesprek met de Nederlandse toezichthouders en ziet uit naar concrete Nederlandse stappen om online seksueel misbruik aan te pakken.
