Onze bijdrage aan het rondetafelgesprek over de manosphere

Offlimits zet zich dagelijks in voor online veiligheid en de bescherming van mensenrechten. In ons werk zien we hoe online grensoverschrijdend gedrag en misbruik steeds complexer en onderling verweven raken, en dat AI hierin een steeds grotere rol gaat spelen. Als kanarie in de digitale kolenmijn signaleert Offlimits de eerste trends en ontwikkelingen online. Met deze kennis nemen we graag deel aan dit rondetafelgesprek over de manosphere, en de rol van algoritmes en online radicalisering hierin, ook al ontvangen we nog niet direct meldingen die hier direct aan toe te dragen zijn.

Want de manosphere is geen nieuw fenomeen. Het is een digitale voortzetting van bestaande ideeën over gender, macht en ongelijkheid. Wat wél nieuw is, is de schaal, de snelheid en de intensiteit waarmee platforms deze ideeën versterken en normaliseren. En algoritmes spelen hierin een katalyserende rol. Online platforms zijn geen neutrale infrastructuur. Het zijn advertentiegedreven beïnvloedingsmachines. Hun verdienmodel draait om aandacht. Algoritmen zijn geoptimaliseerd om gebruikers zo lang mogelijk vast te houden.

Het kan beginnen met ogenschijnlijk onschuldige interesses, zoals in fitness, daten, mentale gezondheid of zelfverbetering. Maar via aanbevelingssystemen kan het geleidelijk verschuiven naar content waarin vrouwenhaat, anti-feminisme en radicale wereldbeelden steeds centraler komen te staan. Niet omdat gebruikers daar altijd bewust naar op zoek zijn, maar omdat het systeem hen die richting op stuurt. Gebruikers betalen daarbij met hun aandacht, tijd en data, terwijl platformbedrijven en contentmakers economisch profiteren van die betrokkenheid.

De gevolgen zijn reëel. In sommige gevallen draagt deze dynamiek bij aan polarisatie, radicalisering en grensoverschrijdend gedrag. De piramide van geweld laat zien hoe ogenschijnlijk onschuldige opmerkingen en overtuigingen de basis leggen voor ernstigere vormen van seksueel en gendergerelateerd geweld. Wat begint als een grapje, escaleert, naar intimidatie, naar bedreiging en uiteindelijk naar fysiek of seksueel geweld. De manosphere versterkt precies die onderste lagen van die piramide door vrouwonvriendelijkheid te normaliseren. U heeft ons position paper gelezen en daarom leg ik dit moment graag kort de nadruk op onze aanbevelingen; die zien daarom toe op drie fronten:

Ten eerste: de algoritmen

Algoritmen zijn een katalysator voor misogyne content. Engagement is het devies en hoe de AI werkt en gebruikers analyseert om zo lang mogelijk achter dat scherm te laten zitten, zodat profielen gemaakt kunnen worden en er geld verdiend kan worden. Het gaat om content die engagement genereert: het vasthouden van aandacht, het uitlokken van reacties, het aanzetten tot delen en het oproepen van emotionele betrokkenheid. Binnen deze logica functioneert manosphere-achtige content bijzonder goed. Desinformatie en schadelijke gendernarratieven verspreiden zich gemakkelijk via het algoritme, omdat zij inspelen op emotie, conflict, onzekerheid en identiteitsvraagstukken. Dit zorgt er ook voor dat niet iedereen meer deelneemt aan het online verkeer, vanwege bijvoorbeeld online haat. Dus laat u niet wijsmaken dat regulering hetzelfde is als censuur. Dat is precies wat de grote platformen willen dat u denkt. Want nu is het de woonkamer van Zuckerberg of Musk waar u binnenstapt. Zij bepalen wat u ziet. Dat is de echte censuur, wanneer bepaalde stemmen structureel worden weggefilterd of juist opgeblazen door een algoritme dat niemand heeft gekozen.

Wij willen het tegenovergestelde: dat álle meningen en alle kleuren van de regenboog aanwezig zijn. Online én offline. Op grote platformen die onder de DSA vallen, maar ook op kleinere platforms en in game-omgevingen die daar nu nog buiten vallen. Profilerende algoritmen moeten verboden worden, zeker voor minderjarigen en gebruikers moeten zelf kunnen kiezen welk aanbevelingssysteem ze willen gebruiken. Bits of Freedom won onlangs een rechtszaak tegen Meta: gebruikers in Nederland kunnen nu kiezen voor een chronologische tijdlijn, zonder algoritmische sturing. Dat een NGO dit moet doen, terwijl het eigenlijk een overheidstaak is, zou veelzeggend genoemd kunnen worden.

Ten tweede: toezicht

Want wetgeving alleen blijkt niet genoeg. Toezichthouders moeten ingrijpen, onderzoek doen en sancties opleggen. We hebben de macht om dit af te dwingen. Via de DSA. Via het zogeheten Brussels effect: EU-regelgeving raakt platformen direct in hun portemonnee vanwege het aantal Europese gebruikers, en dat werkt. Als wij eerlijke algoritmen afdwingen waarin gebruikers zelf kunnen kiezen, zullen platformen roepen dat dit censuur is. Dat is het niet. Als wij niet reguleren, reguleert de markt. En dat is precies wat er nu gebeurt. Technologie is niet neutraal. Het is veelal een continu sociaal experiment wat over de ruggen van onze jongens uitgevoerd wordt.

Daarnaast moeten platforms en omgevingen waar vrouwenhaat actief wordt aangemoedigd, zoals bepaalde forums en sites als Motherless, zo snel mogelijk worden aangepakt en uit de lucht gehaald. Niet iedereen die zulke content consumeert gaat over tot fysiek geweld. Maar het is wél de bodem van de geweldspiramide. En voor wie zijn zulke filmpjes en forums eigenlijk goed? En toezichthouders kunnen dit; dat hebben we een jaar geleden reeds aangegeven en bewijzen wij iedere keer in de rechtszaal. We moeten stoppen met straffeloosheid te normaliseren, waarbij dit soort content continu herplaatst kan worden door bijvoorbeeld preventieve controles en acties. Want door niet goed ingrijpen blijft de gelegenheid zich voordoen om nieuwe slachtoffers te maken. Wij zijn daarom blij met de politieke aandacht hiervoor de afgelopen weken.

Ten derde: preventie

Bij Offlimits staat preventie centraal. Wie de manosphere écht wil aanpakken, moet verder kijken dan de symptomen. We moeten begrijpen waarom jongeren gevoelig zijn voor deze ideologie — welke vragen leven er, welke onzekerheden, welke frustraties? Dat doe je niet door over jongeren te praten, maar mét hen. Betrek jongens actief. Op basis van gelijkwaardigheid, en ontwikkel met hetzelfde tempo als de online wereld beweegt. Zoals wij dat doen met ons jongerenpanel, en zoals de interventies die wij maken met Rutgers en HackShield. Met die laatste zelfs binnen enkele weken. Waarbij het belangrijk is dat iedereen elkaar aanspreekt en helpt, online en offline; it takes a village to raise a child (Ubuntu). Dus van school tot ouders en opvoeders tot vrienden en vriendinnen.

En dan kijk ik de zaal even rond. We zijn hier vandaag met professionals vanuit heel verschillende perspectieven. Dat is geen toeval, want dat is precies wat dit vraagstuk nodig heeft. Laten we daarom óók de samenwerking met elkaar opzoeken en is ons laatste advies de aanbevelingen die vandaag door alle experts zijn gedeeld, aanwezig en niet aanwezig, op te volgen.