4 mythes over het EU wetsvoorstel online kindermisbruik

Dit najaar wordt er gestemd over nieuwe Europese wetgeving om online kindermisbruik te detecteren en bestrijden. Het wetsvoorstel levert stevige discussies op waarbij duidelijk wordt dat de nieuwe wetgeving niet altijd juist wordt geïnterpreteerd. Vier van de belangrijkste mythes en misconcepties op een rij.

Mythe 1: “Dit voorstel zal leiden tot de automatische detectie van privéberichten”

Tweederde van de kinderen die online seksueel expliciet materiaal ontvingen, kreeg dit via privéberichten, meestal op hun persoonlijke mobiel. Daarom zijn tools gericht op privéberichten essentieel. Anders dan wordt verondersteld, legt het voorstel echter geen monitoringsverplichting van algemene aard op. Dit is verboden door de Digital Services Act (DSA). In plaats daarvan voorziet het in specifieke waarborgen en een lang democratisch beoordelingsproces voordat detectie door internetbedrijven wordt toegestaan. Dit zorgt ervoor dat er geen willekeurige detectie wordt uitgevoerd en dat de inbreuk op de privacy tot een minimum wordt beperkt. De afweging van fundamentele rechten en de eventuele inzet van detectietools wordt dan ook niet meer aan technologiebedrijven overgelaten – wat nu wel het geval is – maar aan de autoriteiten.

Internetplatforms scannen nu al het internetverkeer en cloudopslag om ervoor te zorgen dat er geen content wordt gedeeld die niet voldoet aan de gebruiksvoorwaarden (die door gebruikers geaccepteerd moeten worden voordat er een account aangemaakt kan worden) van het platform. Momenteel zijn er echter geen regels voor het scannen, hebben technologiebedrijven geen verantwoordingsplicht en zijn gebruikers dus afhankelijk van internetbedrijven. Dat kan leiden tot onwenselijke situaties waarin onschuldig materiaal als kindermisbruik wordt aangemerkt.

De duidelijke waarborgen in de voorgestelde wetgeving voorkomen dit. Alleen wanneer er daadwerkelijk een specifiek risico is dat de inzet van opsporingsmiddelen rechtvaardigt, zal een nationale rechtbank per geval de noodzaak en evenredigheid van het gebruik van detectietools vaststellen, voordat het gebruik daarvan verplicht gesteld wordt door een opsporingsbevel.

Mythe 2: “Ook sexting met wederzijds goedvinden zal worden gemarkeerd door detectietools en doorgegeven aan wetshandhavingsinstanties”

Het is van cruciaal belang dat kinderen veilig hun seksualiteit kunnen verkennen zonder bang te hoeven zijn voor actie door wetshandhavers als gevolg van consensuele uitwisseling van intieme content tussen kinderen. EU-beleidsmakers moeten ervoor zorgen dat activiteiten tussen adolescenten met wederzijds goedvinden worden beschermd tegen onnodige vervolging.

Aan de andere kant moet er adequaat worden gereageerd op het niet-vrijwillig delen van intieme content waarbij minderjarigen betrokken zijn. De opsporing is gericht op afbeeldingen die seksueel misbruik van kinderen weergeven; criminele content dus. Verder helpt context bij de beoordeling door wetshandhavingsinstanties of het delen van materiaal met wederzijds goedvinden was. Er zou echter meer transparantie en verantwoording van bedrijven nodig zijn over hoe zij met deze kwestie omgaan. Het voorstel voorziet daarom in transparantievereisten voor moderatie.

Met duidelijke regelgeving en een democratische beoordeling hoeven gebruikers zich geen zorgen te maken dat berichten als “ben je alleen thuis?” direct worden aangemerkt als grooming, of dat het delen van een foto van een aangeschaft lingeriesetje met een vriendin wordt gedetecteerd. Het delen van een ervaring of praten over seksuele activiteit is niet hetzelfde als grooming of misbruik. De technologie detecteert patronen die uniek zijn voor dit gedrag. Zo zijn er modellen ontwikkeld die stappen in het proces van grooming omvatten die kunnen worden geïdentificeerd, zoals relatievorming, risicobeoordeling, exclusiviteit en seksuele stadia.

 

Mythe 3: “Als de technologie eenmaal is geïmplementeerd, kunnen regeringen deze gebruiken om te zoeken naar bewijs van ander gedrag waarvoor men kan worden vervolgd”

De tools die worden gebruikt om misbruikmateriaal te detecteren, zijn heel specifiek en voor alleen dit doel ontwikkeld. Deze detectietechnologie is dus geen middel waarmee overheden of bedrijven bewakingstechnologie voor andere doeleinden kunnen ontwikkelen en implementeren. De detectie-technologie wordt momenteel al ingezet door internetplatforms, maar zij zijn tot nu toe niet aan regels gebonden in het gebruik ervan. Het voorstel introduceert daarom toezichtsmechanismen om verantwoording af te leggen en misbruik te voorkomen.

 

In tegenstelling tot de misvatting dat het gebruik van deze technologie een hellend vlak vormt naar uitgebreidere detectie, reguleert het voorstel het gebruik ervan juist strenger. Het EU-voorstel bevat waarborgen om het gebruik van tools te beperken tot alleen die instrumenten die het meest geschikt zijn om specifiek online seksueel misbruik van kinderen te bestrijden. Overheidsinstanties en nationale rechtbanken moeten het gebruik van deze tools van geval tot geval beoordelen, en als het niet aan deze en andere strenge criteria voldoet, staat de wet het gebruik ervan niet toe.

Mythe 4: “Het voorstel probeert end-to-end encryptie te ondermijnen. Directe toegang voor overheden en bedrijven tot privécommunicatie zal de deur openen voor allerlei soorten kwaadwillende actoren, die een veilige internetinfrastructuur en bronbeveiliging bedreigen”

Privacy van alle gebruikers, inclusief kinderen, is essentieel. In het geval van privécommunicatie zijn er strikte wetten (zoals de Digital Services Act) die de manieren beperken waarop bedrijven toegang kunnen krijgen tot de gegevens van gebruikers, waardoor bedrijven in principe geen toezicht kunnen houden op de gegevens van gebruikers.

 

Tegelijkertijd moeten alle gebruikers, zelfs via de meest persoonlijke vormen van communicatie, veilig blijven. Bestaande technologie maakt dit mogelijk door illegale content te detecteren voordat deze via een versleutelde omgeving wordt verzonden. Dit is ook de manier waarop bijvoorbeeld WhatsApp, een end-to-end vertrouwelijke versleutelde (E2EE) service, de verspreiding van kwaadaardige URL’s op zijn versleutelde berichtenservice voorkomt en hoe browsers zoals Chrome en Edge gebruikers waarschuwen voor malware op https. Om kinderen te beschermen tegen online uitbuiting en misbruik, zouden dezelfde technologische oplossingen moeten worden gebruikt.

 

Het wetsvoorstel vraagt niet om het doorbreken van encryptie, inclusief E2EE. Het bepaalt simpelweg dat als er technologie bestaat die detectie van seksueel misbruik mogelijk maakt, deze kan worden gebruikt voor detectie in E2EE-omgevingen. Mits de in het voorstel uiteengezette waarborgen worden nageleefd. Dergelijke ‘technologisch neutrale’ wetgeving is essentieel zodat bedrijven zich aan regels moeten houden rondom privacy en privécommunicatie, en heeft ook betrekking op de toekomst en eventuele nieuwe technologie.

 

De afhankelijkheid van techbedrijven is nu te groot bij de aanpak van online kindermisbruik. Het moet niet mogelijk zijn dat een technologiebedrijf onschuldige foto’s als verdacht kan aanmerken; alleen crimineel materiaal moet worden gevonden en verwijderd. Materiaal zoals in de afpersingszaak in Etten-Leur met meer dan honderd slachtoffers of de Limburgse oppasouders die zeven kinderen misbruikten. Kinderen zijn kwetsbaarder voor online seksueel misbruik en geweld dan ooit. Elke drie seconden wordt een kind online blootgesteld aan misbruik. In Nederland is online kindermisbruik inmiddels de meest voorkomende vorm van seksueel geweld onder 16- en 17-jarigen.

“Een sterk Europees raamwerk zorgt voor een proactieve en gereguleerde aanpak van online kindermisbruik om kinderen en jongeren nu en in de toekomst online veilig te houden”, zegt Corinne Dettmeijer, ambassadeur van Child Safety in Europe, een coalitie van verschillende (internationale) organisaties die zich inzetten om kinderen op internet te beschermen.

Mensen kunnen hun stem laten horen via https://www.childsafetyineurope.com/take-action/.