Sweetie 2.0: chatbots achter het nieuwe gezicht van het virtuele lokmeisje

“Twee jaar terug riepen we Sweetie in het leven, een virtueel meisje dat op het net contact kon leggen met individuen die op zoek waren naar seks met minderjarigen. Van de circa 20.000 personen wisten we er in 10 weken meer dan 1000 uit liefst 71 landen te identificeren.” Aan het woord is Hans Guyt, projectmanager bij Terre des Hommes, die ons voorstelt aan Sweetie 2.0.

Terre des Hommes is de kinderrechtenorganisatie die zich al bijna vijftig jaar inzet om kinderen een veilige toekomst te bieden. Het Sweetie-concept werkt met chatbots die geautomatiseerd en op grote schaal het internet moeten beschermen. Via computermodellen of avatars traceert Terre des Hommes individuen die op het net op zoek zijn naar kinderen met wie zij seksuele contacten kunnen leggen.

Hans, wat is het verschil tussen Sweetie en Sweetie 2.0?

“Sweetie bleek een groot succes. Van de duizend verdachten die we identificeerden, droegen we de dossiers over aan Europol en Interpol. Hoewel diverse arrestaties en veroordelingen volgden, realiseerden we ons dat we groter moesten denken. Eigen onderzoek toont aan dat elk moment van de dag gemiddeld 750.000 individuen via het net actief op zoek zijn. Dat zijn dusdanig grote getallen dat we beseften dat wij ons moeten richten op het punt vóórdat de kinderen daadwerkelijk seksueel misbruikt worden. Uit die gedachte komt Sweetie 2.0 voort: een grootschalig project waar je preventief te werk gaat door via chatbots te identificeren, te waarschuwen, te ontmoedigen en tot slot af te schrikken.”

Hoe komen jullie op de naam Sweetie?

“Wij werken al vijftien jaar aan prostitutie- en kindermishandelingszaken in verschillende landen, bijvoorbeeld de Filipijnen. De kinderen daar zoeken een internetcafé op in de vorm van een lemen hutje met een golfplaten dak, gooien wat geld in de computer en bieden zichzelf vervolgens op het internet aan. Veel kinderen worden vaak door hun misbruikers schatje, liefje, of anderszins genoemd. Ook kiezen de kinderen als chatnaam namen als sweetie13, honey15. Zo kwam het dat toen wij ons virtuele lokmeisje een naam moesten geven, Sweetie een logische keus leek.”

Er spelen nogal wat verschillende belangen. Wat is de teamsamenstelling?

“Wij hebben met Terre des Hommes het idee ontwikkeld en verzonnen. Technisch zijn we heel blij met de inzet van gespecialiseerde bedrijven, zoals Tracks Inspector, dat software voor politie en justitie maakt. Ecreation heeft de chatbots verzorgd en MOTEK tekende voor de ‘motion caption’, ofwel bewegingen in digitale gegevens omzetten. Dat doen ze ook voor Disney-animaties. Zo kreeg Sweetie daadwerkelijk een gezicht.”

Hoe maak je het voor potentiële daders zo echt mogelijk?

“Dat heeft te maken met de tweede groep experts. Het forensische stuk psychologie laten wij over aan de Universiteit van Tilburg. Zij helpen ons bij het formuleren van boodschappen die op de juiste manier effect hebben. Mensen ontmoedigen, afschrikken en waarschuwen vergt namelijk nogal wat psychologische kennis. Ook houden zij zich bezig met de hamvraag: ‘hoe kunnen we bewijzen dat Sweetie 2.0 werkt?’.”

En dan heb je nog de wet- en regelgeving over landsgrenzen heen…

“Ja. Daar hebben we juristen voor. Sweetie 2.0 kan nog zo goed werken, maar gaan we zelf niet de fout in als we haar in bepaalde landen inzetten? De Universiteit Leiden gaat ter aanvulling een grootschalig onderzoek doen naar internationale wetgeving en beleid. Hoe steekt het mandaat van de politie in ieder land in elkaar en hoe kunnen we dat mandaat oprekken, zodat zij dit soort software kunnen gaan gebruiken?”

Wat is het belang van een innovatieprijs winnen?

“Volgens mij zijn wij tot nu toe de enige ngo die ooit in aanmerking is gekomen voor een innovatieprijs. We zijn trots op de erkenning voor alle inspanning. We zijn natuurlijk wel met iets begonnen wat helemaal nieuw is, dus het is voor ons een sprong in het duister. Momenteel zitten we nog in de ontwikkelingsfase, volgende maand zullen we de eerste demonstraties geven met de ontwikkelde chatbots.

Wat was tot nu toe de meest verbazingwekkende reactie op Sweetie 2.0?

“Wat ik heel bijzonder vond, is dat niet alleen landen als Nederland hun interesse tonen. Ik heb net mijn koffer gepakt om naar China te gaan, waar we zijn uitgenodigd door het Chinese bedrijf Tencent. De belangstelling van Tencent zit hem met name in de innovatieve factoren van de chatbots, onze nieuwe technologie en de digitale technieken. De interesse van Tencent ligt in verreweg de meeste gevallen in toepassingen waarmee geld kan worden verdiend, dus commerciële waarde hebben. Sweetie heeft dat niet en dat vond men bijzonder: de inzet van moderne technieken zoals AI (Artificial Intelligence) en motion capture, gekoppeld aan creativiteit en specifieke expertise (zoals forensische psychologie en internetrecht), gemixt met eigen ervaring in het veld wat betreft de problematiek in de Filippijnen en met een snufje ‘drive’ en ‘anger’.”

*) Sweetie 2.0 won de Blauwe Tulp tijdens de Accenture Innovation Awards binnen het innovatiethema Safe & Secure Society. Op 30 oktober zijn de Blauwe Tulpen uitgereikt binnen alle tien de thema’s en ook is de favoriet van het Nederlandse publiek bekroond met een award. Een compleet overzicht van de winnaars staat op www.innovation-awards.nl.

**) Dit artikel schreef ik in samenwerking met mijn collega Catherina van Duijn.