NFI leert computers om berichten met doodsbedreiging uit grote hoeveelheden data te filteren

Het Nederlands Forensisch Instituut (NFI) heeft een model ontwikkeld om de politie te helpen voorspellen welke berichten een serieuze bedreiging bevatten.

Het team voor Forensische Big Data Analyse (FBDA) van het NFI bouwde eerder een computermodel om drugs gerelateerde berichten te herkennen in grote hoeveelheden berichten die verdachten aan elkaar stuurden. Vervolgens begon het team met vergelijkbare technieken aan een model om levensbedreigende berichten te herkennen. Dat model was klaar toen per 1 april de chats van de onlangs gekraakte chatdienst Encrochat bij de politie in Driebergen binnenstroomden.

Medewerkers van het NFI hebben met politierechercheurs woordenlijsten gemaakt met ‘signaalwoorden’, bijvoorbeeld de woorden ‘dood’, ‘slapen’, ‘poppen,’ ‘afknallen’, ‘verdwijnen’, etc. Voor het maken van de woordenlijsten is ook historisch materiaal gebruikt. Europol heeft geholpen om een lijst met vergelijkbare woorden in het Frans en Engels te maken. Met deze zoekwoorden kon een eerste zoekslag worden gedaan in de trainingsberichten.

Medewerkers van het NFI hebben zo tienduizenden bedreigende en niet-bedreigende zinnen ingevoerd om het model te trainen. De politie zette het model vervolgens in om de berichten met een hoge kans op een levensbedreigende inhoud te herkennen. De resultaten werden gecheckt en dat materiaal kon ook weer gelabeld worden en opnieuw ingeladen. Zo werd de computer steeds slimmer. Het model geeft nooit 100 procent garantie dat het klopt.