TikTok vervangt menselijke moderatoren door AI

TikTok heeft inmiddels alle 280 menselijke moderatoren in Nederland ontslagen en hun taken overgenomen door een geautomatiseerd AI-systeem. Wereldwijd is dit slechts het begin: ook in andere regio’s, zoals Maleisië, zullen honderden contentmoderators hun baan verliezen.

TikTok stelt dat het gebruik van AI nodig is vanwege de enorme hoeveelheid gebruikerscontent. Volgens het bedrijf zorgt automatisering voor meer efficiëntie waardoor tot 80% van schadelijke inhoud automatisch wordt verwijderd.

Onderzoekers en moderatie-experts uitten ernstige zorgen over deze aanpak. Ze stellen dat AI niet in staat is om taalgevoeligheden, culturele nuances of subtiele vorm van haatspraak en desinformatie betrouwbaar te herkennen. Bijvoorbeeld het verschil tussen een opsporingsbericht over een zoekend kind en beelden die wél in een pedofiele context bedoeld zijn, blijft lastig voor AI. Ook het gebruik van symboliek zoals emoji’s of codewoorden vormt een uitdaging. Volgens de critici zou het moderatieproces zonder menselijke controleteams aanzienlijk minder zorgvuldig en contextbewust zijn.

De Europese Commissie heeft aangekondigd de verschuiving kritisch te bekijken. Door TikToks verandering valt de praktijk binnen de kaders van de Digital Services Act (DSA), die strikte normen stelt voor transparantie en kwaliteit van contentmoderatie. EU-informatie zal worden verzameld over de nauwkeurigheid van AI-moderatie en de mate van menselijke controle.

Foto cottonbro studio