AP: zorgen om generatieve AI

De Autoriteit Persoonsgegevens (AP) ziet risico's met betrekking tot het gebruik van generatieve AI. Generatieve AI-modellen worden vaak getraind met grote hoeveelheden data, die meestal geautomatiseerd van het internet verzameld worden. Dat noemen we ook wel ‘scraping’. In de gescrapete data bevinden zich vrijwel zeker persoonsgegevens.

Het is onwaarschijnlijk dat het verzamelen van die gegevens mag op basis van de privacywetgeving, schrijft de toezichthouder. Ontwikkelaars moeten zich daarom bewust zijn van de wettelijke vereisten. Ook is de vraag of de output die zo’n generatief model produceert, zoals tekst, wel klopt. Het model kan fouten maken, doordat ongeverifieerde persoonsgegevens zijn gebruikt om het model te trainen. En het model kan ook informatie, inclusief persoonsgegevens, genereren die uit de lucht is gegrepen. En dat is niet toegestaan. Persoonsgegevens moeten kloppen. Betrokkenen hebben het recht op actualisatie of rectificatie. Onjuiste gegevens moeten kunnen worden aangepast of verwijderd. Dat is bij dit soort modellen een probleem.