AP eist duidelijkheid van techbedrijf over AI gericht op kinderen

De Autoriteit Persoonsgegevens (AP) maakt zich zorgen over de omgang met persoonsgegevens bij organisaties die gebruikmaken van generatieve AI. En gaat met name om apps voor jonge kinderen waarin deze vorm van AI wordt toegepast.

Zo heeft de AP een techbedrijf om duidelijkheid gevraagd over de werking van de chatbot die werd geïntegreerd in hun app die populair is bij kinderen. De AP wil onder meer weten hoe transparant de chatbot is over de omgang met de gegevens van gebruikers.

De ontwikkelingen rond de inzet van AI gaan razendsnel. Dit betekent dat met name generatieve AI-toepassingen steeds breder worden gebruikt. De AP ziet grote risico’s bij het aanbieden van toepassingen zoals AI-chatbots aan kinderen, omdat zij zich onvoldoende bewust zijn van deze risico’s. Het is belangrijk dat zij bijvoorbeeld weten wat er gebeurt met hun chatberichten en of ze praten met een chatbot of met een echt persoon.

Eerder kondigde de AP aan verschillende acties te ondernemen richting organisaties die gebruikmaken van generatieve AI. Zo heeft de AP deze zomer ook softwareontwikkelaar OpenAI om opheldering gevraagd over chatbot ChatGPT en gevraagd hoe het bedrijf omgaat met persoonsgegevens bij het trainen van het onderliggende systeem. Daarnaast maakt de AP onderdeel uit van de Taskforce ChatGPT van het samenwerkingsverband van de Europese privacytoezichthouders, de European Data Protection Board (EDPB).