Virtuele assistenten met empathie en emoties. VPRO Tegenlicht – De digimens

Bespreken we in de toekomst onze problemen liever met een digitale therapeut dan met een echt mens? Virtuele assistenten zijn in opkomst en begeven zich op terreinen die voorheen enkel aan mensen voorbehouden waren: empathie en emotie. Zien of horen we straks nog het verschil tussen mens en machine? Kunnen deze digitale mensen ons helpen bij het oplossen van structurele problemen zoals personeelstekorten in de zorg en het onderwijs? Moeten we dat überhaupt willen? VPRO Tegenlicht spreekt een aantal pioniers in de wereld van de digimens.

In AI (Artificial Intelligence) is intermenselijke communicatie het volgende terrein waarop grote sprongen gemaakt gaan worden. Wereldwijd werken wetenschappers en bedrijven aan menselijk ogende avatars met zo realistisch mogelijke interacties. Digital humans, digimensen, worden ze genoemd. De innovaties op dit gebied vinden opvallend genoeg vooral in de gezondheidszorg plaats. Wat betekent deze trend, en hoe gaat die onze levens beïnvloeden?

Zorginstelling Philadelphia loopt voorop in het verkennen van de mogelijkheden. De medewerkers pionieren volop met zorgrobots: digitale maatjes die bij cliënten thuis worden geplaatst. Maar kijkend naar de toekomst zetten ze ook, samen met de digitale tak van consultancyfirma Deloitte, de eerste voorzichtige stapjes in het ontwerpen van hun digimens Sophi.

In het Zweedse academisch ziekenhuis Sahlgrenska experimenteert onderzoeker Almira Osmanović met een digitale therapeut. Deze Betsy houdt gesprekken met patiënten en biedt therapeutische ondersteuning. Osmanović is ervan overtuigd dat een neutraal, oordeelloos digimens voor sommige mensen een prettiger gesprekspartner kan zijn dan een psycholoog van vlees en bloed.

Maar hoe neutraal is een digimens als die nog steeds door mensen geprogrammeerd en getraind wordt? Techfilosofen Alix Rübsaam en Vincent C. Müller waarschuwen voor het gevaar van blind vertrouwen op digitale avatars. Die komen misschien wel neutraler over, maar zijn dat niet als ze met bevooroordeelde data zijn getraind. En wat gebeurt er eigenlijk met de data van de gebruiker? Wie bewaart, en heeft toegang tot, al die gegevens die geavanceerde digimensen nodig hebben om je gezichtsuitdrukking te lezen, je stem te interpreteren, en daarvan te leren? AI-professor Pascale Fung in Hong Kong werkt aan ethische AI: systemen om AI-gestuurde digimensen zo neutraal mogelijk te ontwerpen en met neutrale data te trainen.

VPRO Tegenlicht verkent een toekomst waarin communiceren met zelflerende intelligente systemen steeds alledaagser zal worden. Waar gaat het heen met de digimensheid?

Met o.a.: Pascale Fung, hoogleraar Ethical AI, Hong Kong (Hong Kong University of Science and Technology), Alix Rübsaam, technologiefilosoof, Amsterdam (UvA en Singularity University), Almira Osmanović (ontwikkelaar digimens-therapeute, Göteborg),
Hans van den Brink (innovatiemanager provincie Göteborg), Vincent C. Müller (AI filosoof TUE), Bas Bodzinga (directeur klantcontact van Philadelphia Zorg), Astrid de Groot-de Meijer (adviseur digital bij Philadelphia Zorg).

Credits:
Regie: Shuchen Tan
Research: Arnout Arens en Keshia Hederman
Productie: Koos van de Merbel
Montage: Sonja ten Boom
Eindredactie: Doke Romeijn en Geert Rozinga

VPRO Tegenlicht: De digimens, zondag 7 november, 22.05 uur, VPRO, NPO 2

vpro.nl/tegenlicht
#tegenlicht