Hoe AI ons vertrouwen heeft gewonnen in ons dagelijks leven

Vertrouwen speelt een belangrijke rol in de adoptie van elke nieuwe technologie. We onderzoeken de introductie van voices interfaces, en vooral: hoe gaan gebruikers er eigenlijk mee om in hun dagelijks leven?

In dit artikel onderzoeken we het begrip ‘vertrouwen’ in relatie tot de digitale technologieën die ons omringen. De focus ligt hierbij op kunstmatige intelligentie. Het gedrag van personen die in hun dagelijks leven voice interfaces zoals Google Home en Amazon Alexa gebruiken wordt geanalyseerd, en hun reactie op de risico’s met betrekking tot kunstmatige intelligentie en technologie wordt vanuit een breder perspectief beoordeeld. Ik laat zien hoe bestaande netwerken van fundamenteel belang zijn voor de wijze waarop mensen technologie gaan vertrouwen. En hoe we onze weg proberen te vinden in een regelloze digitale wereld door onze eigen richtlijnen en grenzen te bepalen.

Het is moeilijk om iemand in de westerse wereld te vinden wiens leven de afgelopen twintig jaar niet is veranderd door digitale technologie. Sinds de geboorte van het internet (zoals wij het kennen) in 1990, hebben we onder andere de opkomst van e-mail, laptops, smartphones, apps, tablets, VR en zelfrijdende auto’s meegemaakt. En wie weet wat volgend jaar zal brengen, of het jaar daarna? Het digitale landschap is voortdurend in beweging.

Steeds meer aspecten in ons leven worden gedigitaliseerd: interacties met bedrijven, relaties met vrienden, de manier waarop politiek en activisme worden georganiseerd of de manier waarop we naar liefde zoeken. Maar deze relatief nieuwe stand van zaken wordt niet begeleid met uitgeschreven spelregels die ons vertellen hoe we ons moeten gedragen. Mijn onderzoek – gericht op alledaagse interacties met kunstmatige intelligentie – legt bloot hoe mensen door hun digitale leven navigeren en grenzen en beperkingen stellen om de aanwezigheid van technologie in hun huizen te rechtvaardigen. En de manier waarop de mogelijke risico’s tegen elkaar afwegen.

Pas op voor killer robots

Van alle recente technologische ontwikkelingen heeft er een als geen ander onze collectieve aandacht gevangen: kunstmatige intelligentie (AI). Of het nu gaat om angstaanjagende beelden van apocalyptische Hollywood-films met robots die op hol slaan, of de potentie van AI om voor God te spelen, AI creëert een buzz. Silicon Valley spreekt over ‘the next big thing’. De media doen ons graag geloven dat AI ons allemaal zal doden of ons werk zal overnemen. Hierdoor wordt de ontwikkeling van AI gepositioneerd als iets wat verstrengeld is met risico’s waardoor zowel onze economische stabiliteit als het voortbestaan van de mensheid in gevaar komen. Het is niet ongebruikelijk dat nieuwe ontwikkelingen vergezeld gaan met tegenstanders, lasteraars en paniekzaaiers.

Zulke lieden schetsen een beeld van AI als fundamenteel riskant, maar risico, zo zal blijken uit dit onderzoek, kan verschillende vormen aannemen. Risico geldt niet alleen voor de toepassing van AI en digitale technologie. De moderne samenleving is zo complex geworden, en we zijn zo bezeten door deze complexiteit, dat overal potentieel gevaar op de loer ligt. De risico’s van grootschalige stroomonderbrekingen, computing-hacks en nucleaire fall-out liggen buiten ons voorstellingsvermogen.

We weten alleen dat ze catastrofaal zijn. Deze stand van zaken bracht de Duitse socioloog Ulrich Beck ertoe de moderne wereld te karakteriseren als een ‘risicomaatschappij’. Volgens Beck zijn moderne risico’s ‘verborgen’ en vallen deze buiten ons voorstellingsvermogen. Hierdoor worden we in beslag genomen door ‘wat als’ vragen en zijn we in onze gedachten voortdurend aan het gissen naar mogelijke risico’s. Bij het onderkennen van de wijdverspreide risico’s van het moderne leven, is volgens de Britse socioloog Anthony Giddens vertrouwen essentieel voor het goed functioneren van een samenleving.

In onze complexe samenleving moeten we uitgaan van een abstract begrip van vertrouwen om ons veilig te voelen. We zijn afhankelijk van experts die we niet kennen en nooit zullen ontmoeten. De manier waarop risico en vertrouwen met elkaar samenhangen vormt de theoretische basis voor de benadering van mijn onderzoek.

De keuze voor voice

De mate waarin we AI vertrouwen of niet vertrouwen zal de rol die AI in de komende decennia in ons dagelijks leven gaat spelen gaan bepalen. Niemand weet precies wat de toekomst zal brengen, of in welke richting AI zich zal gaan ontwikkelen. Maar wat we met zekerheid kunnen zeggen, is dat de technologie zich zal blijven ontwikkelen en dat machine-learning algoritmes nu al hun weg vinden in ons dagelijks leven. Hoe we vandaag reageren op nieuwe technologieën, zal de toekomst ervan bepalen. De sleutel tot een toekomst waarin zowel de gebruiker als de ontwerper AI op de juiste manier kunnen gebruiken, is vooral om volledig te begrijpen op welke manieren AI wordt gebruikt in ons dagelijks leven en hoe mensen deze technologieën gaandeweg gaan vertrouwen, ondanks alle sensationele koppen over het gevaar van AI.

Nu AI steeds meer wordt toegepast kunnen we sommige van de in de media aan de orde gestelde problemen onderzoeken. Met name één technologie – de voice interface – biedt een interessante invalshoek om te bestuderen welke positie AI in het dagelijks leven van mensen inneemt.

Het gebruik van conversational interface devices wordt steeds gebruikelijker. Mensen plaatsen voice assistents in de meest persoonlijke ruimtes van hun huis om hen te helpen met dagelijkse taken. Deze AI-apparaten helpen gebruikers om een verscheidenheid aan functies uit te voeren door met het apparaat te praten. Google en Amazon domineren momenteel deze markt. In 3,5 jaar tijd heeft Amazon meer dan twintig miljoen Echo-apparaten verkocht, terwijl Google’s apparaat – Google Home – bijna vijf miljoen omzet haalt. Amazon zelf verklaart dat conversational AI: “kan communiceren op een manier die natuurlijk aanvoelt, problemen oplost en steeds slimmer wordt.”

Maar de opkomst van deze apparaten gaat niet zonder slag of stoot. Er is veel ophef over deze devices in het nieuws en er blijven nieuwe verhalen verschijnen. Dergelijke berichten gaan over het idee dat de apparaten je voortdurend afluisteren en gegevens opslaan voor toekomstig gebruik, waardoor Google en Amazon complete portretten van consumenten kunnen vastleggen. Een soort ‘digitale bedrijfsspion’ die we ‘vrijwillig’ bij ons thuis uitnodigen. De aard en populariteit van deze apparaten is een interessante aanleiding om te bestuderen hoe mensen AI beginnen te gebruiken en hoe vertrouwen wordt gevormd in interacties met nieuwe, mogelijk risicovolle, machines.

We vragen het de early adopters

Voor dit onderzoek wilde ik graag mensen spreken die met een Google Home of Amazon Alexa samenwonen. Door de interactie tussen de mensen en deze devices te bestuderen, kon ik de motivaties voor het bezit van een spraakinterface begrijpen en zien hoe de apparaten worden gebruikt. En of de gebruikers risico’s met AI associëren, en hoe jonge kinderen worden opgevoed in een omgeving met een ‘intelligente’ speaker met een naam. Ik voerde drie diepte-interviews uit.

Petrushka, Lennart en Saloua wonen allemaal in Nederlandse steden en kunnen worden omschreven als goed opgeleide, tech-savvy personen met een internationale, kosmopolitische achtergrond. In twee van deze gevallen zag ik uit de eerste hand hoe de apparaten thuis werden gebruikt. Twee deelnemers hebben een Google Home en de derde maakt gebruik van Alexa van Amazon. Door de apparaten in gebruik te zien, kon ik vaststellen hoe ze werkten en welke posities ze innemen in het dagelijks leven van mensen.

Gedetailleerde beschrijvingen, gebaseerd op deze interviews, vormen de basis voor mijn begrip van hoe mensen samenwonen met AI en hun eigen regels bepalen om door de digitale wereld te navigeren. Door te praten met mensen die voice assistants bezitten, werd duidelijk dat er, lang voordat het uitgepakt wordt, al een zekere mate van vertrouwen in het apparaat bestaat.

Voordat Lennart en Saloua besloten een Google Home te nemen, hebben ze aardig wat tijd in het beslissingsproces gestopt. Na haar engineeringstudie heeft Saloua voor een grote bank op het gebied van smart-chiptechnologie gewerkt. Ze is geïnteresseerd in technologie die haar leven gemakkelijker kan maken. Na het lezen van een artikel waarin twee populaire voice interfaces worden vergeleken, besloot ze dat de Google Home het beste bij haar past.

Lennart had de Amazon Alexa van zijn vriend een paar keer geprobeerd voordat hij zelf een Google Home nam. Een podcast over de apparaten ondersteunde zijn beslissing. Als vaste luisteraar vertrouwt hij op de meningen van de host. Petrushka kocht de Amazon Alexa die in haar woonkamer staat niet zelf. Haar man deed het. We kunnen redelijkerwijze aannemen dat zij haar echtgenoot vertrouwt om geen schadelijke voorwerpen in huis te nemen en in contact te brengen met hun kinderen. In alle drie gevallen is het duidelijk dat het vertrouwen dat hen motiveerde om deze producten aan te schaffen afkomstig is van meerdere bronnen en niet los van elkaar kan worden gezien. Het zit ingebakken in complexe sociale relaties en bestaande vertrouwensnetwerken.

Voor twee van de deelnemers kan de voice assistant worden omschreven als een digitale assistent die hen helpt om hun dagelijkse ochtendrush wat soepeler te laten verlopen. Saloua, begin dertig, komt elke ochtend de trap af, loopt haar woonkamer binnen en begroet haar Google Home:

“Hé Google, goodmorning.”

“Hey Saloua, the time is 7:56am. Utrecht is currently 14 degrees and cloudy. Today will be sunny with a….”

Een ongedefinieerde, Britse stem voltooit de weersvoorspelling en gaat verder met het lezen van het nieuws. Vroeger zou Saloua de weersvoorspelling opzoeken en de nieuwste krantenkoppen doorbladeren – dat wil zeggen, zolang haar laptop voldoende batterijduur had en in de buurt stond. Nu heeft ze deze alledaagse taken samengevat in drie woorden.

De ochtenden van Lennart volgen een soortgelijk patroon. Zijn Google Home herinnert hem aan de afspraken van die dag en het weerbericht. In tegenstelling tot Saloua, waarvan het apparaat ’s morgens voornamelijk wordt gebruikt, gebruikt Lennart het apparaat de hele dag door. Als een, zoals hij het zelf noemt, ‘early adopter’ die van ‘coole dingen’ houdt, gebruikt hij zijn Google Home om zoekopdrachten naar treintijden uit te voeren en ook in de keuken te helpen. Vaak voegt hij dingen toe aan boodschappenlijstjes, zoekt hij recepten op en stelt hij kooktimers in.

De Amazon Alexa staat bovenop de kast van Petrushka in haar open woonkamer, en komt ook goed van pas als ze aan het koken is. Alexa laat haar weten wanneer een bepaalde hoeveelheid tijd is verstreken, zodat ze op tijd de oven uitzet. Ze gebruikt de timer ook als een van haar drie kinderen een strafbaar feit heeft gepleegd.

Zwijgend mogen ze hun straftijd aftellen in de hoek. Alexa geeft hen een seintje wanneer de vijf minuten van de straf zijn verstreken. Door timers in te stellen, wordt het gissen naar de tijd uit het koken en uit de kleine disciplinaire gehaald. Met Alexa’s hulp probeert Petrushka haar dagelijkse routine in het huis te vereenvoudigen. Maar Alexa treedt niet alleen op als tijdwaarnemer wanneer haar kinderen worden gestraft. Het fungeert ook als een digitale speelkameraadje. Het leest interactieve verhalen en vertelt hen grappen als ze erom vragen. 

Petrushka heeft twee Alexa-apparaten in haar huis: één beneden, die ook een camera bevat, en één boven in haar tweelingdochters kamer. Haar man, naar wie ze gekscherend verwijst als een ‘kind’ door zijn liefde voor alles met knoppen en draden, kocht de apparaten en zette ze in het huis. Petrushka vertelt hoe ze in eerste instantie moeite had om het nut van de voice assistant te zien. Toen Alexa werd verbonden met een paar slimme gloeilampen, begon ze langzamerhand de waarde te zien. Wat begon als een leuke manier om het licht aan te doen, vereenvoudigt nu haar dagelijkse routine elke dag een stukje meer.

Het voordeel van vertrouwen

Hoewel het gebruik van een voice assistent enigszins kan verschillen, heeft het apparaat wel één ding gemeen in deze drie huishoudens. Ze zijn allemaal ontworpen om tijd te besparen of taken te vereenvoudigen: als ze ’s morgens het weer hoort, weet Saloua of ze de regenjas van haar zoon moet inpakken. Lennart mist minder vaak een vroege afspraak die maanden geleden is gepland. En het bereiden van het avondeten gaat veel soepeler als Petrushka een timer instelt. In hun drukke routine hebben deze kleine, tijdbesparende functies veel waarde.

Saloua verwoordde dit gevoel perfect: “Het bespaart me gewoon tijd, het meest waardevolle goed dat we hebben.” Er komen vaak nieuwe producten op de markt die ons beloven tijd te besparen, of helpen bij het organiseren en vereenvoudigen van ons hectische leven. Historisch gezien werd technologie altijd geprezen als het ultieme voorbeeld hiervan. Denk aan hoe magnetrons, wasmachines, stofzuigers en vaatwassers huishoudelijk werk hebben veranderd. Maar er is ook een gevoel dat we meer tijd nodig hebben dan ooit tevoren, ondanks de technologische vooruitgang en de overvloed aan ‘life-hacks’ die er zijn.

De overvloed aan digitale technologieën om ons heen en onze oneindige fixatie op beeldschermen, zijn enkele redenen waarom Lennart een Google Home kocht. Door zijn stem te gebruiken om functies uit te voeren, kan hij voorkomen dat hij te veel tijd op zijn telefoon of laptop doorbrengt. Het klinkt misschien vreemd, maar de oplossing voor het verminderen van het gebruik van bepaalde technologie is in dit geval door meer technologie te gebruiken.

Saloua en Petrushka laten ook zien hoe technologieën kunnen worden gebruikt om meer controle te krijgen over onze digitale levens en, in dit geval, hun kinderen. Petrushka vindt het leuk dat Alexa een verhaal kan voorlezen aan haar kinderen, waardoor ze minder tijd tijd doorbrengen voor de tv. Dit stimuleert hun verbeeldingskracht, veel meer dan voorgekookte tv-beelden. Samen met haar man creëerde Saloua een Netflix-kanaal voor haar vier jaar oude zoon, om te voorkomen dat hij iets zag dat hij tegenkwam in het standaardkanaal.

Dergelijke voorbeelden laten zien hoe de ene technologie kan worden ingezet als bescherming tegen de nadelen van een andere technologie.

De angst onder ogen zien

De angst voor de mogelijk schadelijke effecten van nieuwe technologieën komt voort uit het ‘onbekende’. Niemand weet precies wat de ernst van het risico is. Privacy was een specifieke zorg voor Lennart. Onlangs is hij gestopt met het gebruik van de Google-services Gmail, Chrome en Search om te voorkomen dat het bedrijf een duidelijk beeld kan vastleggen van wie hij is en zodoende advertenties kan targetten. Tegenstrijdig genoeg liet hij vervolgens wel een Google-product met ingebouwde luisterapparatuur in zijn woonkamer toe. Hij gebruikte het opzeggen van andere Google-services als rechtvaardiging voor het bezit van een Google Home. Daarbij heeft hij een goed begrip van de werking van de voice interface, met de automatische uitschakelfunctionaliteit, en voelt hij zich hierdoor gerustgesteld.

Petrushka is niet onder de indruk van het feit dat Amazon misschien naar haar luistert. Ze gaat er zelfs vanuit, op basis van een artikel dat ze ergens online heeft gelezen, dat microfoons ons overal afluisteren. “Als je het niet hardop kunt zeggen, zeg het dan helemaal niet”, zegt ze. Ze heeft echter wel opzettelijk het apparaat met de camera beneden geplaatst, en niet in de kamer van haar dochters. Ze was bang dat iemand haar kinderen zou kunnen zien.

Zowel Lennart als Petrushka zagen een aantal risico’s verbonden aan de voice assistants. Ze wisten dat het inbreuk kon maken op hun privacy. Hoewel deze gevoelens niet waren gebaseerd op concrete feiten, doen Lennart en Petrushka er nog steeds alles aan om het potentiële risico van hun apparaten te beperken. Ze creëerden grenzen en regels die de aanwezigheid van de technologie in hun huizen rechtvaardigt. Ze deden persoonlijke interventies om de waargenomen gevaren die gepaard gaan met hun nieuwe apparaten te compenseren en zichzelf veilig te laten voelen.

Op dezelfde manier stelde Saloua persoonlijke grenzen aan het navigeren door de digitale wereld. Ze vertelt me bijvoorbeeld dat ze weigert om foto’s van haar zoon op social media te plaatsen. Omdat het zijn intellectuele eigendom is, is het niet aan haar om zijn foto’s te verspreiden. Als ze foto’s met familie en vrienden wil delen, heeft ze privéplatformen om dit te doen.

Ze vertelt dat ze slechts één keer boos werd toen technologie inbreuk maakte op haar leven. Ook hier betrof het haar jonge kind. Haar zwager had haar zoon een verhalenboek met prachtige illustraties gegeven met een speaker die het verhaal kon voorlezen: “Ik haat dat ding”, vertelt ze me. Het lezen van een verhaal voor haar kind was iets wat ze als een menselijke activiteit zag en het idee dat een machine dit zou kunnen vervangen past niet bij Saloua. Alles wat een “echte” menselijke kwaliteit heeft, zoals tijd met haar geliefden, is verboden terrein voor automatisering. We zien opnieuw dat een duidelijke set van zelfbedachte regels Saloua begeleiden als het gaat om technologie. Deze regels helpen haar om de aanwezigheid van technologie in haar leven te rechtvaardigen.

De volgende stappen

Zowel Petrushka als Lennart hebben grenzen gesteld aan de mate waarin ze AI en algoritmen in hun leven willen toelaten. Als intelligente apparaten de alledaagse, repetitieve taken in onze dagelijkse routine zouden kunnen overnemen, zou dat Petrushka heel gelukkig maken. Dat zou haar in staat stellen zich te focussen op “being a person”. Lennart was een stuk specifieker. Gezondheid en financiën zijn voor hem gebieden die hij liever niet toevertrouwd aan AI. In het verlengde van deze gedachtengang gaf Lennart aan dat hij geen AI-apparaat met een camera zou willen hebben. Alle deelnemers stelden individuele grenzen aan de manier waarop ze technologie gebruiken in het heden. Bovendien hadden ze allemaal ideeën over de mate waarin ze AI toelaten in hun toekomstige levens.

De digitale wereld ontwikkelt zich razendsnel en daar komen bepaalde risico’s bij kijken. Deze worden ook nog eens versterkt als we onze fantasie de vrije loop laten over de potentie van AI. Maar de meerderheid van mensen in het Westen heeft dit bewustzijn tot op zekere hoogte nodig. Het riskante en veranderende landschap komt namelijk zonder regels en zonder een standaard of ‘juiste’ manier om dingen te doen. Degenen die ik interviewde, maakten allemaal hun eigen regels. Of het nu gaat om het verlaten van Google, het niet plaatsen van persoonlijke dingen op social media of het niet toestaan van camera’s in bepaalde delen van het huis, we ondernemen bewust actie om de aanwezigheid van technologieën te rechtvaardigen. Deze acties laten zien dat mensen het gebruik van technologie in hun leven zelf bepalen. Technologie is geen autonome kracht, los van de samenleving. De wijze waarop technologie wordt toegepast bepaalt de betekenis ervan.

Deze gedachte kan je doortrekken naar je eigen gebruik van digitale technologie. Bedek je de webcam van je computer? Ken je mensen die dat doen? Waarom doen ze dit? Technologie stelt ons in staat om op verschillende en specifieke manieren te navigeren. Zodat we, binnen bepaalde grenzen, altijd onze individuele keuzevrijheid kunnen uitoefenen. Wanneer we worden geconfronteerd met onzekerheid over mogelijke risico’s, kunnen we dingen doen om onszelf meer vertrouwen te geven.

Uiteindelijk weten we misschien niet alles van de werking van technologie of het beleid van de grote bedrijven die het maken (en die misschien niet volledig transparant zijn), maar we vertrouwen onszelf en veel van degenen om ons heen. Onderzoek naar hoe mensen nieuwe technologieën gebruiken en wat ze ervan vinden, toont aan dat we door onszelf en anderen te vertrouwen, we leren welke invloed we hebben om de technologieën zinvol in ons leven in te passen. dat vragen.