Hoe krijg je ethiek in je chatbot?

Inmiddels zijn er tienduizenden chatbots te vinden. In veel markten is de techniek al omarmd, en niet zonder reden. Chatbots bieden 24/7 klantenservice en antwoorden supersnel op vragen. Desondanks lijkt de chatbot nog lang niet geaccepteerd in het gehele digitale landschap. Kunnen we aannemen dat de acceptatie achterblijft vanwege ethische vragen? Voor de één is het een holy grail van informatie die altijd beschikbaar is, voor de anders is het een schrikbeeld van praten met een machine. En wie is dan verantwoordelijk voor de ethiek van een chatbot?

Met name millennials, van nature zeer ongeduldig als het om brand engagement gaat, hebben hoge verwachtingen. Ruim 22% verwacht binnen 10 minuten een reactie wanneer zij via social media contact opnemen met een bedrijf. Zeker 52% van deze gebruikers laat het online winkelmandje achter wanneer er niet snel een antwoord gevonden kan worden.

AI vs zonder AI

Het ontwikkelen van een chatbot hoeft niet ingewikkeld te zijn. Voordat we echt in de ethiek duiken is het goed om te weten welke twee varianten mogelijk zijn. Naast een chatbot met Artificial Intelligence (in feite een NLP programma) bestaat er ook de mogelijkheid voor een chatbot zonder AI. Momenteel is ruim 90% van de chatbots een bot zonder AI. In de basis is een dergelijke chatbot zonder AI een decision tree flow waarbij iedere conversatie lijn uitgedacht en gedesigned wordt.  

De commerciële waarde voor marketingmanagers zit op dit moment in een chatbot zonder AI. Daar waar je de chatbot met AI nog in de kinderschoenen staat en relatief veel geld kost om te ontwikkelen, kan er met een goed team en een duidelijk doel al vrij snel een decision tree based chatbot opgezet worden.

De feiten omtrent chatbot gebruik

Veruit het meest populaire kanaal voor chatbots is Facebook Messenger. Toegankelijk, makkelijk in gebruik en ook de opzet is niet ingewikkeld. Maar voordat we de diepte induiken eerst wat interessante feitjes op een rij: 

Tegenwoordig stijgt het gebruik van messenger apps zoals Facebook Messenger en Whatsapp sneller dan het gebruik van social media apps. Het is daarom niet gek dat Messenger apps als paddenstoelen uit de grond schieten. Volgens een onderzoek gepubliceerd door Global Industry Analytics Inc uit 2016, is de verwachting dat het aantal gebruikers in 2020 richting de 2.1 biljoen loopt. 2.1 biljoen! Een enorme markt dus.

De stijging wordt onder andere verklaard door de toegankelijkheid van smartphones over de hele wereld, de relatief goedkope internet abonnementen of het gratis wifi netwerk en de toenemende generaties die “digitaal” opgroeien.

Ontwikkelaars bouwen continu door aan het AI netwerk dat achter een chatbot schuil gaat waarbij de Microsoft Tay case toch wel één van de belangrijkste learnings is geweest. AI stelt een robot namelijk in staat om te leren door repeterende handelingen of, in dit geval, conversaties aan te gaan. Gebruikers van Tay hadden dit relatief snel door en voeden de chatbot met politiek incorrecte berichten. Het is dan niet zo gek dat Tay van sympathieke chatbot veranderde in een racistische chat interface. De uitdaging voor AI ontwikkelaars ligt dan ook in een ethisch framework dat onderscheid maakt tussen goede en slechte input terwijl de chatbot intussen zoveel mogelijk leert.

Human Intelligence

Daarmee is één van de grootste uitdagingen in chatbot ontwikkeling de “human intelligence”.  Naast een ethisch framework waardoor de chatbot de juiste keuzes kan maken, moet de chatbot in staat zijn de gebruiker te begrijpen. De zaken in de juiste context plaatsen dus. Dit noemen we cognitieve vaardigheden.

Cognitieve vaardigheden:

De verzameling vaardigheden van de chatbot om de antwoorden van de gebruiker te begrijpen, om gespreksonderwerpen goed te interpreteren en hierop door te kunnen communiceren. Maar ook door de gebruiker wedervragen te stellen over ditzelfde onderwerp, daarvan te leren en te onthouden en deze als basis te laten dienen in vervolggesprekken. Tenslotte is de chatbot in staat onproductieve gesprekken te herkennen en hierop te acteren.

Niet alleen het begrijpen van human intelligence is een uitdaging. Maar ook de gebruikers acceptatie speelt een belangrijke rol. Sommige bedrijven gaan zo ver dat een chatbot zelf al op een echt mens lijkt qua uiterlijk. In hoeverre is dat verantwoord en welke boodschap geef je daarmee of. Eigenlijk schrik je daarmee de groep die moeite heeft met het accepteren van een dergelijke machine af. Wat kan een developer doen om deze transitie te vergemakkelijken?   

Ethiek in een chat interface

Dus, punt van discussie binnen de ontwikkeling van chatbots blijft ethiek. Hoever moet of mag je gaan om de gebruiker te doen geloven dat hij of zij met een mens praat en niet met een robot? Het probleem ligt wat dat betreft niet in de techniek, maar in de menselijke handen die de techniek faciliteren. Volgens een onderzoek van Gartner zal 85% van de conversaties in 2020 zonder menselijke input gevoerd worden.

Als ontwikkelaar maar ook als eigenaar van een chatbot ben je verantwoordelijk voor het indammen van ethisch onverantwoord gedrag. Een goede chatbot wordt geprogrammeerd om op een verantwoordelijke manier te reageren op ongepast gedrag binnen de conversatie. Daarnaast wordt de input van de gebruiker gescreend om de antwoorden van de chatbot te kunnen controleren op ethisch correcte antwoorden.  

Tijdens de Web Summit in Lissabon is er veel aandacht aan het onderwerp ethiek besteedt. In een artikel van de NOS werd hier al over geschreven. Het moge duidelijk zijn dat er behoefte is aan duidelijkheid. Wat maakt dat een stuk AI, in dit geval een chatbot, autonoom keuzes kan maken? Een discussie die we nu met zijn allen aan moeten gaan! Zeker wanneer we nadenken over alle andere toepassingen van AI die de komende jaren onze levens radicaal zullen veranderen.

Op de World Summit AI werd als uitgangspunt genomen dat datasets die gratis aangeboden worden vaak niet schoon zijn. Het zou dus normaal moeten worden dat datasets voor een bepaald doel opgebouwd worden. Een stuk duurder en tijdsintensiever maar met zekerheid een veel veiliger en ethisch verantwoorde oplossing.

Er is in ieder geval nog genoeg ruimte voor verbetering, discussie en regulering op het gebied van ethiek in chatbots, data gedreven systemen en AI oplossingen. Door middel van transparantie en empathie is de developer beter in staat om op een goede en ethische manier conversaties te bouwen en te managen.

Conversatie bouwstenen – de stappen binnen de conversatie

De basis van iedere chatbot is een goede conversatie waarin het ethische framework naadloos is opgenomen. Met de toepassing van Conversational Buildingblocks valt of staat de synergie tussen de gebruiker en de chatbot.  

Iedere chatbot conversatie bestaat uit deze bouwstenen; Starts, Intent, Personality, Chitchat, Decisions en Feedback. Een goede conversatie start met de onboarding van de user waarin we de verwachtingen van de gebruiker managen. Waar begint hij of zij eigenlijk aan bij deze chatbot? Hoe gaan we om met de data en wie is er verantwoordelijk voor de chatbot?

Daarnaast vangen we de gebruikers “Intent”, wat is zijn of haar doel van het gesprek?

De “Personality” is tevens een belangrijke bouwsteen. Door de goede personaliteit te vangen wordt het mogelijk een perfect en bijna vermakelijk gesprek aan te gaan. Is de gebruiker introvert of juist extravert? Beide personaliteiten hebben een totaal eigen benadering binnen een conversatie wat bij de “Chit-chat” ook uiterst belangrijk is.

De chit-chat zorgt ervoor dat de conversatie soepel verloopt. Een introverte gebruiker heeft daarbij andere types chit-chat dan een extraverte gebruiker. Daarnaast is het vragen van specifieke vragen om relevante informatie te ontvangen en de gebruiker suggesties te bieden.

Tenslotte is de Feedback zeer waardevol voor de doorontwikkeling van de chabot. Dit kan door middel van emoticons maar natuurlijk ook gewoon door het uit te vragen. De ervaring leert dat de driekwart van de gebruikers bereidt is om de chatbot te beoordelen. Belangrijke insights om de chabot te verbeteren!

Het ethische punt zit hem naast het fatsoenlijk doorvoeren van bovenstaande bouwstenen dus ook in de transparantie.

Dus, een chatbot… Moet je er nu aan, of juist niet?

Een chatbot is van grote waarde voor je organisatie, mits goed uitgevoerd. En dat uitvoeren hoeft dus lang niet zo ingewikkeld te zijn als dat het lijkt. De uitdaging is de ethiek. Wanneer we als faciliterende markt in staat zijn om goed doordachte conversaties binnen een geaccepteerd ethisch framework te bouwen, is een chatbot inzetten voor jouw organisatie een recept tot succes!