Verantwoordelijkheid designers: gebruikers laten wennen aan AI

De rol van designers verandert. Dat big data en artificiële intelligentie (AI) voor de nodige innovatie gaan zorgen, moge inmiddels duidelijk zijn. Maar voordat ook de eindgebruikers gewend zijn aan dat idee moeten bedrijven nog een grote slag maken. Hierin hebben designers een hele grote verantwoordelijkheid.

Designers zullen steeds vaker op strategisch niveau meepraten. Grote corporates zetten daarin de eerste stappen of nemen zelfs complete designsbureaus over. Waarom? Designers geven niet alleen vorm, ze zoeken naar manieren om de vraag van klanten te matchen met het (mogelijke) aanbod van het bedrijf. Bij designers staat gebruiksgemak centraal.

Maar met de komst van AI krijgt dat een heel nieuwe dimensie: de gebruiker hoeft een groot aantal handelingen niet meer zelf te verrichten. Bedrijven beschikken op den duur over zoveel data dat ze producten of diensten steeds slimmer – en dus gebruiksvriendelijker – kunnen maken. Een zelflerend algoritme neemt op basis van data allerlei beslissingen of zet op eigen initiatief de nodige (tussen)stappen richting het doel dat de gebruiker heeft.

Voor het zover is: transparantie in plaats van black box

Dat geeft designers een veel grotere verantwoordelijkheid dan ze nu hebben. Want voor het zover is dat gebruikers zich overgeven aan nieuwe technologieën, moet hun vertrouwen eerst worden gewonnen. Wie schrijft al die algoritmes eigenlijk? En wie zegt dat ze wel veilig zijn? Begeeft een stoel of ander fysiek product het dan is die blauwe nog plek wel te overzien. Maar wordt er met zelfdenkende systemen beurshandel gedreven of zit iemand in een zelfrijdende auto, dan kunnen onvoorspelbare algoritmes veel grotere gevolgen hebben. Mensen zijn bang de controle te verliezen.

De vraagstukken die designers krijgen, veranderen. Hebben bedrijven voldoende data in huis om de beleving te verbeteren met machine learning of zelfs AI, dan is het aan de designers het eerdergenoemde vertrouwen te winnen.

Een simpel voorbeeld uit eigen keuken: voor een bedrijf in de reisbranche ontwikkelden we een mechanisme om reisadviezen te personaliseren. Op basis van vier vragen en data die het bedrijf al in huis had bracht het systeem een advies uit. Al snel bleek echter dat gebruikers geen vertrouwen hadden in het advies en dus niet doorklikten. ‘Zo snel een advies krijgen, kan niet veel goeds betekenen.’ Een ‘zandlopertje’ dat nu enkele seconden in beeld is, biedt dat vertrouwen wel. Gebruikers hebben het gevoel dat er achter de schermen iets voor ze is uitgezocht.

Ook Airbnb ondervond dat gebruikers moeten wennen aan zelfdenkende systemen. Zo is het al best lang in staat om op basis van de vraag, het aanbod en allerlei kenmerken tot een ideale prijs voor een huis te komen. Toch bleek na een proef dat verhuurders liever zelf wat controle houden dan zomaar alles over te laten aan een ‘black box’. Het algoritme is daarom bij te sturen met een minimale en maximale prijs.

Hoe dan?

Het belangrijkste voor dat tussentijdse vertrouwen is inzicht en controle. Laat de gebruiker zien hoe een algoritme tot een keuze komt en waarom dat ook de juiste is. Zo bereidt Tesla bestuurders op soortgelijke wijze voor op de zelfrijdende auto. Tesla vergelijkt het gedrag van echte bestuurders met de keuzes die de software maakt. Vindt er een botsing plaats dan toont de auto wat het computersysteem anders zou hebben gedaan. Door met inzicht vertrouwen te wekken, wordt de bestuurder in feite klaargestoomd voor een volgende stap: de overstap op een voertuig zonder stuur.

Afbeelding: Andere autofabrikanten winnen ook vertrouwen op dit gebied. Hieronder een concept voor visuele feedback van een zelfrijdende auto

Nog meer dan nu het geval is zullen designers over empathisch vermogen moeten beschikken. Wat gaat er in de eindgebruiker om? Wat voor effect heeft een andere ‘flow’? Het gaat er niet om de gebruiker te snappen, maar te zien wat diegene ziet en ook op het irrationele in te kunnen spelen. Op strategisch niveau kan een designer ervoor zorgen dat de behoeften van de doelgroep centraal komen te staan en niet ‘disruptie’ en AI als doel op zich. Hij voorkomt daarmee dat de soms voorspelde dystopie werkelijkheid wordt en AI voor het goede zorgt. Door designers samen te laten werken met gebruikers en collega’s uit allerlei disciplines worden dingen vanuit die behoeften verbeterd. Het is vooral nodig heel veel te proberen en de gebruiker mee te laten proeven. Pas dan ontstaat dat vertrouwen.

*) Dit artikel is geschreven in samenwerking met collega en Lead UX Gijs van Zon