-

Nell Watson: ’Tijd voor digitale makers om AI ethiek bij te brengen’

Het is misschien wel de grootste vraag van onze tijd. Hoe zorgen we ervoor dat intelligente machines handelen op een manier die in lijn is met wat de samenleving als acceptabel ziet? Het is nodig én heel goed mogelijk om machines een moraal bij te brengen. Daarover vertelt Nell Watson aankomende vrijdag op Dutch Digital Day. Ze roept digitale makers op als voogden op te treden en zich te ontfermen over ‘machine ethics’ – de sociale vaardigheden van kunstmatige intelligentie.

Machines nemen in toenemende mate beslissingen en treden op als vertegenwoordiger van hun gebruiker. Neem de digitale assistenten als voorbeeld, zegt Watson. Die stroomlijnen ons leven en komen daadwerkelijk in actie. “Ze zijn dermate kunstmatig intelligent dat ze namens ons kunnen optreden.” Zoals iedereen kinderen opvoedt en een moraal bijbrengt, zo moeten ook intelligentie machines een samenleving leren begrijpen. Ethische beslissingen zijn is in haar ogen goed te berekenen, ‘Computable Ethical Descisions’ noemt ze die. Wat nog ontbreekt zijn de juiste data.

‘Eerste dataset om ethiek te testen’

Watson is behalve veelgevraagd denker en spreker over de impact van nieuwe technologie ook onderzoeker en ondernemer. Ze werkt voor de Singularity University, is adviseur bij ‘The Future Society’ aan Harvard en richtte al diverse bedrijven op, waaronder QuantaCorp. Een van de projecten waar ze zich als mede-oprichter nu mee bezighoudt is EthicsNet.

De organisatie wil met behulp van co-creatie tot een dataset komen waarin richtlijnen zijn opgenomen over wat goed gedrag is. Die set moet vervolgens leiden tot het ethisch handelen van kunstmatige intelligentie (AI). Hoewel normen en waarden cultureel kunnen verschillen, gelooft ze in een universele basis. “We proberen de redenering van een zesjarige te benaderen. Door het goede voorbeeld te geven kun je machines, net als kinderen, iets aanleren.” De komende zestig dagen roept ze het publiek via Hero X op om een eerste prototype dataset te testen zodat EthicsNet de ideeën kan valideren.

Iedereen heeft het dan wel over slimme algoritmes, waar het om draait zijn de data, zo legt Watson uit. “Geloof het of niet, maar de data zijn voor machines veel belangrijker. De algoritmes achter Amazon Alexa en Apples Siri zijn bijvoorbeeld al vijftig jaar oud en lagen al die tijd op de plank te verstoffen. Het probleem was het gebrek aan gegevens om ze te trainen.” Ook nu nog zijn er legio algoritmes onbruikbaar omdat ze de component ‘sociaal gedrag’ missen. “Zo is het geven van de waarheid bijvoorbeeld niet altijd gewenst. Wanneer je met kinderen te maken hebt zal een machine dus wat meer tact moeten gebruiken. Zoiets is moeilijk te programmeren, maar met de juiste data kunnen we machines hiervoor patronen leren herkennen.”

‘Digitaal werk verandert radicaal’

Op de vierde editie van Dutch Digital Day staat Watson onder meer stil bij de rol die de digitale industrie speelt in ‘machine ethics’. Die is wat haar betreft groot. Het werk van designers en ontwikkelaars verandert de komende vijf jaar namelijk radicaal. “Tachtig procent van design wordt generatief, durf ik wel te stellen. Het betekent dat we een machine leren wat we willen bereiken, die komt vervolgens met allerlei mogelijke oplossingen. Ontwerpt iemand een gebouw dan is de machine in staat allerlei designs te genereren door naar voorbeelden te kijken.”

Wat dit in praktische zin betekent? Het toevoegen van complexiteit wordt door te putten uit voorbeelden steeds goedkoper, zo denkt de filosoof. “Een groot deel van het werk dat een designer of UX’er doet, bestaat dan uit het vaststellen hoe gebruikers met complexe machines interacteren en hoe machines onderling samenwerken. Mijn verwachting is dat er daarom hele nieuwe niche-functies ontstaan waarin makers nadenken over hoe algoritmes zijn te voorzien van waarden. Ik hoop echter dat iedere designer en ontwikkelaar zich over het onderwerp ontfermt.”

‘Neem verantwoordelijkheid’

Ethiek mag dan een onderwerp zijn dat in feite iedereen aangaat, niet zelden neemt met het groeien van bedrijven (of technieken) het gevoel van eindverantwoordelijkheid af. Watson herkent die ontwikkeling maar al te goed. Maar makers dwingen om actief na te denken over wat ze creëren heeft wat haar betreft geen zin.

“Om in termen van kinderen te blijven: ik zou iedere maker willen oproepen als ‘AI voogd’ of in geval van bedrijven als ‘AI adoptiebureau’ op te treden. Hoe we intelligente machines in lijn krijgen met de mensheid is één van de grotere vragen in onze samenleving. De impact ervan is misschien wel groter dan de komst van het vuur. Iedereen wordt wakker, dus nu is het de tijd om te participeren.”

Deel dit bericht

1 Reactie

Piet

Ik wil niet moeilijk doen hoor. Maar deze Nell Watson heeft serieus zelf nog nooit echt iets gemaakt. Ja poikos een startup die veel geld van investeerders heeft verbrand. Maar praten kan ze wel. Overal en over alles. Nu is het weer AI ethiek, ongetwijfeld de volgende hype, maar waar we in de praktijk niets mee kunnen.

Plaats een reactie

Uw e-mailadres wordt niet op de site getoond