-

AI verantwoord ontwikkelen? Daar is nu een keurmerk voor

Om te zorgen dat robots en op AI gebaseerde producten op een verantwoorde manier worden ontwikkeld en ingezet, werken de Foundation for Responsible Robotics (FRR) en Deloitte aan het  FRR Quality Mark for Robotics & Artificial Intelligence.

Robots en op AI gebaseerde producten worden steeds vaker ingezet voor taken die van grote invloed zijn op ons dagelijks leven. Op AI gebaseerde producten zorgen bijvoorbeeld voor veranderingen in de manier waarop sollicitatieprocedures, kredietbeoordelingen of fraudeopsporingsactiviteiten worden uitgevoerd. Robots worden ingezet ter ondersteuning en vervanging van mensen bij saaie of gevaarlijke taken, denk bijvoorbeeld aan drones voor zoek- en reddingsactiviteiten, robots in magazijnen en robots die chirurgen ondersteunen.

Al werken robots en op AI-gebaseerde producten vandaag de dag nog veelal achter de schermen, ze zullen naar verwachting steeds prominenter aanwezig zijn in ons leven. Voor de meeste mensen is het moeilijk, zo niet onmogelijk, zich een voorstelling te maken van hoe deze producten werken. Hoe kunnen wij als consumenten er zeker van zijn dat robots en op AI gebaseerde producten op een verantwoorde wijze worden ontwikkeld en doen wat ze behoren te doen?

Naar aanleiding van deze vragen werken de Foundation for Responsible Robotics (FRR) en Deloitte momenteel samen aan het FRR Quality Mark for Robotics & Artificial Intelligence. Het uiteindelijke doel van het keurmerk is ervoor te zorgen dat robots en op AI gebaseerde producten op een verantwoorde manier worden ontwikkeld, waarbij rekening wordt gehouden met mensenrechten en waarden. Het streven is om een herkenbaar kwaliteitskeurmerk voor consumenten te creëren, dat vergelijkbaar is met het Fairtrade-keurmerk voor producten die zijn geproduceerd overeenkomstig de Fairtrade-normen. “Als consument moet je kunnen vertrouwen op een norm”, aldus Marc Verdonk, partner Emerging Technology bij Deloitte. “Je hoeft niet alle details van de technologie te doorgronden, maar je wilt er wel zeker van zijn dat iemand  met de juiste expertise en op basis van het juiste kader kan waarborgen dat dingen op een verantwoorde wijze worden ontwikkeld en gebruikt.”

Ontwikkeling van een framework

FRR is een non-profitorganisatie en is gericht op het creëren van een toekomst waarin robotica en AI op een verantwoorde wijze wordt ontworpen, ontwikkeld en ingezet. Het bestuur van FRR bestaat uit deskundigen op het gebied van ethiek, robotica en AI, en staat onder leiding van Aimee van Wynsberghe, universitair docent technologische ethiek aan de Technische Universiteit Delft. “Ons doel is om een cultuur te creëren van een verantwoorde ontwikkeling van robotica en AI, om zo het publieke welzijn voor onszelf en de komende generaties te bevorderen”, aldus Van Wynsberghe. Deloitte ondersteunt FRR via de Deloitte Impact Foundation en brengt haar expertise op het vlak van AI en Audit in om FRR bij te staan bij de ontwikkeling van het Quality Mark.

Over de reikwijdte van het FRR Quality Mark for Robotics & Artificial Intelligence wordt nog gediscussieerd, maar een belangrijk uitgangspunt is te waarborgen dat binnen de gehele ontwikkelingsketen van het product rekening wordt gehouden met mensenrechten en maatschappelijke waarden. Alle producten die gebruikmaken van robotica en AI kunnen zich aanmelden voor het kwaliteitskeurmerk. “Dit kan een breed scala aan producten zijn, zoals algoritmen, robots, slimme apparaten en speelgoed dat is aangesloten op het internet”, zegt Verdonk.

Tijdens de beoordeling voor het Quality Mark wordt het product nauwlettend onderzocht, onder andere op de controlemaatregelen voor bedieningselementen, de communicatie-interface, sensoren, gegevensopslag en firmware. Daarnaast wordt de AI-engine doorgelicht: hoe worden de algoritmen getraind en getest? Kunnen de algoritmen onbevoegd worden gewijzigd? Voor het Quality Mark wordt ook gekeken naar de procedures van het bedrijf dat het product ontwikkelt. “Bij al deze aspecten moeten de beginselen van ethisch verantwoorde ontwikkeling worden gewaarborgd”, aldus Verdonk.

Waarborging van veiligheid en privacy

Een van de aspecten van het FRR Quality Mark for Robotics & Artificial Intelligence  is veiligheid. “Als we een verantwoord gebruik van robotica en AI willen bevorderen, is veiligheid enorm belangrijk”, aldus Verdonk. “Bij grote robots of drones moet veiligheid altijd een prioriteit zijn. Of denk aan een pop waarbij AI wordt ingezet voor de interactie met het kind. Als de pop kan worden gehackt en voor iets totaal anders wordt gebruikt, kunnen de gevolgen rampzalig zijn.”

Een ander aspect is privacy. “Neem bijvoorbeeld bezorgrobots”, zegt Verdonk. “Ze maken gebruik van camera’s om de weg te zien. In theorie kunnen deze camera’s ook mensen vastleggen die toevallig voorbijkomen. Maar je kunt een robot ook bewust zo ontwerpen dat de camera niemand boven kniehoogte kan filmen, zoals de zelfrijdende bezorgrobot van Starship Technologies. Respect voor privacy door middel van ontwerpkeuzen is een ethische keuze en juist dit soort keuzen willen we aanmoedigen.” Het FRR Quality Mark for Robotics & Artificial Intelligence beoordeelt daarom niet alleen of de producten naar behoren functioneren en of ze grondig zijn getest, maar houdt ook de overwegingen tegen het licht die tijdens het ontwerpproces aan de orde zijn geweest.

De industrie in de juiste richting leiden

Voor de consument kan het FRR Quality Mark for Robotics & Artificial Intelligence bijdragen aan het vertrouwen in een technologie die moeilijk te doorgronden kan zijn. Het kan consumenten tevens helpen een weloverwogen keuze te maken welke robots of op AI gebaseerde producten ze willen kopen of gebruiken. Voor bedrijven kan het Quality Mark ertoe bijdragen dat zij robots en AI ontwikkelen op een transparante en verantwoorde manier. “Het FRR Quality Mark for Robotics & Artificial Intelligence zorgt voor een standaard voor bedrijven”, aldus Verdonk. “Bedrijven kunnen hun klanten laten zien dat zij belang hechten aan ethische vraagstukken. Door middel van een onafhankelijk kwaliteitskeurmerk kunnen zij laten zien dat zij ethische overwegingen serieus nemen.”

Verdonk is ervan overtuigd dat het Quality Mark zal bijdragen aan hogere industriële normen voor het ontwikkelen van robots en op AI gebaseerde producten en dat het de industrie in de juiste richting zal leiden. “Ik denk dat robotica en AI technologieën zijn met een uitermate grote impact”, zegt hij. “Maar om te zorgen dat deze impact ook echt positief is, moeten we grondig geteste producten hebben die op een verantwoorde manier zijn ontwikkeld en worden ingezet, en die het vertrouwen genieten van het grote publiek. Als we een betrouwbare norm kunnen opstellen die zorgt voor een verantwoord gebruik van robotica en AI, kunnen we bouwen aan een toekomst waarin deze technologieën een enorm positief effect kunnen hebben.”

Deel dit bericht

4 Reacties

Jay de Groot - BrainCreators

Helemaal mee eens dat een keurmerk een goed idee is. Alleen laat het artikel vermoeden dat het er al is. Maar zowel in dit artikel als ook op de website, van de partijen benoemd in dit artikel, is er echter geen spoor van een dergelijk keurmerk. Jammer.

Wie weet komt het er de komende jaren wel en zal het breed gedragen worden in de markt.

Jay de Groot - BrainCreators

En.., sorry for being picky, … de foto is niet echt goed gekozen. Er staat iemand een 5G antenne te bekijken.

Typisch een Robotics of AI gerelateerd. 😉

Rob Roelofs

Hoi Jay, goed punt, we hebben ‘m aangepast!

Marjolein Vlaming - Deloitte

Hoi Jay, dank voor je reactie en inderdaad goed om de status te verduidelijken. Op dit moment hebben we de eerste versie van ons framework klaar. Deze versie willen we graag in de praktijk toetsen. Hiervoor zijn we op zoek naar pilot organisaties die Robotics of Robotics/AI producten produceren.

Organisaties kunnen zich aanmelden via de website van de Foundation for Responsible Robotics: https://responsiblerobotics.org/quality-mark/. Aan de hand van de feedback van verschillende organisaties gaan we het framework aanscherpen. Met de uiteindelijke versie kunnen organisaties worden gereviewed en kan het keurmerk worden uitgereikt.

Je hebt gelijk dat het keurmerk inderdaad nog niet af is maar zoals je ziet, is het volop in ontwikkeling. Fijn om te lezen dat je het een goed idee vindt!

Plaats een reactie

Uw e-mailadres wordt niet op de site getoond