-

Digital Ethics: structurele aandacht voor ethische overwegingen in je organisatie

Het gebruik van geavanceerde en op AI gebaseerde algoritmen kan leiden tot ernstige ethische missers. De propositie ‘Digital Ethics’ ondersteunt organisaties bij de ontwikkeling van een heldere visie op hun bedrijfsbeginselen en bij het opzetten van een bestuurskader dat waarborgt dat het gebruik van technologie in lijn is met de bedrijfswaarden.

Een paar jaar geleden kreeg een tienermeisje uit Minnesota een folder van een Amerikaans warenhuis met coupons voor babyartikelen. Haar vader was woedend: waarom stuurde dit bedrijf zijn dochter deze coupons? Een paar dagen later bekende het meisje aan haar vader dat zij inderdaad zwanger was. Het warenhuis had een algoritme ontwikkeld dat op basis van iemands winkelgedrag kon beoordelen hoe waarschijnlijk het was dat een klant zwanger was. In dit geval had het algoritme in de roos geschoten.

Het verhaal zorgde voor opschudding. Het warenhuis had geen enkele op dat moment geldende Amerikaanse privacywet geschonden, maar voor het publiek werd wel een ethische grens overschreden. Leven in een wereld waarin bedrijven meer weten over onze kinderen dan wijzelf, geeft mensen een ongemakkelijk gevoel. Sindsdien heeft zich het ene na het andere incident voorgedaan waarbij het gebruik van data of geavanceerde of op AI gebaseerde algoritmen aanleiding gaf tot controverse. Elke week is er wel iets in het nieuws: hacks, lekken, data-inbreuken, algoritmische vooroordelen en privacyschendingen. Inmiddels geven grote technologische bedrijven zelfs formele waarschuwingen aan beleggers over de ethische onzekerheden omtrent AI.

“Bedrijven ontwikkelen en exploiteren actief allerlei technologische mogelijkheden, vaak zonder de implicaties ervan te overwegen”, aldus Tjeerd Wassenaar, partner bij Deloitte Risk Advisory met een focus op ethische en bedrijfswaarden. “Dit kan leiden tot ernstige reputatieschade, rechtszaken, boetes en het verlies van het vertrouwen of de loyaliteit van klanten – en dat laatste is misschien nog wel het ergste. Vertrouwen is het waardevolste goed van een bedrijf: wie voor kortstondig gewin het vertrouwen van de klant beschaamt, verliest op de lange termijn.”

Het waarborgen van ethische waarden  bij de inzet van geavanceerde of op AI gebaseerde algoritmen is uitgegroeid tot een van de belangrijkste kwesties van onze tijd. ‘Digital Ethics’ van Deloitte richt zich op deze kwestie. Het biedt een raamwerk dat organisaties helpt richtlijnen voor hun gebruik van technologie te ontwikkelen, een bestuursstructuur te creëren om deze beginselen in de organisatie in te bouwen en tot slot de voortgang te monitoren en te zien of deze beginselen doelmatig zijn ingevoerd.

Het management moet zich uitspreken

Wanneer een bedrijf ethische normen schendt, is dat doorgaans niet omdat de medewerkers bewust het vertrouwen van de klant willen beschamen. Het probleem is eerder dat het niet duidelijk is wat de waarden van een bedrijf zijn en hoe die betrekking hebben op hun werk, aldus Wassenaar. “Neem het voorbeeld van het warenhuis: de afdeling voor data-analyse en het marketingteam wilden waarschijnlijk gewoon hun werk zo goed mogelijk doen. Niemand had hen opgedragen om na te denken over de ethische aspecten van hun campagne, en zichzelf vragen te stellen als: Hoe voelt het voor klanten als wij hen reclame over babyproducten sturen wanneer zij ons bedrijf niet expliciet hebben geïnformeerd over hun zwangerschap? En moet er niet een leeftijdsgrens zijn voor dergelijke reclameacties?”

Marketing- en salesafdelingen krijgen doorgaans de opdracht hun targets te halen. Daardoor ontstaat de prikkel om optimaal profijt te halen uit de datamogelijkheden van een bedrijf, aldus Wassenaar. Mensen die zich bezighouden met technologie, worden vaak gedreven door technologische innovatie en willen de grens van wat mogelijk is zo ver mogelijk oprekken. Volgens Wassenaar is dit het punt waarop het management van een bedrijf zich moet uitspreken. “Er is een duidelijke visie van de waarden van het bedrijf nodig. Deze moeten binnen het bedrijf worden verspreid om te zorgen dat de inzet van technologie in lijn is met deze waarden.”  

Een extra complicerende factor is dat de wetgeving doorgaans achterloopt op de feiten, zeker ten aanzien van snel ontwikkelende technologieën als data-analyse en AI. “Het gaat hier niet enkel om een compliance-vraagstuk dat kan worden overgelaten aan de juridische afdeling”, aldus Wassenaar. “Het is een ethisch vraagstuk: Wat zijn de bedrijfsbeginselen? Wat zijn de grenzen die een bedrijf zich stelt?”

Digital Ethics: een structurele benadering

Deloitte’s Digital Ethics helpt organisaties om de ethische overwegingen ten aanzien van hun gebruik van technologie op een structurele manier aan te pakken. “We gaan uit van acht factoren die relevant zijn voor Digital Ethics: verantwoording, transparantie, privacy, inclusiviteit, bewustzijn van het risico op vooroordelen, geïnformeerde toestemming, evenredigheid en individuele datacontrole”, aldus Wassenaar. “We bieden een lijst van mogelijke stappen die organisaties kunnen nemen om greep te krijgen op deze complexe problematiek.”

Allereerst beoordeelt Deloitte de huidige situatie van een bedrijf aan de hand van de ‘Digital Ethics Quick Scan’. Op basis hiervan wordt een verbeterplan opgesteld om de directe aandachtspunten aan te pakken. Deloitte kan helpen bij het definiëren van de kernbeginselen van een organisatie door middel van visie- en strategiesessies met het senior management, en door stakeholders binnen en buiten het bedrijf te interviewen. Aan de hand van een Digital Ethics Survey kan worden onderzocht hoe medewerkers over deze onderwerpen denken.

De volgende stap is om een bestuurskader in het leven te roepen waarbinnen deze waarden in praktijk worden gebracht. Dit kan onder meer het lanceren van bewustwordingscampagnes en het trainen van het personeel omvatten. Andere innovatieve opties zijn onder meer e-learning, gamification of een escape room waarin mensen binnen een bepaalde tijdslimiet een ethisch dilemma moeten oplossen. “Het is van belang dat de kernbeginselen van een bedrijf niet alleen maar ergens in een brochure staan die niemand leest”, aldus Wassenaar, “maar dat de hele organisatie er echt van doordrongen is en ze probeert na te leven, van de bestuurskamer tot en met de stagiairs.”  

Deloitte kan helpen bij het opstellen van nieuwe beleidslijnen en procedures, zoals een beroepsprocedure voor klanten die bezwaar maken tegen een op AI gebaseerd besluit. Ook is het mogelijk om nieuwe functies in het leven te roepen, zoals een afdeling ethiek. “Steeds meer bedrijven hebben een afdeling ethiek die hen helpt trainingsprogramma’s op te zetten, en die onderzoek kan doen wanneer er meldingen zijn van dingen die fout zijn gegaan”, aldus Wassenaar. Een cruciale factor is dat deze afdeling direct moet rapporteren aan iemand binnen het bestuur, voegt hij eraan toe. “Als de afdeling ethiek een sterk mandaat heeft, geeft dit een duidelijk signaal naar de organisatie dat ethische waarden ertoe doen. Alleen zo kan de afdeling ethiek echt een verschil maken.”

Tot slot kan Deloitte helpen bij het bepalen van benchmarks om bij te houden of de beginselen effectief worden uitgevoerd. “Het is verstandig om na een aantal maanden of jaren te kijken of de beginselen binnen de gehele organisatie worden toegepast, of dat er nog vlakken zijn waarop het misgaat”, aldus Wassenaar. Omdat de technologie zich snel ontwikkelt, kunnen organisaties bovendien worden geconfronteerd met nieuwe mogelijkheden en ethische dilemma’s die vereisen dat er opnieuw wordt nagedacht over de beginselen en de bijbehorende beleidslijnen en procedures. Het structureel inbouwen van Digital Ethics binnen een organisatie vereist voortdurende aandacht.”  

Concurrentievoordeel

Het onderzoeken van mogelijke ethische implicaties wanneer er nieuwe technologieën worden ingezet, heeft diverse voordelen voor een bedrijf, aldus Wassenaar. Ten eerste helpt het organisaties om juridische kwesties te voorkomen. Ten tweede is het efficiënter om al in een vroeg stadium over ethiek na te denken: “Als je pas over digitale ethiek gaat nadenken als het product al klaar is, kan het zijn dat het product helemaal opnieuw moet worden ontwikkeld”, zegt Wassenaar. “Wanneer je in een vroeg stadium over dergelijke zaken nadenkt, helpt dit om het product sneller en geheel in lijn met de bedrijfsbeginselen op de markt te krijgen.”

Ten derde kan Digital Ethics helpen om een betere reputatie op te bouwen. “Als klanten zich niet prettig voelen bij het gebruik van een bepaalde dienst of als ze het gevoel hebben dat de dienst te agressief is, gaan ze op zoek naar alternatieven”, stelt Wassenaar. “Anderszins staan het vertrouwen en de loyaliteit van de klant juist aan de basis van de winstgevendheid van het bedrijf op de lange termijn.” Hetzelfde geldt voor medewerkers: een heldere visie en een krachtige naam trekken het juiste talent aan, en dat is een belangrijk bedrijfsvoordeel.  

Belangrijker nog: het inbouwen van digitale ethiek draagt bij aan een positief effect op de samenleving. Geavanceerde technologieën kunnen een enorme impact hebben, zowel in positieve als in negatieve zin, aldus Wassenaar. “Als je zorgt dat je tijdig alle ethische afwegingen hebt gemaakt en als je alle beleidslijnen en procedures en een bestuurskader hebt ingevoerd, en iedereen zich daar ook echt aan houdt, dan zorg je niet alleen voor concurrentievoordeel en winstgevendheid, maar heb je ook een positieve invloed op de wereld.”

Deel dit bericht

1 Reactie

Shirley Herts

Terug naar de bron.
Zorgt AI ervoor dat we terug moeten naar de bron? Om meer te weten te komen over het gebruik, de ontwikkeling en de totstandkoming van intelligente kern /bedrijfsgevoelige applicaties?

Moeten we meer weten van de beweegredenen van dé Mens (die schuilgaat achter het bedrijf), de mens die de “drive” heeft tot het verder opstuwen van de ontwikkeling richting robotisering en steeds slimmere toepassingen?
Hoe belangrijk is het om de achterkant (de backoffice) en de achtergrond (the source code) van ontwikkelaars en de rest van het team te kennen?

Spelen zich op dit gebied problemen af, of zien bedrijven hier interne problemen ontstaan als het gaat om klantenadvies? Kan dit een USP worden als inzet richting klanten of om nieuwe medewerkers aan te trekken?

Welk belang wordt er gehecht aan de samenstelling van het team rond dit type technische ontwikkelingen… ?
Welke rol speelt diversiteit daarbij?
M.a.w. het gaat vooral om de “Human Interface”— welk team zit er achter- hoe divers is deze–en welke eisen worden er daaraan gesteld?

Vanuit een achtergrond op het gebied van Release & Change management/ ICT-project management en door het volgen van de masteropleiding Human Development ben ik op zoek naar een probleemstelling voor het schrijven van mijn thesis. En bovengenoemd vraagstuk leek me interessant.

Zeker na het lezen van uw boeiend stuk, vanuit het oogpunt van de ethiek.
Mocht u dus aanknopingspunten zien, dan kom ik graag met u in contact.
Gr.

Shirley

Plaats een reactie

Uw e-mailadres wordt niet op de site getoond