Software manipulatie: ‘Niet alleen dieselgate moet ons bang maken’

Software-algoritmes geven vorm aan wat we zien, denken en aan wat de toekomst voor ons in petto heeft. De volgorde van onze zoekresultaten op Google, de mensen die Twitter ons aanraadt te volgen of de manier waarop Facebook onze nieuwsfeed filtert, kunnen onze perceptie en ons gedrag beïnvloeden. En geef toe, over hoe die algoritmes werken en welke gegevens ze gebruiken, weten we weinig.

‘Naast het automobieldebat broeit er misschien een veel grotere, verborgen controverse op internet.’

Software stuurt een deel van ons leven. Hoe weten we dat die software niet bevooroordeeld is, geen informatie achterhoudt of fouten bevat, met alle negatieve gevolgen van dien voor individuen of de maatschappij? Er is daarover te weinig debat en het is nochtans een probleem dat we de volgende tien jaar echt moeten aanpakken.

Naarmate de zelfrijdende auto meer verspreid raakt, wordt toezien op de kwaliteit van software alleen maar belangrijker. Bedrijven als Google en Tesla zijn het ijkpunt voor die nieuwe golf van mobiele innovatie, maar één ongeval volstaat om de weerstand tegen wagens die bestuurd worden door software versus wagens die bestuurd worden door mensen op te voeren.

Musk

Het concept van ‘autonome dingen’ heeft een fors debat op gang gebracht over het beheersen van kunstmatig intelligente software. Tesla-CEO Elon Musk beweert dat artificiële intelligentie de grootste bedreiging is voor de mens en heeft er miljoenen dollars voor over om dat soort intelligentie veiliger te maken voor ons.

De programmacode van belangrijke software-algoritmes openbaar maken is dan wel geen garantie op absolute veiligheid, maar het maakt software wel veiliger, en zeker niet onveiliger. Zoals de Amerikaanse programmeur en auteur Eric S. Raymond zegt: ‘given enough eyeballs, all bugs are shallow’. Hoe meer mensen computercode bekijken, hoe sneller de fouten worden hersteld en hoe sterker en veiliger software wordt.

‘Google kan verkiezingen beïnvloeden en Facebook onze emoties.’

Naast het automobieldebat broeit er misschien een veel grotere, verborgen controverse op internet. Eigen software en gegevens zijn een grote inkomstenbron voor bedrijven als Facebook en Google. Miljarden mensen maken gebruik van hun diensten. Met zo’n wereldwijd bereik is er een groot potentieel voor manipulatie, of het nu gewild of ongewild gebeurt.

Er zijn veel voorbeelden. Onlangs maakte de nieuwswebsite Politico bekend dat Google presidentsverkiezingen kan beïnvloeden. Het bedrijf kan de resultaten die zijn zoekmachine weergeeft, vervormen, louter door te morrelen aan het algoritme.

Het gevolg is dat sommige kandidaten prominenter in de zoekresultaten opduiken dan andere. Google kan de kiesvoorkeuren van zwevende kiezers met minstens 20 procent verschuiven (bij sommige bevolkingsgroepen tot 80 procent), en dus potentieel de verkiezingsuitslag bepalen.

Aangezien veel verkiezingen gewonnen worden met een kleine marge, geeft dat Google de macht om tot een kwart van de nationale verkiezingen wereldwijd anders te laten uitdraaien. Het beangstigende is dat geen enkele kiezer beseft wat er gebeurt.

Emoties

In 2014 raakte bekend dat Facebook een onderzoek had gedaan naar de emotionele besmetting, de manipulatie van onze emoties. Onderzoekers manipuleerden de nieuwsstroom van 693.000 gebruikers om te kijken of negatiever nieuws hen ertoe bracht om negatievere berichten te posten, en dat was ook zo.

De bevolking was ziedend dat ze werd getest en ten prooi viel aan geheime software. Niettegenstaande het experiment binnen de ‘terms of service’ viel van de gebruiksovereenkomst van Facebook, was de wereld te klein voor alle verontwaardiging over de ethiek van het manipuleren van onze emoties met software.

‘De explosieve groei van software en data kan verschrikkelijk negatieve effecten hebben of heel positieve effecten.’

In theorie zou grotere transparantie van software via open source een crisis kunnen vermijden. Maar in de praktijk is er weinig kans dat dat zal gebeuren, omdat die bedrijven profijt halen uit het inzetten van hun software.

Een tussenoplossing is misschien om toezichthouders regelmatig de effecten van de algoritmes te laten checken om te kijken of ze de maatschappij schade toebrengen. Het idee dat overheden van organisaties eisen dat ze anderen toegang geven tot belangrijke stukken van hun data en algoritmes, is helemaal niet vergezocht.

De explosieve groei van software en data kan verschrikkelijk negatieve effecten hebben of net heel positieve effecten. De sleutel tot het deugdelijk gebruik van software is dat consumenten, academici, overheden en andere organisaties toegang krijgen tot de data en de broncode van de software.

Ze kunnen dan zien hoe en waarom hun gegevens gebruikt worden, en waarom dat belangrijk is. Ik ben er rotsvast van overtuigd dat we met open source en open data nog in de embryonale fase zitten.