‘Techgiganten manipuleren miljarden mensen’

Spijt hebben ze en ook weinig hoop dat de immense schade die ze hielpen aanrichten nog kan worden hersteld. Bedenkers en ontwerpers van diensten als Facebook, Google en Twitter beginnen zich te realiseren dat ze monsters hielpen bouwen.

Dat ontluisterende beeld komt naar voren in de documentaire film The Social Dilemma die momenteel hoog scoort op Netflix.

De film laat zien hoe Silicon Valley geen plek meer is waar uitvinders nieuwe hardware en software maken die het product zijn. De consument is het product en de adverteerder de klant. Internetbedrijven is daarom alles aan gelegen om de consument zo lang mogelijk aan het beeld gekluisterd te houden.

De techieken om de gebruiker in een app te houden, komen uit de psychologie. De documentaire besteedt veel aandacht aan overredingstechnologie of, in Engels jargon: persuasion design. Oneindig scrollen is bijvoorbeeld bedacht om sessies letterlijk eindeloos te maken. En zodra iemand dreigt af te haken, komt er een alert of een ander door algoritmes bepaald signaal die de aandacht weer op scherp zet.

Shoshana Zuboff, emeritus professor sociaal psychologie aan de universiteit Harvard, stelt: “De techbedrijven verkopen aan adverteerders zekerheid”. Zekerheid dat de commerciële boodschap bij een ontvankelijk persoon aankomt. “Voor zekerheid heb je grote voorspelbaarheid nodig. Goede voorspellingen beginnen met een noodzaak en daar heb je heel veel data van de gebruiker voor nodig.”

Computerwetenschapper Jaron Lanier bekijkt het omgekeerd. Hij stelt dat gebruikers door algoritmes alleen maar berichten en beelden zien die bij hun wereldbeeld passen. Niets afwijkends of ongewensts. Het enige hogere doel van adverteerders in die context is het publiek te manipuleren. Ander gedrag te laten. “Het is de geleidelijke onmerkbare verandering in je gedrag en perceptie dat het product vormt. Verandering van gedrag is het enige product. Het is wie je bent en wat je doet.”

Lanier vervolgt: “We hebben een wereld gecreëerd waarin online verbindingen primair zijn. Vooral bij jongere generaties. Elke keer dat twee mensen met elkaar verbinden, wordt dat gefinancierd door een derde persoon die ervoor betaalt om die twee mensen te manipuleren. Er is dus een generatie opgegroeid in een context waar de betekenis van communicatie en cultuur manipulatie is. Bedrog en geniepigheid zijn het middelpunt van alles wat we doen.”

Zuboff: “We kunnen gedrag in de echte wereld beïnvloeden zonder dat de gebruiker het door heeft. Ze hebben echt geen flauw idee.”

Een van de figuren op wie The Social Dilemma is gebouwd, ex-Google’er Tristan Harris, zegt: “Veel mensen noemen het surveillance kapitalisme. Oneindig tracken van iemands gedrag en intenties door grote techbedrijven. Dat moet ervoor zorgen dat adverteerders succesvol zijn.” De gebruiker is het product. “Maar is er iemand bezig om producten minder verslavend te maken?”

“We richten de AI-machines terug op onszelf om erachter te komen wat welke reactie uitlokt bij ons. Het is een soort Matrix, een ongeziene wereld waarin we geld oogsten uit mensen door data uit hun activiteiten te exploiteren zonder dat ze het doorhebben. AI is een nieuwe vorm van macht.”

Harris probeert zijn inzichten met de wereld te delen via zijn Centre for Humane Technology.

De film eindigt met een donker wereldbeeld met dictators, afkalvende democratieën en vernietigende klimaatverandering. Omdat elke wereldburger in zijn eigen appbubbels leeft, heeft iedereen een eigen perceptie van de wereld en waarheden. Het besef van gedeelde waarden en opvattingen erodeert. Het gevolg daarvan, volgens juriste Rashida Richardson, dat mensen geen objectieve constructieve individuen meer kunnen zijn. “Je bent niet meer in staat rekening te houden met informatie die het wereldbeeld tegenspreekt dat je hebt gecreëerd.”

Trailer van The Social Dilemma:

Foto: Wendelin Jacober (cc)