SXSW recap – Longread: tech wordt steeds onzichtbaarder en daarmee onnavolgbaarder

Ik was als curator en moderator van een aantal sessies op SXSW aanwezig, een event dat een goede aanleiding vormt om opnieuw na te denken over wat er aan de hand is in de wereld. Een grondige blik op de techwereld aan de hand van vijf observaties over AI, pscyhedelica en ons brein en over de juichstemming en weinige kritische noten.

Al jaren, vele jaren, wilde ik naar SXSW: in de ogen van mijn netwerk dé plek om te praten over de laatste ontwikkelingen, met een interactief, immersive festival dat elk jaar dagenlang mijn tijdlijn domineerde. Dit jaar was het zover! Ik liep vijf dagen rond en probeerde zoveel mogelijk sessies te bezoeken. Wat waren de belangrijkste trends?

Iets heel groots

Het SXSW-programma is zo vol en uitgebreid dat het lastig is om op basis van een paar sessies de wereld even samen te vatten. En de keuzes van het programmateam waren ook niet altijd even duidelijk. Dat komt deels door de manier waarop het event wordt samengesteld: mensen kunnen via de zogeheten PanelPicker al in september sessies voorstellen en uitkiezen, wat wel erg lang van tevoren is in een wereld die razendsnel verandert… en het hoofdprogramma, de grote zalen: dat zijn echt losse verhalen over veel verschillende thema’s: van filmsterren, milieu-activisten, creatieve tech-ondernemers en trendwatchers.

Hier desalniettemin enkele observaties die er wat mij betreft uitsprongen, aan de hand van de sessies die ik bezocht: AI, ubiqitous computing, brain tech, het einde der tijden en – vooral – onzichtbaarheid. Want of SXSW dat in zijn programma nou heel goed bij elkaar bracht of niet: ik heb wel het idee dat er dit jaar iets heel groots aan het gebeuren is. En dat ik daar een glimp van zag in Texas.

Obervatie 1: AI is de nieuwe wereld en dat is positief (of toch niet?)

Generatieve AI en alles wat daardoor plotseling mogelijk is, dat was vanzelfsprekend het belangrijkste onderwerp van deze editie. Kevin Kelly, ooit founding executive editor van Wired magazine, en al tientallen jaren schrijver over de nieuwe digitale wereld, vertelde hoe hij erg moest denken aan de vroege dagen van het WWW. Elke dag nieuwe verrassingen, nieuwe mogelijkheden, en de plotselinge realisatie dat er echt ongekende nieuwe dingen gaan gebeuren. Zelf heb ik dat gevoel ook! En waar het internet zich toen ontwikkelde in het donker, staan nu de spotlights aan: we kijken mee, naar een ongelooflijke stap die gezet wordt. Volg kunstenaars, developers, mediamakers online en je ziet een groot laboratorium waar elk uur wel iets nieuws uitgedacht wordt.

“Over the long term, the future is decided by optimists,” zegt Kelly, en hij ziet de rol van AI dan ook heel positief. In zijn verhaal vergeleek hij AI met een eindeloos leger stagiaires: zeer behulpzaam bij alles wat we willen doen en maken, ondersteunend, een soort super powers biedend aan creatieve mensen. Of, zoals hij zei, misschien moeten we uiteindelijk wel denken aan “smart aliens”: meewerkende intelligenties, slim maar met een heel ander soort intelligentie dan die van ons, en “maybe some sentience”. Dat idee dat AI “sentience” zou kunnen krijgen, wat je het beste kunt vertalen als waarnemingsvermogen en zelfbewustzijn, daar werd Google engineer Blake Lemoine vorig jaar nog hartelijk om uitgelachen. Nu iedereen heeft kunnen zien hoe chatbot Sydney aan de haal ging met een gesprek met New York Times-reporter Kevin Roose vinden we dat idee ineens helemaal zo vreemd nog niet. Niet met een zelfbewustzijn zoals een mens dat heeft, maar met een eigen onnavolgbare wil, dat wel. Zo snel kan het gaan.

Greg Brockman, medeoprichter van OpenAI, het bedrijf achter Dall-E, GPT, en de 10-miljard-deal met Microsoft, vertelde in een bedachtzaam interview waarom men afgeweken is van het oorspronkelijke plan om OpenAI als open-source non-profit-organisatie te ontwikkelen. Honderd miljoen dollar ophalen lukte nog net, maar er is veel meer geld nodig om modellen te ontwikkelen en uit te rollen. De kosten zijn enorm: daarom dus. Maar ook hij was vooral positief. Problemen die deze technologie zal veroorzaken? Disrupties in de markt, en wat voor gevolgen dit soort schokken kunnen hebben? Wat onze vijanden – binnen en buiten onze eigen netwerken – hiermee zouden kunnen doen? Wat we hebben geleerd van de big tech ontwikkelingen van de afgelopen jaren? En wat betekent het dat al deze nieuwe modellen getraind zijn op Westerse data? Ja, er zou misschien wel iets van regulering moeten komen. Of in de woorden van Brockman: daar moeten we met zijn allen uit kunnen komen, laten we dat gesprek aangaan, steeds maar implicerend: dat komt wel goed.

Veel te aardig

SXSW, dat zich erg laat voorstaan op zijn progressieve rol – hippie-achtige esthetiek, veel aandacht voor psychedelica, allerlei sessies over inclusie en diversiteit, met prominente kritische sprekers als schrijver/journalist Cory Doctorow en mediaprofessor Douglas Rushkoff elders in het programma – liet hier wel wat noten liggen. Je hoeft niet links of rechts te zijn, voor of tegen technologie, om te zien dat er van alles mis kan gaan.

Dat gebrek aan kritiek komt deels omdat Amerikaanse moderatoren veel te aardig zijn, een uitzondering daargelaten. Absoluut de beste sessie die ik zag in al die dagen, was het interview dat Kara Swisher had met Kevin Systrom, de man die Instagram oprichtte en verkocht aan Facebook (nu Meta) en op dit moment opnieuw is gaan ondernemen (hij werkt aan een dienst die machine learning inzet om nieuws te duiden en te delen op persoonlijk niveau). Het interview – snel, gevat, kritisch, met af en toe een lachsalvo dat rolde door de zaal door de vileine opmerkingen van Swisher aan het adres van Zuckerberg en Musk – liet vooral zien hoe het werkt in Silicon Valley. De energie en toewijding die daar vrijkomt door de belofte van grote rijkdom is enorm, en maakt dat allerlei andere overwegingen snel wegvallen. Systrom, meer geld op zak dan hij ooit op kan maken, financiert zijn nieuwe bedrijf zelf zonder extern kapitaal, zodat hij rustig kan uitproberen wat hij wil. Als je 10 miljard dollar nodig hebt, is dat geen optie en gaat de Silicon Valley machine in de hoogste stand.

Wat betreft AI was het bij SXSW, kortom, vooral hosanna; de kritische noot ontbrak veelal op het hoofdpodium. Het gevoel dat er – ondanks ontslaggolven in de techsector, een bankencrisis, sociale malaise, een oorlog en ga zo door – weer iets heel groot en geweldigs uit Silicon Valley komt was de gedachte die overheerste. The age of AI is here. Maar wat dat betekent? Willen we die nieuwe wereld wel? Wat doen Europa en China? Moet deze technologie wel in de handen van een paar techbedrijven zijn? Wie moet daar over nadenken, wie kan er iets over zeggen, wie stelt waar de grenzen? Daar werd nauwelijks over gesproken in Austin. Inmiddels weten we dat zelfs AI-experts (dezelfde Musk, Gates) denken dat het allemaal te snel gaat. Hoe dan ook, dit jaar is het jaar dat alles verandert…

Observatie 2: ‘Ubiquitous sensing’ (met oorlog als driver)

Je zou het in het zonnige Texas zomaar kunnen vergeten dat we in Europa in oorlog zijn, de bloedigste sinds de Tweede Wereldoorlog. Die oorlog is deels ouderwetser dan verwacht, met tanks en hele bataljons soldaten die het per kilometer grondgebied moeten uitvechten. Tegelijkertijd spelen drones en satellieten een grote rol, zijn er hacks van relevante infrastructuur en misinformatie-campagnes op sociale media en wordt er vanuit de hele wereld meegekeken naar de strijd op een manier die niet eerder mogelijk was. Tech-innovatie en de oorlogsmachine zijn natuurlijk nauw met elkaar verbonden. Darpa en internet, autonome processen en drones, sociale media en mass surveillance… Veel technologie die ingezet wordt in een oorlog, is ontwikkeld door geheime diensten en later opgepakt door ons als burgers.

Twee-en-twintig NATO-landen werken inmiddels samen om de komende jaren 1 miljard dollar te besteden aan dual use technology: technologie die juist ook door de samenleving gebruikt kan worden, omdat door die schaal de ontwikkeling en innovatie zoveel sneller gaat. Het hoofdkantoor van het NATO Innovation Fund komt trouwens in Nederland, en daarmee komen vermoedelijk allerlei start-ups en labs ook onze kant op!

De sessie die ik bezocht was er eentje georganiseerd door de CIA, die ook met een grote stand op de beursvloer stond. Spies Supercharged: Tech and the Future of CIA had een duidelijk doel: hoe ge-wel-dig het is om bij de CIA te werken, wat een ontzettend leuke technische klussen je daar kan doen en nog veel reizen ook! De CIA is net als alle start-ups, scale-ups en big tech-bedrijven op zoek naar techtalent. Ze gooiden er ook flink wat Hollywood-referenties tegenaan: de CIA investeert en adviseert vaak bij spionnenfilms.

Waarom die enorme aandacht voor technologie?

De CIA verzamelt en analyseert informatie op allerlei manieren en mag bovendien “covert actions” ondernemen, in het buitenland dan wel. Zoals Jennifer Ewbank, Deputy Director for Digital Innovation, aangaf, is het steeds moeilijker geworden om in het geheim mensen te spreken nu iedereen overal en altijd een digitaal spoor achterlaat. Je telefoon uitzetten is immers ook meteen verdacht. En sinds computers kunnen ‘zien’, is het traceren van mensen voor sommige regimes routine geworden; een bron op locatie spreken in China is geen optie meer. Het duiden van informatie is tegelijkertijd ingewikkelder geworden nu er zoveel digitale informatie doorzocht kan worden. AI wordt dan ook al lang ingezet en verder ontwikkeld door de geheime diensten om de juiste informatie uit bergen data naar boven te halen.

Dat is niet enige techniek waar geld en kennis in gestopt wordt. Fijntjes werd ook even aangehaald dat de geheime diensten aan de basis hebben gestaan van de techniek voor lithiumbatterijen, borstkankerdetectie en Google Earth. En de VC-arm van de CIA, IQT, heeft heel vroeg geld gestopt in een hele serie bedrijven: veel ervan gericht op het herkennen van gezichten, stemmen, teksten in allerlei talen en meer. Nand Mulchandani, CTO van de CIA en een serie-ondernemer die eerder vier techbedrijven ontwikkelde en verkocht, voegde daaraan toe: “Anything that is hardware is turning into software”. Dat wil (dus) ook zeggen dat we overal en altijd te volgen zijn.

Er was een concrete vraag uit de zaal, en het antwoord daarop stelde niet echt gerust: “Do you engage in any domestic surveillance?”. Antwoord: nee, natuurlijk niet, dat mogen we niet. En alle informatie die desalniettemin in de Verenigde Staten verzameld wordt dan? Dat zijn allemaal partnerships met de private sector, “voluntary engagements”. Ja ja… Ze houden hun eigen burgers en ons natuurlijk net zo goed in de gaten, op allerlei manieren, zowel vrienden als tegenstanders. Die twee-en-twintig landen die via NATO samenwerken aan ‘goede’ technologie? Daar zit de Verenigde Staten niet bij. Mulchandani zei het nog maar eens expliciet: kom bij ons werken, dan werk je aan dingen die je nergens anders kunt doen. De CIA denkt eerder dan wij allemaal na over wat het betekent, zo’n wereld waar we op allerlei manieren gevolgd worden, waar we ook allerlei bio-informatie ongemerkt delen, een wereld van ubiquitous sensing.

Observatie 3. Ons brein als nieuw domein (van psychedelica tot ‘gedachtengestuurde’ communicatie)

Een andere trend die ik dit jaar bespeurde, en niet alleen bij SXSW, is aandacht voor ons brein en hoe we dat brein op allerlei manieren kunnen beïnvloeden. Alle hardware wordt software? Zelfs onze eigen ‘wetware’ valt daaronder. Dat wil zeggen: de cellen van ons lichaam, maar ook dat mysterieuze ‘zelfbewustzijn’ dat ons ten deel is gevallen kunnen we op allerlei manieren beïnvloeden. Bij SXSW waren er drie stromingen op dat gebied. Men had bijvoorbeeld een hele track geprogrammeerd over psychedelica. Psychedelica voor vrouwen, voor atleten, in de muziek, voor ambulancepersoneel, en hoe verdien je geld met psychedelica? Het aantal sessies was enorm, waardoor je ook het gevoel kreeg dat dit eigenlijk een veel grotere trend is dan ik in ieder geval dacht: het is een industrie.

Maar dat is niet de enige manier om ons brein te beïnvloeden. In een sessie genaamd, Hello World: Brain Computer Interfaces at Scale presenteerde het Australische Synchron een hersenimplantaat dat inmiddels al ingezet wordt. Van de eerste gedachtengestuurde handsfree tweet door een patiënt met ALS tot de recente permanente plaatsing als middel voor communicatie bij een patiënt in de Verenigde Staten. Het doel is in eerste instantie om verlamde patiënten weer te kunnen laten communiceren, maar Synchron’s motto reikt veel verder: “Our mission is to create an endovascular implant that can transfer information from every corner of the brain at scale”. Het is dezelfde claim die Elon Musk met Neuralink heeft: “As our technology develops, we want to be able to increase the channels of communication with the brain, accessing more brain areas and new kinds of neural information. We believe this technology has the potential to treat a wide range of neurological disorders, to restore sensory and motor function, and eventually to expand how we interact with each other and experience the world around us”. Musk kreeg na een eerdere afwijzing recent toestemming van de FDA om de techniek op mensen uit te proberen. Zal tegen 2050 de meerderheid van de mensen een permanent implantaat hebben om handsfree met hun digitale apparaten te communiceren? Er wordt in ieder geval druk aan de optie gewerkt.

Daarnaast was er ook een aantal neuroscience-sessies, allemaal met de inzet: wat kunnen we veranderen aan ons brein? Zelf bezocht ik de sessie Your Brain Data and the Future of Mental Health. Deze sessie draaide om het bedrijf Wave Neuro, gespecialiseerd in “personalised brain care”. Ook hier is de initiële focus op mensen met een probleem, een hersenbeschadiging na een ongeval bijvoorbeeld. Wat doet Wave Neuro? Het meet alle hersengolven, maakt een persoonlijk profiel, en zorgt dat via een vorm van bestraling sommige hersengebieden beter doorbloed raken. Nick Hardwick, een voormalig American-football-speler die veel last had van alle klappen die hij tegen zijn hoofd had gekregen in zijn loopbaan, verzorgde een heuse testimonial. Hij kon weer helder denken en zich langer concentreren door Wave Neuro: “Het scheelt de football association 300 miljoen dollar per jaar, als ze dit goed inzetten”. De claims zijn inderdaad groot. En ook Wave Neuro mikt uiteindelijk op een groot publiek: niet alleen mensen met hersenbeschadiging gaan langs voor een behandeling. Wie wil er nu niet een beetje “personalised brain care”, als je daardoor slimmer en beter wordt?

Observatie 4. Het einde van de wereld

Tegenover al het optimisme dat de ontwikkelaars van AI, ubiquitous computing en brain power uitstraalden, stond ook iets heel anders. “This is the government our founders warned us about’”, zag ik op een T-shirt staan, van een man die bezig was zijn pick-up truck in te laden. De groep Amerikanen – zeker in een staat als Texas – die vertrouwen in vooruitgang verloren heeft en terug wil naar een in hun ogen betere tijd groeit maar door, lijkt het wel.

Op de dag dat ik aankwam in de Verenigde Staten werd in Tennessee een wet aangenomen die het mogelijk maakt voor ambtenaren om een huwelijk te weigeren tussen mensen van hetzelfde geslacht en huwelijken tussen mensen met verschillende raciale afkomst! In Texas zijn alle abortussen inmiddels zo’n beetje verboden. In Florida is een wet aangenomen die de Stop Woke Act wordt genoemd: The Individual Freedom Act, Stop Wrongs to Our Kids and Employees (WOKE) die bepaalt dat er geen les gegeven mag worden over onderwerpen die zouden kunnen leiden tot “guilt, anguish or any form of psychological distress”, zoals het onderwerp slavernij of zwarte geschiedenis, ik noem maar iets. Op SXSW was er een sessie, Teaching Truth in the Era of Book Bans, over hoe je les moet geven op scholen waar enorm veel boeken inmiddels niet meer toegestaan zijn, met name boeken van zwarte en LGBTQ+-auteurs. Een van de sprekers sprak over het fascistische systeem waar ze stap voor stap in zijn beland, ze had daarbij niet eens het idee dat ze het publiek iets uit hoefde te leggen.

Die polarisatie heeft natuurlijk veel oorzaken, maar tech speelt daar zeker een rol in. Douglas Rushkoff vertelde over de verwevenheid van tech en geld die zo gevaarlijk is, en diversiteit en inclusiviteit op die manier schaadt. En Cory Doctorow’s verhaal draaide over de macht van geld en bedrijven die creativiteit inperkt: zie observatie 1. Het is geen trend. Het is meer een overkoepelende vraag waar we maar geen antwoord op vinden: hoe waarborgen we democratie, vrijheid van informatie en vooruitgang? Op het moment dat innovatie direct gekoppeld wordt aan grote financiële winsten, gaat het eigenlijk meteen mis. Het optimisme dat we door internet juist meer verbonden zouden raken als maatschappij, is nu wel vervlogen. Het wordt er juist slechter op.

Observatie 5. Onzichtbaarheid en onnavolgbaarheid

Zo’n event als SXSW vormt een heel goede aanleiding om weer even na te denken over wat er aan de hand is in de wereld. Ergens in de vorige eeuw gebruikte ik voor het eerst het internet. Ik kreeg een lijvig boekwerk met instructies, een Unix-account, en hielp een groep internationale professoren met een tijdschrift dat samengesteld moest worden. Daarna ging het snel: ik herinner me de eerste keer dat ik het WWW op kon, op een EU-conferentie in Brussel, waar Al Gore het nog had over de “information super highway”.

De afgelopen maanden is de aankomst van generatieve AI weer zo’n groot moment, en net als Kelly (zie mijn eerste observatie) ben ik enthousiast, vind ik het mooi, voel ik hoe groot de verandering is, en zie ik dat we een heel nieuwe vorm van internet kunnen krijgen. Tijd voor creatieve en slimme mensen om van alles uit te proberen, en dat volg ik graag. Dat optimisme en de mogelijkheden die nu al duidelijk worden om productiviteit te verhogen, creatieve ideeën snel om te zetten, allerlei problemen op te lossen, dat ken ik dus nog van 30 jaar geleden.

Maar ja. We weten nu al dat de ongewenste gevolgen wel eens van veel grotere invloed kunnen zijn dan voorzien. We hebben met zijn allen immers een surveillance- en misinformatiewereld gebouwd die niet meer weggaat. Wat is dan de grote verandering nu? Wat is het dat de bovenstaande trends – AI, beïnvloeding van ons brein, ubiquitous sensing – op een of andere manier verbindt? Het is een nog wat vage notie, maar ik benoemd hem toch hier: het is de onzichtbaarheid, de onnavolgbaarheid. Dertig jaar geleden begon het met het online zetten en verbinden van informatie. Alle stappen in dat proces zijn te volgen. Dat verdween al een beetje toen algoritmes voor ons informatie gingen voorsorteren. Nu stappen we over naar voorspellende informatiemodellen en plotseling is de techniek onzichtbaar geworden, en niet meer te volgen.

Zelfs de makers van die modellen worden op dit moment verrast door de uitkomsten. De uiteindelijke invloed van de beïnvloeding van het brein, de gevolgen van het ubiquitous sensing, de sensoren, kijkende machines, en de AI’s die daar weer doorheen ploegen. De machine is niet meer te begrijpen, de processen zijn niet meer te volgen. We zien ze niet meer. In 2023 werd de techniek ineens onzichtbaar. We staan erbij en we kijken ernaar, en we zijn optimistisch, hoopvol, maar we weten eigenlijk niet wat we moeten doen.

Over de auteur: Monique van Dusseldorp is freelance schrijver en congresmoderator op het gebied van media, technologie en innovatie

Op de hoogte blijven van het laatste nieuws binnen je vakgebied? Volg Emerce dan ook op social media: LinkedIn, Twitter en Facebook.