I, Robot: Siri Beerends over de mens en de machine

Een theatervoorstelling die een cultuursocioloog weer op nieuwe ideeën bracht: The Silicon Passion kreeg dat voor elkaar. Na afloop van het nagesprek van de tech-kritische voorstelling die tijdens de conferentie te zien was, spreken we cultuursocioloog Siri Beerends. Het werd het nagesprek van het nagesprek. Als onderdeel van het creatieve platform SETUP was ze deels betrokken bij de voorstelling, een project van dezelfde organisatie. Daarnaast doet ze promotieonderzoek aan de Universiteit Twente waar ze authenticiteit bestudeert  en de vraag hoe AI de afstand tussen mens en machine verkleint.

Tijdens de sessie op de conferentie probeerde ze de schuldvraag te omzeilen, maar in ons nagesprek belanden we hier toch. Het is een complexe vraag, iets wat vaker werd benadrukt tijdens de conferentie; een vraag waar Siri zelf geen eenduidig antwoord op heeft. Logisch. Een online wereld doorgronden die nog maar vijftig jaar bestaat en waar ruim anderhalf miljoen mensen aan deelnemen, is nogal een uitdaging. Toch doen we een poging.

We konden je vandaag zien bij het nagesprek van de voorstelling ‘The Silicon Passion’. Kun je vertellen hoe de sessie verliep?

'Aanleiding was ‘The Silicon Passion’, een voorstelling die samen met SETUP is gemaakt. Dit is eigenlijk een variant op de Matthäus Passion waarin we dus het idee van de zondebok, de schuldige hebben toegepast op vraagstukken omtrent big tech en alle problemen die gepaard gaan met technologie. Vervolgens heb ik een korte presentatie gegeven met een kritische reflectie op onze relatie met technologie, want daar ging de voorstelling onder andere over. Daarna ben ik in gesprek gegaan met docent en schrijver Levien Nordeman en presentator en columnist Cesar Majorana.'

Je werkt zelf ook bij SETUP. Wat was jouw rol in het maken van die voorstelling?

'Ik diep technologische-kritische thema’s uit en schrijf artikelen over dit soort kwesties. Ik geef bij problemen van het internet duiding en sommige van die kwesties komen terug in de voorstelling. Maar het zijn de kunstenaars, theatermakers en een Artistiek Ontwerpend Onderzoeker die de voorstelling hebben gemaakt.

Ik heb de voorstelling een aantal keer gezien en toen ben ik wel tot vragen en nieuwe inzichten gekomen. Bijvoorbeeld over de vraag: wat als de problemen dieper liggen dan big tech. Ik ben me meer gaan verdiepen in onze relatie met technologie en welke problemen zich daar voordoen. Daarover heb ik onder andere in De Groene Amsterdammer geschreven.'

Dus die kunstvorm van theater draagt weer bij aan het werk van een cultuursocioloog?

'Ja, zeker!'

Hoe was het gesprek met Levien en Cesar?

'Het was een goed gesprek! Ik was eerst bang dat het platgeslagen zou worden door de schuldvraag: wiens schuld is het? Die vraag zat wel in mijn reflectie, maar daar ging het me niet om. Ik wilde een scherpere analyse van het probleem maken. We schuiven namelijk snel de schuld af op de technologie zelf, en zoeken daarom ook erg de oplossing in een beter ontwerp van die technologie. Maar wellicht moet eerst de mens zelf en het systeem rondom die mens veranderen voordat we dat kunnen doen. Het is misschien een open deur, maar we hebben een ander economisch systeem nodig waardoor we ook echt tot een ander soort internet kunnen komen. Daarnaast moeten we niet alleen het grote boze big tech aanwijzen aanwijzen als de schuldige van het kapotte internet, maar ook onze eigenlijk nihilistische verlangens die een stimulans zijn daarvan. Dat heb ik ontleend aan de filosoof en hoogleraar Nolen Gertz. Hij stelt in zijn boek Nihilism and Technology dat we het menszijn willen uitbesteden aan technologie. Vooral moeilijke kanten zoals sociale frictie, het maken van keuzes,  of ongemakkelijke sociale momenten, besteden we uit. Zolang we dat nastreven, blijft technologie zoals het nu is.

Het gesprek ging over de complexiteit daarvan, want het is een wisselwerking van veel factoren: het systeem waarin we leven, je verlangens, kapitalisme.'

Het klinkt als het kip of het ei verhaal over wat er eerder was: de mens met nihilistische gevoelens, of kapitalistische big tech bedrijven. En jij kies dan toch het eerste.

'Ik krijg het idee dat we verantwoordelijkheid buiten onszelf plaatsen. Het is allemaal de schuld van bedrijven of het systeem, wat in zekere zin ook wel zo is, maar het is niet het hele verhaal. De mens heeft agency. Alleen ons mensbeeld is heel mechanisch dus we stellen we ons op als slaven van een industrie We zijn ons brein, ons brein is een computer, big tech bouwt betere computers, dus we kunnen maar beter alles uitbesteden aan die computers. Uit zo’n bekrompen, mechanistisch mensbeeld volgt dat je je dus maar beter kunt laten vervangen door een computer of je eraan aanpassen. Terwijl we daar in veel gevallen geen baat bij hebben. Er wordt gedaan alsof wij weerloos zijn tegenover technologie, verslavende notificatiegeluiden en rode bolletjes. Maar het idee dat wij een stimulus respons machine zijn, klopt niet. Dit discours is koren op de molen van techbedrijven, omdat zij ons hiermee kunnen voorhouden dat zij de enige zijn die het probleem met een ‘’humaner’’ ontwerp van hun technologie kunnen oplossen. Zo zal er altijd weer een nieuwe, ‘’betere’’, ‘’humanere’’ big tech kunnen opstaan.'

Is de verantwoordelijkheid niet verschoven van mens naar big tech? Zit daar verandering in?

'Big tech is een manifestatie van wie wij zijn. Bij een nieuwe ChatGPT versie maakt het ons niet uit dat achter dit programma auteursrechtenschendingen en uitgebuit mensenwerk schuilgaat, we staan te springen om het te gebruiken en we hebben nu al prompt engineers.'

Dat is die techhype waar jij het veel over hebt?

'Ja we creëren een idee dat we niet achter kunnen blijven, dat je mee moet gaan met die ontwikkelingen.'

Komt dat omdat we de negatieve kanten niet kennen of willen leren kennen?

'Het is moeilijk om dat voor elkaar te krijgen, ja. Je kunt bijna niet om dat economisch reductionistisch systeem heen ook. Ik probeer zelf met kleine acties weerstand te bieden en bij te dragen aan systeemverandering. In ieder geval niet blind achter alle techhypes aan te lopen. Het is te makkelijk om te denken dat je slaaf bent van big tech. Dat is een te passief mensbeeld.'

Moeten we dan terug naar het internet van vroeger? Een community platform zoals De Digitale Stad van Marleen Stikker? Naar welk internet wil jij toe?

'De conclusie van het nagesprek vandaag was dat je niet ‘’back to basic’’ moet willen, maar juist ‘’vooruit to basic’’: dus inderdaad wel meer basic , maar een ander basic dan vroeger , in ieder geval minder lagen ertussen.'

Wat bedoel je met basic?

'Je hoeft niet alles te digitaliseren of met een app op te lossen. Met flitsbezorgers zetten we er wéér een laag tussen. En toch gaan we vervolgens met z’n allen flitsbezorging bestellen. Dan moet je ook niet gek gaan kijken naar wat de impact daarvan is: een economische race to the bottom.'

Zijn mensen lui geworden?

'Nou, ik denk dat het leven steeds ingewikkelder wordt. Problemen in de samenleving op het gebied van klimaat, wonen, economie geven mensen veel stress, mensen hebben het gevoel dat ze elke minuut van hun leven zinvol moeten besteden, de burn-outs schieten de pan uit. Dan krijg je inderdaad mensen die elke minuut willen besparen, want dan hebben ze meer tijd om alle ballen in de lucht te houden. Dat is wel weer een invloed van het systeem. Dus het is en-en. En systeem, en de mens.'

Het lijkt alsof we klem zitten als mens! We moeten al die ballen omhoog houden en zijn daarbij afhankelijk van alle snelle, nieuwe digitale tools, en tegelijkertijd moeten we meer verantwoordelijkheid nemen voor ons gedrag omtrent die tools.

'Ja dat denk ik ook. Dat is ook waar ik me onder andere mee bezig houdt in mijn promotie-onderzoek. Hoe de mens gereduceerd word tot robot. AI neemt zogenaamd banen weg, maar tegelijkertijd ontstaan ook allerlei robotbanen als social media moderatoren en modeltrainers. We schuiven meer op naar de machine. Niet alleen met de banen die veranderen, maar ook doorat we steeds inniger samenwerken met AI-systemen en steeds meer uitbesteden Je schuift daarmee soms ook meer op naar de robot. Maar, misschien wíllen we ook wel een robot zijn, want dat is natuurlijk ook heel chill. Het maakt het leven een stuk gemakkelijker. Mensen vinden het lastig om mens te zijn. Van kunstmatige intelligentie proberen we een mens te maken waarbij we het menszijn uitbesteden aan die machine. ‘Ga jij maar denken, ga jij maar schrijven.’'

En dan gaan wij…?

'Flitsbezorging bestellen, haha. Tja, ik weet het niet, nog harder werken. Dat zie je nu. Waarom is dat zo? Wordt dit ons opgedrongen of wíllen we onszelf misschien ook wel uitwissen?'

'We schuiven steeds meer op naar de machine, waardoor het lijkt alsof die robot steeds menselijker wordt.'

Als schrijver van artikelen over technologie kom ik vaak dezelfde stockfoto’s tegen van technologie, coderen of social media. Bij SETUP zijn jullie kritisch naar deze stockfoto’s gaan kijken. Wat is er mis met de huidige stockfoto’s en wat zegt het over onze kijk naar technologie?

'Het daagt de kijker uit om óf heel erg onder de indruk te zijn van technologie, óf er heel erg bang van te worden. Je ziet ook veel mensachtige robots, humanoids, of hersenen met nullen en enen. Daarmee zet je mensen op het verkeerde been, want het lijkt alsof kunstmatige intelligentie en menselijke intelligentie op elkaar lijken. Maar dat is niet zo. AI is fundamenteel anders dan hoe een mens leert en werkt. Heel veel dingen over menselijk bewustzijn weten we ook niet. Nu wordt er gedaan alsof we dat kunnen nabouwen. Die foto’s zijn dus een verkeerde beeldvorming. Daarom hebben wij vier nieuwe stockfoto’s gemaakt vanuit SETUP: voor kunstmatige intelligentie, privacy, cloud computing en hacking.'

Maar impliceert het woord ‘kunstmatig’ niet dat het neppe intelligentie is?

'Ja, toch is het niet nep of kunstmatig, want wij maken het zelf. Er zit heel veel clicklabour achter door mensen die de AI systemen trainen, updaten, controleren, hertrainen, opschonen. Zo voeren ze grote hoeveelheden foto’s van een stoeprand, hond of zebrapad in om de systemen deze te laten herkennen. Dat is hun baan. Dat zijn echte mensen, mensen die ook nog eens worden uitgebuit en slecht betaald worden, zoals via Amazon Mechanical Turk. Omdat onze fysieke wereld doorlopend verandert, zal er altijd mensenwerk nodig zijn om het systeem bij te sturen en te trainen. Die menselijke arbeid zie je vaak niet in de stockfoto’s, terwijl die wel heel belangrijk is.'

Dus een mens vergelijken met AI slaat nergens op?

'Het is logisch dat we het doen, want het laat ons ook nadenken over wat menselijke intelligentie is. Er zit veel nieuwsgierigheid achter. Maar het gevaar is dat, omdat het niet lukt om een mens na te bootsen, we simplificeren wat de mens is. Je kan bijvoorbeeld empathie niet in een robot bouwen, want die robot heeft geen bewustzijn en emoties. Dat probleem lossen we dan op door te zeggen: empathie is het aanpassen van tekst aan het gevoel dat iemand uitspreekt. Dan heb je een empathische robot gebouwd waar menselijke empathie heel erg is gesimplificeerd. Er vindt ook een omgekeerd proces plaats waarbij mensen robotisch naar de mens gaan kijken en de mens ook zien als robot, bijvoorbeeld als weerloze slaaf van big tech, en dan wordt het makkelijk om een robot menselijk te maken. We schuiven steeds meer op naar de machine, waardoor het lijkt alsof die robot steeds menselijker wordt.'

En tegelijkertijd kunnen we ook bepaalde menselijkheden niet uitleggen, zoals empathie?

'Ja en ik vind dat juist een pré. Ik denk dat het goed is dat je dingen niet kunt uitleggen of in woorden kunt vatten. Dat is wat ons mens maakt. AI dwingt ons om dat wel uit te leggen, zodat ontwikkelaars het kunnen nabouwen en kunnen roepen dat we vervangen kunnen worden door hun AI-producten, maar daarmee verschraal je de mens.'

Ik krijg even een flashback naar mijn studie Antropologie. Dit doet me namelijk denken aan het boek Seeing Like a State van James Scott waarin hij beschrijft hoe beginnende staten vanuit een controledrift de maatschappij ontwierpen gebaseerd op wetenschappelijke regels, wat vaak faalde. Zo simplificeerden ze steden gebaseerd op wetenschap omdat dat lekker overzichtelijk was voor de staat, maar vanuit sociaal oogpunt was dit een ramp. Ze standaardiseren en daarmee simplificeren ook taal, maten, achternamen met het doel om de maatschappij ‘leesbaar’ te maken. Ik besef me nu dat we op dit moment de menselijke eigenschappen leesbaar aan het maken zijn en daarmee simplificeren, vanuit een kapitalistisch winstoogmerk en vanuit een ophemeling van dit keer technologie in plaats van wetenschap. Wat denk jij?

'Super goede vergelijking, dat is wel wat ik zie.'

Hoe ziet de ideale online wereld er dan uit?

'Dat vind ik een hele moeilijke vraag. PublicSpaces doet het praktisch gezien natuurlijk heel goed, met alternatieven aandragen. Dat moeten we sowieso doen. Maar ik vind eigenlijk de hele online wereld te dominant. Waarom willen we alles online doen? Ik wil stel dus ook digitalisering an sich ter discussie. Maar áls we dan per se dingen online willen doen, dan wel op een PublicSpaces manier met die publieke waarden.'

Hoe komen we daar terecht?

'We moeten op alle vlakken ingrijpen. Juridisch door het inperken van de macht van big tech. Op mesoniveau bijvoorbeeld open source opereren. Maar op individueel niveau minder online, minder digitaliseren, minder kunstmatige intelligentie, niet achter elke hype aanlopen. En helemaal hoogover is systeemverandering nodig. Het huidige economische systeem wat gebaseerd is op grenzeloze groei, is uiteindelijk heel destructief. Dat moet op de schop.'

Verder in deze ‘nagesprekreeks’ verschijnen interviews met kunstenaar Vladan Joler en schrijver Levien Nordeman.