In aanloop naar de conferentie spreken we met Nadia Piet. Met haar organisatie AIxDESIGN onderzoekt ze hoe we ons moeten verhouden tot AI. Waar het populaire AI discours veelal eenzijdig en extreem is, beweegt Nadia Piet hiervan weg. Samen met haar community onderzoekt ze hoe we AI ethisch(er) kunnen inzetten zonder invloeden van Big Tech, met een kleinere ecologische voetafdruk en decentraal georganiseerd. ‘Ik ben kritisch over AI, maar ook erg enthousiast.’
Hé Nadia! Hoe gaat het met je?
Goed! Ik kijk uit naar de conferentie. Vooral de workshops lijken me leuk!
Laten we het over AI hebben. Sta je voornamelijk positief of negatief tegenover AI?
Dat is een goede vraag, want ik weiger deze binaire tegenstelling van slecht en goed te gebruiken als het om AI gaat. Een probleem van het AI-discours zijn deze extreme binaire opposities waarin we denken: het is óf een hype óf ten dode opgeschreven. Het leidt ons naar een polariserend landschap waarin mensen niet echt praten, luisteren of vragen stellen. Om vooruit te komen hoeven we geen kant te kiezen. Ik ben kritisch over AI, maar ik ben er ook erg enthousiast over. We kunnen niet alleen maar zeggen ‘AI is geweldig’ en de problemen negeren, maar we kunnen ook niet alleen maar zeggen ‘dit is het einde van de wereld’ en daarmee de andere manieren om het te gebruiken en de potentie dat het heeft niet erkennen. Ik kies dus geen kant en kies voor een non-dualistische benadering.
Kun je uitleggen wat je doet en wat de rol is van AI daarin?
Het meeste van mijn werk is nu creatief onderzoek en design onderzoek (dus niet academisch). Door dit onderzoek vind ik manieren om me te verhouden tot opkomende technologieën en cultuur. Het gaat over samen dingen uitzoeken, over zingeving, over hoe we ons moeten verhouden tot deze veranderingen, welke invloed we hebben en hoe we kunnen bouwen aan het heden en de toekomst die we willen. Ik doe dit voornamelijk via AIxDESIGN. Dit is een wereldwijde gemeenschap en onderzoeks- en ontwerpstudio voor cirictal AI. We organiseren evenementen, voeren onderzoeksprojecten uit, organiseren programma’s en maken openbare info beschikaar om AI-geletterdheid en kritisch discours te democratiseren, algoritmische mogelijkheden in twijfel te trekken en nieuwe manieren van zijn in relatie tot AI en technologie te prototypen en te beoefenen.
Wat is critical AI?
We raakten vorig jaar bekend met deze term en hebben ons eraan vastgeklampt omdat dat in feite is wat we doen. Critical AI onderzoekt AI niet alleen als technologie, maar ook als politiek, machtsstructuren, culturele verhalen en de publieke perceptie eromheen. Als we het over AI hebben, hebben we het zelden over deze cruciale systemen die er vorm aan geven. Critcal AI bouwt voort op critical theory en critical media studies en brengt dat kader naar AI.
Laten we eens duiken in deze systemen die ten grondslag liggen aan AI. Met welke problemen hebben we hier te maken?
Zoveel! De manier waarop AI momenteel wordt gebouwd en geïmplementeerd versterkt dezelfde problemen die we in de maatschappij hebben: ongelijkheid, onbetaalde arbeid en milieuvervuiling. En die problemen treffen mensen niet in gelijke mate.
Big Tech bepaalt ook voor een groot gedeelte hoe we over AI denken, omdat het de meeste populaire AI-tools bezit en de verhalen over AI nu en in de toekomst domineert – allemaal sterk beïnvloed door winstgevende belangen en extremistische ideologieën. Maar er zijn ook manieren om dingen anders te doen. Er zijn kleine AI-projecten die heel cool zijn en het totaal anders doen met een andere infrastructuur.
Wat zijn deze nieuwe infrastructuren?
Nou, ze zijn niet echt nieuw. Ze zijn vaak ouderwets, niet shiney en innovatief. Het is een meer gedecentraliseerde benadering van governance. Er zijn mensen en organisaties die hun eigen datasets creëren, hun eigen modellen trainen en afstemmen, en deze collectief beheren in plaats van een gecentraliseerd bedrijf dat de data er voor hun eigen doeleinden uithaalt.
“Heel weinig mensen weten precies wat het is, hoe het werkt, waar het vandaan komt en waar het van gemaakt is”
Je pakt ook het probleem van AI-geletterdheid aan met AIxDESIGN. Wat is hier het probleem en hoe lossen we het op?
Het gaat over de digitale kloof in data en AI. Er wordt veel gepraat over AI, maar veel mensen worden afgeleid door dramatische koppen in de media, terwijl maar heel weinig mensen precies weten wat het is, hoe het werkt, waar het vandaan komt en waar het van gemaakt is. We willen dat mensen meer zeggenschap hebben en er gesprekken over kunnen voeren, want AI gaat nergens heen; het blijft. Daarom moeten we iets van die geletterdheid opbouwen. Dat doen we door middel van gesprekken en workshops en door het in te bedden in het onderwijs. Iedereen heeft een beetje basiskennis van data nodig omdat het op dit moment overal deel van uitmaakt. Alles is digitaal.
Stel dat een creatief persoon AI ethisch wil gebruiken in zijn of haar werk. Welk advies heb je voor deze persoon?
In het geval dat deze persoon generatieve AI zou gebruiken – want er zijn verschillende soorten AI – is het belangrijk om na te denken over het feit dat dit soort AI niet zou kunnen bestaan zonder een letterlijke extractie van het web. Op welke manier je er ook mee omgaat, het zal altijd extractief zijn. Maar dat geldt voor de meeste technologie: je telefoon, je laptop. Dat is iets om in de eerste plaats rekening mee te houden.
Er zijn manieren om dingen anders te doen. Eén van onze regels is dat als je iets vraagt, je geen namen mag gebruiken van mensen die nog huur betalen. Dit betekent dat je het werk en het levensonderhoud van levende artiesten niet mag afpakken. Alle hedendaagse kunstenaars zitten in de dataset, maar je kunt besluiten om niet uit die vijver te vissen.
Een andere tip is het lokaal uitvoeren van modellen in plaats van via de cloud en online tools. Je kunt dit doen met Stable Diffusion, een open-source model dat je eenvoudig kunt installeren en lokaal op je computer kunt draaien. Het stuurt je gegevens niet terug naar de (big tech) organisatie of cloud, is veel minder schadelijk voor het milieu en je hebt er meer (artistieke) controle over.
En als het mogelijk is, train dan je eigen modellen en gebruik je eigen dataset. Er zijn genoeg initiatieven die hiermee experimenteren en tools ontwikkelen die het anderen makkelijker maken om dit zelf te doen. Hiermee support je het concept van specifieke en gesitueerde intelligenties (in tegenstelling tot de droom van techmiljardairs: algemene kunstmatige intelligentie als ‘één enorm model voor iedereen’), dat wij Small AI noemen.
Bij AIxDESIGN noemen we al deze regels en hacks Prompt Etiquette; een soort sociaal en moreel kompas om generatieve AI op minder vervelende manieren te gebruiken.
Aankomende donderdag zul je dit bespreken tijdens de conferentie-sessie ‘Impact en gebruik van generatieve AI’. Welke boodschap wil je hier overbrengen?
Het is heel belangrijk om onafhankelijke ruimtes te hebben waar we samen kunnen praten, dromen en sense-maken over technologie. Deze ‘derde ruimtes’ zijn toegankelijker, gemeenschappelijker en creatiever, en staan los van de ideologieën van Big Tech en de conventies van de academische wereld. Net zoals PublicSpaces doet.
Bij AIxDESIGN zijn we hier al sinds 2019 mee bezig. We worden nu langzaam volwassen als organisatie en zijn nog aan het uitzoeken hoe we ons werk als grassroots DIY organisatie (financieel) duurzaam kunnen maken, zodat we kunnen blijven doen waar we van houden. Mijn hoop voor de conferentie is om in contact te komen met andere samenzweerders die aan dezelfde ideeën werken, misschien zelfs potentiële partners en medewerkers voor AIxDESIGN te ontmoeten, en natuurlijk om wat funky stickers te verzamelen.
Benieuwd naar meer? Kom Nadia Piet tegen op de conferentie tijdens de sessie ‘Impact en gebruik van generatieve AI’ op donderdag 6 juni. In dit panel bespreken we de manier waarop culturele en maatschappelijke organisaties AI kunnen inzetten in met name publieksgerichte toepassingen. Hoe doe je dit op een verantwoordelijke manier, dus met een kritische houding, en constructief?
