Collectieve zorgen en actiepunten op het AI-Symposium
Door Katja Keuchenius. Foto’s: Titia Hahne.
Volgens moderator Ewoud Kieft maakt de volle zaal van de Brakke Grond op 7 maart 2024 iets duidelijk. “Er is veel behoefte om zorgen te delen over ‘de komst van het grote monster dat nu al vijftig jaar in films wordt aangekondigd.’
De schrijver schreef zelf een toekomstroman waarin AI een grote rol speelt. Vandaag neemt hij de zaal eerst mee terug naar een van de eerste converserende computers in de jaren zestig. ELIZA kon nog niet zo bijster veel en paste daarom de spiegeltechniek van psychologen toe. Ze gaf mensen vooral hun eigen verhaal terug in vraagvorm: ‘waarom denk je dat je dat voelt?’. Die projectie geeft je al snel het gevoel een heel persoonlijk gesprek te voeren. Dat Eliza-effect speelt nog altijd bij chatbots, zegt Kieft. Hij toont een plaatje van een gesloten kamer waar via een luikje Chinese tekens in worden gestopt. Een niet-chineessprekend poppetje in de kamer zoekt in een boek op met welke tekens hij moet reageren en gooit die vervolgens weer naar buiten. Net zoals het poppetje in deze vaak aangehaalde Chinese Room begrijpt een taalmodel niets van de data die hij genereert. Kun je daarmee dan echt intelligentie bereiken? Kieft: “Over die vraag haalde de beroemde computerwetenschapper Ray Kurzweil zijn schouders op en antwoordde: ‘Als mensen het die betekenis geven, ís het toch zo?’”
Wat is intelligentie?
Eerste spreker Oumaima Hajri maakt zich zorgen over de interpretatie van intelligentie. De AI ethica schetst kort de geschiedenis van AI, steeds ontwikkeld vanuit het doel om menselijke intelligentie na te bootsen. Maar wat is dat precies? Toen Hajri 45.000 nieuwsartikelen liet scannen op fake nieuws door mensen én een zelfontworpen AI-machine, viel die laatste wat haar betreft door de mand. “Mijn machine kon het sneller en efficiënter dan mensen, maar wel met minder nuance. Opiniestukken werden bijvoorbeeld vaak bestempeld als fake nieuws, terwijl mensen de beweringen daarin konden herkennen als een mening.” Er bestaan volgens Hajri veel kwalijke misvattingen over AI. Dat AI bijvoorbeeld niet tastbaar is, maar zich ergens in ‘de cloud’ afspeelt. Hajri zet uiteen hoe tastbaar AI daadwerkelijk is, met datacenters die ontzettend veel energie en rekenkracht nodig hebben en bovendien veel rauwe grondstoffen zoals lithium en kobalt, voornamelijk gedolven in zuidelijke landen die zelf nog lang geen gebruik kunnen maken van AI. Nog zo’n misvatting: AI is een neutrale identiteit. Hajri: “Dat klopt niet. Zo’n systeem wordt ontwikkeld door mensen met bepaalde waarden en meningen, die opereren in een bepaald politiek klimaat.” Bij die specifieke groep engineers ligt een enorme kennisconcentratie, met beschikking tot data als ‘het nieuwe goud’. Zij proberen menselijke intelligentie na te bootsen. Maar wat verstaan zij daaronder? “Een indeling van wie intelligent is en wie niet, is vaak gebruikt om koloniale acties te rechtvaardigen en om mensen als minderwaardig te zien.” Hajri toont afbeeldingen van hoe AI meestal wordt afgebeeld. Op een daarvan raakt God de vinger aan van een witte robot en die weer de hand van een witte man. Je kunt wat Harji betreft beter een foto gebruiken van de vele anonieme clickworkers of ghostworkers die voor AI nodig zijn. En gebruik ook de juiste taal, roept ze op. “AI dénkt en léért niet. Dat zijn menselijke vaardigheden en in onze taal moeten we die menselijk waardigheid behouden.” Ze noemt Missjourney en Ben Schneiderman voor meer representatieve beelden en taal over AI.
Kieft is blij met deze ‘hoognodige demythologischering’ van AI. Hij geeft de vloer aan Hanna Bervoets, die vertelt hoe zij als Swifty (Taylor Swift-fan) met AI te maken kreeg en verschillende stadia doorging. Van verbluft over Swifts ex die door AI in een clip was gemonteerd tot haar eigen onterechte bestempeling van een oud Swift-liedje als AI fabricage. “We zullen door riolen van bullshit moeten waden, met een schild dat ons soms het zicht ontneemt.”
Inbreuk Auteursrecht
Dan is het woord aan Hanneke Holthuis, jurist bij Pictoright: Ze laat een selfie zien van een makaak-aap. Dierenrechtenactivisten eisten het auteursrecht van deze door natuurfotograaf David Slater geregisseerde foto op voor het dier zelf. Maar zowel rechters in Amerika als in Nederland oordelen dat dieren geen auteursrecht kunnen hebben. Dat geldt ook voor machines zoals AI. Waar ligt het auteursrecht van AI-producten dan? Dat staat nog in kinderschoenen, zegt Holthuis. Maar het is niet uitgesloten dat het auteursrecht ligt bij de bediener van de machine, die op een creatieve wijze prompts invoert. Dat de output wel inbreuk kan maken op het auteursrecht blijkt uit de recente wijziging van veel AI-platforms. De prompt ‘in de stijl van’ levert daar geen uitkomsten meer op. “Men voelde daar de bui wel hangen wat betreft de schending van het auteursrecht.”
Aan de input-kant is AI voor het auteursrecht lastiger en gevaarlijker, volgens Holthuis. Op basis van het auteursrecht zou je denken dat je andermans werk niet zomaar als input mag opzuigen. Maar toen in 2019 de auteurswet ‘digitaalproof’ werd gemaakt, kwam hierop een uitzondering voor datamining bij machine learning. Holthuis: “Dat was destijds gericht op wetenschappelijk onderzoek, zoals het ontdekken van borstkanker. Niemand had toen de generatieve AI in de culturele sector voor ogen.” Met een zogenoemde opt-out kun je je werk hier wel tegen beschermen. Maar zo’n opt-out moet dan wel ‘machine readable’ zijn en daar heeft nog niemand een standaard manier voor bedacht. Bovendien zijn er vaak illegale kopieën en sociale media die je niet goed kunt beveiligen. Holthuis wil de opt-outs daarom proberen collectief te regelen. Ondertussen kunnen mensen op hun eigen website wel opt-outs plaatsen en nemen sommige beeldmakers al het heft in eigen hand door een voor mensen onzichtbaar filter op hun afbeeldingen te zetten. AI ziet dan alleen een betekenisloos patroon, steeds hetzelfde plaatje van Rick Astley of een ander ongerelateerd plaatje om AI te ‘vergiftigen’. Maar wat tot nu toe al is gebruikt voor trainingen, kan niet meer worden teruggedraaid. AI kan immers niet ‘unlearnen’. Gelukkig is er in Europa verassend snel een AI-wet gekomen, die ontwikkelaars verplicht om uit te leggen hoe ze rekening houden met opt-outs en om transparantie te geven over de input die ze gebruiken.
Collectieve zorgen
Na de pauze buigen twee panels zich samen met het publiek over grote vragen en zorgen. Zoals de mythes die techbedrijven verspreiden over wat AI allemaal kan. “Alsof romanschrijven een kwestie van rekenkracht zou zijn”, aldus schrijfster Anja Sicking. Scenarioschrijver Bert Bouma is bang dat het werk van auteurs nog verder devalueert als opdrachtgevers de duidelijk minderwaardige door AI gegenereerde vertalingen en ondertitels steeds vaker goed genoeg vinden. Holthuis vreest dat een niet goed functionerende auteurswet ervoor zorgt dat er minder geld kan worden verdiend door makers en er daarom ook minder werk zal verschijnen. Uitgever Sander Ruys vindt het schandalig wat AI-ontwikkelaars met al het auteursrechtelijk beschermde werk gedaan hebben: “Tachtig miljoen boeken in een container stoppen en één stem geven! Met dezelfde technologie kun je elk boek een eigen stem geven en zo een veel interessantere toekomst creëren.”
In het tweede panel waarschuwt Hajri dat ook als er meerdere stemmen door AI worden gevormd, die nog steeds de plekken vertegenwoordigen waar AI zich vooral ontwikkelt: ‘het globale Noorden’. “We moeten kijken hoe we alternatieve kennissystemen kunnen integreren. Daar zijn verschillende projecten nu ook mee bezig.” Uitgever Chris de Jong is bang dat cultuur steeds meer entertainment wordt en houdt een pleidooi om vooral complexe en literaire teksten te blijven maken. Theaterauteur Ninke Overbeek wil het gesprek aangaan over de waarde van literatuur en blijven onderwijzen over hoe je dat herkent. “Als je die maatstaf niet meer hebt, houdt het op.” Vertaler Anne Marie Koper blijft sceptisch over de kunsten van taalmodellen: “AI kan niet tussen de regels lezen en staat niet met de poten in de klei. Dat is van essentieel belang om goed te kunnen schrijven en vertalen.”
Steeds zijn de panelleden het erover eens: we moeten zélf iets doen in plaats van de machines en bedrijven te laten bepalen hoe het verder gaat. Hoe dan? Kieft heeft een aantal actiepunten verzameld:
- Check of jouw werk door AI gebruikt is. Gebruik de Handleiding van de Auteursbond.
- Maak afspraken met je uitgever: Jullie hebben zitten te slapen!
- Sluit je aan bij de Auteursbond of een andere organisatie om collectief rechten te verdedigen.
- Opt-out! Opt-out! Opt-out! Plaats die op zoveel mogelijk werk en vooral op je eigen website. Daarmee kan de Auteursbond ook helpen.