Kan kunstmatige intelligentie beslissingen nemen gebaseerd op ethische afwegingen? Dat onderzoekt digitaal kunstenaar Jeroen van der Most in zijn nieuwe speculatieve installatie Quantum Cat. Het kunstwerk maakt gebruik van zowel kunstmatige intelligentie als een kwantumcomputer. Deze twee technologieën zullen volgens de kunstenaar in de nabije toekomst zeer grote maatschappelijke impact hebben.
Installatie Quantum Cat is eerste Nederlandse kunstwerk gemaakt met een kwantumcomputer. Het is deze voor het eerst maand te zien in de aula van het Benno Premselahuis van Hogeschool van Amsterdam. Aansluitend maakt de installatie een wereldtournee langs kunstmanifestaties en techfestivals, te binnen in de VS
Twitter-scans
De interactieve installatie Quantum Cat bestaat uit een stapel houten kisten uit de vorige eeuw. In twee kisten staat een beeldscherm waarop voortdurend wisselende teksten afdraaien die zijn gegenereerd door kunstmatige intelligentie. De teksten zijn gebaseerd op een livescan van Twitter door een algoritme dat Van der Most speciaal voor dit kunstwerk ontwikkelde met wetenschappers van de Hogeschool van Amsterdam. “Het algoritme zoekt naar Nederlandse berichten over morele vraagstukken als diversiteit, vrijheid versus veiligheid of de belangen van de economie versus ecologie”, legt Van der Most uit. “Op basis van deze Tweets worden met kustmatige intelligentie telkens verschillende ethische standpunten verwoord.”
De teksten die kunstmatige intelligentie genereert zijn volgens Van der Most amper nog te onderscheiden van menselijke teksten. Stel, het vraagstuk is of economische ongelijkheid onwenselijk is. Kunstmatige intelligentie antwoordt vervolgens met nee, omdat bijvoorbeeld de sterkste schouders dan de last voor de zwakkeren kunnen dragen. Tegelijkertijd is ook op het beeldscherm te lezen dat ongelijkheid minder toegang tot onderwijs en daarmee minder innovatie betekent en dus onwenselijk is. “Uiteindelijk gaat om de vraag: hoe waardevol zijn deze ethische bespiegelingen ? Dat debat wil ik met Quantum Cat aanjagen.”
“Uiteindelijk gaat het om de vraag hoe waardevol deze ethische bespiegelingen zijn. Dat debat wil ik met Quantum Cataanjagen.”
Jeroen van der Most
Naast deze ethische bespiegelingen, die als boekpagina’s open- en dichtklappen, beweegt een virtueel kattenhoofd. “De kat op het beeldscherm wikt en weegt, en geeft voortdurend twee min of meer tegengestelde morele afwegingen.” De installatie is interactief. Als je met je hand langs het beeldscherm wuift, verandert de beeltenis van tekst en kattenhoofd op het beeldscherm. “De toeschouwer heeft dus minimale invloed op de ethische reflecties door kunstmatige intelligentie.”
‘Schrödingers kat’
Met de keuze voor een digitale kat als ethisch orakel refereert Van der Most naar de ‘Schrödingers kat’. Dit wereldberoemde wetenschappelijke gedachtenexperiment uit de jaren dertig is bedacht door Erwin Schrödinger, een grondlegger van de kwantummechanica. Deze natuurkundige theorie gaat ervan uit dat subatomaire deeltjes, zo ongeveer de allerkleinste bouwstenen van de fysieke wereld, niet stabiel zijn. Pas als je het atoomdeel waarneemt, neemt het een vaste plek in. Als metafoor voor deze abstracte theorie bedacht Schrödinger een kat in een gesloten doos wiens leven afhangt van de positie van één bepaald atoomdeeltje. Maar aangezien atoomdeeltjes instabiel zijn, is de kat dus levend en dood tegelijk. Pas als je de doos openmaakt en de positie van het atoomdeel waarneemt, weet je dus ook of de kat leeft of niet. De uitkomst is per definitie onvoorspelbaar.”
Verschillende posities
Van der Most gebruikte een experimentele kwantumcomputer van de TU Delft voor de weergave van de teksten en digitale afbeeldingen van de kat in zijn kunstwerk. “Dit is het eerste kunstwerk dat met een Nederlandse kwantumcomputer is vervaardigd. Al gaat het mij vooral om de conceptuele laag. Een kwantumcomputer kan meerdere uitkomsten tegelijk produceren en daarmee ook meerdere posities innemen, iets wat ook noodzakelijk is voor een gebalanceerde ethische afweging. Je weet dus nooit welke ethische afweging je te zien krijgt.”
“Een kwantumcomputer kan meerdere uitkomsten tegelijk produceren en daarmee ook meerdere posities innemen, iets wat noodzakelijk is voor een gebalanceerde ethische afweging.”
Jeroen Van der Most
Bestaande ‘binaire’ computers nemen telkens één beslissing op basis van nul of één, waardoor de uitkomst vaststaat. De geavanceerde kwantumcomputer kan meerdere beslissingen tegelijk nemen en dus extreem snel rekenen. Dit wordt na kunstmatige intelligentie de volgende technologische revolutie, aldus Van der Most. “Voor een goede ethische beslissing moet je een vraagstuk min of meer tegelijkertijd vanuit verschillende standpunten kunnen bekijken. Iets waaraan het bij zwart-wit meningen op Twitter nou juist schort. Daarom heb ik de ethische beslissingen van kunstmatige intelligentie verbeeld als de kat van Schrödinger. Misschien moeten we af van het binaire denksysteem van goed of fout, van waar en onwaar.”
Artist-in-residency
De installatie Quantum Cat kwam tot stand tijdens een artist-in-residency van Jeroen van der Most aan de Hogeschool van Amsterdam. “Wij hebben bewust een kunstenaar gevraagd om te reflecteren op de ethiek rond kunstmatige intelligentie”, zegt Nanda Piersma van het lectoraat Responsible IT dat initiatief nam voor de samenwerking met Van der Most. “Kunstenaars kunnen een waardevolle toevoeging zijn op wetenschap, omdat ze creatieve oplossingen aandragen of juist onverwachte vragen stellen. Juist doordat ze afstand van de wetenschap staan, kunnen kunstenaars niet alleen bevragen waarméé wij wetenschappers bezig zijn maar ook het waaróm.”
Een voorwaarde was dat de installatie actuele vraagstukken in de gemeente Amsterdam moeten bevragen. “De ethische bespiegelingen door de kunstmatige intelligentie die Jeroen heeft gebruikt zijn gebaseerd op Tweets over Amsterdam”, zegt Piersma. Het aanvullende voorstel van Van der Most om een kwantumcomputer te gebruiken in zijn installatie bleek een schot in de roos. “Bij kwantummechanica ga je ervan uit dat iets pas zijn definitieve vorm aanneemt op het moment dat je het waarneemt. Oftewel: er is helemaal geen zekerheid over je observaties. Er bestaat dan ook niet zoiets als objectieve data. Dat zijn bij uitstek zaken waarmee exacte IT-wetenschappers niet zo goed raad weten. De installatie van Jeroen helpt ons met zulke onvoorspelbaarheid om te gaan.”
“Kunstenaars kunnen een waardevolle toevoeging zijn op wetenschap, omdat ze creatieve oplossingen aandragen of juist onverwachte vragen stellen.”
Nanda Piersma, lector Responsible IT, Hogeschool van Amsterdam
De ‘residency’ van Van der Most heeft het lectoraat Responsible IT gesterkt in de opvatting dat wetenschap vergezeld moet gaan van toegepaste disciplines. Piersma: “Inmiddels is ook een ontwerper bij het onderzoeksteam betrokken die zich buigt praktische applicaties van verantwoorde data en kunstmatige intelligentie. Uiteindelijk moeten ethische afwegingen al in de ontwikkelfase van nieuwe technologie zijn geïntegreerd, en niet pas achteraf.”
Biografie Jeroen van der Most
Jeroen van der Most (1979) combineert traditionele kunst met digitale technologie als algoritmes, big data en kunstmatige intelligentie. Met een van zijn eerste kunstwerken Tweet Cathedral, in 2011 reflecteert hij al op de toenemende impact van sociale media. Dit schilderij is opgebouwd uit duizenden tweets over de grote aardbeving in de stad Christchurch in Nieuw-Zeeland met de hashtag #eqnz (afkorting van earth quake new zealand). De letterlijke Twitter-teksten vormen tezamen de skyline van Christchurch, door een algoritme samengevoegd in de stijl van het beroemde schilderij Sterrennacht van Vincent van Gogh.
Een terugkerend thema in zijn werk is de vraag waar de grens ligt tussen menselijke creatie en een beeld dat is gegenereerd door kunstmatige intelligentie. Zo gebruikt hij voor Garden Of Aiden (2018) kunstmatige intelligentie om duizenden foto’s van dieren en schilderijen van de oude meesters te analyseren. Op basis daarvan genereerde het algoritme een schilderij met fantasievogels dat oogt als een klassiek doek uit de zeventiende eeuw.
Lectoraat Responsible IT – Hogeschool van Amsterdam
De Hogeschool van Amsterdam onderzoekt met het lectoraat Responsible IT welke rol maatschappelijke vraagstukken als gezondheid, onderwijs en mobiliteit moeten spelen bij de ontwikkeling van digitale technologie. Het onderzoek is een initiatief van lector Nanda Piersma en de Gemeente Amsterdam als een reactie op de toenemende invloed van de (veelal) Amerikaanse big tech bedrijven en (veelal) Aziatische overheidstoepassingen van controlesystemen als gezichtsherkenning. Uitgangspunt van Responsible IT is het verwerven, gebruiken en delen van data op een verantwoorde manier, en het helpen van ontwikkelaars en instanties hierbij. Technologieën als algoritmes en kunstmatige intelligentie worden daarbij uitsluitend gebruikt op een mensgerichte manier en als deze transparant en betrouwbaar zijn. Privacy en autonomie zijn daarbij gewaarborgd en niemand wordt buitengesloten.