Ctrl.Alt.Img is een interactieve installatie die bestaande AI-programma’s gebruikt om ingeslopen vooroordelen in de gegenereerde afbeeldingen te verkennen. Achtergestelde groepen als vrouwen, queers en personen van kleur lopen in veelgebruikte AI programma’s als Dall-E en Midjourney juist meer risico op ondervertegenwoordiging. Tegelijkertijd worden bestaande stereotypen juist versterkt. De installatie is voor het eerste te zien op het Nederlands Filmfestival in Utrecht (t/m 29 september).
De installatie Ctrl.Alt.Img heeft de vorm van een photobooth, die de deelnemer uitnodigt in een privéruimte. De stand is een kleurrijke houten structuur met een gordijn dat de ingang bedekt. Eenmaal binnen neemt de deelnemer plaats voor een scherm met een ingebouwde camera. Vervolgens wordt een foto gemaakt van de deelnemer voor analyse. Dit beeld wordt geanalyseerd op geslacht, leeftijd en etniciteit door een machine learning-applicatie. De resultaten worden voor de deelnemer op het scherm weergegeven.
Fotorealistisch beelden
De deelnemer wordt vervolgens uitgenodigd om deze resultaten naar waarheid aan te passen op een aanraakscherm. Zo kan een beschrijving van een persoonlijke beschrijving van vijf persoonskenmerken. Deze eigenschappen waarmee de deelnemer zich identificeert, kunne bijvoorbeeld ‘hoofddoek dragen’, ‘migrant’, ‘leraar’, ‘moeder’ zijn. De aangepaste gegevens worden vervolgens teruggevoerd naar onze machine learning-applicatie, die met behulp van DALL-E 2 een fotorealistisch beeld van de deelnemer genereert.
Gebruikers kunnen in deze interactieve installatie zien hoe AI beelden maakt van henzelf. Tijdens de hele ervaring worden verschillende fragmenten van beeldmateriaal aan de deelnemers getoond, waardoor de gedachten en ideeën over identiteit en representatie worden onthuld van de mensen die we over dit onderwerp hebben geïnterviewd. Uiteindelijk krijgt de deelnemer vervolgens een afdruk te zien van drie afbeeldingen op één fotoblad:
- 1 een foto van zichzelf
- 2 een DALL-E 2-afbeelding gebaseerd op de gegevens van afbeelding 1
- 3 nog een DAll-E-afbeelding dit tijd op basis van de aangepaste gegevens.
Inclusieve AI tools
Ctrl.Alt.Img is een intiatief van de Amsterdamse ontwerpstudio Affect Lab. Het project biedt een kritische kijk op een toekomst die steeds meer zal worden gevisualiseerd door kunstmatige intelligentie. Veel van de beelden die we dagelijks in de media zien, worden steeds vaker gecreëerd door algoritmen en apps voor het genereren van afbeeldingen. Beeldbanken, grote nieuwsmedia en sociale-mediabedrijven wenden zich nu tot technologieën zoals Dall-E 2 om de wereld om ons heen te visualiseren. Deze ontwikkeling heeft een enorme invloed op de beeldcultuur en ons collectieve bewustzijn, maar hoe zal de wereld er uitzien door de ogen van AI? En zullen wij, de gemiddelde straatmens, enige invloed hebben op de uitkomst? En als nieuwe machine learning-tools worden getraind op bestaande datasets met de oude sociale vooroordelen, hoe kunnen we AI-beelden dan toekomstbestendig maken om inclusiever te zijn?
Voor de realisatie Ctrl.Alt.Img werkte Affect Lab samen met journalistiek productiehuis Prospektor, fotograaf Cigdem Yuksel en creative technologist Babusi Nyoni (Triple Black). Het project is ondersteund Stimuleringsfonds Creatieve Industrie and MediaFutures.
