Vanaf vandaag laat journalist/onderzoeker Theo Ploeg elke laatste vrijdag van de maand zijn licht schijnen over de laatste ontwikkelingen in tech – en vooral wat het met ons doet. Vandaag: Waarom technologie niet onze vijand is.
Vorige week benoemde de Hogeschool van Amsterdam Marleen Stikker tot Professor of Practice. De oprichter en directeur van onderzoeksinstelling Waag had een belangrijke boodschap voor haar studenten: sta kritisch tegenover technologie. Klinkt niet verkeerd. Niets mis met een kritische houding.
Technologie heeft de schijn tegen. Algoritmes leiden tot polarisatie en radicalisering. Cambridge Analytica beïnvloedde – met van Facebook verkregen data de presidentsverkiezingen in de Verenigde Staten en de stemming voor Brexit. Door president Trump van hun social media-platforms te verbannen, ondermijnen big tech-bedrijven het democratisch proces.
In de documentaire Coded Bias laat Shalini Kantayya zien hoe kunstmatige intelligente mensen beoordeelt op hun huidskleur. Eerder bekenden designers al schuld in The Social Dilemma: zij gingen op de knieën voor de rol die zij speelden in het creëren van sociale media die ons verslaafd maken aan scrollen, liken en retweeten. Ondertussen polariseren wij, comfortabel in onze filter-bubbels. Met dank aan de algoritmes die onze (voor)oordelen bevestigen.
Ho, maar wacht eens even?
Hebben wij dan zelf helemaal geen invloed op ons eigen gedrag? Natuurlijk wel, betoogt filosoof Miriam Rasch in haar boek Frictie: Ethiek in Tijden van Dataïsme. We zijn gaan geloven in de patronen en modellen waarin we onszelf omschrijven. Wij zijn onze data geworden. Taal speelt daarin een bepalende rol. Professor Digitale Media Axel Bruns onderzocht in hoeverre het gebruik van metaforen als de filterbubbel en ‘echo chamber’ leidt tot een beter inzicht in hoe wij ons tot technologie verhouden. Zijn oordeel is hard: ze zorgen er vooral voor dat wij technologie blijven zien als iets buiten onszelf.
Technologie die onaantastbaar is, ons onderdrukt en overheerst. Dat maakt de big tech-bedrijven kwaadaardige entiteiten die technologie gebruiken om ons te manipuleren en te beïnvloeden zonder dat we er iets tegen kunnen doen. Dat geloof zit diep. David Sumpter, professor Toegepaste Mathematica aan de Universiteit van Uppsala, onderzocht uitgebreid in hoeverre algoritmes ons sturen in ons gedrag. Dat blijkt veel minder het geval dan we denken. De claim dat Cambridge Analytica de Amerikaanse verkiezingen zou hebben gestolen, verwijst hij onderbouwd naar de prullenbak.
Waarom blijven we dan toch vasthouden aan het idee dat technologie ons bedreigt? Een mogelijke verklaring is dat wij een cultuur hebben gecreëerd waarin wij onze eigen angsten projecteren op een abstracte ‘ander’: vluchtelingen, viruswaanzingekkies, snowflakes, mainstream media, de overheid, technologie. Liever veroordelen we Twitter voor het verbannen van Trump, dan te erkennen dat wij hebben gefaald als samenleving.
Designers kunnen ons helpen door technologie te ontwerpen die ons het eigenaarschap terug geeft, ons er bewust van maakt dat wij onze technologie zijn. Technologie houdt ons een spiegel voor en toont ons wie we werkelijk zijn. Technologie is niet onze vijand. We kunnen ermee laten zien dat een andere, betere wereld mogelijk is. Laten we zulke technologie ontwerpen.
Theo Ploeg is als design socioloog verbonden aan Amsterdam Fashion Institute (AMFI) en International Music Academy Lab (IMA-Lab), met zijn eigen Studio Hyperspace experimenteert hij met speculative design en voert hij het Speculative Now.-platform.
Keep on digging!
- Miriam Rasch (2020). Frictie: Ethiek in Tijden van Dataïsme. Amsterdam: De Bezige Bij.
- Axel Bruns (2019). ‘It’s Not the Technology, Stupid: How the ‘Echo Chamber’ and ‘Filter Bubble’ Metaphors Have Failed Us’. Paper gepresenteerd op de IAMCR 2019 conference Madrid, 7-11 July.
- David Sumpter (2018). Outnumbered: from Facebook and Google to Fake News and Filter-Bubbles — the Algorithms That Control Our Lives. New York: Bloomsbury Sigma.
- Shalini Kantayya (2020). Coded Bias. New York: 7th Empire Media.
- Jeff Orlowski en Larissa Rhodes, Larissa (2020). The Social Dilemma. Boulder, CO: Exposure Labs, Malibu, CA: Argent Pictures