Tim Brys en François Levrau
En toen was er AI. Hoe mens blijven te midden van machines?
Artificiële Intelligentie, AI dus, valt het voorbije jaar niet meer weg te denken. Om de zoveel tijd kunnen we in de media lezen welke fantastische mogelijkheden en dodelijke risico’s ons te wachten staan, in termen die mij telkens doen denken aan een verkooppraatje vermomd als SWOT-analyse (strenghts, weaknesses, opportunities, threats). De aanpak van Tim Brys (computerwetenschapper) en François Levrau (filosoof) is gelukkig van een ander en hoger niveau. Het effect van een baanbrekende technologie mag dan veel te maken hebben met de technologie op zich, toch zullen de belangrijkste gevolgen het effect zijn van de dominante ideologie waarbinnen zij ontwikkeld, gepromoot en gebruikt wordt. Dat is al geruime tijd de laatste versie van het kapitalisme, beter bekend als de neoliberale efficiëntielogica. Diens effecten op mens en samenleving zijn ondertussen heel erg voelbaar, de vraag is hoe en op welke manier AI daar een rol in zal spelen. Dit is het belangrijkste onderwerp van het boek, met op de achtergrond een pertinent thema: wie willen wij zijn of worden?
Hun antwoord formuleren de auteurs in twaalf onderling verbonden essays, telkens met een sprekende titel (‘De sociale mens’; ‘De vrije mens’; ‘De overbodige mens’…) die elk op zich al de moeite waard zijn. In wat volgt beperk mij tot een selectie, het boek zelf is natuurlijk rijker.
Echt is slecht!
Beeldmateriaal was ooit een weergave van de werkelijkheid, tegenwoordig stellen we ons de vraag of een filmpje echt of ‘fake’ is. Als oplossing worden we hier en daar wat tips and tricks aangereikt om echt van vals te onderscheiden. Soms zijn die bruikbaar, maar ze gaan voorbij aan een fundamenteler en gevaarlijker gevolg van AI-gegenereerd materiaal. Het deed me veel plezier dat Levrau zijn bespreking baseert op Baudrillard, een Franse cultuurfilosoof die al heel vroeg aantoonde hoe de werkelijkheid in vier stappen vervangen kan worden door een nabootsing, die vervolgens de realiteit zelf gaat bepalen. Zo berustte de aardbeismaak in aardbei-ijs in de eerste versies op echte aardbeien. Vervolgens werd de smaak kunstmatig aangemaakt, met een uitdrukkelijke verschuiving (bijvoorbeeld zoeter). In de derde fase keert die kunstmatige smaak overal terug (in yoghurt, in snoep) en gaan mensen haar gebruiken als referentiepunt – dit is hoe een aardbei hoort te smaken. Ten slotte komt de smaak op zich te staan, er is nauwelijks nog een verband met de oorspronkelijke werkelijkheid.
Vervang in deze beschrijving eens het woordje aardbei door seks, en aardbei-ijs door porno? Wat er vandaag in bed gebeurt, is vaak al fase drie: een poging tot ‘echte’ seks in navolging van wat het digitale scherm toont. Alsof dat al niet problematisch genoeg is, installeert AI nu een uitbreiding naar liefdesverhoudingen: met een chatbot kan je urenlang romantische en erotische conversaties voeren; handige digi-boys genereren daarbij aansluitende AI-seksfilmpjes, en klaar komt Kees. De AI-versie gaat een eigen leven leiden, de werkelijkheid hoeft niet langer. Wanneer het dan toch tot echte seks komt, tot echt praten met een echte ander, dan blijkt die altijd inferieur te zijn aan de digitale versie. Help!
Kennis en informatie
Meerdere essays handelen over de vraag of AI kan bijdragen tot onze kennisontwikkeling. Het antwoord is gelaagd: ervaren wetenschappers die gebruik maken van AI om databanken te doorzoeken, diagnostische patronen te herkennen in medische beeldvorming en aan hypothesetoetsing te doen, die zijn terecht verrukt over de mogelijkheden. Maar wat met de wetenschappers van morgen? Vandaag worden kinderen en jongeren opgeleid in scholen die de digitale logica willens nillens omarmen; AI zal dat nog substantieel uitbreiden. Het is nog maar de vraag of zij, eens afgestudeerd, nog over dezelfde vaardigheden zullen beschikken als hun voorgangers. Nu al (dus zonder AI) ligt zowel het kennisniveau als het begrijpend lezen stukken lager dan vroeger, net zoals hun mathematische inzichten – de computer doet het toch voor hen? Dit is zonder twijfel een krachtig argument om het onderwijs tussen zes en achttien zoveel mogelijk toe te spitsen op het kritisch en creatief denkvermogen, in plaats van jongeren te leren hoe ze dit kunnen uitbesteden aan de digitale wereld. In dezelfde lijn ligt het gevaar van zogenaamde ‘sociale’ media. Hebben we echt onderzoek nodig om te ‘bewijzen’ dat de ontwikkeling van kinderen in het gedrang komt wanneer ze dagelijks meerdere uren naar inhoudsloze reels op TikTok kijken, aangestuurd door algoritmes die hen tot consumeren, magerzucht en genderdysforie aanzetten?
De impact op kinderen is, denk ik, het krachtigste voorbeeld om te begrijpen dat het probleem niet bij de digitale wereld in het algemeen en bij AI in het bijzonder ligt. Het probleem zit hem in de achterliggende ideologie en de bijbehorende bedoeling. In eerste instantie lag het accent simpelweg op winstmaximalisatie, waarbij mensen aangezet worden om zoveel mogelijk te consumeren, met gerichte reclameboodschappen gebaseerd op hun internetzoekgedrag. Al snel kwamen de digitale lords tot de vaststelling dat ze naast fast food ook overtuigingen konden promoten, en andere dan weer ridiculiseren. Dat in het recente verleden politieke verkiezingen met en langs de sociale media zwaar beïnvloed werden op grond van valse berichten, is ondertussen aangetoond (Cambridge Analytica, iemand?). Tegenwoordig haalt een meerderheid van de mensen hun informatie niet meer uit onafhankelijke nieuwsbronnen, wel uit digitale platforms en media. De achterliggende sturingsmechanismen (de algoritmes) hebben tot gevolg dat ‘gebruikers’ meer en meer terecht komen bij extremere opvattingen, zonder kans op kritische reflectie.
Overconsumptie, desinformatie en radicalisering zijn gevolgen van de wijze waarop het internet vandaag functioneert; de kans dat AI dit nog vele malen versterkt, is levensgroot. Deze functioneringswijze is niet inherent aan de digitale wereld op zich, wel aan de achterliggende ideologie. Het is niet zo moeilijk om een andere functioneringswijze te bedenken, zonder deze nadelen en met een maximalisatie van de voordelen. Denk aan een zoekalgoritme dat kritische antwoorden oplevert, met voor- en tegenargumenten (bijvoorbeeld over het al dan niet verhogen van de pensioengerechtigde leeftijd), en vervolgens de keuze aan de lezer overlaat.
Manipulatie, surveillance en autonomie
Een bekend onderwerp is de manipulatie die uitgaat van AI-gestuurde systemen.… Lees verder