Redacteur Nieuwe Media
De eerste encycliek van paus Leo XIV over kunstmatige intelligentie, Magnifica Humanitas, is volgens AI-hoogleraar Pim Haselager “een stevige tekst, maar een goede”. De hoogleraar maatschappelijke implicaties van AI aan de Radboud Universiteit noemt het document “goed leesbaar en relevant” en ziet vooral erkenning van bestaande misverstanden over AI.
“Wat ik vaak zie, zijn fundamentele misverstanden over wat AI wel en niet is. Die zie ik hier niet terug”, zegt hij. “Het is een goede, goed geïnformeerde tekst die precies de juiste vragen stelt. AI wordt vaak gelijkgesteld aan menselijke intelligentie, maar dat is precies waar het misgaat.” Volgens Haselager is dat ook de kern van de discussie die de encycliek adresseert. AI simuleert intelligentie, maar is eigenlijk een lege huls: “Het praat wel, maar begrijpt niet.”
Dat de discussie rond AI nu zo urgent voelt, is volgens Haselager deels schijn. Hij werkt al sinds eind jaren zeventig op het terrein en herkent de huidige discussie als een voortzetting van een veel ouder debat. “Er waren steeds weer ontwikkelingen die sneller gingen dan verwacht. De schaakwereldkampioen die werd verslagen door een computer in de jaren negentig, het internet dat alles veranderde, privacyvraagstukken rond cookies – eigenlijk is dit gesprek al decennia oud.”
Toch is er een belangrijk verschil met eerdere technologische golven. “De maatschappelijke impact is nu gigantisch, zeker met systemen als ChatGPT. Nu wil iedereen er alles van weten.”
De encycliek wordt door Haselager niet gelezen als een technofobe waarschuwing. Kritiek van sommige media dat de tekst te negatief zou zijn over AI wijst hij van de hand. “Nee, dat zie ik niet zo. Er is voldoende ruimte voor de mogelijkheden van AI. Ik ben zelf ook wat ik noem ‘professioneel paranoia’. Dat is gezond: je denkt na over wat er mis kan gaan om technologie beter te maken.”
Volgens hem is dat precies wat goede ethiek inhoudt: niet afwijzen, maar scherp analyseren waar risico’s ontstaan. Met die inzichten kun je techniek beter maken, of verantwoord gebruik ervan stimuleren.
Een van de centrale begrippen in de encycliek is dat AI “ontwapend” moet worden. Haselager leest dat op twee niveaus. “Allereerst gaat het om de internationale AI-wedloop tussen landen als de VS, China en Europa. Dat lijkt op eerdere technologische wedlopen, zoals kernwapens. Daar kun je wel degelijk proberen internationale afspraken over te maken.”
Maar er is ook een harder realistisch domein, zegt hij: militair gebruik van AI. “Daar zijn we waarschijnlijk al te ver in. Systemen nemen in sommige gevallen sneller beslissingen dan mensen kunnen ingrijpen. Humans out of the loop betekent dat algoritmes doelwitten selecteren zonder begrip van leven of dood. Dat is praktisch gesproken waarschijnlijk een gepasseerd station, ook al is het in principe af te wijzen. Je moet er wel over blijven praten.”
De encycliek waarschuwt ook voor bredere maatschappelijke effecten, zoals afhankelijkheid van AI in werk en onderwijs. Volgens Haselager is dat al volop zichtbaar. “We zien dat mensen te veel vertrouwen op AI. Er zijn duizenden wetenschappelijke artikelen met foutieve referenties omdat niemand het controleert.”
Dat heeft volgens hem te maken met een fundamentele menselijke neiging: gemak boven controle kiezen. “De mens is van nature liever lui dan moe. Daardoor besteden we cognitief werk uit en worden we minder scherp.”
Ook in het onderwijs is de impact groot. Een terugkeer naar traditionele toetsvormen zoals pen-en-papier ziet hij niet als realistisch. “Dat is praktisch niet haalbaar. Het is te duur en te arbeidsintensief.”
En dat is tegelijk de grootste kans en het grootste risico van AI: dat we alles uitbesteden en menselijke interactie verliezen. “Ik ben zelf al een paar jaar geleden overgestapt op mondelinge tentamens. Ik vind het ergens wel grappig dat een oeroude vorm van menselijke interactie zowat afgedwongen wordt door hypermoderne technologie.”
‘Het is geen handleiding, maar een denkraam over zingeving en mens-zijn. Geen technische gids, maar een reflectie op waarden.’
Haselager benadrukt dat AI niet alleen een technologisch, maar vooral een menselijk probleem zichtbaar maakt. “AI houdt ons eigenlijk een spiegel voor. Het laat zien hoe wij informatie verwerken, maar ook hoe snel we geneigd zijn om het gemak te kiezen.”
Maar AI is niet betrouwbaar. Daarbij speelt ook het risico van zogenoemde ‘zelfvergiftiging’: AI-modellen die worden getraind op hun eigen output. “Dan versterk je vooroordelen. Het lijkt op een biologisch systeem dat afval niet meer filtert. Dat gebeurt ook in sociale bubbels.”
Wat maakt menselijk denken anders? De kern van de encycliek – en volgens Haselager ook de belangrijkste vraag – is uiteindelijk niet technisch maar filosofisch. “Wat menselijk leven zinvol maakt, zoals liefde, empathie en medeleven, ontbreekt volledig in AI.” Daar ligt volgens hem het fundamentele onderscheid. “Hoe meer we mens-mens-interactie vervangen door mens-machine-interactie, hoe meer we verliezen.”
De encycliek biedt volgens Haselager geen concrete beleidsinstructies, maar eerder een reflectiekader. “Het is geen handleiding, maar een denkraam over zingeving en mens-zijn. Geen technische gids, maar een reflectie op waarden.”
In die zin ziet hij het document vooral als een uitnodiging aan de samenleving. “We hebben al veel regelgeving in Europa: GDPR, AI Act. Maar organisaties krijgen daar een punthoofd van. Wat we nodig hebben is niet alleen meer regels, maar werkbare en zinvolle kaders.”
Als hem gevraagd wordt het belangrijkste punt uit de encycliek te benoemen, is hij helder: “Dat menselijke intelligentie fundamenteel verschilt van kunstmatige intelligentie. AI mist precies die elementen die het leven betekenis geven.”
