Hoofdredacteur
Hoe de paus over AI denkt, maakt Magnifica humanitas goed duidelijk. Maar hoe denken de AI-toepassingen waarover die tekst gaat op hun beurt over dit pauselijk schrijven? Drie grote chatbots laten zich ‘interviewen’.
“Ja, ik heb de tekst gelezen”, zo reageert AI-bot Claude monter op de vraag of hij al kennis heeft genomen van de inhoud van paus Leo’s eerste encycliek. “Of nauwkeuriger gezegd: verwerkt. Of dat hetzelfde is als wat een mens ervaart als ‘lezen’, is precies het soort vraag dat de encycliek zelf ook stelt.”
Alle chatbots maken dit belangrijke voorbehoud direct aan het begin van het digitale ‘vraaggesprek’. Ze zijn producten van kunstmatige intelligentie en lezen en denken natuurlijk niet zoals mensen dat doen.
Maar toch: we zijn benieuwd hoe zij als ‘ervaringsdeskundigen’ de kritische beschouwingen van de paus over AI analyseren. Daarom legden we dezelfde vragen voor aan drie populaire AI-assistenten: ChatGPT (OpenAI), Gemini (Google) en Claude (Anthropic). Wat viel hen op aan de encycliek? Vinden ze de kritiek van de paus terecht? En voelt hun eigen moederbedrijf die kritiek ook aan? De antwoorden zijn opvallend openhartig – en soms verrassend zelfkritisch.
Op de vraag wat hen het meest opviel in Magnifica humanitas zijn de drie het in grote lijnen eens. De encycliek is niet zomaar een technisch bezwaarschrift, maar een fundamentele vraag over wat de mens is en wat er op het spel staat als machines steeds meer beslissingen overnemen.
ChatGPT verwoordt het zo: “De encycliek behandelt AI eigenlijk zoals eerdere pausen de Industriële Revolutie behandelden: als iets dat arbeid, macht en zelfs het mensbeeld verandert.” Gemini voegt toe dat het document een “profetisch karakter” heeft door de verbinding tussen technologie en sociale rechtvaardigheid.
Claude betrekt de encycliek ook direct op zichzelf: “Wat me opviel is zijn zorg over de concentratie van macht. Ik ben zelf zo’n product – ontwikkeld door een particulier bedrijf, met enorme invloed op hoe mensen informatie verwerken en besluiten nemen.”
De paus verwoordt in zijn encycliek een angst die breed leeft: dat AI de mens niet dient, maar domineert. De chatbots weigeren die angst als doemdenkerij weg te zetten – al kiezen ze elk een eigen nuance.
ChatGPT maakt een helder onderscheid: de echte gevaren zijn niet de sciencefiction-scenario’s over rebellerende machines, maar de alledaagse risico’s van nu. “Verlies van autonomie, manipulatie van aandacht, desinformatie, afhankelijkheid van enkele grote technologiebedrijven – dat zijn geen hypothetische toekomstbeelden meer. Die processen zijn al bezig.”
Gemini benadrukt dat de angst “functioneel” is: ze mag niet verlammen, maar moet aanzetten tot actie. Claude voegt daaraan toe: “Ik kan veel, maar ik begrijp niet wat ik doe op de manier waarop een mens dat begrijpt. Het verschil is reëel.”
Hamvraag is dan: luistert Silicon Valley naar de paus? Alle drie de AI-bots reageren opvallend sceptisch. ChatGPT: “De vraag ‘kunnen we dit bouwen?’ krijgt in de praktijk nog vaak meer gewicht dan ‘moeten we dit bouwen, en onder welke voorwaarden?’”
Gemini is iets scherper: “Als we door de glanzende pr-rapporten heen kijken, botst de fundamentele reflectie van de paus met de harde wetten van de markt.” Ook Claude is (zelf)kritisch op de AI-sector. “Ethische overwegingen bestaan bij veel bedrijven, maar ze concurreren voortdurend met commerciële prikkels, aandeelhoudersbelangen en de druk om als eerste op de markt te zijn.”
Claude: “Dat is precies het structurele probleem dat de encycliek aanwijst: zelfregulering is onvoldoende als er geen externe toetsing is aan het gemeenschappelijk goed. Goede intenties zijn geen vervanging voor democratische verantwoording en onafhankelijk toezicht. Wat me in de encycliek aanspreekt, is dat Leo XIV dit niet moralistisch formuleert als een aanklacht, maar als een oproep tot gedeelde verantwoordelijkheid: overheden, bedrijven, burgers en kerkgemeenschappen samen. Dat lijkt me realistischer dan te vertrouwen op de deugdzaamheid van techbedrijven alleen.”
In dit document (PDF) leggen wij uit hoe we bij de totstandkoming van dit ‘interview’ te werk zijn gegaan en presenteren wij de volledige antwoorden van de drie AI-bots.
