De opmars van kunstmatige intelligentie is onvermijdelijk. Katholieke gelovigen hebben de concrete verantwoordelijkheid om zich in het debat over AI te mengen – en in verzet te komen als de menselijke waardigheid op het spel staat.
“Wij zijn de tijden; zoals wij zijn, zo zijn de tijden.” Met deze woorden sprak de heilige Augustinus in 410 na Christus zijn medeburgers toe toen Rome door koning Alarik I werd geplunderd. Velen zagen dit als een catastrofe buiten elke menselijke controle. Maar Augustinus stelde het anders: wij zijn zelf verantwoordelijk voor de tijden waarin we leven. Niet het lot of de goden bepalen onze toekomst, maar onze eigen keuzes en daden.
Vandaag staan we opnieuw voor een technologische revolutie die door sommigen wordt gezien als een bedreiging en door anderen als een redding: kunstmatige intelligentie (AI). Net als in 410, en later in 1891 toen paus Leo XIII met Rerum Novarum reageerde op de industriële revolutie, is het aan ons om de toekomst vorm te geven. De vraag is niet óf AI komt, maar hoe we ermee omgaan.
Frank Hartmann en Arnout van Kempen stellen in hun essay Ecce homo (KN 49) een fundamentele vraag: wat onderscheidt de mens van AI? Hun antwoord: niet onze creativiteit of ons denkvermogen, maar ons vermogen tot lijden of menszijn. Deze filosofisch-theologische these raakt aan de kern van de katholieke visie op de mens en heeft directe gevolgen voor hoe we AI in onze samenleving – en met name in de zorg – moeten inzetten.
Stel je voor: een 78-jarige vrouw met suikerziekte en hartproblemen komt bij haar huisarts met klachten. Een AI-systeem analyseert haar medische geschiedenis en adviseert bepaalde behandelingen niet, omdat de kans op herstel statistisch te laag is.
Of denk aan de toeslagenaffaire, waar duizenden gezinnen werden geruïneerd omdat een computersysteem hen als “frauderisico” bestempelde, vaak simpelweg omdat ze een dubbele nationaliteit hadden.
AI-systemen beslissen vandaag al mee over zorgverlening, uitkeringen, leningen en sollicitaties. Maar hebben we dat eigenlijk wel door? De computer geeft een advies en de ambtenaar of arts zou dat advies kunnen volgen.
Hier botsen we op een fundamenteel probleem. Want wat gebeurt er met de 78-jarige vrouw in dit voorbeeld? Zij kan worden gereduceerd tot een verzameling gegevens. Haar unieke levensverhaal, haar vrees, haar hoop, haar waardigheid als mens: dat alles kan verdwijnen achter de koude logica van het algoritme – een computersysteem kent geen emotie of ethiek, kan geen morele beslissingen nemen over mensen die wél lijden en verlies ervaren.
De katholieke traditie heeft altijd benadrukt dat de mens meer is dan zijn ratio, meer dan een denkende machine. Thomas van Aquino schreef al in de dertiende eeuw dat de mens een eenheid is van lichaam en ziel – niet een geest die toevallig in een lichaam huist, zoals software op een computer. We zijn belichaamde wezens. Dat lichaam is geen bijzaak, maar wezenlijk voor ons menszijn.
Een computersysteem kent geen emotie of ethiek en kan geen morele beslissingen nemen over mensen die wél lijden en verlies ervaren
Deze visie klinkt door in de sociale leer van de Kerk. Denk aan het principe van de menselijke waardigheid: elk mens, hoe oud, ziek of kwetsbaar ook, bezit een onvervreemdbare waardigheid die niet kan worden uitgedrukt in cijfers of statistieken. Of aan het principe van subsidiariteit: beslissingen moeten zo dicht mogelijk bij de betrokken mensen worden genomen, niet door verre, onpersoonlijke systemen.
Wanneer we AI-systemen zomaar toestaan om autonoom beslissingen te nemen over mensenlevens, schenden we deze principes. We reduceren de unieke, lijdende persoon tot een datapoint. We vervangen de zorgvuldige afweging van de professional die de patiënt kent door de schijnbare zekerheid van statistische patronen.
Het personalisme, een filosofische stroming die diepgeworteld is in de katholieke traditie, uitgewerkt door denkers als Jacques Maritain, Romano Guardini en Karol Wojtyła (later paus Johannes Paulus II), benadrukt dat de persoon fundamenteel ondeelbaar is.
Je kunt een mens niet begrijpen door hem op te delen in eigenschappen, cijfers of categorieën. Elke persoon is uniek, onvervangbaar, een mysterie. Dit staat lijnrecht tegenover de manier waarop AI werkt: door patronen te herkennen in grote groepen, door te generaliseren, door het unieke te herleiden tot het gemiddelde.
Nederlandse ziekenhuizen zijn zich bewust van de mogelijkheden die AI biedt voor betere zorg – snellere diagnostiek, accuratere risicoschattingen, meer tijd voor persoonlijk contact – maar ook van de risico’s
Daarom hebben ziekenhuizen ethiekcommissies en AI-werkgroepen die deze risico’s expliciet onderkennen en bewaken. Ze stellen kritische vragen voordat een systeem wordt ingevoerd: is het betrouwbaar? Voor welke patiëntengroepen werkt het wel en niet? Kan het discrimineren? Staan de arts en de verpleegkundige werkelijk aan het roer?
Deze ziekenhuizen volgen daarmee niet alleen de wet, zoals de AI Act, maar nemen ook morele verantwoordelijkheid. Ze beseffen dat het niet voldoende is om een technisch geavanceerd systeem aan te schaffen. Ze moeten ook waarborgen dat het systeem gebruikt wordt op een manier die de menselijke waardigheid respecteert.
Daarbij gaat het om twee cruciale elementen: gedegen validatie vooraf en betekenisvolle menselijke tussenkomst bij het gebruik. Validatie betekent dat een AI-systeem grondig technisch en ethisch wordt getest voordat het wordt toegelaten. Een systeem dat getraind is op foto’s van een lichte huid zal systematisch falen bij patiënten met een donkere huidskleur. Goede validatie ontdekt dit vooraf en stelt duidelijke grenzen aan het gebruik.
De Europese wetgeving verplicht voor risicovolle AI-systemen een toets: wordt de menselijke waardigheid gerespecteerd? Wordt niemand gediscrimineerd? Blijft de privacy beschermd? Vanuit de katholieke visie op de mens kunnen we deze vragen nog scherper stellen: wordt de patiënt als persoon benaderd, of als datadrager? Wordt kwetsbaarheid beschermd of uitgebuit?
De manier waarop AI onze samenleving vormgeeft, is geen lot dat ons overkomt
Maar zelfs het best gevalideerde systeem kan falen. Daarom is menselijke tussenkomst cruciaal, en dan bedoel ik niet dat een arts gedachteloos op ‘akkoord’ klikt.
Echte menselijke tussenkomst vereist drie dingen: de arts moet begrijpen waarom het systeem tot een bepaald advies komt. De arts moet daarnaast ruimte hebben qua tijd, organisatie en mandaat om af te wijken van het AI-advies. En tot slot moeten afwijkingen worden geanalyseerd om te leren; regelmatige terechte afwijkingen wijzen op blinde vlekken in het systeem. Deze eisen erkennen dat alleen een mens werkelijk verantwoordelijkheid kan dragen voor beslissingen over een lijdende medemens.
De toeslagenaffaire liet zien wat er misgaat wanneer deze principes worden geschonden. Het systeem was niet gevalideerd op discriminatie en discrimineerde vervolgens massaal op basis van nationaliteit. Menselijke tussenkomst was er formeel wel, maar in de praktijk niet: ambtenaren volgden het systeem blindelings, zelfs als het absurde uitkomsten gaf.
Het gevolg was een menselijke tragedie van ongekende omvang. Dit alles omdat een computersysteem mensen had gereduceerd tot risicoprofielen en omdat enkele ambtenaren hun vermogen tot meevoelen, kritisch nadenken en verantwoordelijkheid nemen hadden uitbesteed aan een machine. Dit is geen technisch falen: het is een moreel falen.
Augustinus’ woorden klinken vandaag opnieuw: wij zijn de tijden. De manier waarop AI onze samenleving vormgeeft, is geen lot dat ons overkomt. Het is een keuze die wij maken. Of als we niet opletten: een keuze die we nalaten te maken.
Voor katholieke gelovigen betekent dit een concrete verantwoordelijkheid. We kunnen niet volstaan met het benoemen van principes. We moeten ons mengen in het publieke debat over AI, in de ziekenhuizen waar we werken, in de gemeenschappen waar we deel van uitmaken. We moeten kritische vragen durven stellen. En we moeten wanneer nodig verzet bieden tegen systemen die de menselijke waardigheid schenden. Niet uit technofobie, maar uit trouw aan de waarheid over de mens.
Mogelijk komt er van paus Leo XIV een nieuwe encycliek over AI, zoals onder meer Hartmann en Van Kempen verwachten, een Nova Rerum Novarum. Een encycliek voor het digitale tijdperk, die de sociale leer van de Kerk toepast op de uitdagingen van kunstmatige intelligentie.
Zo’n encycliek zou niet alleen moeten waarschuwen voor de gevaren, maar ook richting geven: hoe kunnen we AI inzetten ten dienste van de mens, in plaats van de mens ondergeschikt te maken aan efficiëntie en winstmaximalisatie?
Naast Nos sumus tempora – wij zijn de tijden – staat ook Ecce homo – zie de mens. Deze woorden van Pilatus, uitgesproken toen hij de gegeselde Christus aan het volk toonde, richten onze blik op wat wezenlijk is: de mens als lijdend, kwetsbaar, sterfelijk wezen.
Als we de moeilijke vragen niet uit de weg gaan, wordt AI wat het zou moeten zijn: een krachtig hulpmiddel ten dienste van de lijdende mens
Deze twee uitspraken vormen samen het kompas voor ons omgaan met AI. Nos sumus tempora herinnert ons aan onze verantwoordelijkheid: wij bepalen hoe AI wordt vormgegeven, welke systemen we toelaten, welke grenzen we stellen, welke waarden we beschermen.
Ecce homo herinnert ons aan de grenzen van die verantwoordelijkheid: wij zijn en blijven mensen, geen goden. Wij zijn kwetsbaar, sterfelijk, afhankelijk van elkaar. En juist daarom kunnen wij meevoelen met de kwetsbaarheid van de ander – iets wat een machine nooit zal kunnen.
Wanneer ziekenhuizen AI invoeren met zorgvuldige validatie en echte menselijke tussenkomst, wanneer ethiekcommissies moeilijke vragen durven stellen en wetgevers strenge eisen stellen aan systemen die over mensenlevens meebeslissen, dan nemen we onze verantwoordelijkheid waar.
Dan wordt AI wat het zou moeten zijn: een krachtig hulpmiddel ten dienste van de lijdende mens. Als we die verantwoordelijkheid niet nemen, dan schenden we niet alleen onze plicht als burgers, maar ook als christenen.
De technologische revolutie is niet te stoppen. Maar we kunnen wel richting geven aan hoe die revolutie zich voltrekt. Wij zijn de tijden! Laten we die tijden vormgeven vanuit een diep besef van wat de mens werkelijk is: niet een rekenmachine van vlees en bloed, maar een mysterie van lijden en liefde, van kwetsbaarheid en waardigheid, geschapen naar het beeld van God.
Eric Masseus is functionaris gegevensbescherming en lid van de commissie ethiek in ziekenhuis Tergooi MC, voorzitter van een AI-werkgroep van de Nederlandse Vereniging van Ziekenhuizen en actief NSC-lid.
