Onlangs werd ik geïnterviewd voor een podcast die ging over digitale veiligheid in het Vaticaan. Wat nou, zo luidde de vraag, als kwaadwillende mensen het Vaticaan zouden hacken? Wat zouden zij kunnen bewerkstelligen? Nou ja, zo relativeerde ik, ook weer niet zo gek veel. Het beeld van de rooms-katholieke Kerk als een soort gigantisch, top-down georganiseerd instituut met een hoofdkwartier in Rome en franchisefilialen wereldwijd verdient wel enige bijstelling.

Digitale kraak

Het is niet zo dat cybercriminelen door het Vaticaan te hacken het digitaal geïnde collectegeld van een parochie in pak ’m beet Kerkdriel kunnen plunderen, of dat ze de klokken van de Stephansdom in Wenen kunnen laten luiden – dat laatste gebeurde trouwens in 2022, maar daarvoor moest het internetgeboefte de Stephansdom zélf hacken (geen idee waarom men het in Oostenrijk nodig vond om de kerkklokken op het internet aan te sluiten).

Het Vaticaan werd in 2018 al eens te kijk gezet door een digitale kraak door een ‘ethische hacker’ uit Vlaanderen, die niet veel meer deed dan het kostelijke bericht plaatsen dat de paus Aalst had uitgeroepen tot paradijs op aarde.

Geen hackersfratsen nodig

Ik vermoed dat weinig sitebezoekers daar intrapten, en dat Aalst destijds geen enorme toestroom van pelgrims zag. Maar hiermee komen we wel bij het échte digitale veiligheidsrisico dat prangend actueel is, en niet alleen voor het Vaticaan: namelijk het steeds echter lijkende nepnieuws dat het internet overspoelt. Daarvoor hoef je helemaal geen hackersfratsen uit te halen, met publiek toegankelijke AI-tools kan iedereen het moeiteloos fabriceren. Google lanceerde onlangs een nieuwe AI-videotool waarmee je kinderlijk eenvoudig akelig echt lijkende nieuwsvideo’s in elkaar kunt draaien.

Je kunt dan ook de paus (of andere wereldleiders) van alles laten zeggen dat hij niet gezegd heeft – ook stukken minder onschuldige en doorzichtige flauwekul als dat Aalst het paradijs op aarde is. Dingen die gemeenschappen kunnen splijten, bevolkingsgroepen tegen elkaar op kunnen zetten, ja zelfs geweld uitlokken. Dat gaat veel verder dan het veiligheidsrisico van gehackte wachtwoorden en digitale diefstal van personen of instanties; dit is een reëel veiligheidsrisico op macroniveau.

Zoete koek

Ik verbaas me er vaak over hoe slecht mensen in staat zijn om AI-content te herkennen – Facebook wordt al tijden overspoeld met overduidelijke nepplaatjes van zielig kijkende katten of toen-en-nu-foto’s van echtparen die zogenaamd al tachtig jaar samen zijn; en uit de likes en reacties blijkt dat met name oudere generaties internetgebruikers het voor zoete koek slikken.

Bijkomend probleem is dat niet alleen mensen, maar ook AI-tools zélf slecht in staat zijn om echt van nep te onderscheiden. Dus ook die AI-systemen zelf, waar we steeds grotere energieslurpende datacentra voor bouwen om ze aan de gang te houden, raken vervuild en verpest door de onzin die ze zelf uitkramen. Ook de goede toepassingen en mogelijkheden die AI weldegelijk biedt, komen zo in gevaar.

Een Rerum Novarum voor het digitale tijdperk

Paus Leo XIV heeft gezegd – maar dan echt – dat kunstmatige intelligentie een belangrijk thema voor zijn pontificaat is; een maatschappelijke ontwikkeling van het kaliber van de Industriële Revolutie die zijn voorganger Leo XIII inspireerde tot Rerum Novarum. Een stevige, gezaghebbende encycliek over de Technologische Revolutie zal inderdaad zeer welkom zijn.