Hoewel kunstmatige intelligentie een formidabel hulpmiddel kan zijn om communicatie en informatie-uitwisseling te vergemakkelijken, kan het niet de unieke menselijke wijsheid bieden die nodig is om het welzijn van mensen en hun gemeenschappen te bevorderen. Dat schreef paus Franciscus in een onlangs gepubliceerde boodschap.

“Ongetwijfeld hebben machines een grenzeloos grotere capaciteit dan mensen om gegevens op te slaan en met elkaar in verband te brengen, maar alleen mensen zijn in staat om die gegevens te begrijpen”, schreef de paus in zijn boodschap voor Wereldcommunicatiedag, die op 12 mei gevierd wordt.

Illusie van almacht

Het gebruik van kunstmatige intelligentie voor het welzijn van de mensheid is “niet simpelweg een kwestie van machines menselijker maken, maar van de mensheid wakker schudden uit de sluimer die is veroorzaakt door de illusie van almacht, gebaseerd op het geloof dat we volledig autonome subjecten zijn, los van alle sociale banden en vergetend dat we door God geschapen schepselen zijn”, aldus de paus.

Het thema voor de werelddag van 2024 is ‘Kunstmatige intelligentie en de wijsheid van het hart: Naar een volledig menselijke communicatie’. Paus Franciscus had in zijn boodschap voor de viering van de Werelddag van de Vrede op 1 januari ook al uitvoerig stilgestaan bij kunstmatige intelligentie, en de kansen en bedreigingen die de technologie biedt in oorlogsvoering en vredesprocessen.

Andere manier van kijken

De boodschap voor Wereldcommunicatiedag werd vrijgegeven op 24 januari, de feestdag van de heilige Franciscus van Sales, patroonheilige van journalisten.

“In deze tijd van de geschiedenis, die rijk dreigt te worden aan technologie en arm aan menselijkheid, moeten onze overwegingen beginnen bij het menselijk hart”, schreef de paus daarin. “Alleen door een spirituele manier van kijken naar de werkelijkheid aan te nemen, alleen door een wijsheid van het hart terug te vinden, kunnen we de nieuwheid van onze tijd confronteren en interpreteren en de weg naar een volledig menselijke communicatie herontdekken.”

‘Cognitieve vervuiling’

“Zulke wijsheid kan niet worden gezocht bij machines”, voegde de paus eraan toe.

Kunstmatige intelligentiesystemen kunnen kennis uit het verleden toegankelijker maken of mensen verbinden die geen gemeenschappelijke taal delen, maar het is ook een bron van “cognitieve vervuiling” die gedeeltelijk of geheel valse verhalen produceert die worden voorgesteld als waarheid, zei hij.

Deepfakes

De paus waarschuwde voor het gevaar van nepnieuws en deepfakes – de opzettelijke manipulatie van iemands gelijkenis met behulp van generatieve technologie – en merkte op dat ook hij zelf aan dit fenomeen is blootgesteld.

In maart 2023 was paus Franciscus het onderwerp van een door AI geproduceerde afbeelding die hem toonde in een witte pofjas van een luxe modemerk. De afbeelding ging viraal op Twitter (nu bekend als X) en het oorspronkelijke bericht werd meer dan 20 miljoen keer bekeken. De commentaren maakten duidelijk dat veel mensen dachten dat de afbeelding echt was.

Algoritmes

De paus uitte ook zijn bezorgdheid over de huidige ontwikkeling van algoritmes, die volgens hem “niet neutraal zijn”.

Samenlevingen moeten preventief handelen en regels opstellen voor het gebruik van algoritmen “om schadelijke, discriminerende en sociaal onrechtvaardige effecten van het gebruik van systemen van kunstmatige intelligentie te voorkomen.” Wanneer algoritmen oneigenlijk gebruikt worden, zo waarschuwde de paus, komt de pluriformiteit van meningen in het geding en raakt de publieke opinie verder gepolariseerd.

Echokamers

Paus Franciscus zei ook dat kunstmatige intelligentie, met haar potentieel om mensen online op te sluiten in “echokamers”, schade zou kunnen aanbrengen aan de “complexe, multi-etnische, pluralistische, multireligieuze en multiculturele samenleving” die de mensheid moet vormen.

Hij zei dat kunstmatige intelligentie ook wordt gebruikt om de “parallelle oorlog” van desinformatie aan te wakkeren die bovenop de gewapende strijd wordt uitgevochten, en hij zei dat we alleen door “direct contact met het lijden van kinderen, vrouwen en mannen, de absurditeit van oorlogen kunnen inzien”.

Vragen

Daarnaast zei de paus dat AI “een positieve bijdrage kan leveren aan de communicatiesector, op voorwaarde dat het de rol van de journalistiek ter plekke niet wegneemt, maar dient om deze te ondersteunen”.

Paus Franciscus eindigde zijn boodschap met een opsomming van verschillende vragen die nog overwogen moeten worden bij de ontwikkeling van kunstmatige intelligentie, waaronder: “Hoe maken we duidelijk of een beeld of video een gebeurtenis uitbeeldt of simuleert? Hoe voorkomen we dat bronnen worden gereduceerd tot één enkele, waardoor één enkele benadering wordt bevorderd, ontwikkeld op basis van een algoritme?”

‘Nieuwe vorm van slavernij’

“De antwoorden die we geven op deze en andere vragen zullen bepalen of kunstmatige intelligentie uiteindelijk nieuwe sociale kasten zal creëren op basis van toegang tot informatie en zo aanleiding zal geven tot nieuwe vormen van uitbuiting en ongelijkheid”, zo schreef hij.

Of de mensheid al dan niet een groter bewustzijn ontwikkelt van de “epochale verandering die we meemaken”, zei hij, zal bepalen of kunstmatige intelligentie “een nieuwe vorm van slavernij” wordt waarin “een selecte groep het leven van anderen kan bepalen”, of een middel tot vrijheid waarmee “alle mensen kunnen deelnemen aan de ontwikkeling van het denken”.