Robots die menselijke arbeiders overbodig maken en kunstmatig intelligente computers met een verwoestend effect op het democratisch debat: het zijn slechts enkele gevaren die de mensheid meer en meer zullen bedreigen in de digitale toekomst, aldus paus Franciscus.
“Als de zogenaamde technologische vooruitgang tegenover het algemeen welzijn komt te staan, zou dit leiden tot een ongelukkige achteruitgang, naar een vorm van barbaarsheid waar de wet van de sterkste heerst”, zei de paus op 27 september op een door het Vaticaan gesponsorde bijeenkomst over ‘Het algemeen welzijn in een digitaal tijdperk’.
De paus drong er bij de deelnemers op aan een universeel ethisch kader te vinden dat technologische ondernemers, uitvinders en investeerders kan leiden in deze diverse, geglobaliseerde wereld. Onder zijn toehoorders waren CEO’s uit Silicon Valley, een jurist van Facebook, specialisten in robotica, internetveiligheid en digitale oorlogvoering, alsook moraaltheologen.
Door het internet “is het als nooit te voren mogelijk om tendentieuze meningen te verspreiden”. Er is sprake van “foutieve gegevens die het publieke debat kunnen vergiftigen” tot aan het punt van “het in gevaar brengen van instituties die het vredig samenleven garanderen”, waarschuwde de paus.
Ook de andere sprekers op de conferentie spraken waarschuwingen uit op de openingssessie van het driedaagse seminar.
“Velen van ons hoopten dat digitalisering door het vergemakkelijken van de communicatie en het verkorten van de afstand tussen mensen een eenvoudigere omgeving zou scheppen voor discussie en dialoog”, sprak mgr. Paul Tighe, adjunct van de Pauselijke Raad voor Cultuur.
“Ik zeg altijd dat ik investeer in één of meer van de zeven doodzondes”
Tweet dit!
In plaats daarvan hebben de digitale communicatietechnologieën de sociale en economische verschillen vergroot, de politiek gepolariseerd en de menselijke cultuur diep veranderd, aldus Tighe.
Een positieve trend is wel dat zakenlieden en wetenschappers uit de voorhoede van de digitale revolutie de ethische gevolgen van hun werk beginnen te erkennen, volgens de bisschop.
Leiders uit Silicon Valley hebben ingezien dat “slechte handelingen zijn verricht met instrumenten die vanuit de beste intenties werden ontwikkeld”, sprak mgr. Tighe, wat leidde tot een “ommezwaai naar ethiek”.
Degenen die pionieren met toekomstige kunstmatige intelligentie zijn bijvoorbeeld “vastbesloten dat dit op morele wijze wordt ontwikkeld”, zei hij. “Dus horen we zaken als ‘het gaat een moreel juist ontwerp worden’, ‘het gaat ten dienste staan aan de mensheid’, ‘kunstmatige intelligentie draait om het welzijn’, ‘het wordt een mens- of persoonsgerelateerde kunstmatige intelligentie’.”
Volgens hem ligt de belangrijkste uitdaging om het erkennen dat de zoektocht naar het algemeen welzijn vraagt om een gezamenlijk begrip van wat goed is voor menselijke wezens. Hij wees erop dat er geen morele consensus bestaat in de technologische revolutie en haalde een essay uit 2018 aan, geschreven door de Amerikaanse voormalige minister van Buitenlandse Zaken, Henry Kissinger.
Zijn artikel getiteld ‘Hoe de Verlichting eindigt’ stelt dat de wereldorde “aan een omwenteling staat door een nog meer ingrijpende technologische revolutie waarvan we de gevolgen nog niet volledig overzien en waarvan het hoogtepunt een wereld afhankelijk van machines is. Machines die draaien op gegevens en algoritmes en zich niet laten leiden door ethische of filosofische normen.”
“Je browsergeschiedenis bekijken is een moderne vorm van gewetensonderzoek”
Tweet dit!
Mgr. Tighe zei dat de Kerk een ethisch systeem kan brengen in de discussie “waarmee we in de katholieke traditie werken: dat van morele natuurwetten.”
Mitchell Baker, leidinggevende bij Mozilla, zei tot het publiek dat welke morele richtlijnen er ook gevormd zullen worden in de technologische industrie, zij “niet de tradities van wie dan ook zullen volgen”.
“We zullen op zoek gaan naar datgene dat aan de kern staat van de mensheid”, zei ze, “en er een organisatiestructuur omheen bouwen die werkelijk effectief is.”
Reid Hoffman, medeoprichter van LinkedIn en investeerder bij Greylock Partners, zei dat de “werkelijk woeste” competitie tussen de bedrijven een uitdaging wordt bij het ontwikkelen van een gedeeld moreel ideaal in de technologische industrie.
De eerste die een nieuw product op de markt brengt “wint vaak de markt”, zei Hoffman. “Hoe kun je dat competitieve spel spelen en tegelijkertijd aandacht besteden aan deze andere zaken?”
Hoffman zei dat de producten die het beste verkopen vaak de meer basale aspecten van de menselijke natuur aanspreken.
“Ik zeg altijd dat ik investeer in één of meer van de zeven doodzondes”, sprak Hoffman. “Of het nou luiheid, ijdelheid of woede is, of welke doodzonde dan ook. Het zijn natuurlijke neigingen die je overal tegenkomt.”
“Mensen vooruit helpen is het eigenlijke doel, maar een deel van het motief van mensen is dat hogere salaris volgend jaar”
Tweet dit!
“Ik probeer ze niet noodzakelijkerwijs te vergroten, maar je haakt aan op dat niveau van emotionele infrastructuur. Dan kom je in feite tot een erg breedgedragen product”, legde Hoffman uit. “Omdat het doel van Silicon Valley is: hoe krijg ik toegang tot miljoenen mensen?”
LinkedIn haakte in bij hebzucht, zei hij, maar dat was niet het einde van het verhaal.
“We proberen ze te helpen beter te worden, een betere wisselwerking tussen mensen te realiseren, hun professioneel leven beter te ontwikkelen, een koppeling tussen werkende mensen te maken die levenslang samenwerking en relatie bevordert. Dat is het eigenlijke doel, maar een deel van het motief van mensen is dat hogere salaris volgend jaar”, zei Hoffman.
Bisschop Tighe gaf toe dat hij in zijn eigen leven de effecten van de aandachtslurpende methodes van de technologiereuzen voelde.
“Af en toe doe ik aan een moderne vorm van gewetensonderzoek. Dan open ik mijn browsergeschiedenis en bekijk wat ik de afgelopen dagen allemaal heb bezocht op internet”, vertelde hij.
Afgeleid worden door het internet “is mijn zwakte”, zei de bisschop. “Maar zo is het ook ontworpen.”
“Als Kerk hebben we nood aan een oplossing, hoe we mensen bewust kunnen maken van deze dynamiek, hoe we mensen kunnen helpen zich om te draaien en zich toeleggen op de meer edele kant van de mensen en dat naar boven halen”, aldus Tighe.
In een wereld waarin alles voortdurend verandert en onder druk staat, is katholieke kwaliteitsjournalistiek een uniek en kostbaar goed. Op KN.nl heeft u altijd toegang tot het laatste nieuws uit kerk en samenleving, en vindt u uitgebreide reportages en verhelderende analyses van onze gespecialiseerde redacteuren.
Voor maar € 1,40 per week leest u altijd als eerste al het moois dat KN.nl te bieden heeft, heeft u online onbeperkt toegang tot al onze artikelen én steunt u het voortbestaan van de laatste katholieke krant van Nederland.
Dus geef om katholieke kwaliteitsjournalistiek en word lid van KN Online.
