De beslissing over leven of dood mag niet aan een ‘killer robot’ worden uitbesteed. Het gebruik ervan vormt een ernstige bedreiging voor onschuldige burgers, zo stellen het Vaticaan en katholieke organisaties.
Internationale bijeenkomsten over dit onderwerp die afgelopen zomer door de NAVO en de VN gepland stonden, zijn vanwege de coronacrisis uitgesteld. Desalniettemin wordt het onderwerp voortdurend door het Vaticaan onder de aandacht gebracht.
“Autonome wapens veranderen de aard van oorlogvoering onomkeerbaar”
Tweet dit!
De meest recente waarschuwingen kwamen begin augustus van de permanente waarnemersmissie van het Vaticaan aan de VN-agentschappen in Genève. De Vaticaanse functionarissen zeiden te vrezen dat de nieuwe dodelijke wapens, zoals robots met kunstmatige intelligentie, “mogelijk ernstige gevolgen met zich meebrengt voor vrede en stabiliteit”.
In de regel wordt de term ‘killer robots’ gebruikt voor autonome dodelijke wapens. Killer robots handelen onbemand – of zelfs zonder tussenkomst van een mens – en worden aangestuurd door algoritmes. Ze kunnen worden geïntegreerd in een tank, gevechtsvliegtuig of een oorlogsschip. De robot kiest op basis van geprogrammeerde regels en methodes het doel en valt die aan.
In september 2020 sprak de paus de Algemene Vergadering van de VN toe over killer robots. Hij zei toen dat in een wereld waar het multilateralisme aan het uithollen is, autonome wapens “de aard van oorlogvoering onomkeerbaar veranderen en het verder losmaken van menselijk handelen”.
Twee maanden later, in november, richtte de paus zijn maandelijkse gebedsintentie op kunstmatige intelligentie. Hij nodigde de mensen uit om te bidden dat elke vooruitgang altijd “de mensheid zal dienen”, de menselijke waardigheid zal respecteren en de schepping zal beschermen.
Daan Kayser, projectleider autonome wapens bij PAX – de Nederlandse partner van de internationale katholieke vredesbeweging Pax Christi International – stelt dat de mensheid een “rode lijn” overschrijdt met elk wapen dat het gemakkelijker maakt om te doden. Hij waarschuwt dat wiskundige algoritmen in gezichtsherkenningssoftware de verzamelde gegevens verkeerd kunnen interpreteren.
Dit soort beslissingen mogen volgens hem niet aan machines worden uitbesteed. Wapens moeten onder “betekenisvolle menselijke controle” blijven.
Voorstanders van ontwapening, waaronder Pax Christi International, pleiten ervoor om killer robots te verbieden of te beperken en toe te voegen aan de veertig jaar oude Conventie over Bepaalde Conventionele Wapens. De zesde herzieningsconferentie over de Conventie zal van 13 tot en met 17 december in Genève plaatsvinden.
Inmiddels meldt Campaign to Stop Nuclear Weapons dat ten minste 30 landen, 4.500 experts op het gebied van kunstmatige intelligentie en het Europees Parlement een internationale overeenkomst steunen om autonome wapens te verbieden.
Echter, landen als de Verenigde Staten, China, Israël, Rusland, Zuid-Korea en het Verenigd Koninkrijk – die het voortouw nemen in de ontwikkeling van de autonome wapens – hebben tegengestelde belangen en vrezen voor de nadelige gevolgen van een verbod. Datzelfde geldt voor de wapenfabrikanten en de makers van kunstmatige intelligentie.
Tot een verbod op killer robots zal het niet komen, denkt Robert Latiff, een katholieke gepensioneerde generaal-majoor van de Amerikaanse luchtmacht die ethiek van opkomende technologieën doceert aan een Amerikaanse universiteit. Oorlogvoering wordt immers ook niet verboden.
Daarbij zijn de bestaande internationale wetten inzake oorlogvoering volgens hem voldoende om de ethische zorgen rondom het gebruik van ieder wapensysteem aan te pakken. Wel suggereert hij dat landen met autonome wapens ermee zullen instemmen dat het gebruik ervan wordt beperkt tot de militaire slagvelden.
Het Vaticaan probeert ondertussen met de ontwikkelaars van autonome wapens in gesprek te gaan. De Pauselijke Academie voor het Leven riep in februari 2020 een groep technologieleiders bijeen om kunstmatige intelligentie in bredere zin te bespreken.
De bijeenkomst leidde tot de ‘Rome Call for AI Ethics’. In dit document worden de voordelen van kunstmatige intelligentie erkend, maar er wordt dringend op gewezen dat ethische overwegingen de belangrijkste overwegingen zijn vanaf het begin van de ontwikkeling ervan.
Het document werd ondertekend door aartsbisschop Vincenzo Paglia, voorzitter van de Pauselijke Raad voor het Leven; Brad Smith, president van Microsoft; John Kelly III, uitvoerend vicepresident van IBM; en vertegenwoordigers van de Voedsel- en Landbouworganisatie van de VN en het Ministerie van Innovatie van de Italiaanse regering.
(Bron: Catholic News Service)
In een wereld waarin alles voortdurend verandert en onder druk staat, is katholieke kwaliteitsjournalistiek een uniek en kostbaar goed. Op KN.nl heeft u altijd toegang tot het laatste nieuws uit kerk en samenleving, en vindt u uitgebreide reportages en verhelderende analyses van onze gespecialiseerde redacteuren.
Voor maar € 1,40 per week leest u altijd als eerste al het moois dat KN.nl te bieden heeft, heeft u online onbeperkt toegang tot al onze artikelen én steunt u het voortbestaan van de laatste katholieke krant van Nederland.
Dus geef om katholieke kwaliteitsjournalistiek en word lid van KN Online.
