<

Geef om katholieke journalistiek

doneer
image
Commentaar

Een chatbot die alles uit z’n digitale duim zuigt

Anton de Wit 4 februari 2025

Kunstmatige intelligentie: het is prachtig wat er allemaal mee kan, en waar het behulpzaam kan zijn, experimenteer ik er graag mee. Maar dat je ermee op moet passen bleek laatst, toen ik ChatGPT eens inzette voor researchdoeleinden.

Het betrof een vraag uit particuliere liefhebberij: ik had ooit eens gelezen dat er een jezuïet was die indertijd felle kritiek had geleverd op de componist Giovanni Battista Pergolesi omdat hij diens beroemde Stabat Mater te sentimenteel vond. Alleen: ik wist de naam van de betreffende criticus niet meer, en kon die via Google ook met geen mogelijkheid achterhalen.

Giovanni Carlo Maria Vittorini

ChatGPT wist het wel in één keer. Het was de pater jezuïet Giovanni Carlo Maria Vittorini, zo meldde de kunstmatige chatbot me vol zelfvertrouwen. Ik vroeg hem ook op welke bronnen hij zich baseerde, en hij gaf me per ommegaande een waslijst aan biografieën en wetenschappelijke publicaties.

Heel fijn, dacht ik, hiermee kan ik verder. Maar toen ik met deze informatie verder ging zoeken, kwam ik al snel achter iets eigenaardigs: noch die pater Vittorini, noch de genoemde bronnen hebben ooit echt bestaan. De chatbot had alles volledig uit z’n digitale duim gezogen.

Oppervlakkige fantasieën

Het Vaticaan heeft onlangs een belangrijke notitie gepubliceerd over kunstmatige intelligentie, waarin deze en andere zorgen ook verwoord worden. Kansen en mogelijkheden zijn er te over, erkent dit document ook volmondig, maar hebben we wel écht zicht op de consequenties, op de risico’s van desinformatie?

En meer fundamenteel: snappen we wel wat menselijke intelligentie ten diepste is? Met welk ethisch, filosofisch en antropologisch kader beoordelen we deze ontwikkelingen überhaupt?

image
Foto: Barbara Zandoval - Unsplash

Het probleem is dat zulke wezenlijke vragen veel te weinig worden gesteld in het debat over kunstmatige intelligentie. In feite voeden we dat debat op onze beurt ook met een heleboel oppervlakkige fantasieën.

De tech-optimisten fantaseren over de eindeloze mogelijkheden, over hoe de wereldvrede uit zal breken, honger, ongelijkheid en klimaatproblemen definitief uit de wereld zullen worden geholpen. De tech-pessimisten schetsen juist Hollywoodwaardige doemscenario’s over zelfdenkende computers die de wereld gaan overnemen.

Altijd gelijk

Het hele AI-debat wordt zo omgeven door speculatie, door overspannen verwachtingen en angsten – ergo: met alle dingen die wij mensen uit onze dikke duim gezogen krijgen. En dan vinden we het gek dat die zogenaamd ‘intelligente’ systemen ons allerlei bij elkaar gefantaseerde informatie voorschotelen.

https://www.kn.nl/opinie/

Die systemen doen niks anders dan ons verstand – en gebrek daaraan – nabootsen; met slimme en snelle berekeningen bepalen welke onzin een mens van vlees en bloed mogelijk zou uitkramen, en dat dan met veel aplomb uitkramen. Probeer het maar eens, ChatGPT geeft je altijd gelijk, het systeem is erop ingericht om ons naar de mond te praten, niet om ons kritisch te leren denken.

De juiste vragen

Het is te hopen dat het Vaticaanse document over AI méér mensen bereikt dan het handjevol katholieken dat ook daadwerkelijk de moeite neemt om zulke epistels te lezen. Het stelt de juiste vragen – vragen die alleen door ons mensen, en niet door ChatGPT beantwoord kunnen worden.

Als u intussen weet welke jezuïet er zo kritisch was op Pergolesi, dan hoor ik het graag. Ik ga ervan uit dat u geen namen en bronnen bij elkaar verzint.

Lees meer!

Dit artikel is afkomstig uit Katholiek Nieuwsblad van deze week.

Een traditie van eeuwen tegenover de waan van de dag

In een wereld waarin alles voortdurend verandert en onder druk staat, is katholieke kwaliteitsjournalistiek een uniek en kostbaar goed. Op KN.nl heeft u altijd toegang tot het laatste nieuws uit kerk en samenleving, en vindt u uitgebreide reportages en verhelderende analyses van onze gespecialiseerde redacteuren.

Voor maar € 1,40 per week leest u altijd als eerste al het moois dat KN.nl te bieden heeft, heeft u online onbeperkt toegang tot al onze artikelen én steunt u het voortbestaan van de laatste katholieke krant van Nederland.

Dus geef om katholieke kwaliteitsjournalistiek en word lid van KN Online.