Paus Leo XIV: AI begrijpt zijn eigen producten niet en mist menselijkheid
In zijn eerste grote brief, Magnifica Humanitas (ondertekend op 15 mei 2026), schrijft Paus Leo XIV over de digitale wereld en kunstmatige intelligentie (AI).
Precies 135 jaar geleden schreef Paus Leo XIII een beroemde brief (Rerum Novarum) over de Industriële Revolutie en de problemen van arbeiders. Nu doet Leo XIV, zich bewust van zijn voorganger, hetzelfde voor de digitale revolutie. Zijn boodschap is duidelijk: technologie moet de mens helpen en mag er niet voor zorgen dat mensen worden buitengesloten of uitgebuit.
'Nooit eerder heeft de mensheid zoveel macht over zichzelf gehad'
Die waarschuwing is des te belangrijker want ook zegt de paus: Nooit heeft de mensheid zoveel macht over zichzelf gehad. Nieuwe technologieën openen een horizon die zich in richtingen uitstrekt die voorstelbaar zijn, maar nog niet volledig voorspelbaar (MH 4).
De boodschap van de paus is dat AI 'ontwapend' moet worden en ten dienst van de mens moet worden gesteld. Dat is onze gezamenlijke verantwoordelijkheid (MH 182).
Menselijkheid is onze dringende plicht
De mensheid staat op een belangrijk kruispunt, aldus de Paus. We moeten kiezen of we blind achter technologie aanlopen, of dat we samen bouwen aan een rechtvaardige wereld. Dat is des te belangrijker omdat de ontwikkelingen nu ongekend snel gaan:
“We maken een snelle overgangsfase door, een 'verandering van tijdperk', waarin — terwijl sommigen strijden om de toekomst van nieuwe technologieën en anderen zich wijden aan reflectie over de materie — de meeste mensen toekijken en afwachten... Cruciale vragen dringen zich op aan ons geweten en kunnen niet langer worden ontweken: Waar gaan we heen?” (MH 6)
De Kerk is niet tegen vernieuwing of techniek en begrijpt dat het goed is voor de economie. Maar de paus waarschuwt dat een machine nooit de zelfde waarde kan krijgen als een mens:
“In het tijdperk van de kunstmatige intelligentie, waarin de menselijke waardigheid wordt bedreigd door nieuwe vormen van ontmenselijking, is het onze dringende plicht om door en door menselijk te blijven.”(MH 15)
Fundamenteel kritisch is de definitie van het fenomeen AI in het midden van het betoog van de paus:'Het is niet mogelijk om één enkele, allesomvattende definitie van AI te geven. Wat daarentegen wel kan worden gesteld, is dat we de misvatting moeten vermijden om dit type „intelligentie” gelijk te stellen aan dat van de mens. Deze systemen imiteren louter bepaalde functies van de menselijke intelligentie. Daarbij overtreffen ze de menselijke intelligentie vaak in snelheid en rekenkracht, wat op veel terreinen tastbare voordelen oplevert. Toch blijft deze kracht volledig gebonden aan dataverwerking. Zogenaamde kunstmatige intelligenties maken geen ervaringen door, hebben geen lichaam, voelen geen vreugde of pijn, rijpen niet door relaties en weten niet van binnenuit wat liefde, werk, vriendschap of verantwoordelijkheid betekenen. Evenmin bezitten ze een moreel bewustzijn, aangezien ze niet oordelen over goed en kwaad, de diepere betekenis van situaties niet doorgronden en geen verantwoordelijkheid dragen voor de gevolgen. Ze mogen dan wel taal, gedrag en analytische vaardigheden imiteren, of zelfs empathie en begrip simuleren, ze begrijpen niet wat ze produceren. Het ontbreekt hen namelijk aan het affectieve, relationele en spirituele perspectief waardoor de mens groeit in wijsheid. Zelfs wanneer deze instrumenten worden beschreven als zijnde in staat om te „leren”, is hun manier om dat te doen anders dan die van een menselijke persoon. Het is niet de ervaring van hen die zich door het leven laten vormen en in de loop der tijd groeien door keuzes, fouten, vergeving en trouw. Het is veeleer een vorm van statistische aanpassing op basis van data en feedback, die zeer effectief kan zijn, maar die geen innerlijke groei met zich meebrengt.(MH 99) ' |
De macht van Big Tech
“Wanneer een dergelijke macht geconcentreerd is in de handen van weinigen, heeft deze de neiging ondoorzichtig te worden en zich te onttrekken aan publiek toezicht. Dit vergroot het risico op verstoorde vormen van development die aanleiding geven tot nieuwe afhankelijkheden, uitsluitingen, manipulaties en ongelijkheden.” (MH 95)
Hij waarschuwt dat systemen hierdoor vol kunnen zitten met vooroordelen en dat er misbruik kan worden gemaakt van onze privégegevens.
Beperkingen zijn deel van onze kracht
Net als zijn voorganger 135 jaar geleden, maakt de paus zich ook zorgen over werkgelegenheid. Als computers en algoritmen het werk van mensen overnemen, mag dat nooit alleen maar zijn om meer winst te maken. De mens moet altijd het belangrijkste blijven:
“Het najagen van grotere winsten kan geen keuzes rechtvaardigen die systematisch banen opofferen, omdat de mens niet zomaar en middel is maar een doel.”
De Paus bedoeld ook, refererend aan 135 jaar geleden ten tijde van industriële revolutie, dat massaal banenverlies zonder hulp of omscholing, een ramp voor de samenleving kan zijn. Ook verzet de paus zich tegen het idee dat de mens 'perfect' gemaakt moet worden met technologie. Zwakheid, ouderdom en ziekte horen nu eenmaal bij het leven. Juist door die kwetsbaarheid groeien we als mens: “...niet ondanks [onze] beperkingen, maar vaak juist dankzij die beperkingen.” (MH 118)
Het gevaar van 'Slimme' wapens
De paus maakt zich ook grote zorgen over AI en bewapening . Het idee dat computers of robots zelfstandig beslissen over leven en dood, vindt hij onacceptabel. AI mag niet gebruikt worden voor vernietiging:
“Kunstmatige Intelligentie eist van ons dat het wordt ontwapend, bevrijd van logica's die het veranderen in een instrument van overheersing, uitsluiting en de dood.”
Omdat deze wapens uit zichzelf kunnen vechten, vindt de paus dat de oude regels over wanneer een oorlog 'rechtvaardig' is, niet meer kloppen. De techniek heeft de oorlog te veel veranderd.
Oproep
Alleen mooie woorden of beloftes van techbedrijven dat ze "ethisch" zullen handelen zijn niet genoeg, zegt de paus. Er moeten van de politiek echte wetten komen:
“Het is niet genoeg om [alleen maar] in abstracte zin een beroep te doen op de ethiek; robuuste wettelijke kaders, onafhankelijk toezicht, geïnformeerde gebruikers en een politiek systeem dat zijn verantwoordelijkheid niet ontvlucht, zijn vereist.”
De brief, de encycliek, eindigt met een beroep op allen die bij de ontwikkeling van AI betrokken zijn. De paus vraagt aan regeringen, wetenschappers en de makers van AI om samen te werken. Achter elke computercode zit namelijk een keuze over hoe we met mensen omgaan. We moeten daarom samen bepalen hoe onze toekomst eruitziet.
Meer info: de Brief Magnifica Humanitas
.gif)
