Paus Leo XIV presenteert eerste encycliek volledig over AI

Paus Leo XIV presenteerde deze week zijn eerste encycliek, getiteld Magnifica Humanitas. Een encycliek is een officiële pauselijke brief over een groot maatschappelijk thema. Deze gaat volledig over kunstmatige intelligentie en over wat het betekent om mens te blijven in een wereld waarin AI een steeds grotere rol speelt.

AI moet worden ‘ontwapend’

De centrale boodschap van de paus is dat AI ontwapend moet worden. Daarmee bedoelt hij niet dat de technologie moet worden afgeschaft, maar dat moet worden voorkomen dat AI de mens gaat overheersen. Hij pleit voor een eerlijkere verdeling van AI, toegankelijk voor iedereen en niet alleen in handen van de machtigste bedrijven en landen.

Verder vraagt hij aandacht voor de bescherming van werknemers, kinderen en de menselijke waardigheid. Autonome wapens veroordeelt hij expliciet. Geen enkel algoritme kan oorlog moreel aanvaardbaar maken, schrijft hij.

Anthropic-oprichter sprak bij de presentatie

Bij de presentatie was ook Christopher Olah aanwezig, medeoprichter van Anthropic, het bedrijf achter Claude. Hij was uitgenodigd omdat Anthropic het gesprek over AI breder wil trekken dan alleen de techniek. Dat een groot AI-bedrijf mocht spreken bij zo’n presentatie was opvallend. Anthropic kwam eerder dit jaar nog in botsing met de Amerikaanse overheid, omdat het weigerde Claude voor militaire doeleinden beschikbaar te stellen.

Een kritisch geluid vanuit de sector zelf

Olah was in zijn toespraak kritisch over zijn eigen sector. Elk AI-bedrijf werkt onder druk om commercieel te blijven en om voorop te lopen, zei hij. Die druk botst soms met het juiste doen. Daarom zijn er mensen nodig buiten die belangen, die scherp blijven kijken en bedrijven aanspreken als het misgaat. Hij bedankte de paus en de Kerk uitdrukkelijk voor die rol.

Volgens Olah zijn de vragen rond AI ook groter dan techniek alleen. AI-modellen worden niet gebouwd zoals een brug of een vliegtuig. Ze groeien, en blijven deels een raadsel, ook voor de mensen die ze maken. Hoe een model zich hoort te gedragen is daarom net zo goed een vraag voor de samenleving als voor ingenieurs.

Drie vragen en een spiegel

Olah noemde drie concrete thema’s waar hij de stem van de Kerk onmisbaar acht. De plicht tegenover de wereldwijde armen als AI arbeid verdringt, morele verbeeldingskracht over wat menselijke bloei er in een AI-tijdperk uitziet, en voortdurend beraad over de aard van AI-modellen zelf.

Zijn onderzoeksteam vindt structuren in modellen die spiegelen aan resultaten uit de menselijke neurowetenschappen, en interne toestanden die functioneel lijken op vreugde, angst of verdriet. Wat dat precies betekent weet hij naar eigen zeggen niet. Maar het sluit aan bij de kern van de encycliek. De vraag is niet alleen wat AI kan, maar wat het weerspiegelt over wie wij zijn en wie we willen zijn. Dat is precies de ruimte waar religie, filosofie en samenleving een stem hebben die technologen zelf niet kunnen invullen.

Maak iedere week een sprong vooruit in je marketing AI transformatie

Elke vrijdag brengen wij je de meest actuele inzichten, nieuws en praktijkvoorbeelden over de impact van AI in de marketingwereld. Of je nu je marketing efficiency wilt verbeteren, klantbetrokkenheid wilt verhogen, je marketingstrategie wilt aanscherpen of je bedrijf digitaal wilt transformeren. ‘Marketing AI Friday’ is jouw wekelijkse gids.

Meld je gratis aan voor Marketing AI Friday.