Papież ostrzega przed sztuczną inteligencją i wspomina o... Władcy Pierścieni

Papież Leon XIV opublikował nową encyklikę poświęconą sztucznej inteligencji. Dokument zatytułowany Magnifica Humanitas już teraz określany jest jako jedno z najmocniejszych stanowisk Kościoła wobec rozwoju AI. Papież ostrzega przede wszystkim przed sytuacją, w której zaawansowane algorytmy pozostaną pod kontrolą niewielkiej grupy prywatnych firm technologicznych.

Papież Leon XIV krytycznie o sztucznej inteligencji

Według niego, „nieprzejrzyste algorytmy” kontrolowane przez „nielicznych” mogą prowadzić do „nowych form dehumanizacji”. Leon XIV podkreśla jednocześnie, że sam rozwój technologii nie jest czymś złym. Problem pojawia się wtedy, gdy AI zaczyna być rozwijane wyłącznie w imię zysku i bez odpowiedniego nadzoru społecznego czy politycznego.

Technologia nigdy nie jest neutralna, ponieważ przejmuje cechy tych, którzy ją projektują, finansują, regulują i wykorzystują.

Co ciekawe, papież osobiście pojawił się podczas prezentacji dokumentu w Watykanie — co w przypadku encyklik zdarza się bardzo rzadko. Obok niego wystąpił między innymi Christopher Olah, współzałożyciel Anthropic, jednej z najważniejszych firm rozwijających AI. To kolejny sygnał pokazujący, że relacje między światem nowych technologii a instytucjami religijnymi zaczynają się coraz bardziej zacieśniać. Anthropic w ostatnich miesiącach organizowało między innymi spotkania z liderami chrześcijańskimi poświęcone etycznym aspektom rozwoju sztucznej inteligencji.

W encyklice pojawia się też mocne ostrzeżenie dotyczące militaryzacji AI. Papież wspomina, że nowoczesne systemy sztucznej inteligencji były wykorzystywane podczas niedawnego konfliktu między USA, Izraelem i Iranem. Leon XIV apeluje więc o stworzenie mocnych regulacji prawnych, niezależnego nadzoru oraz większego zaangażowania polityków w kontrolowanie rozwoju AI.

Potrzebne jest bardziej aktywne zaangażowanie polityczne zdolne zwolnić tempo w chwili, gdy wszystko przyspiesza.

Ciekawostką pozostaje fakt, że w dokumencie znalazło się również odniesienie do… Władcy Pierścieni autorstwa J. R. R. Tolkien. Słynna historia fantasy została użyta jako metafora odpowiedzialności człowieka w epoce AI. Papież przywołał fragment mówiący o odpowiedzialności za przyszłość świata i walkę ze złem „na polach, które znamy”. Wszystko wskazuje na to, że Magnifica Humanitas może stać się jednym z najgłośniejszych komentarzy w coraz bardziej intensywnej debacie o przyszłości sztucznej inteligencji.