WATYKAN (RNS) — Papież Leon XIV skierował bezpośredni atak na potęgę Wielkiego Technologicznego Sektora w swoim pierwszym encyklice, opublikowanym w poniedziałek (25 maja), ostrzegając, że sztuczna inteligencja grozi pogłębieniem nierówności, osłabieniem demokracji i podważaniem tego, czym jest człowiek.
Dokument papieski liczący 83 strony, zatytułowany „Magnifica Humanitas” (Wspaniała Ludzkość), ukazuje AI jako nową rewolucję przemysłową i wzywa do „rozbrojenia AI” poprzez wyjęcie jej z interesów wojskowych i gospodarczych, poddanie firm zajmujących się AI surowszym regulacjom państwowym i międzynarodowym oraz zaproszenie szerokiego udziału jednostek i społeczności w kształtowanie przyszłości tej szybko rozwijającej się technologii.
„Rozbrojenie AI oznacza uwolnienie jej od mentalności rywalizacji „uzbrojonej”, która dziś nie ogranicza się jedynie do kontekstu wojskowego, lecz ma również wymiar ekonomiczny i poznawczy” — napisał Leo. „Rozbrojenie nie oznacza rezygnacji z technologii, lecz zapobieżenie temu, by zdominowała ludzkość” — dodał.
„Z tego powodu same regulowanie nie wystarcza; trzeba go rozbroić, uczynić go otwartym i dostępnym” — czytamy w dokumencie.
Leo również zwrócił uwagę na Big Tech, podkreślając niebezpieczeństwa wynikające z wpływu niewielkiej liczby bogatych osób na przyszłość i byt ludzkości, co pogłębia przepaść „między tymi, którzy mogą brać udział w rewolucji cyfrowej, a tymi, którzy pozostają na marginesie.”
„AI ma skłonność do powiększania siły tych, którzy już posiadają zasoby gospodarcze, wiedzę i dostęp do danych” — napisał. „Małe, lecz wysoce wpływowe grupy mogą kształtować informacje i wzorce konsumcji, wpływać na procesy demokratyczne i kierować dynamiką gospodarczą na swoją korzyść, podważając sprawiedliwość społeczną i solidarność między narodami.”
Papież Leon przedstawił encyklikę w poniedziałek w Sali Synodu w Watykanie, gdzie odwołał się do encykliki z 1891 roku „Rerum Novarum” (O rzeczach nowych), napisanej przez papieża o tym samym imieniu — Leona III — aby odnieść się do wyzwań związanych z rewolucją przemysłową XIX wieku.
„Czuję, że powierzono mi nadzór nad kolejną wielką transformacją oczami wiary, jasnością rozumu i otwartością na boską tajemnicę, gdy w moim sercu brzmi wołanie ubogich i Ziemi” — powiedział Leo, dodając, że encyklika była wynikiem głębokiego wsłuchiwania się w naukowców i inżynierów, przywódców politycznych i urzędników państwowych, rodziców i nauczycieli głęboko zaniepokojonych przyszłością przyszłych pokoleń.
„Rozbrojenie nie wystarcza, musimy budować” — dodał, apelując o szeroki udział w programowaniu, regulacji i korzyściach płynących z SI.
Papież przedstawił dokument w towarzystwie wysokich rangą purpuratów watykańskich, teologów katolickich i Chrisa Olaha, współzałożyciela Anthropic, amerykańskiej firmy AI stojącej za Claude, która od dawna stara się być kojarzona z podejściem bezpiecznym i etycznym.
Podczas wydarzenia Olah powiedział, że rozwój AI „działa w zestawie bodźców i ograniczeń, które czasem kolidują z robieniem tego, co słuszne”, powołując się na względy komercyjne, presję geopolityczną oraz pychę i ambicję.
Z tego powodu, jak powiedział, „potrzebujemy więcej świata — wspólnot religijnych, społeczeństwa obywatelskiego, naukowców, rządów — aby uczynić to, co Jego Świętobliwość tu uczyniła: potraktować to poważnie, dokładnie przyjrzeć się temu i popchnąć wydarzenia w lepszym kierunku.”
Serce encykliki to nacisk na to, by ludzie zajmowali pierwszeństwo przed sztuczną inteligencją. Godność osoby ludzkiej „nie zależy od zdolności, bogactwa czy pozycji w życiu, ani od dobrych czy złych wyborów, które się dokonuje,” lecz po prostu z powodu samego istnienia — argumentuje encyklika.
W czasach AI chatbotów, Leo napisał, że ryzyko polega nie tylko na tym, że ktoś rozmawiający z agentem AI może uwierzyć, iż rozmawia z człowiekiem, ale także na utracie chęci poszukiwania innych ludzi. Przekazanie decyzji maszynom może „zwiększać nadmierne poleganie na gotowych odpowiedziach i osłabiać osobistą kreatywność i osąd.”
W dokumencie papież uznaje także pozytywny wpływ innowacji AI na społeczeństwo i ochronę środowiska, jednocześnie ostrzegając przed jej niebezpieczeństwami. „Technologia nigdy nie jest neutralna” — napisał Leo, dodając, że stanowi wyraz interesów i stron za nią stojących.
„Gdy taka potęga koncentruje się w rękach kilku, ma skłonność do stawania się nieprzejrzysta i unikania nadzoru publicznego, co zwiększa ryzyko zniekształconych form rozwoju, które prowadzą do nowych zależności, wykluczeń, manipulacji i nierówności” — napisał Leo.
Leo argumentował, że zastosowanie zasad moralnych i etycznych do modeli AI nie może nastąpić po wyrządzeniu szkód społeczeństwu — wartości te muszą być wprowadzone na etapie konstrukcji. „Aby SI szanowała godność człowieka i rzeczywiście służyła dobru wspólnemu, odpowiedzialność musi być jasno zdefiniowana na każdym etapie: od projektantów i twórców tych systemów po ich użytkowników i osoby opierające decyzje na konkretnych danych,” napisał.
Sprzeciwiając się menedżerom, którzy sprzeciwiają się ograniczeniom w rozwoju SI, Leo wyjaśnił, że „apelowanie o wstrzemięźliwość, rygorystyczną ocenę, a nawet czasem wolniejsze tempo w przyjmowaniu AI nie oznacza sprzeciwu wobec postępu; raczej jest to wyraz odpowiedzialnej dbałości o rodzinę ludzką.”
Nawiązując do modeli AI, które przyjęły konstitucje etyczne — takich jak Anthropic — papież powiedział, że takie ramy muszą być nadal omawiane i poddawane kryteriom wspólnej sprawiedliwości społecznej. „Bardziej etyczna SI to za mało, jeśli ta moralność jest określana przez kilka osób” — napisał.
Dokument zajmuje się także popularnymi filozofami Doliny Krzemowej, transhumanizmem i posthumanizmem, które papież zdefiniował jako serię założeń „interpretujących postęp jako przekraczanie ludzkiego stanu.”
Te filozofie postrzegają ograniczenia — w tym choroby, niepełnosprawność, starzenie się i wrażliwość — jako coś, co trzeba pokonać, napisał Leo, dodając: „Powinniśmy pamiętać, że ludzkość rozwija się nie pomimo ograniczeń, lecz często dzięki nim; życie bez ograniczeń ostatecznie oznaczałoby nie bycie człowiekiem.”
Víctor Manuel Fernández, szef watykańskiego wydziału doktrynalnego, powiedział podczas prezentacji dokumentu, że w przeciwieństwie do tych filozofii, które twierdzą „że ludzkość osiągnęła swój termin ważności i musi być po prostu zastąpiona”, katolickie nauczanie wierzy, iż „każdy człowiek ma nieskończoną godność.”
Porównując zagrożenia AI, Leo wskazał na prawdę jako „istotny element demokracji” i wezwał do edukowania ludzi w zakresie AI, zwłaszcza młodych. Podkreślił, że chociaż SI obiecuje zmniejszenie ciężarów pracy, ostrzegł, iż „często zmusza pracowników do dostosowywania się do tempa i wymagań maszyn, zamiast aby to maszyny były projektowane, by wspierać pracujących.”
W tej czwartej rewolucji przemysłowej priorytetem musi być „ochrona miejsc pracy i niezastąpiona rola jednostki,” napisał Leo.
W miarę jak rośnie globalne nierówności ekonomiczne, papież ostrzegł, że „postęp technologiczny nieuchronnie będzie generować strukturalne nierówności.” Wezwał do systemów podatkowych, które odciążają najbardziej wrażliwych i wywierają większy nacisk na tych o większych zasobach, podczas gdy korzyści z innowacji powinny być przejrzyste i dzielone z całą społecznością.
Papież ostrzegł przed „nowymi formami niewolnictwa”, zwracając uwagę na ślad wyzysku ludzkiego i środowiskowego stojący za AI — od trenowania modeli na materiałach objętych prawem autorskim po wydobycie rzadkich minerałów używanych w sprzęcie AI. Leo odwołał się również do historii postawy Kościoła wobec niewolnictwa, które nie zostało całkowicie potępione do XIX wieku przez Leona XIII, podkreślając powolny rozwój doktryny katolickiej na przestrzeni czasu.
„W imieniu Kościoła szczerze proszę o przebaczenie” — napisał Leo.
Istnieje „nowa twarz” kolonializmu, argumentował Leo, która nie tylko dominuje nad ciałami, ale także przejmuje dane: przepływy zdrowotne, profile epidemiologiczne, mapy genetyczne i dane demograficzne. „To stały się nowymi rzadkimi ziemiami władzy” — powiedział Leo, dodając, że technologia AI w rękach nielicznych, nastawionych na zysk osób lub grup reprezentuje nową formę kolonialnej władzy.
„Oto jedno z najpilniejszych wyzwań moralnych naszych czasów: zapewnić, że wspólna wiedza stanie się prawdziwym dobrem wspólnym, a nie narzędziem dominacji. Wymaga to przywrócenia jednostkom nie tylko danych, które ich opisują, ale także możliwości decydowania o tym, jak są one używane, przez kogo i na czyj pożytek,” napisał.
Długa część dokumentu poświęcona jest tematowi wojny, który papież potępiał wielokrotnie w pierwszym roku pontyfikatu. Zastosowanie AI w wojsku „musi podlegać najostrzejszym ograniczeniom etycznym” — napisał, dodając, że odpowiedzialność za działania militarne, a zwłaszcza śmiercionośne, powinna pozostawać w rękach ludzi, a nie maszyn.
Wezwał do możliwości identyfikacji w procesach podejmowania decyzji w czasie walki, do nadzoru człowieka i do stworzenia międzynarodowych przepisów, które będą adresować zwiększone użycie zautomatyzowanej broni i jej konsekwencje.
Dokument opiera się na wkładach poprzednich papieży, zaczynając od Leona XIII, i czerpie z katolickiego nauczania społecznego oraz tradycji Kościoła stosującego zasady moralne do życia społecznego, ekonomicznego i politycznego, z godnością człowieka i dobrem wspólnym w centrum uwagi.
Solidarność i troska o „sąsiada” to kluczowe elementy refleksji Leona, z szczególnym zaniepokojeniem o przyszłe pokolenia.
Sprawiedliwość społeczna „nie ogranicza się jedynie do sprawiedliwszego rozdziału zasobów ani korygowania obecnych niesprawiedliwości, lecz ma także wymiar naprawczy” — napisał Leo. Stosując tę samą zasadę do sfery cyfrowej, papież ostrzegł przed „nowymi formami wykluczenia i ograniczania wolności”, takimi jak inwazyjna inwigilacja, społeczności pozbawione dostępu do podstawowych technologii i grupy poszkodowane przez nieprzejrzyste algorytmy, które utrwalają dyskryminację.
W tym kontekście odniósł się także do migracji jako „testu lakmusowego dla sprawiedliwości społecznej dzisiaj.”
We wstępie Leo odwołuje się do Biblii, zestawiając Wieżę Babel z dążeniem do władzy i samowystarczalności oraz odbudowę Jerozolimy przez Nehemiasza, ukierunkowaną na modlitwę i udział rodzin oraz wspólnot. To odzwierciedla nauczanie zgromadzenia papieskiego, oparte na zasadach św. Augustyna, kontrastujące miłość do miejskiego świata, opartego na władzy i dominacji, z tęsknotą za niebieskim miastem Bożym.
„Jak w całej historii, te dwie miłości nadal walczą o dominację w naszych sercach. Era AI nie jest wyjątkiem: budowa Babilonu lub odbudowa Jerozolimy zaczyna się w nas samych” — napisał.
Dokument już zyskał silne poparcie wśród katolików i ekspertów z branży technologicznej.
„To przełomowa okazja dla świata, aby spojrzeć na nową technologię i naprawdę zastanowić się, do czego służy,” powiedział Brian Patrick Green, dyrektor ds. etyki technologicznej w Markkula Center for Applied Ethics na Uniwersytecie Santa Clara.
„Jaki jest cel tej technologii? Czego ma dokonać na świecie? Jak może pomóc ludziom? Co musimy zrobić, aby zapewnić, że ta technologia zrobi to, co najlepszego może dla jak największej liczby ludzi na świecie?”
Historia ta będzie aktualizowana.
