5 stu 2026 PAPA LAV XIV.: UMJETNA INTELIGENCIJA MORA OSTATI POD LJUDSKIM NADZOROM

Papa Lav XIV. primio je u petak, 30. listopada, u Dvorani Konzistorija u audijenciju sudionike skupa „Budućnost umjetne inteligencije: dijalog između Vatikana i znanstvenoga svijeta o razvoju i primjeni inteligentnih tehnologija”, koji su organizirali Papinska akademija za život i Institut za budućnost života, te im se obratio sljedećim riječima:

Srdačno vas sve pozdravljam i zahvaljujem vam što ste jutros došli. Dolazite iz brojnih zemalja i sa sobom donosite širok raspon pitanja i različitih pogleda. Ipak, vjerujem da dijelite zajedničku zabrinutost zbog razvoja umjetne inteligencije. Svjesni smo smjera kojim bismo trebali krenuti, no čini se da još uvijek ne činimo dovoljno kako bismo u tom smjeru doista napredovali. Zahvaljujem vam što dijelite svoje zabrinutosti, ali i ideje i prijedloge za budućnost. To su prvi plodovi transdisciplinarnoga pristupa, koji postaje sve nužniji želimo li se suočiti sa složenošću velikih izazova našega vremena.

Papinska akademija za život, koja je organizirala ovaj susret, dobro je svjesna izazova koji se pojavljuju svugdje gdje je ugroženo ljudsko dostojanstvo. Obraćajući se čelnicima skupine G7, papa Franjo opisao je umjetnu inteligenciju kao „istodobno fascinantno i zastrašujuće sredstvo” te istaknuo kako nijednom stroju nikada ne bi smjela biti povjerena odluka o oduzimanju ljudskoga života (usp. Govor na zasjedanju skupine G7 o umjetnoj inteligenciji, 14. lipnja 2024.). Te su riječi i danas jednako aktualne. U enciklici Veličanstveno čovještvo (Magnifica Humanitas) nastojao sam se ovim pitanjima posvetiti podrobnije. Danas bih želio posebno istaknuti pet važnih razmatranja.

Prvo, budućnost umjetne inteligencije nije unaprijed određena. Budući da je riječ o tehnologiji koju su razvili ljudi, njezina budućnost ovisi o odlukama koje donosimo. Stoga imamo odgovornost usmjeravati njezin razvoj, mijenjati ga i, kada je to potrebno, odbaciti pojedine načine njezine primjene (usp. br. 97. i 104.). Odlučujuće pitanje, dakle, nije samo: „Što umjetna inteligencija može učiniti?”, nego i: „Kojemu cilju treba služiti?” Oni koji njezin razvoj promatraju isključivo kao utrku koju treba dobiti riskiraju da se usredotoče samo na cilj, zaboravljajući pritom one koji ostaju zaostali. Pouzdan sustav koji služi čovjeku ima veću vrijednost od sustava iznimnih mogućnosti čije se posljedice ne mogu primjereno predvidjeti ni nadzirati.

Drugo, strojevi su sredstva, a ne osobe. „Takozvane umjetne inteligencije ne proživljavaju iskustva, nemaju tijelo, ne osjećaju radost ni bol, ne sazrijevaju kroz odnose i iz vlastitog iskustva ne znaju što znače ljubav, rad, prijateljstvo ili odgovornost” (br. 99.). Danas neki predlažu da se tim sustavima dodijele prava ili čak pravna osobnost. Takav pristup nosi rizik zamagljivanja ljudske odgovornosti i prepuštanja osoba koje pretrpe štetu suočavanju s bezličnim entitetom.

Treće, određene odluke nikada se ne smiju prepustiti strojevima. Kada se neka osoba nađe na popisu potencijalnih meta ili bude unesena u bazu podataka za graničnu kontrolu, postoji opasnost da bude svedena na puki podatak. Odluke koje utječu na ljudski život, slobodu i primjenu sile moraju uvijek ostati podložne učinkovitom, informiranom i odgovornom ljudskom nadzoru (usp. br. 198.–200.). Zbog toga umjetna inteligencija mora biti „razoružana” (br. 110.), a države koje će se u studenome sastati u Ženevi potičem da poduzmu konkretne korake prema zabrani autonomnoga smrtonosnog oružja.

Četvrto, inteligentne tehnologije moraju biti usmjerene prema općem dobru. „Pravda zahtijeva dostupnost dobrobiti inovacija, uključujući zdravstvenu skrb, znanje, sredstva i mogućnosti” (br. 161.). Tehnologije nikada ne smiju postati same sebi svrhom niti služiti isključivo interesima povlaštene manjine. Naprotiv, njihov razvoj trebao bi poticati solidarnost i sudjelovanje na različitim razinama globalne zajednice te osigurati pravednu raspodjelu koristi od napretka, osobito među onima kojima je pomoć najpotrebnija (usp. br. 71.–72.).

Na kraju, želio bih istaknuti izazov koji je možda i najhitniji. Već poznajemo mnoga etička načela kojima bi se trebao voditi razvoj umjetne inteligencije. Ono što nam je danas potrebno jesu institucije sposobne ta načela provoditi u praksi, osobito učinkovite međunarodne institucije koje mogu štititi opće dobro cijeloga čovječanstva (usp. br. 64.). To zahtijeva zajedničke standarde, neovisan nadzor i jasne mehanizme odgovornosti kako bi se odluke povezane s razvojem i primjenom umjetne inteligencije mogle preispitivati i, prema potrebi, osporavati te kako bi se osigurali odgovarajući mehanizmi obeštećenja za svaku nastalu štetu (usp. br. 105. i 107.).

Dragi prijatelji, ovim vam mislima još jednom zahvaljujem na vašem vrijednom doprinosu na ovom području i potičem vas da ustrajete u svojim nastojanjima, surađujući u duhu dijaloga i zajedničke odgovornosti za opće dobro. Pratim vas svojim molitvama i od srca svakome od vas udjeljujem svoj blagoslov. Hvala vam.

I. Ć.