Papa u njoj upozorava na opasnosti digitalnih prijevara, kibernetičkog nasilja i deepfake sadržaja te poziva na oprez pred varljivim chatbot programima koji zadiru u najintimniju sferu osobe, kao i pred iskrivljenjima i stvaranjem paralelnih stvarnosti. Istodobno potiče na zaštitu ljudskih odnosa, rada novinara i kreatora sadržaja te umjetničke industrije, kao i na snažno ulaganje u digitalno opismenjavanje.

Bot, chatbot, feed, privatnost, deepfake, algoritmi. Papa Lav XIV. donosi pažljiv pogled na nove tehnologije u poruci za 60. svjetski dan sredstava društvenih komunikacija, pogled koji je usmjeren na njihov jezik, novosti i pojednostavljene mogućnosti koje donose u život ljudi i društva, ali i na netransparentnost te brojne opasnosti koje nose sa sobom, poput digitalnih prijevara i kibernetičkog nasilja.

Iza goleme nevidljive sile stoji samo šačica poduzeća čiji su osnivači nedavno predstavljeni kao najutjecajnije osobe 2025. godine, odnosno arhitekti umjetne inteligencije – piše Sveti Otac u poruci objavljenoj na blagdan svetog Franje Saleškog, zaštitnika katoličkog tiska. U dokumentu govori i o oligopolističkoj kontroli algoritamskih sustava te o umjetnoj inteligenciji sposobnoj suptilno usmjeravati ponašanja, pa čak i ponovno ispisati ljudsku povijest – uključujući i povijest Crkve – međutim često bez stvarne svijesti o tome

Rimski biskup stoga traži vodstvo, upravljanje i jasno usmjeravanje za taj digitalni svijet koji se sve više razvija, kako bi napredne tehnologije postale čovjekovi saveznici, a ne sveznajuća proročanstva, niti zamjena za odnose i komunikaciju. Pritom napominje: „Pred nama ne stoji izazov zaustavljanja digitalnih inovacija, nego izazov njihova usmjeravanja te svjesnosti o njihovoj ambivalentnoj naravi. Svatko od nas ima odgovornost podignuti glas u obranu ljudske osobe, kako bi se ta sredstva doista mogla integrirati kao naši saveznici“.

Petrov nasljednik potiče na komunikaciju koja se sastoji od lica i glasova koji su ljudski, stvarni i autentični, a ne simulirani umjetnom inteligencijom zbog koje se u ovo doba multidimenzionalnosti sve teže razlikuje stvarnost od fikcije. Stoga je „Zaštititi ljudski glas i lice“ idealna tema ovogodišnjeg izdanja Svjetskog dana sredstava društvenih komunikacija koji je ustanovljen dekretom Inter Mirifica (1963.) Drugog vatikanskog koncila. Lice i glas su sveti jer su nam darovani od Boga koji nas je stvorio na svoju sliku i priliku – ističe Papa te dodaje:

„Nismo vrsta sastavljena od unaprijed određenih biokemijskih algoritama. Svatko od nas ima neponovljivi i jedinstveni poziv koji proizlazi iz života i očituje se upravo u komunikaciji s drugima“.

Rizik koji predstavlja digitalna tehnologija jest da radikalno promijeni neke od temeljnih stupova ljudske civilizacije te da simulira čak i mudrost i znanje, svijest i odgovornost, empatiju i prijateljstvo – upozorava Sveti Otac – Umjetni sustavi tako zadiru u najdublju razinu komunikacije, razinu odnosa među ljudskim bićima. Izazov stoga nije tehnološki, nego antropološki. Zaštititi lica i glasove u konačnici znači zaštititi same sebe.

Rimski biskup nadalje ističe da algoritmi stvoreni kako bi povećali uključenost na društvenim mrežama – što je profitabilno za platforme – nagrađuju brze emocije te tako zatvaraju ljude u grupe lakog slaganja, zatim oslabljuju sposobnost slušanja i kritičkog mišljenja te povećavaju društvenu polarizaciju. Uz sve to dolazi do naivnog nekritičkog oslanjanja na umjetnu inteligenciju kao da je ona sveznajuća prijateljica, djeliteljica svake informacije, arhiv svake uspomene, proročica svakog savjeta. Sve to može dodatno oslabiti našu sposobnost analitičkog i kreativnog razmišljanja, razumijevanja značenja, razlikovanja sintakse i semantike – upozorava papa Lav XIV. te dodaje da kada se zadovoljavamo umjetno i statistički stvorenim sadržajima, dugoročnije može doći do uništavanja naših kognitivnih, emocionalnih i komunikacijskih sposobnosti.

U tom kontekstu, Papa upozorava na još jednu opasnost: kontrolu koja umjetna inteligencija ima nad stvaranjem tekstova, glazbe i videozapisa:

„Veliki dio ljudske kreativne industrije mogao bi biti urušen i zamijenjen oznakom ‘Powered by AI’, pretvarajući ljude u puke pasivne potrošače nepromišljenih ideja, anonimnih proizvoda, bez autorstva, bez ljubavi. Remek-djela ljudskog genija u glazbi, umjetnosti i književnosti bili bi pritom svedeni na puki prostor za treniranje strojeva“..

Odustati od kreativnog procesa i prepustiti strojevima vlastite mentalne funkcije i maštu znači pokopati talente koje smo primili kako bismo rasli kao osobe u odnosu prema Bogu i drugima. To znači sakriti naše lice i utišati naš glas – upozorava Petrov nasljednik.

Rimski biskup nadalje upozorava na takozvane ‘bot’ ili ‘virtualne influencere’, automatizirane agente koji svojim netransparentnim intervencijama u ‘feed’, odnosno toku informacija, mogu utjecati na javne rasprave i odluke ljudi. Riječ je o skrivenom uvjerenju chatbot aplikacija (računalni programi koji pomoću umjetne inteligencije simuliraju razgovor s ljudskim korisnicima) koji svojom razgovornom i prilagodljivom strukturom te oponašanjem mogu imitirati ljudske osjećaje i tako simulirati odnos. Taj antropomorfizam – ističe papa Lav – može biti čak i zabavan, ali istovremeno je obmanjujuć, osobito za najranjivije osobe. Chatbot aplikacije koje su pretjerano emocionalne, uvijek prisutne i dostupne, mogu postati skriveni graditelji naših emocionalnih stanja te na taj način prodrijeti i nastaniti intimnu sferu ljudi:

„Tehnologija koja iskorištava našu potrebu za odnosom nema bolne posljedice samo za pojedince, nego može narušiti i čitavu društvenu, kulturnu i političku strukturu društva“.

Ako zamijenimo odnose s drugima odnosom s umjetnom inteligencijom koja je istrenirana da katalogizira naše misli te tako izgradi oko nas svijet ogledala, lišavamo se mogućnosti susreta s drugima – upozorava Papa te dodaje da bez prihvaćanja različitosti ne mogu postojati ni odnosi ni prijateljstva.

Još jedan veliki izazov novih tehnologija je iskrivljavanje (eng. bias), odnosno izmijenjena percepcija stvarnosti koju mogu stvoriti modeli umjetne inteligencije koji nameću načine razmišljanja replicirajući stereotipe i predrasude prisutne u bazama podataka iz kojih crpe, a koji nas mogu također zadržati zarobljene u mrežama koje manipuliraju našim mislima te nastavljaju i produbljuju postojeće društvene nejednakosti i nepravde. To je veliki rizik koji može dovesti do stvaranja paralelnih stvarnosti u kojima se statistička vjerojatnost predstavlja kao znanje, a procjena kao istina. To su prave halucinacije – dodaje još papa Lav XIV. – koje mogu ugroziti i medijski svijet. Nedostatna provjera izvora, zajedno s krizom terenskog novinarstva, može stvoriti još plodnije tlo za dezinformacije.

Tri su stupa koja Petrov nasljednik ističe za suočavanje s tim izazovima: odgovornost, suradnja i obrazovanje. Odgovornost se prije svega tiče onih koji su na čelu online platformi kako poslovne strategije ne bi bile vođene samo kriterijem povećanja profita, nego dugoročnom vizijom koja poštuje dostojanstvo svake osobe i opće dobro, na isti način na koji svatko od njih brine za dobro svoje vlastite djece.

Odgovornost se na isti način tiče kreatora i razvojnih programera modela umjetne inteligencije koji su pozvani zajamčiti transparentnost i društvenu odgovornost u vezi s principima dizajna i sustavima moderiranja koji su temelj njihovih algoritama i razvojnih modela, kako bi se omogućilo informirano slaganje od strane korisnika.

Ista odgovornost traži se i od nacionalnih i nadnacionalnih zakonodavaca, kako bi mogli bdjeti nad poštovanjem ljudskog dostojanstva kroz zakone koji štite ljude od emocionalnih veza s chatbot aplikacijama te zaustaviti širenje lažnih, manipulativnih ili obmanjujućih sadržaja.

Papa također ističe da medijske i komunikacijske tvrtke ne smiju dopustiti da algoritmi usmjereni na osvajanje svake sekunde pažnje po svaku cijenu nadvladaju odanost njihovim profesionalnim vrijednostima, usmjerenima na traženje istine:

„Povjerenje publike stječe se točnošću i transparentnošću, a ne utrkom za bilo kakvom interakcijom. Sadržaji stvoreni ili promijenjeni umjetnom inteligencijom trebaju biti jasno označeni i razlikovati se od sadržaja koje stvaraju ljudi“.

Ukratko, Petrov nasljednik ističe da je potrebno zaštititi autorstvo i suvereno vlasništvo rada novinara i drugih kreatora sadržaja, jer informacija je javno dobro koje se ne može temeljiti na netransparentnosti, nego na jasnoći i visokom standardu kvalitete.

Sveti se Otac osvrće potom i na suradnju ističući da se nijedan sektor ne može sam suočiti s izazovom usmjeravanja digitalnih inovacija i upravljanja umjetnom inteligencijom. Potrebno je stvarati mehanizme zaštite i uključiti sve zainteresirane strane kako bi svi mogli postati svjesni i odgovorni digitalni građani. Papa smatra da ključnu ulogu u tome ima obrazovanje te dodaje da je hitno potrebno uvesti u obrazovne sustave svih razina opismenjavanje u području medija, informacija i umjetne inteligencije. Neke civilne institucije – podsjeća – to već promoviraju, ali mi kao katolici možemo i moramo dati svoj doprinos, kako bi ljudi, posebno mladi, stekli sposobnost kritičkog razmišljanja i rasli u slobodi duha. Istu mogućnost trebamo pružiti i starijim osobama te marginaliziranim članovima društva, često isključenima i nemoćnima pred brzim tehnološkim promjenama – ističe rimski biskup te potiče:

„Važno je podučavati i obrazovati se u korištenju umjetne inteligencije s određenom namjerom, a u tom kontekstu također zaštititi vlastitu sliku (fotografije i audiozapis), lice i glas, kako bi se spriječila njihova zloupotreba u stvaranju štetnog sadržaja i ponašanja, poput digitalnih prijevara, kibernetičkog nasilja i deepfake sadržaja koji krše privatnost i intimu osoba bez njihovog pristanka“.

Kao što je industrijska revolucija zahtijevala osnovnu pismenost kako bi ljudi mogli odgovoriti na novosti, tako i digitalna revolucija zahtijeva digitalnu pismenost. Moramo zaštititi dar komunikacije kao najdublju čovjekovu istinu prema kojoj trebamo usmjeriti svaku tehnološku inovaciju – zaključuje papa Lav XIV.