(Avvenire, 26.05.2026; razgovor sa filozofom Floridijem vodio Andrea Lavazza)

Filozof vidi ogroman potencijal umjetne inteligencije, ali se u potpunosti slaže da mora biti pažljivo regulisana. Apel pape Lava XIV: “To je tehnologija koja preoblikuje okruženje u kojem djelujemo i koja, zauzvrat, utiče na nas.”

Jedna saglasnostiz akademskog svijeta potvrđuje valjanost i urgentnost razmišljanja Crkve o umjetnoj inteligenciji. Luciano Floridi (Rim, 1964), jedan je od vodećih stručnjaka za etiku AI, osnivač je studija filozofije informacija: nakon višegodišnjeg rada na Oxfordu, drži katedre na Yaleu i u Bologni; autor je knjige Etika umjetne inteligencije (Cortina editore). U intervjuu za “Avvenire” govori o Magnifica humanitas, poručujući da je vještačka inteligencija izvanredno sredstvo, ali da se njome mora pažljivo upravljati. I da, ako ostanemo pasivni, budućnost neće nužno biti svijetla.

Profesore Floridi, enciklika se zasniva na ideji da tehnologija nije neutralna, da nije dovoljan samo korištenje za dobro, a ne za zlo. Na koje strukturne karakteristike vještačke inteligencije bismo morali obratiti posebnu pažnju?

Čekić se koristi za zabijanje eksera i, čak kada je korišten kao oružje u pogrešnim rukama, on ostaje čekić koji ne mijenja osobu koja ga koristi. To nije način na koji funkcioniše vještačka inteligencija. Radi se o tehnologiji koja preoblikuje okruženje u kojem djelujemo i koja, zauzvrat, utiče na nas. To je razlog zbog kojeg je neutralnost iluzija: bolje je govoriti o dvostrukoj funkciji, a ne o njenom odsustvu. A u slučaju AI, ova dvostruka funkcija je ogromna. Što se tiče njenih karakteristika, istakao bih barem tri. Pristupačnost: to su sredstva koja postaju sve moćnija i sve jednostavnija za korištenje, uz to i sve jeftinija. Dimenzija: isti sistemi istovremeno i neprekidno komuniciraju s milionima ljudi na prodorani detaljan način, a ono što je pojedinačno bezopasno postaje pokretačka snaga u agregatnom razmjeru.Na kraju, automatizacija: proizvodnja sadržaja, upravljanje procesima; odluke, opcije i scenariji mogu se uspješno i lako povjeriti AI-u. Sve ovo može dovesti do erozije prosuđivanja o djelovanju i odgovornosti za učinjeno, a vjerujem da je u tome etička srž enciklike. Društvo koje se odriče svoje vodeće uloge postaje podložno kontrolorima dotične tehnologije.

Prema bolnoj procjeni Lava XIV, čini se da vještačka inteligencija sve više pokrećedruštvo ka efikasnosti, brzini i nadmetanju, redukujući društveno prihvatanje granica i krhkosti. Mnogo ranjivih ljudi rizikuje marginalizaciju. Kako se može odgovoriti na ovu zabrinutost?

Dijagnoza je tačna, i vidio sam je na djelu i u zdravstvenom sektoru, koji je jedno od najrizičnijih sektora za testiranje. AI sistemi imaju tendenciju da optimizuju ono što se može izmjeriti i odbace ono što nije izmjerivo, kao što je vrijeme za slušanje, strpljenje sa zbunjenom starijom osobom ili briga za neozdravljive. Društvo koje nekritički usvaja ova sredstva na kraju počinje ličiti na njih. Već sam govorio o pomračenju analognog: fokusiramo se na digitalne aspekte, to jest na model, pa na kraju zanemarujemo sistem koji modeliramo, bio to pacijent, student ili cijeli grad. Odgovor nije u zabrani ili pokušaju da se tehnologija obuzda, već u promjeni pitanja koja joj postavljamo. Ne “kako mogu istu stvar uraditi brže?”, već “šta bih trebao raditi više ili bolje, sada kada imam vremena?”. Vještačka inteligencija može osloboditi sate administrativnog posla u bolnici, ali ti sati moraju biti vraćeni pacijentima, a ne oduzeti radnoj snazi, kao što je to sada slučaj. Danas se AI koristi da bi se zaposlila jedna medicinska sestra ili doktor manje. Pretvaranje dobitka putem efikasnosti u bolju njegu, a ne u rezove, politički je izbor, nije tržišni automatizam. Ranjivi ljudi trebaju imati koristi od AI, a ne da postanu njene žrtve. Ali, bojim se da će stvari ispasti drugačije, to se već dešava.

Papa Lav naglašava rizike sistematske dezinformacije uzrokovane određenim novim sredstvima generativne umjetne inteligencije, sa posljedicama za stabilnost demokratija. To je takođe bilo prvo upozorenje kojim se oglasio sekularni intelektualac poput Daniela Dennetta. Postoji li način da se ublaži ova opasnost?

Wittgenstein je to davno naslutio: oni koji samo oponašaju jedan jezik zapravo ga ne posjeduju, a mašina koja proizvodi gramatički savršene rečenice ne govori ništa; ona samo obavlja proračune. Također vidim autore popularnih knjiga koji miješaju besprijekorno rukovanje značenjem riječi ‘bol’ s razumijevanjem bola. Jednostavno rečeno, to su isti ljudi koji miješaju nemogućnost definiranja neizrecivog s onim što je ‘indefinable’. Ovo nisu puke igre riječima, već ozbiljne i zavaravajuće logičke zablude. Problem je u tome što ti isti izvori predstavljaju ove sisteme kao da su vanzemaljske ili nadljudske inteligencije koje glasaju, uvjeravaju, sude, vode intervjue i tako dalje. To su dezinformacije koje truju javnu raspravu, ali demokratski suživot se zasniva na razlikovanju između onoga što je autentično i onoga što je simulirano. Sve se ovo moglo ublažiti, a u određenoj mjeri i spriječiti. Na tehničkom nivou znamo kako to učiniti obaveznim označavanjem sintetičkog sadržaja i sistema kako bismo provjerili njegovo porijeklo, ali nedostaje volja da se to provede. Na regulatornom nivou, kroz brze i stroge kazne za one koji šire deepfake sadržaje, posebno u izbornim, zdravstvenim i sudskim kontekstima. I ovdje je prilično jednostavno, ali u Italiji je nedavno odbijen dekret zakona o tome, iako je trebao biti usvojen uz saglasnost svih. Kulturno gledano – a tu leži najveći izazov – vraćanjem različitim obrazovnim institucijama – uključujući, ali ne ograničavajući se na škole – zadatka da ljude uče da shvataju. Nepismena demokratija se ne može dugo braniti: prije ili kasnije, neko će je iskoristiti.

U Magnifica humanitas izražena je zabrinutost zbog koncentracije kontrole nad umjetnom inteligencijom u privatnim rukama, pri čemu profit i moć imaju prednost, a manje pozitivni efekti digitalne revolucije – od iskorištavanja radnika i okoliša do mogućnosti masovne nezaposlenosti – ostaju zanemareni. Je li ovaj trend neizbježan? Može li se preokrenuti?

Neizbježan? Nije. Težak za poništenje? Vrlo. Danas veoma malo kompanija posjeduje računarsku moć, podatke, modele i neophodna sredstva – a samim tim i budućnost. Nije samo tržište dovelo do ove koncentracije, prije svega su to politički izbori – ili bolje rečeno, njihov nedostatak – koji su to omogućili, baš kao što se desilo i s internetom. A ono što je politika dopustila, politika može i ispraviti, ali mi to stalno odgađamo i odbijamo se suočiti s činjenicom da je digitalna tehnologija, uključujući AI, okosnica društva 21. stoljeća, infrastruktura koja ne smije biti u rukama samo nekoliko privatnih subjekata. Evropske liberalne demokratije imaju priliku da djeluju drugačije. To je frustrirajuće jer bi se to moglo učiniti, ali se ne čini. Evropa ima resurse da postane nezavisna, ako to poželi. Javne računarske infrastrukture, kao što je Leonardo u Bologni, u njima su visokokvalitetni podaci, podijeljeni na pravnim i etičkim osnovama; na primjer onako kako je predviđeno uredbom o Evropskom prostoru zdravstvenih podataka – uredbom koja ne ometa, već usmjerava inovacije, tehničku stručnost i sredstva za njihovo korištenje. Kada je riječ o radu, masovna nezaposlenost je samo jedan mogući scenarij: sve ovisi o tome kako ćemo raspodijeliti profit i rizike. Ako ostanu kod dioničara, imaćemo društva koja će se udaljiti od jednakosti, ali ako se koriste za obuku, skraćeno radno vrijeme i tranzicijski prihod, imat ćemo bolja društva. To je izbor koji je u Evropi, gdje ga još uvijek možemo promijeniti, svakodnevno pogrešan.

Papa postavlja piranje da li se ključni akteri u svijetu umjetne inteligencije pitaju koji cilj žele postići. Imaju li svrhu za ono što grade ili teže inovacijama bez duhovnog, etičkog i političkog okvira, kako to navodi enciklika?

Sjedio sam za istim stolom s mnogima od njih, a iskren odgovor je da to ovisi o kontekstu u kojem se postavlja pitanje. Operativno, imaju vrlo specifične ciljeve, tromjesečno. Kulturno, u svjetlu povijesne i moralne svrhe preduzeća, prevladava mješavina gotovo znanstveno-fantastičnog entuzijazma i nedostatka jasnog smjera. “Izgradimo AI za čovječanstvo” je prazan slogan i sve što ostaje na kraju previše je besmislenog brbljanja. Praznina je upravo ono na što papa ukazuje: nedostaje ono što ja nazivam ljudskim projektom za dvadeset i prvi vijek. Tehnologiju ne regulišu oni koji je razvijaju. Električna energija, nuklearna energija, antibiotici, vakcine i motorizacija su zahtijevali politiku, pravo i javnu etiku. Isto važi i za AI. Inženjeri grade tehnologiju, ali tehnologijom se ne može upravljati samo inženjerstvom. Zato je proširivanje horizonta odgovornost institucija, crkava, univerziteta, civilnog društva i, prije svega, politike.

Tekst raspravlja o transhumanističkim i posthumanističkim trendovima, suprotstavljajući im poziv na očuvanje ljudskosti u digitalnom dobu. Kako se mož promijeniti na etičkom i praktičnom nivou?

Na mnogo načina, transhumanizam je tek najnovija manifestacija stare gnostičke jeresi: uvjerenje da je tijelo mana koju treba ispraviti, a konačnost bolest koju treba izliječiti. U najboljem slučaju, to je naivna iluzija; u najgorem, eugenički projekt maskiran oslobađanjem. Ali, biti čovjek nije proizvodna greška koju treba prevazići; to je stanje koje daje smisao našim odabirima. Mi smo divna iznimka prirode, po nekima slučajna, po drugima namjerna. Ovu iznimnost prirode treba cijeniti i podržavati, a ne iskorijeniti. Moramo projektovati tehnologije koje podržavaju i osnažuju ljude u njihovim projektima, uključujući i društvene, i koje im mogu pomoći ili ih zamijeniti u napornim zadacima, kako bismo ih oslobodili i ponudili im bolje prilike. Moramo braniti prostore nefunkcionalnog – ne beskorisnog, već jedinstveno relevantnog – poput razmišljanja, uživanja, razgovora ili sporosti u tišini. Društvo koje optimizuje sve ovo gubi, a samim tim i svoju ljudskost. To je stara monaška lekcija i zanimljivo je da danas pada u zadatak agnostičkom filozofu poput mene da ga podsjeti. Tako je tumačim starim moto festina lente: požuri kako bi mogao usporiti. Kao što govorim svojim studentima da treba biti što efikasniji kako bi se imalo vremena za pogled kroz prozor.

Autonomno oružje zastrašuje jer se čini da će odluke o životu i smrti donositi mašine bez ikakve ljudske kontrole i odgovornosti. Vještačka inteligencija se već koristi u aktuelnim ratovima. Vidite li novi pomak ka sukobima vođenim algoritmima?

Vidim. I bojim se toga. U Ukrajini i Gazi, da spomenemo samo sukobe koji su nam najbliži, već neko vrijeme su u upotrebi sistemi za odabir ciljeva uz pomoć vještačke inteligencije. Nedavna događanja su pokazala šta se dešava kada ljudski operater samo pritisne dugme na opcije koje je generisala vještačka inteligencija: nadzor postaje formalno odobrenje, a to odobrenje je samo puka formalnost. Odgovornost, koja je od njemačkih procesa u Nirnbergu u centru ratnog prava, raspada se u lanac automatizama. Za to su potrebne najmanje dvije stvari. Pravno, što brže je moguće moramo postići međunarodni sporazumu kojim bi bilo zabranjeno posve autonomno smrtonosno oružje, a po uzoru na konvencije o hemijskom oružju, te kriminalno odgovornim smatrati korisnike mutnih sistema, čime bi se ponovo uspostavio lanac odgovornosti. Moramo zapamtiti da odluka o ubijanju može biti neizbježna, ali ona ostaje odluka pojedinca za koju je odgovoran. Otud je ovaj pomak, koji je stvaran, takođe veoma opasan i mora se izbjeći.

(Preveo sa italijanskog: Božidar Stanišić)

Bilješka: Originalni naslov intervjua je Il filosofo Floridi: “No a una società che ottimizza tutto: affrettiamoci, sì, ma per rallentare”. Enciklika pape Lava XIV, na engleskom jeziku: https://sl1nk.com/ifzdiv3