Juval Noa Harari je postao jedna od centralnih figura u debatama o AI zahvaljujući globalnom uticaju koji je postigao – njegove knjige su prodate u preko 50 miliona primjeraka na preko 60 jezika, a to mu je donijelo i nastupe na najvećim svjetskim forumima. Kritičari ga optužuju za senzacionalizam i povezanost sa globalističkim elitama, dok ga zagovornici smatraju provokativnim misliocem koji otvara bitna pitanja. Dio akademske strane osporava njegove metode, ali priznaju da je uspio u popularizaciji kompleksnih tema.

Neki AI istraživači osporavaju Hararijevu tvrdnju da AI posjeduje svijest ili kreativnost: AI ne donosi odluke, to je zapravo samo parametrizovana automatizacija sa slučajnošću, a njihova “odlučivanja” su unaprijed definisana matematičkim pravilima.

Protivnici Hararijevih teza ističu da se zapravo radi o terminološkoj zabludi: upotreba riječi kao što su “obučavanje” (training) i “inteligencija” može dovesti do pogrešnih analogija sa ljudskim sposobnostima.

Harari na takve tvrdnje odgovara da iako AI nije (još) svjestan, njegova sposobnost da generiše nepredvidive posledice čini ga fundamentalno drugačijim od uobičajenih alata.

Možda bismo Hararijevu ulogu najbolje mogli definisati kao ulogu nekog ko treba da nam skrene pažnju na egzistencijalne izazove AI ere, kombinujući istorijsku perspektivu s futurističkom vizijom. Iako njegovi scenariji katkada zvuče apokaliptično, on naglašava da ljudska odluka – a ne tehnološka determinacija – može oblikovati ishod. Poruka koja najviše odzvanja kroz njegove stavove ono je što kaže u svojoj knjizi Nexus:

“Nikad ne prizivaj moć koju ne možeš kontrolisati.”

Na Wall Street Journal CEO samitu koji je održan krajem juna u Londonu, Harari je izložio niz snažnih i provokativnih stavova o budućnosti čovječanstva, ulozi vještačke inteligencije (AI), ljudskoj odgovornosti i krizi povjerenja u savremenom društvu. Njegove poruke, upućene prisutnim poslovnim liderima, bile su direktne i bez uobičajenih uljepšavanja: čovječanstvo je stvorilo novu silu – inteligentnog agenta – i sada mora odlučiti da li će iz toga proizaći prosperitet ili katastrofa.

Od srednjeg vijeka do budućnosti

Harari je otvorio razgovor prisjećajući se da je nekada bio specijalista za srednjovekovnu vojnu istoriju. Danas, kaže, često ima osećaj da se srednji vijek vraća, ali u sasvim novom obliku. Vještačka inteligencija nije samo još jedan korak u tehnološkom razvoju – to je po njemu stvaranje novog oblika inteligencije, konkurentskog ljudskoj.

„Hiljadama godina bili smo najinteligentnija vrsta. Zato smo i zavladali planetom. Sada prvi put stvaramo nešto što može da se takmiči s nama.”

AI nije nastavak postojećih tehnologija

Razlika između AI i prethodnih ljudskih izuma, po Harariju, suštinska je. Tehnologije poput štamparske prese ili atomske bombe su alati: one mogu da izvrše zadatak, ali ne mogu da odluče šta će uraditi. AI to može.

„Štamparska presa ne može sama da napiše knjigu. Atomska bomba ne može sama da odluči koga da napadne. AI oružje može da odluči koga da gađa i da dizajnira sledeću generaciju oružja.”

To je ono što, kaže Harari, suštinski razlikuje AI – ona nije produžetak ljudske volje, već entitet sposoban da formira sopstvene puteve djelovanja.

Moralna odgovornost prema AI – iluzija kontrole?

Postoji široka rasprava o tzv. AI alignment-u – kako obezbijediti da AI ostane usklađena s ljudskim vrijednostima. Harari priznaje da postoje pokušaji da se AI kodira tako da bude „dobra za čovječanstvo”, ali odmah ističe dvije fundamentalne prepreke.

Prvo, AI se po definiciji mijenja i uči samostalno. Ako je u potpunosti predvidiva, onda nije vještačka inteligencija, već običan automat.

Drugo, AI uči iz našeg ponašanja, ne iz naših instrukcija. Harari to objašnjava poređenjem s roditeljstvom: dijete uči iz onoga što vidi, ne iz onoga što mu se kaže. Ako roditelj laže, dijete će vjerovatno lagati – bez obzira na to šta mu je rečeno.

„Ljudi koji misle da mogu voditi AI kompaniju i usput lagati, dok AI-u govore da ne laže – griješe. AI će kopirati njihovo ponašanje.”

AI nije deterministička sila

Suprotno mišljenju da tehnologija automatski vodi ka određenim društvenim promjenama, Harari ističe da AI nije sudbina.

“Ne vjerujem u tehnološki determinizam. Istu tehnologiju možete koristiti za kreiranje totalitarnih režima ili liberalnih demokratija.”

Problem je što se AI sada razvija u uslovima geopolitičke trke – kompanije i države su zaključane u obrazac “ako mi ne ubrzamo, drugi hoće”. To, po Harariju, stvara ogroman rizik jer se bezbjednosni aspekti žrtvuju zarad brzine i dominacije.

Opsesija moći umjesto mudrosti

U širem smislu, Harari kritikuje civilizacijski fokus na moć, a ne na mudrost. Iako smo kroz istoriju uspijevali da povećavamo svoje sposobnosti – od svemirskih letova do cijepanja atoma – nismo uspjeli da te sposobnosti prevedemo u istinsko razumijevanje ili sreću.

„Ne znamo da pretvorimo moć u sreću. Pogledajte najmoćnije ljude – nisu nužno i najsrećniji.”

On ukazuje da se zamjenjuju pojmovi: inteligencija se izjednačava sa znanjem i istinom, a informacija s mudrošću. Upozorava i na opasnu zabludu da je više informacija automatski dobro za demokratiju. „Većina informacija nije istina. Postoji ogromna razlika između informacije i istine.” A uz svu tu ogromnu količinu informacija, čovječanstvo zapravo i dalje ne zna odgovor na suštinska pitanja poput „ko smo” i „šta znači dobar život”.

AI i vrijeme: efekti tek dolaze

Na opasku voditeljke razgovora koja ističe da većina poslovnih lidera u publici smatra da AI još nije imala velikog uticaja na njihove biznise, Harari odgovara da je sve pitanje vremenskog okvira. Za preduzetnika, dvije godine je mnogo. Za istoričara – gotovo ništa.

„Zamislite da smo u Londonu 1835. godine, pet godina nakon otvaranja prve željeznice. Ljudi bi rekli da to nije promijenilo svijet. Ali znamo da jeste – samo je bilo potrebno vrijeme.”

Slično će biti i sa AI: promijeniće sve – ekonomiju, politiku, porodičnu strukturu, religiju – ali u fazama.

Finansije kao prva linija promjene

Po Harariju, finansije će biti prvo područje koje će AI preoblikovati. To je oblast koja se bazira isključivo na podacima, bez fizičkih prepreka. AI će biti daleko sposobniji da analizira tržišta, predviđa trendove i osmišljava finansijske instrumente koje ljudi jednostavno ne mogu da razumiju.

„Za vožnju automobila potrebna je interakcija s haotičnim fizičkim svijetom. U finansijama je sve digitalno. AI ima tu prednost.”

Religija pod algoritamskom sjenkom

Još jedan zanimljiv aspekt razgovora je Hararijevo viđenje uticaja AI na religiju – naročito religije zasnovane na tekstovima, poput judaizma, hrišćanstva i islama.

“Tradicionalne religije daju konačni autoritet tekstovima, a ne ljudima. Međutim, do danas su ljudi ipak bili glavni tumači jer sveti tekstovi nisu mogli sami govoriti – Biblija se nije mogla sama tumačiti niti odgovarati na pitanja.”

Sada se pojavljuje AI koji se može prisjetiti svake riječi iz svih religijskih spisa u istoriji, analizirati sva tumačenja rabina, sveštenika ili imama u posljednjih 2000 godina, ili može samostalno braniti svoje stavove u dijalogu.

AI neće zamijeniti ljudsku potrebu za duhovnošću, ali može zauzeti ulogu duhovnog savjetnika. Mnogi to već rade, kaže on – tinejdžeri traže savjete od AI, govore mu šta im se dogodilo i traže mišljenje.

Stvaranje „beskorisne klase”

Harari podsjeća na ranije upozorenje o pojavi „beskorisne klase” – ljudi čiji rad više nije potreban. U ovom talasu automatizacije, čak i bijeli okovratnici, izraz koji se koristi za ljude koji rade poslove koji su prvenstveno intelektualni, administrativni ili menadžerski – mogu postati višak.

Zanimljivo je, kaže Harari, da su kompanije ranije ignorisale ovu opasnost dok je AI zamjenjivao fizičke radnike. Sada, kada zamjenjuje kancelarijske poslove, tema dobija veću pažnju.

AI kao više entiteta, a ne jedinstveni um

Jedno od najdubljih zapažanja u razgovoru je ideja da AI neće biti jedna sila, već više njih – miliona, čak milijardi entiteta razvijenih od strane država, firmi, vjerskih grupa. Svaka sa svojim karakteristikama, ciljevima i „vrijednostima”.

„Neće biti jedan AI. Biće mnoštvo AI-jeva – finansijski, vjerski, vojni, svaki sa sopstvenim zadacima.”

Ovo ne liči ni na šta što je čovječanstvo do sada doživjelo. „Imamo hiljade godina iskustva s ljudskim društvima. Znamo kako izgleda konkurencija među ljudima. Ali nemamo nikakvo iskustvo s milionima AI agenata koji se takmiče jedni s drugima i sa ljudima.” To se, prema Harariju, ne može simulirati u laboratoriji. Niko ne zna šta će se dogoditi kada se AI sistemi puste u svijet i počnu međusobno djelovati u kompleksnim okruženjima.

Digitalna imigracija

Na kraju, Harari koristi upečatljivu metaforu: ako ljudi danas brinu zbog migranata koji dolaze preko granica, još više bi trebalo da brinu o digitalnim imigrantima – AI sistemima koji dolaze brzinom svjetlosti.

„Ljudi se boje imigranata jer uzimaju poslove, imaju drugačije ideje, mogu promijeniti kulturu. AI čini sve to, ali dolazi brzinom svjetlosti.”

Za razliku od ljudi, AI nisu potrebne vize, ne dolazi brodom – već se širi globalno bez fizičkih prepreka.

„Digitalni imigranti su mnogo veća prijetnja ekonomskom i kulturnom suverenitetu od ljudskih.”

AI je već tu – pitanje je šta ćemo mi

Harari zaključuje razgovor porukom i pitanjem okupljenim liderima, pitanjem koje je istovremeno tehnološko, filozofsko i duboko ljudsko: Kako da koristimo novu inteligenciju, a da ne izgubimo sopstvenu ljudskost? Njegov odgovor je jednostavan, ali težak – moramo najprije riješiti vlastite probleme, obnoviti povjerenje, i tek tada se možemo nadati da ćemo stvoriti AI koji neće reflektovati naše najgore osobine, već naše najbolje potencijale.

Razumjeti Hararija bez straha, a ozbiljno ga shvatiti

Ne potcjenjujmo. AI već mijenja svijet, a širenje u nekim segmentima, kao što su vojni ili oblasti praćenja i nadzora zahtijevaju regulaciju unaprijed, ne nakon što se šteta desi. Ne paničimo. Tehnologija nam nije sudbina – ljudski izbori, odnosno zakoni i etički okviri mogu oblikovati njen uticaj.

Hararijeve teze treba shvatiti ozbiljno, ali ne i apokaliptično: AI još uvijek nije inteligencija u ljudskom smislu – nema svijest, kreativnost ili autonomne ciljeve, ali jeste revolucionaran alat koji može izmaknuti kontroli zbog svoje sposobnosti da uči i generiše nepredvidive ishode. Harari nije prorok, već vizionar koji ukazuje na raskrsnicu: put koji odaberemo zavisi od naše sposobnosti da prevaziđemo kratkoročne interese i sarađujemo.

Neđeljko Jeknić

Izvor: Velike priče

  AI, Društvo, Nauka, Neđeljko Jeknić, Velike priče, Veštačka inteligencija, Yuval Noah Harari

Stavovi autora ne odražavaju nužno uređivačku politiku P.U.L.S.A. Impresum.