Harari: „AI je najveći psihološki eksperiment u ljudskoj istoriji“

Istoričar i pisac Juval Noa Harari, autor planetarnih hitova Sapiensa i Homo Deusa i „21 lekcija za 21. vek”, jedan je od najuticajnijih savremenih mislilaca kada su u pitanju budućnost čovečanstva, tehnologija, politika i veštačka inteligencija.

U velikom intervjuu u podkastu “Šou sa Ezrom Klajnom” govori o ratu, identitetu, moći priča koje oblikuju društva, ulozi društvenih mreža i opasnostima koje donosi razvoj AI-ja — od manipulacije pažnjom do „hakovanja” ljudske intime i emocija. Harari upozorava da ulazimo u period u kojem tehnologija više neće samo menjati način na koji živimo, već i način na koji mislimo, osećamo i gradimo odnose sa drugim ljudima. U intervjuu se osvrće i upozorava na Donalda Trampa, Benjamina Netanjahua i rat u Gazi, tj. svet sve više prihvata logiku u kojoj su sila, strah i dominacija važniji od dijaloga, empatije i liberalnih vrednosti — što, po njegovim rečima, može promeniti ne samo politiku već i samu ljudsku svest.

Ezra je krenuo sa snimkom Stivena Milera, zamenika šefa kabineta Donald Trampa za politička pitanja: „Možete pričati šta god želite o međunarodnim pravilima i lepom ponašanju, ali živimo u stvarnom svetu, Džejk — svetu kojim upravljaju snaga, sila i moć. To su gvozdeni zakoni sveta koji postoje od početka vremena.“ Šta pomislite kada to čujete?

Juval Noa Harari: Pomisim da je čitava istorija filozofije i duhovnosti zapravo rasprava upravo sa tim pogledom na svet. Sa idejom da je jedina stvarnost — moć. Da je jedina stvarnost — sila. A iz perspektive istoričara, sasvim je jasno da to nije tačno. Kada bi jedina ljudska realnost bila brutalna sila, i dalje bismo živeli u malim grupama lovaca-sakupljača negde u afričkoj savani. Jer čitava ljudska istorija zapravo govori o tome kako navesti veliki broj ljudi da sarađuju i veruju jedni drugima — a to ne možete postići samo silom.

Želim malo da se zadržimo na toj tenziji između vizije saradnje kao pokretačke sile istorije i vizije moći kao pokretačke sile istorije. Jer ako pokušam da što poštenije predstavim pogled koji danas dolazi iz Trampove administracije i sličnih političkih pokreta, oni bi rekli da su uslovi za saradnju oduvek bili kombinacija zajedničkih nacionalnih i verskih priča, ali i hijerarhije, dominacije i podređenosti — i da oni danas pokušavaju da obnove upravo te uslove koji su omogućili velikim državama da postanu velike. Mislim da je to ljudima privlačno. Ali postoji još jedna dimenzija: vaš rad se u velikoj meri bavi zajedničkom pričom — pričom kao operativnim sistemom koji omogućava ljudsku saradnju u velikim razmerama. Ljudi poput Donalda Trampa — ili u Izraelu nacionalističkog filozofa Yoram Hazonya — tvrde da su nam potrebne snažne priče o naciji, etničkoj solidarnosti i religijskom zajedništvu. A da su liberalizam i ideologije zasnovane na ljudskim pravima počele da nagrizaju upravo te temelje. Dakle, da uništavaju same uslove saradnje. Zanima me kako vi razmišljate o tome.

To je drugačiji argument. To je argument koji priznaje da nije sve zasnovano samo na sili i brutalnoj moći.

Nacionalizam je, bez sumnje, jedna od najuspešnijih, ali i jedna od najpozitivnijih priča koje su ljudi ikada osmislili. Za mene, nacionalizam nije mržnja prema drugim grupama. Nacionalizam je, u svojoj suštini, ljubav i briga za veliki broj stranaca koje lično ne poznajete, ali ste ipak spremni da zbog njih podnesete velike žrtve.

Nacija nije porodica. Nacija nije čak ni malo pleme. U malom plemenu poznajete svakoga. Ono se zasniva na ličnim odnosima.

Kod nacija, jedna od najupečatljivijih stvari jeste to što ne poznajete 99,99 odsto drugih ljudi u svojoj naciji. To važi ne samo za velike zemlje poput Kine ili Indije; važi i za Izrael. U Izraelu živi oko 10 miliona ljudi. Većinu njih ne poznajem. Ipak, nacionalizam tera ljude da brinu o tim strancima dovoljno da, na primer, plaćaju poreze kako bi drugi ljudi u njihovoj naciji imali dobro zdravstvo i obrazovanje — a u određenim okolnostima čak i da rizikuju život zbog njih.

Naravno, nacionalizam ponekad sklizne u mržnju prema drugima, ali to nije njegova suštinska osobina. Nacionalizam može da postoji bez mržnje prema spoljašnjima. Ali ne može da postoji bez ljubavi prema onima unutra.

Mnogi ljudi koji se danas predstavljaju kao šampioni nacionalizma stavljaju akcenat upravo na mržnju, a u mnogim slučajevima čak stvaraju mržnju unutar same nacije. Oni dele naciju protiv nje same. Misle da su veliki patriote ako mrze spoljne neprijatelje.

Ako ponovo uzmemo Izrael kao primer, niko u istoriji Izraela nije više podelio naciju iznutra nego Benjamin Netanyahu. U tom smislu, on je bio najveći neprijatelj izraelskog nacionalizma. Da, on mrzi spoljne neprijatelje, ali to nije ključni test.

Pitanje je onda: kako bi različite nacije trebalo da uređuju međusobne odnose? To počinje pitanjima bezbednosti i spoljne politike. Trampovska vizija, koja je u potpunosti zasnovana na sili i hijerarhiji, u osnovi kaže da međunarodni sistem treba organizovati tako da se slabi uvek povinuju zahtevima jakih. Tako nastaju red i, navodno, mir.

Dakle, ako Sjedinjene Države traže Grenland, Danska mora da prizna realnost i prepusti Grenland Americi. Ako Danska odbije, pa zbog toga dođe do nasilja, rata ili sukoba, onda je za to kriva Danska jer nije priznala realnost i dala jakome ono što traži.

To je njihova logika. Tako oni vide svet.

Čak i ako ostavimo po strani pitanje morala, ostaje veliki problem. Taj problem je, pre svega, u tome što su onda sve države primorane da postanu jake, jer slaba država ne može da opstane u takvom svetu. A to znači da će sve zemlje biti prisiljene da ulažu sve više svojih resursa u vojsku.

Tokom većeg dela istorije, veliki deo budžeta svakog kraljevstva, carstva, republike ili grada-države trošen je ili rasipan na vojnike, tvrđave, ratne brodove i slično — i niko se pritom nije osećao bezbedno.

Jedno od čuda međunarodnog sistema poslednjih decenija — i ovde nije reč o pacifističkoj poeziji, već o državnim budžetima — jeste to što, kada pogledate brojke, vidite da je početkom 21. veka prosečno oko šest do sedam procenata državnog budžeta odlazilo na odbranu i vojsku, dok je oko deset procenata išlo na zdravstvo.

To je prvi put u istoriji da je čovečanstvo trošilo više na zdravstvo nego na odbranu. Ljudi su se osećali bezbednije nego ikada ranije upravo zato što je postojao tabu protiv invazije i osvajanja drugih zemalja silom.

Ako sada srušimo taj tabu, svi će biti primorani da se naoružavaju do zuba — na račun zdravstva, obrazovanja, socijalne zaštite i svega ostalog — a niko se zbog toga neće osećati bezbednije.

Jer države i lideri stalno pogrešno procenjuju situaciju.

Tokom Vijetnamskog rata Amerikanci su mislili da su jači. Ispostavilo se da nisu bili.

Vladimir Putin je bio uveren da će slomiti Ukrajinu za 48 sati. Pogrešio je.

Ta vizija prema kojoj se mir i svetski poredak zasnivaju na hijerarhiji jakih i slabih — gde slabi uvek slušaju jake kako bi kupili mir — već je isprobavana hiljadama godina i znamo kuda vodi.

S jedne strane vodi ka carstvima, a s druge ka beskrajnim ratovima.

Govorili ste o globalnom liberalnom poretku kao, mislim da ste ga nazvali: najneverovatnijim političkim, a možda i moralnim dostignućem čovečanstva.

Da.

I danas mislim da ljudi više nemaju taj osećaj. Sve se svelo na jezik budžeta i realnost birokratije. Koju je priču liberalizam nekada pričao kao međunarodna sila i šta mislite da mu se dogodilo?

Osnovna priča bila je priča o zajedničkim iskustvima, zajedničkim interesima i saradnji.

U 20. veku postojale su, u suštini, tri velike priče.

Postojala je fašistička priča, koja je tvrdila da je istorija takmičenje, sukob između nacija ili rasa. O svemu odlučuje snaga. Na kraju će najjača nacija ili najjača rasa poraziti sve ostale i osvojiti svet. To je bila fašistička priča.

Zatim je postojala komunistička priča, koja se s tim slaže — ali sukob nije između rasa ili nacija, već između klasa. Postoji neizbežan sukob između različitih društvenih klasa koji će biti nasilan i završiti pobedom radničke klase, koja će uspostaviti diktaturu proletarijata.

A onda je došao liberalizam i rekao da istorija uopšte ne mora da bude zasnovana na sukobu — ni sukobu među nacijama, ni sukobu među klasama. Može da bude zasnovana na saradnji. Zašto? Zato što su svi ljudi, bez obzira kojoj rasi, naciji ili klasi pripadali, u suštini isti.

Postoje male razlike u tome kako izgledamo, kojim jezikom govorimo, koje vere ispovedamo i slično, ali suštinski pripadamo istoj vrsti. Svi imamo iste biološke potrebe. Svi imamo približno iste psihološke potrebe, barem one duboke: da budemo voljeni, priznati i prihvaćeni.

Imamo zajedničke interese i, ako prepoznamo te zajedničke osobine i interese, u mnogim slučajevima mnogo više smisla ima da sarađujemo nego da se takmičimo i ratujemo. Saradnjom možemo da izgradimo svet koji će biti bolji za sve. To je bila osnovna liberalna priča.

Sada, 2026. godine, možemo da se osvrnemo i kažemo da ta priča propada. Nije potpuno propala. Po mnogim kriterijumima, i dalje živimo verovatno u najboljem periodu u istoriji. Ali sistem se urušava.

To je kao neka neverovatna kuća u kojoj živi celo čovečanstvo, a sistemi još nekako funkcionišu — voda, kanalizacija i slično. Niko ih više ne održava, ali su napravljeni toliko čvrsto da, iako ih ne održavamo, oni i dalje rade. Ali ako živite u kući godinu, pet ili deset godina bez ikakvog održavanja, ona će se na kraju srušiti — a tada će već biti kasno.

Nešto što ste rekli mi je bilo zanimljivo, a to je da su dve glavne rivalske ideologije 20. veka verovale u kraj sukoba. Nije bio samo sukob — već da će u nekom trenutku doći do pobede.

Da.

I liberalizam, u jednom obliku, veruje u saradnju. A u drugom obliku, o kome više ne govorimo toliko, jedno od njegovih centralnih načela je da će uvek biti sukoba. Uvek će biti neslaganja. Razlike u društvu nisu rešive i ne bi, ne bi trebalo, da budu rešive do krajnjeg stanja. Pitanje je kako živimo zajedno, kako unutar jedne nacije, tako i kao globalna zajednica, usred tih razlika, stvarajući prostor za njihovo postojanje, a da se ne pretvore u rat, u ugnjetavanje, u progon.

Da, to je veoma važna poenta. Liberalizam ne veruje u iskupljenje. Kada pogledate velike istorijske vizije religija poput hrišćanstva, islama ili judaizma, ili sekularne ideologije poput fašizma i komunizma — sve one veruju u iskupljenje. Sve polaze od ideje da će istorija na kraju stići do konačnog odredišta u kojem će sve biti savršeno.

Liberalizam u to ne veruje. Ne postoji konačno iskupljenje, makar ne na Zemlji. Problemi, tenzije i sukobi će uvek postojati, a pitanje je kako ćemo naučiti da živimo s njima.

Zato liberalizam mnogo ulaže u izgradnju onoga što smatram možda najvažnijom stvari u svakom velikom društvenom sistemu — mehanizma samoispravljanja.

Ako verujete da vam je pogled na svet dao Bog, onda u njemu ne može biti greške. Ne treba vam mehanizam za ispravljanje grešaka jer greške, po toj logici, ne postoje.

Liberalizam polazi od pretpostavke da smo samo ljudska bića koja pokušavaju da urade najbolje što mogu — i da će grešaka uvek biti. Zato su nam potrebni snažni mehanizmi samokorekcije.

Najpoznatiji mehanizam su, naravno, izbori. Na svake četiri ili pet godina ljudi mogu da kažu: „Pogrešili smo prošli put. Hajde sada da pokušamo nešto drugo.“

Svi ti složeni sistemi podele vlasti, nezavisnih sudova, slobode medija i različitih institucija zapravo služe jednoj stvari — da obezbede da država ima snažan i funkcionalan mehanizam samoispravljanja.“

Vi tvrdite da je fikcija često bolja za saradnju nego istina.

Da.

Zašto?

Pre svega, istina je skupa. Da biste saznali istinu, da biste stvorili istinitu priču, morate da uložite mnogo vremena i energije u istraživanje. Fikcija je jeftina, a može biti jednostavna koliko god želite.

Ljudi vole jednostavne priče, pojednostavljene narative poput borbe dobra protiv zla. Mi smo stopostotno dobri. Nikada u svojoj istoriji nismo uradili ništa loše. Oni su stopostotno zli. Nikada nisu uradili ništa dobro. Veoma jednostavno, veoma privlačno.

Istina nije samo komplikovana. Istina je često i bolna.

Fikcija može biti laskava koliko god želite. Opet, na primer: Mi nikada nikome nismo učinili ništa loše. Mi smo savršeni. Mi smo divni.

Zato fikcija često ima mnogo veću snagu kao priča. Takođe, kada pokušavate da motivišete ljude na akciju, ne želite da imaju sumnje. Potrebno je da budu potpuno zapaljeni, sto posto posvećeni. U tom smislu, sa fikcijom je mnogo lakše raditi.

Da li to podrazumeva da ako društva, politički pokreti, institucije postanu previše usmereni ka traženju istine, s obzirom na važnost saradnje, oni se dugoročno nađu u nepovoljnom položaju? Mislim, nemanje istine je problem.

Da.

Ali mislim da ovo donekle implicira da i previše istine može biti problem.

„Da. Apsolutna posvećenost traganju za istinom jeste svojevrsna duhovna praksa, ali je veoma, veoma teško pretvoriti je u politički program.

Postoji razlika između laži i fikcije. Lažete kada znate da nešto nije istina, a ipak to govorite ili podržavate. U mnogim slučajevima, mislim da je ideal u tome da priznamo da koristimo fikcije kako bismo održali društvo.

To je, rekao bih, razlika između Sjedinjenih Država i mnogih drugih moćnih država kroz istoriju.

Ako pogledate američki Ustav, on počinje rečima: „Mi, narod.“ Mi, narod, okupili smo se i usaglasili oko ovog teksta, oko ovih principa. Dakle, sve dolazi iz našeg uma. To je naše stvaranje.

Naravno, ne koristi se reč „fikcija“, ali kada ja kažem „fikcija“, mislim na nešto što nije objektivno. Ne dolazi iz zakona fizike. Ne dolazi od Boga. Mi smo to izmislili.

Američki Ustav veoma iskreno kaže: Mi smo osmislili ove principe, za koje mislimo da su dobri, ali pošto priznajemo da smo ih mi stvorili — mi, narod — zato u Ustav uključujemo i mehanizam za amandmane.

Priznajemo da smo samo ljudska bića. Možda smo smislili nešto što nije idealno. Možda će se okolnosti kasnije promeniti. Zato imamo mehanizam da kasnije promenimo priču.

I mi, očevi osnivači, na primer, mislimo da je ropstvo prihvatljivo, ali u nekoj čudnoj situaciji u kojoj bi neko u budućnosti mogao da zaključi da nije — postoji mehanizam za amandmane.

A sada to uporedite s religijom, recimo s Biblijom ili Deset zapovesti. Deset zapovesti ne počinju rečima: „Mi, narod Izraela.“ One počinju rečima: „Ja sam Gospod Bog tvoj“, i zbog toga ne postoji nikakav mehanizam za izmene.

Ako pažljivo pogledate, videćete da Deset zapovesti zapravo podržavaju ropstvo. Deseta zapovest kaže: „Ne poželi.“ A šta ne treba da poželiš? Nabrajaju se stvari koje ne treba želeti — poput komšijine njive, komšijinog vola, ali i komšijinih robova. Dakle, Deset zapovesti poručuju ljudima da je u redu imati robove. Samo nije u redu želeti tuđe robove — tada će se Bog naljutiti.

I ne postoji nikakav mehanizam da se to promeni, jer se predstavlja ne kao ljudska tvorevina, već kao božansko otkrivenje.“

Religija je bila ogroman izvor saradnje, držeći ljude povezanim i u jednom trenutku, a zatim radeći ka budućnosti koju možda neće ni doživeti. Postoje pitanja nacionalizma i nacionalne priče, koju liberalizam kao samokorigujuća ideologija često kritikuje, a onda gubite deo te nacionalne koherentnosti dok se raspravljate o prošlosti svoje zemlje i šta je uradila ispravno, a šta pogrešno. Vi ste osoba koja veoma duboko razmišlja o pričama. Da li je to za vas slabost naprednih, sekularizovanih, liberalnih demokratija? Da li gube koheziju koja ih, na duge staze, održava konkurentnim ideologijama koje možda ne mogu da izgrade birokratije, možda ne mogu efikasno da vladaju? Ali one sigurno mogu da ispričaju priču.

Da, to jeste centralni problem liberalizma. S druge strane, ne bih upao u zamku zamišljanja religije kao neke drevne kohezivne sile koja ljude drži na okupu. Ja sam medievista — moja prvobitna oblast proučavanja bio je srednji vek.

Ako gledamo procenat stanovništva koji je stradao u ratovima, verovatno najgori rat u evropskoj istoriji bio je Tridesetogodišnji rat. Bio je veoma složen, ali ukratko rečeno, to je bio rat između protestanata i katolika u centralnoj Evropi. Katolici i protestanti bili su spremni da masovno ubijaju jedni druge zbog sitnih razlika u tumačenju religije ljubavi.

Liberalizam je delom nastao upravo iz frustracije koju su ljudi osećali prema religiji, jer je ona neprestano stvarala nove sukobe i podele.

Ako danas pogledate Nemačku, gotovo nikoga nije briga da li je kandidat za kancelara protestant ili katolik. U tom smislu, liberalizam predstavlja bolju osnovu za ujedinjavanje velikih i raznolikih društava upravo zato što je fleksibilniji.

Ali opet, to je komplikovana priča. Ne postoji konačno iskupljenje. Liberalizam nije zasnovan na nekom harizmatičnom vođi, već na veoma složenim, bezličnim mehanizmima samokorekcije, birokratiji i institucijama. Zbog toga je manje privlačan.

Živimo u vremenu krize liberalizma. Jedan od razloga je to što je liberalizam tokom poslednjih decenija izgubio kontakt sa nečim što mu je generacijama bilo blizak saveznik — nacionalizmom.

U 19. veku liberalizam i nacionalizam išli su ruku pod ruku.

Ako danas pogledate neka mesta u svetu, poput Ukrajine, oni i dalje idu zajedno. Ukrajinci se istovremeno bore za svoj nacionalni opstanak i nezavisnost, ali i za liberalnu demokratiju. Tu ne postoji nikakva kontradikcija.

Rekao bih da od 1789. godine niko nije uspeo da smisli ništa novo u političkoj sferi. Francuska revolucija stvorila je jedan složen ideološki paket: sloboda, jednakost, bratstvo.

Ljudi često zaboravljaju ovu treću reč — bratstvo. A bratstvo je zapravo nacionalna zajednica. Može se reći da je čitava politička istorija od 1789. godine zapravo eksperimentisanje sa različitim kombinacijama tog trojstva. Svaki pokret koji je pokušao potpuno da odbaci jednu od te tri vrednosti — propao je. Fašizam je bio zasnovan gotovo isključivo na bratstvu, bez jednakosti i bez slobode. Komunizam je, s druge strane, naglašavao jednakost na račun slobode, a donekle i bratstva. Jedno od objašnjenja za ono što se danas događa liberalizmu jeste to da se poslednjih decenija fokusirao na jednakost i slobodu, ali je zaboravio bratstvo — a pokazalo se da je to neodrživo.

Veoma mi je zanimljivo što si otišao ovde. Smešno je, zaokruživao sam nešto donekle slično u svom podkastu i radu o liberalizmu, a to je da je rana vrlina povezana sa liberalizmom liberalizam — što bih rekao, u velikoj meri je rođak bratstva, ove etike međusobnog poštovanja i velikodušnosti prema sugrađanima.

Da.

Jedna stvar koju dodajete toj priči jeste da ona mora biti zasnovana na nekoj vrsti nacionalne priče, da postoji teškoća u održavanju kohezije u nacionalnoj zajednici, održavanju tih veza zajedništva, kada jednom prestanete da verujete u vezu koju imate jedni sa drugima.

Da. Mislim da je ovde važno naglasiti da je liberalizam izgubio vezu sa bratstvom zato što su neki ljudi o bratstvu počeli da pričaju isključivo negativno — posmatrajući ga prvenstveno kroz sukob s drugim zajednicama, kao da se bratstvo svodi na mržnju prema drugim narodima i borbu protiv njih.

Ako se setimo onoga što smo rekli na početku — da je suština bratstva zapravo briga i ljubav prema određenoj grupi ljudi — onda vidimo da to ne zahteva mržnju prema autsajderima. Ali podrazumeva da imate poseban odnos sa određenom grupom ljudi, da delite zajedničku istoriju, zajedničku kulturu i zajednički jezik.

Pokušavati da se to izbriše ili zanemari znači ignorisati istoriju. Da, imamo određene obaveze prema čitavom čovečanstvu, ali to ne isključuje postojanje posebnih obaveza prema jednom delu čovečanstva — baš kao što imate posebnu lojalnost prema svojoj porodici, koja prevazilazi ono što dugujete svojim sugrađanima ili strancima.

Video sam da iznosite argument da ograničavajuće pitanje u vezi sa pričama koje pričamo treba da bude: Da li neko pati zbog ove priče?

Mislim da je moral u krajnjoj liniji o patnji — i oslobođenju od patnje i sreći. Može li nacija patiti? Često koristimo ovaj jezik, ali to je samo metafora. Ako zemlja izgubi rat, pretrpi poraz u ratu, ona zapravo ne pati. Nema mozak. Nema nervni sistem. Nema um. Ne može da oseti bol ili zadovoljstvo. Samo pojedinci mogu da pate.

Ali nacija, mislim, čak i u ovom pripovedanju, predstavlja mehanizam pripovedanja koji štiti grupu koja je povezana sa njom. Da upotrebimo onu bližu vašem domu, kao primer: Priča koju izraelski Jevreji priča o Palestincima nije da oni ne pate. Ili je patnja zaslužena zbog toga koga su izabrali ili ko njima vlada, i da postoji kolektivna odgovornost za to – ili je patnja nesrećna nužnost za izraelsku bezbednost, i da su ljudi koji to poriču naivni.

Aha.

Ali upravo je taj sukob oko patnje — da je možda tvoja patnja neophodna za moju sigurnost, bezbednost ili prosperitet.

Da. Mislim, očigledno je da postoje teški moralni sukobi u svetu. Ne uvek, ali ponekad, da, postoje kompromisi. I samo reći da se sav moral na kraju svodi na patnju ne znači da sve moralne dileme nestaju. Ali jedna od stvari koju sam primetio u Izraelu u nedavnom sukobu jeste da mnogi Izraelci imaju problem sa jednostavnim priznavanjem da Palestinci pate. Intelektualno, oni to znaju. Ali u mnogim slučajevima, jednostavno ne mogu to da primete. Pokažete im slike gladnog deteta u Gazi, a oni će reći: Ovo su lažne vesti. Ili će odmah skrenuti diskusiju na nešto drugo, poput: Ovo je zbog Hamasa. Ako kažete: Ne zanima me. Da li ste u stanju, na nekoliko sekundi, samo da budete tamo i priznate da tamo postoji ljudsko biće koje pati? – izuzetno im je teško da to urade. Čak i ako im kažete: Izrael je 100% u pravu – 100% krivice za ono što se dešava u Gazi je Hamas. Sve što Izrael radi je 100% tačno. Pošto je tako ispravno, pošto je ovo tako pravedno, trebalo bi da vam bude lako da posmatrate posledice vaše savršene pravde. Evo, samo pogledajte ovu sliku. Ali toliko ljudi jednostavno ne može to da uradi.

Rekli ste da ono što se trenutno dešava u Izraelu može u osnovi uništiti ili poništiti 2.000 godina jevrejskog razmišljanja, kulture i postojanja. To je najgori mogući scenario. Šta ste time mislili?

Istorijski gledano — i time se vraćamo na početak našeg razgovora — judaizam se, barem od razaranja Drugog hrama, postavio nasuprot pogledu na svet prema kojem se sve zasniva isključivo na sirovoj sili.

Kada su rimske legije Vespazijana razorile Jerusalim 70. godine nove ere, Johanan ben Zakaj je od Vespazijana zatražio jednu uslugu: „Daj mi mali grad po imenu Javne“ — blizu današnjeg Tel Aviva — gde je želeo da osnuje centar za učenje. Vespazijan je pristao: „U redu, Jevreji mogu imati svoj centar za učenje.“

I od tada, tokom narednih 2.000 godina, Jevreji u Javneu, a zatim u Kairu, Bagdadu, Poljskoj, Bruklinu — učili su i proučavali. To je postala suština judaizma. Ranije je to bila religija hramova, sveštenika i krvavih rituala, a potom je postala religija učenja.

Ako pokušate da razmislite koja je možda bila najvažnija poruka Jevreja čovečanstvu tokom poslednjih 2.000 godina, rekao bih da je to poruka da je u redu biti drugačiji. U redu je misliti i ponašati se drugačije od većine.

Imate zemlju poput Francuske ili Nemačke. Oni slave Uskrs i Božić. Veruju u Isusa i tako dalje. A onda imate tu malu jevrejsku manjinu koja kaže: „Možemo misliti drugačije. To je u redu. Možemo se ponašati drugačije.“ To je bila suština jevrejskog identiteta.

Mnogo razmišljanja — ali i praktičnog iskustva — o tome šta znači sloboda mišljenja, šta znači biti nemoćna manjina, razvili su upravo jevrejski mislioci. Tokom 2.000 godina, Jevreji širom sveta smatrali su proučavanje i učenje najvišom duhovnom aktivnošću.

A onda ih, posle 2.000 godina, pitate: „Šta ste naučili? Učili ste 2.000 godina — šta ste naučili?“

I onda vam ljudi poput Netanjahua kažu: „Naučili smo da moraš biti Rimljanin. Moraš biti snažan. Moraš graditi legije. Moraš razarati gradove. To je jedino što je važno u životu.“

To jeste legitiman sistem vrednosti. Rim je imao svoju svrhu. Ali ako Jevreji posle 2.000 godina jednostavno postanu novi Rimljani — čemu je onda sve to služilo? Zašto ste onda potrošili 2.000 godina? Mogli ste jednostavno odmah tada postati Rimljani.

Time se zapravo poništava čitava jevrejska istorija.

Zar deo rane vizije cionizma nije bio da će stvoriti ovog novog Jevrejina koji neće biti bledi intelektualac ​​u manjini sa nosom u knjizi, već će biti jak, obrađivati zemlju i sposoban da ratuje i brani se?

Da, a ideja je bila da mogu da kombinuju lekcije, nasleđe judaizma sa obradom zemlje, izgradnjom vojske i izgradnjom države. Možda je to jednostavno bilo pogrešno, i na kraju je morao da se napravi izbor da li želiš da budeš Vespazijan i komanduješ legijom, ili želiš da budeš Johanan ben Zakaj i da učiš i razvijaš svoju duhovnu stranu, a to dvoje ne može da ide zajedno.Top of Form

Da li je to ono u šta sada verujete, da je kontradikcija bila neiskorenjiva?

Ne znam. Istorija je veoma složen i neočekivan proces. Ne mislim da postoji inherentna kontradikcija između moći i pravde, ili između razvijanja moći i razvijanja duhovne mudrosti. Ali mislim da je veoma teško spojiti to dvoje. Iskušenja moći su veoma, veoma velika, i nije mnogo ljudi ili mnogo pokreta kroz istoriju uspelo da im odoli. Dakle, nije toliko veliko iznenađenje, ali je ipak razočaravajuće.

Ovo je bio period u Americi tokom kog sam posmatrao kako se pojavljuje prilično dubok raskol među američkim Jevrejima. Mislim da je jedan od razloga zašto je to toliko bolno to što je dovelo do toga da se dve tradicije i dva načina razmišljanja unutar judaizma suprotstave jedno drugom. Postoji tradicija „stranca“. Jedan od razloga zašto su Jevreji dali veliki doprinos razvoju modernog liberalizma, ljudskih prava, pluralizma i velikog dela političke teorije i zakonodavstva jeste to što je to veoma povezano s jevrejskim iskustvom — da je jedini način da jevrejska dijaspora bude bezbedna taj da živi u društvima koja su suštinski liberalna i koja nisu etnonacionalistička.

U Izraelu, postoji stav među izraelskim Jevrejima da će, da bi to društvo bilo bezbedno i da bi ostalo verno sebi, ono morati da postane sve više etnonacionalističko. Na neki način, mislim da se danas ne priznaje uvek da je ta tradicija sama sa sobom u određenoj meri u sukobu. Postojala je nada da bi te stvari mogle da koegzistiraju kroz rešenje dve države ili na druge načine, ali kako to sve više ispada iz igre i kako se Izrael kreće u etnonacionalističnijem pravcu, mislim da sada imate situaciju u kojoj ta tradicija i njene različite realizacije zapravo dolaze u direktan sukob.

Da. Mislim da je ovo veoma tačan način da se to prikaže. Naravno, oni se oslanjaju na biblijski judaizam, koji je bio veoma različita religija od one koja se razvila tokom 2.000 godina dijaspore. Biblijski judaizam je bio vrlo nasilan, vrlo neliberalan i vrlo netolerantan religijski sistem. Za svoje vreme, verovatno je bio jedna od najnetolerantnijih religija na svetu.

U Bibliji imate zapovest da se pobiju svi Kanaanci. Postoji veoma duboka netolerancija prema religijama i verskim praksama i verovanjima svih drugih naroda.

Antički svet ima svoje užase, ali je u religijskom smislu bio prilično tolerantan. Politeističke religije, koje su verovale u više bogova, nisu imale problem da prihvate religije i bogove drugih naroda, pa čak i da ih u određenoj meri praktikuju.

Pogledajte, recimo, Rimsko carstvo. Rimljani nisu imali problem da prihvate bogove i religije stotina drugih naroda koje su osvajali. Nisu pokušavali da unište druge religije. U mnogim slučajevima su ih usvajali.

Kao Rimljanin, mogao si da odeš u Jupiterov hram ujutru, zatim u hram egipatske boginje Izide, a bio si spreman da saslušaš i tog novog boga, Isusa, Jahvea, koji dolazi sa Bliskog istoka. Bio si otvoren.

Judaizam nije bio otvorena religija. To se donekle promenilo kada su se Jevreji našli kao mala manjina koja živi pod dominacijom drugih religija i tradicija, što ih je donekle nateralo da razviju otvoreniji i tolerantniji pogled na svet.

Ali sada se ta 2.000 godina duga tradicija tolerancije u judaizmu u potpunosti negira i uništava.

Kritika koja se često upućuje Americi iz drugih zemalja jeste da ako bi naše granice bile okean sa dve strane, Kanada na severu i Meksiko na jugu, mogli bismo biti blagi i velikodušni i u korišćenju moći. Ali stvarnost života – iz izraelsko-jevrejske perspektive – tamo gde živimo, stvarnost da možemo da vidimo Hezbolah iz jevrejskih domova na severu, stvarnost života u zemlji koja je pretrpela traumu od 7. oktobra, primorala nas je na odnos sa moći koji možda nije ono što želimo – ali, da se vratimo na način na koji je Stiven Miler to rekao, to je iskrenije razumevanje onoga što je potrebno da bismo bili sigurni u stvarnom svetu. Ne svet koji Juval Noa Harari ili Ezra Klajn vole da zamišljaju, već svet u kome zapravo živimo. Siguran sam da ste vodili ovaj razgovor sa svojim sunarodnicima u različitim vremenima.

Šta kažete na taj stav?

Do određene mere, to je apsolutno tačno. Mislim, morate se u određenoj meri oslanjati na silu da biste obezbedili svoju sigurnost, ali ona jednostavno ne može biti jedina stvar.

Ako mislite da je sila jedino što garantuje vašu sigurnost, na kraju ćete morati da osvojite ceo svet. Sve što je potencijalna pretnja, moraćete da osvojite.

Sama Izrael ne funkcioniše na taj način. Jedna od izuzetnih stvari koja se dogodila nakon 7. oktobra jeste da su svi mirovni sporazumi koje je Izrael potpisao opstali.

Hamas je nadao da će 7. oktobar dovesti do toga da se sve arapske zemlje ujedine i pokušaju da unište Izrael, ali to se jednostavno nije dogodilo. Mirovni sporazum sa Egiptom je opstao, mirovni sporazum sa Jordanom je opstao, mirovni sporazumi sa zalivskim državama su opstali.

Dogovori sa Palestinskom upravom su takođe opstali. Ona se nije pridružila Hamasu.

Ne mirovni sporazum, ali relativno korektni odnosi sa palestinskim građanima Izraela su opstali. Hamas je nadao da će se svi oni dići protiv Izraela.

Ali nisu. Tog 7. oktobra, ogromna većina palestinskih građana Izraela ostala je lojalna zemlji. Mnogi od njih su došli da pomognu. Mnogi lekari u Izraelu su Arapi, Palestinci. Svi su otišli u bolnice da zbrinu ranjene.

Hamas sam po sebi nije prekršio nijedan sporazum sa Izraelom, jer nikada nije ni potpisao mirovni sporazum sa Izraelom.

Naravno, možete reći: „Ah, mirovni sporazum sa Egiptom je opstao zato što se Egipat plaši izraelske vojne sile.“ Ali to je samo polovina objašnjenja, jer Izrael ima ogromnu vojnu nadmoć u poređenju sa Hamasom, pa je Hamas ipak napao.

Dakle, ne kažem da Izrael treba da ukine svoju vojsku, ali je bolje ako imate i jedno i drugo — i jaku vojsku i mirovni sporazum — nego samo jedno.

I da, Izrael živi u veoma, veoma problematičnom i teškom susedstvu u svetu.

To je jedna od retkih zemalja na svetu koja je tokom većeg dela svog postojanja imala susede koji su, ako ne svi, onda većina njih, jednostavno odbijali da priznaju njeno pravo na postojanje i otvoreno govorili da će je uništiti. Gotovo da nema drugih takvih slučajeva.

Zato je od samog početka u veoma teškoj situaciji.

Ali pitanje je: ako imate moć, šta radite sa tom moći? Izrael je izuzetno moćna država. Može da koristi svoju moć na različite načine. Može, na primer, da pokuša da je iskoristi za uspostavljanje boljih odnosa sa Palestincima.

Ako pogledate način na koji se Izrael ponaša prema Palestincima, ne u Gazi nego na Zapadnoj obali, ne postoji bezbednosno opravdanje za to. Oni nisu napali Izrael 7. oktobra. A postupcima Izraela smanjuje se šansa da dođe do mirovnog dogovora sa Palestincima.

Može da koristi svoju moć. Ne može da natera Palestince da naprave mir protiv svoje volje, ali može da preduzme mnoge poteze koji bi to učinili verovatnijim i lakšim.

Mislim da je tvoja poenta o Zapadnoj obali veoma dobro shvaćena, ali želim da pitam nešto o izraelskoj priči.

Da.

Jedna stvar koju vidite u istoriji asimetričnih sukoba, u istoriji kako terorističke grupe pokušavaju da oslabe jače protivnike, jeste da oni znaju da ne mogu da dobiju rat. Možda Hamas — ne pretvaram se da znam šta je bilo u Sinvarovoj glavi — ali možda su verovali da će doći do ustanka širom arapskog sveta i da će imati sve te saveznike. Možda se tome nadao. Ali sumnjam da je takođe razumeo da ako ovo uspe, doći će do ogromnog odmazde koji će sravniti Gazu sa zemljom, što se i dogodilo, i da pobeda, ako je uspe da je obezbedi, ne bi bila poraz Izraela na bojnom polju, već uništavanje priče koja je štitila Izrael u ostatku sveta. Došao bi da učini da ostatak sveta vidi Izrael više onako kako ga je on video. Izrael je taktički pobedio u svakoj bici koju je vodio u ovom ratu. Ali kao neko ko zaista mari za Izrael, ono što vidim da se dešava je napuštanje sopstvene priče i odsustvo priznanja da svet počinje da ga vidi na mnogo, mnogo mračniji način. To je samo po sebi izvor slabosti, nešto što Hamas pokušava da postigne, što ste mogli videti da pokušava da postigne na početku i na šta su ljudi upozoravali. Ako izgubite tu priču na duži rok, izgubili ste nešto stvarno. Posmatrate ankete o Izraelu u Americi, posebno među mladima, i verovanje u Izrael kao pravednu naciju se srušilo. Mislim da ljudi u Izraelu to uglavnom tretiraju kao beznačajno. Mislim da je, na duži rok, to značajno.

Mislim da Izrael pravi veliku opkladu da će se svet prikloniti svetonazoru Stephena Millera — ideji da je svet mesto u kojem jedino sila ima značaj, i da će Izrael biti jedan od predvodnika tog pogleda na svet. To je opklada koju pravi Netanjahuova vlada.

Što se tiče opklade koju je napravio Sinvar, koju je napravio Hamas — ostavimo po strani pitanje pravde na trenutak, i pogledajmo samo efikasnost: Sinvar je imao neverovatnu pobedu nadohvat ruke, i izgubio ju je samo zbog sopstvene okrutnosti.

Sedmog oktobra, Hamas je uspeo da ostvari zapanjujuću vojnu pobedu nad IDF-om i da ponizi Izrael i izraelsku vojsku. Trebalo je da urade samo jednu stvar drugačije da bi postigli mnogo veću političku i geopolitičku pobedu. Ta jedna stvar bila je da poštede civile.

Zamislite alternativni 7. oktobar u kojem Hamas radi potpuno iste stvari, ali umesto da ubija ili otima izraelske civile, oni ih zadržavaju i dovode svetsku štampu da vidi kako Hamas dobro postupa prema izraelskim zarobljenicima. Daju im vodu, lekove i hranu. Zarobljene vojnike tretiraju kao ratne zarobljenike, što je legitimno, ali ne nanose štetu civilima — i to je jedina razlika.

U takvom scenariju, Izraelu bi ruke bile vezane. Ne samo da svetsko javno mnjenje, već ni izraelsko javno mnjenje ne bi dozvolilo da Izrael jednostavno bombarduje Gazu u ruševine. Imali bismo slike Hamasovih boraca koji brinu o izraelskim civilima i ne nanose im štetu.

I u tom svetu, postojalo bi vrlo malo legitimiteta za masovnu odmazdu Izraela nad Gazom, i Hamas bi pobedio — ne samo taktički, nego i u velikoj političkoj i geopolitičkoj pobedi.

To se nije desilo, jednostavno zbog njihove okrutnosti.

I govorimo tokom nedelje kada je objavljen veliki izveštaj oko 7. oktobra, zasnovan na ogromnoj količini analiza fotografija i video zapisa i svedočenja žrtava. Okrutnost i sadizam u njemu su zaista zastrašujući. Veoma je, veoma teško pročitati skoro bilo koji deo izveštaja. Ljudi ga mogu pronaći ako žele. Ono o čemu sam razmišljao čitajući ga – jer, naravno, ako razgovarate sa Palestincima i ljudima koji su bili u Gazi, njihove priče o gubitku su takođe poražavajuće za čuti – jeste da ta rešenja sada postoje i da se stalno uklapaju u ove dve priče. Često mislim da je lakše zamisliti politička rešenja koja bi mogla da pomire interese ljudi nego zamisliti pomirenje priča koje sada pokreću oba društva. Zanima me, kao neko ko razmišlja o pričama kao prostoru i saradnje i sukoba, kako vi razmišljate o tome. Mogu da zamislim „rešenja“ koja postoje na papiru. Ono što ne mogu da zamislim su ti procesi koji se odvijaju u društvima koja sada rade na pričama o strahu, besu i osveti.

Pa, želim da kažem nešto o besu i strahu i nešto o bolu. Priče o ljutitim i strašnim stvarima, njih treba hraniti. Bes je kao vatra koja vas proždire, ali ga stalno treba hraniti. Ako se ne hrani, na kraju se ugasi. Pogledate istoriju i vidite sukobe, užasne sukobe, i kažete: Ljudi nikada neće zaboraviti. Nikada neće oprostiti. A onda, u roku od nekoliko decenija, ako se uslovi promene, promene se. Pogledajte Jevreje i Nemce – trebalo je samo nekoliko decenija.

Imam jevrejske prijatelje koji ponovo traže nemačko državljanstvo. Prosto je šokantno videti. Prelepo.

Da.

Da, odnosi su zaista dobri. Oni nisu samo nešto izmišljeno, niti su zasnovani isključivo na nekoj vrsti materijalne koristi. Nisu čak ni stari 100 godina.

Primer koji sam ranije naveo, katolici i protestanti u Nemačkoj: nakon što su se toliko dugo međusobno klali, na kraju su se pomirili.

Sada, u mnogim slučajevima, ljutnja gradi sisteme koji onda dalje hrane tu istu ljutnju, sve više i više, i onda izgleda kao da to nikada ne prestaje. Ali ako prestaneš da to hraniš, vremenom se smiri i oslabi. To važi za sve oblike nasilja, i vraća se na početak našeg razgovora.

Šta je fundamentalnije: mir ili rat? Nasilje ili smirenost?

S jedne strane, nasilje deluje fundamentalnije jer ako imaš tišinu, ako imaš mir, dovoljno je da jedna osoba počne da viče i mir je razbijen. Ako imaš 100 ljudi koji sarađuju, i jedna osoba počne da se bije, nastaje nasilje. Dakle postoji neravnoteža u korist nasilja, i u tom smislu ono deluje realnije, temeljnije.

Ali u jednom drugom smislu mir je fundamentalniji, jer nasilje uvek zahteva „gorivo“ — investicije, oružje, energiju, snabdevanje za vojnike. Ako to prestaneš da hraniš, ono se vremenom gasi, dok mir uvek ostaje kao mogućnost.

Zato ne treba očajavati. Bez obzira na to koje priče trenutno ispunjavaju ljudske umove, mogućnost konačnog pomirenja i mira uvek postoji.

Imam još nešto da kažem i o bolu, ali ako želiš —

Ne, voleo bih da čujem šta imate da kažete o bolu.

Ono što smo videli tokom ovog rata, i mnogih drugih ratova, jeste da kada ljudi pate, jednostavno ne mogu da priznaju bol nekog drugog. Kad god ja patim, sve što odvlači pažnju od mog bola, meni se čini nepravedno, pa čak i bolno. Ranije sam pomenuo da mnogi Izraelci – ne svi – jednostavno nisu u stanju da priznaju da Palestinci pate. Intelektualno, oni to znaju, ali emocionalno, ne mogu biti u prisustvu slike, teksta, osobe koja im govori o patnji Palestinaca. Čak i ako im kažete: Ne optužujem vas ni za šta. Vi ste 100% pravedni. Vi ste najpravedniji ljudi koji su ikada postojali. A sada hajde da priznamo bol ovog palestinskog deteta – oni to ne mogu.

Zašto mislite da je to tako?

Isto važi i za drugu stranu. Video sam primere mirovnih aktivista koji su ceo svoj život posvetili miru i pomirenju, a ipak u slučaju 7. oktobra, jednostavno ne mogu da prepoznaju da su Izraelci patili. Ljudski mozak je neverovatna stvar, sa svim ovim milijardama neurona i stotinama milijardi sinapsi, a ipak je tako teško da sve ove stotine milijardi sinapsi istovremeno drže dve ideje. Postoji privlačnost jednostavne priče, da treba da postoji samo dobro i zlo. Ne možemo prepoznati nikakvu pravdu ili bilo kakvu vrstu bola na dve strane – da Izraelci pate, a i Palestinci pate.

Pa, ljudski mozak je neverovatna stvar, a deo onoga što ga čini neverovatnim jeste njegova sposobnost da se orijentiše ka ciljevima. Pitam se da li je jedan odgovor na pitanje koje ovde postavljate, a on postoji u ovom sukobu, i postoji u mnogim drugim vremenima, da, da bih u potpunosti prepoznao drugog kao čoveka, da bih prepoznao njegovu patnju kao značajnu na način na koji je moja patnja ili patnja ljudi koje volim, ne bih bio u stanju da uradim ono što treba da zaštitim sebe ili njih. Kada bih se otvorio drugom, analogiji ili misaonom eksperimentu koji stalno postavljate, i rekao nekome: Sto posto si u pravu. Sve što radiš je jednostavno. Samo se otvori za ono što to znači. U stvari, mozak je previše pametan za to. On zna da ako bi se otvorio za ono što to znači, ne bi bio u stanju da uradi ono što veruje da ga čuva bezbednim.

Mislim da biste u tim slučajevima mogli da se suočite sa posledicama onoga što radite. A ako niste u stanju da se suočite sa posledicama onoga što radite, onda verovatno to nije ispravno.

Dozvolite mi da vas pitam o poenti koju iznosite o pričama i kako se one hrane. Jer me veoma zanima pitanje kako se priče menjaju, pitanje kako Evropa sada živi u miru. Moja žena i ja smo otišli ​​u nekoliko zemalja u Aziji na medeni mesec, jedna od njih je bio Vijetnam. Sećam se da sam obišao Ho Ši Minovu palatu, odnosno njegovu rezidenciju, i prodavali su Pepsi proizvode. Pepsi je očigledno imao ugovor da tamo služi. Mislim, bilo je to samo nekoliko decenija posle Vijetnamskog rata, i odnos je sasvim u redu.

Da.

Dakle, postoji ta sposobnost da nezamislivo varvarstvo ustupi mesto normalnim, mirnim odnosima. Mislite na ljude koji žive u onome što je nekada bila Jugoslavija. Mislite na ljude u Ruandi. I mislite – i možda je ovo lakši slučaj za razgovor, jer je to dovoljno daleko u prošlosti da nemamo jaka osećanja prema tome – ali protestantski i katolički ratovi. Postoji ovo pitanje hranjenja, ali je pomalo apstraktno. Šta je to, po vašem mišljenju, što dozvoljava da se priča tako duboko ukorenjena da bismo za nju umrli ili ubili da se u roku od nekoliko godina ili nekoliko decenija pretvori u nešto drugo?

To je veoma dobro pitanje.

Prvi svetski rat nije umorio Evropljane od rata. Imali su još jedan. Ali onda, posle, izgleda da su se umorili od rata. I šta je napravilo razliku? Nisam siguran. Ali na neki način, um uvek nosi više od jedne priče. Čak i ako sebi kažemo da je ovo jedina, um je tako komplikovano mesto, sa slojevima i slojevima podsvesti i podsvesti, obično nosite nekoliko priča istovremeno, čak i ako priznajete samo jednu. I možete izuzetno brzo prelaziti između njih. Ponovo, pogledajte Nemačku posle 1945. godine i mnoge ljude koji su bili zakleti nacisti, većina nacista nije izvršila samoubistvo 1945. godine. Nekoliko jeste, ali većina nije. Mnogi od njih su postali uspravni građani, barem u Zapadnoj Nemačkoj, liberalnoj demokratiji.

I zapanjujuće, bili su pošteni građani samo nekoliko godina pre nego što su postali nacisti.

Da.

Kao što je život u miru sa jevrejskim komšijama u njihovoj blizini — trgovina, čuvanje dece jedni drugima.

Da. Um može da se drži za priče sa ogromnom snagom i nasiljem, ali isto tako može i da ih pusti. Jer, na kraju, opet — to je priča. To nisu zakoni fizike. To nije zakon biologije. To je samo proizvod ljudskog uma — što je zapravo veoma dobra vest.

Ljudi ponekad zamišljaju da se ljudi bore kao vukovi ili čimpanze oko hrane. Kažu da je malo ratova u istoriji zaista bilo zbog hrane.

Svakako, ako pogledate izraelsko-palestinski sukob, on nije zbog hrane. Objektivno postoji dovoljno hrane da svi prežive između Sredozemnog mora i reke Jordan.

To nije čak ni pitanje teritorije. Iako je to jedno od najgušće naseljenih mesta na svetu, objektivno postoji dovoljno zemlje da se izgrade kuće, škole i bolnice za sve.

To je pitanje priča koje ljudi imaju u svojim glavama, koje drže sa ogromnom snagom, ali koje su na kraju skoro ništa.

Pod određenim uslovima koje zapravo ne znamo kako da stvorimo, ljudi mogu da puste te priče.

Jedna stvar koja je možda sloj ispod pitanja o pričama koje se „hrane“ jeste način na koji te priče cirkulišu i ko ih uopšte širi. Govorim šire od samo Izraela i Palestine.

Živimo u ovom dobu u kojem se liberalizam, o kojem smo ranije govorili, očigledno raspada. Jedna od karakteristika ovog vremena jeste pomeranje ka tome da se naše priče prenose preko društvenih mreža, algoritamskih medija, digitalnih medija.

Da.

Postoje tehnologije koje se prirodno naginju saradnji, i tehnologije koje se, po mom mišljenju, naginju fragmentaciji.

Internet i društvene mreže su u velikoj meri bili predstavljeni kao tehnologija saradnje. Čak i glagoli koje koristimo — „deljenje“ — zar ne? Šta može biti miroljubivije od deljenja? Ipak, ne mislim da se ispostavilo da je tako.

Zato me zanimaju tvoja razmišljanja o tom sloju cele priče — o mehanizmima kroz koje se naše informacije, naše zajedničke ili ne-zajedničke priče sada stvaraju i cirkulišu.

Imaš ljude koji stalno čitaju razne teorije zavere i lažne vesti i slično, i pritom nikome ne veruju. Ne veruju vladi. Ne veruju tradicionalnim medijima. Ne veruju nauci i univerzitetima. Sve su to, po njima, zavere da nas prevare.

Ali oni veruju algoritmima koji im prikazuju sve te priče. Dakle, nije da je poverenje potpuno nestalo iz njihovog uma ili iz sveta — ono se samo pomerilo sa ljudi na algoritme. Ovo se dešava u sve više sistema.

Druga stvar, koja je manje suštinska, ali je bila veoma važna u poslednjoj deceniji ili dve, jeste da algoritmima društvenih mreža kao cilj nije postavljeno stvaranje poverenja, niti stvaranje istine, nego stvaranje „angažovanja“.

Cilj koji je dat Facebook algoritmu, X algoritmu, TikTok algoritmu, jeste da povećaju angažovanje korisnika — što zvuči lepo. „Angažovanje“ zvuči kao dobra stvar. Ali ono što to zapravo znači jeste da su algoritmi eksperimentisali na milionima, na milijardama ljudskih „zamorčića“ da vide kako da ljude učine angažovanijim.

Kako da ih nateraju da duže ostanu na platformi i da više reaguju, na primer tako što će deliti objave sa prijateljima.

I otkrili su da je najlakši način da se ljudi „angažuju“ da se pritisne dugme mržnje, ili dugme pohlepe, ili straha u ljudskom umu, jer je mržnja veoma „angažujuća“. Strah je veoma „angažujući“.

Ako vam nešto ugrožava život, vi ste angažovani.

Tako su preplavili svet mržnjom, strahom, besom, pohlepom i sličnim stvarima, i sada živimo u hiper-angažovanom svetu.

„Angažovanje“ je vrlo blizak rođak još jedne reči koja je veoma dominantna u našem jeziku: „uzbuđenje“.

„Uzbuđenje“ jednostavno znači da je vaš nervni sistem u povišenom stanju. Uzbuđenje je dobro u nekim situacijama i u određenoj meri, kao što je i angažovanje dobro u nekim situacijama. Ali na kraju, biološki gledano, ako držite organizam stalno uzbuđenim, on na kraju kolabira i umire.

Mi jednostavno nismo napravljeni da budemo stalno uzbuđeni.

U mnogim slučajevima, kada upoznajem ljude, više bih voleo da upoznajem ljude zbog kojih se osećam smireno, a ne nužno uzbuđeno. „Baš je umirujuće biti s tobom.“

Pogledajte američku politiku, izraelsku politiku ili svetsku politiku — mislim da je ceo svet previše uzbuđen.

To je uverenje koje prilično snažno zastupam, iako ga ne mogu baš dokazati. Kako da to kažem a da ne zvuči kao posebna molba za izuzetak? [Smeh.]

Mislim da je način na koji su se društveni i algoritamski mediji razvijali suštinski neliberalan. Oni su suštinski neprijateljski nastrojeni prema liberalizmu. I ovde ne mislim na liberalizam kao američki politički pokret koji preferira Pete Buttigiega u odnosu na JD Vancea.

Mislim na načine, navike govora i razmišljanja koji su bili usko povezani sa razvojem liberalizma. To je deliberaција, to je „s jedne strane – s druge strane“, to je bratstvo, način na koji si ti to opisivao.

Svođenje naših misli, njihovo kompresovanje u slogane ili kratke klipove, i zatim prikazivanje uglavnom samo onih misli koje su najuzbudljivije — da upotrebim tvoj izraz — uzbudljive kroz mržnju, uzbudljive kroz ljubav.

Ako pokušavaš da izgradiš društvo koje je uravnoteženo, koje veruje u zdrav neslaganje, konflikt i zajedništvo, ono će inherentno teže funkcionisati u takvom komunikacionom okruženju nego u situaciji kada imaš ograničen broj televizijskih kanala i kada ljudi tako dobijaju vesti, ili kada čitaju novine pa mirno prelaze sa jednog članka na drugi.

Postoji ta veza između načina na koji društva funkcionišu i načina na koji komuniciraju. I koliko god da smo pričali o društvenim mrežama, algoritamskim medijima i politici, moje mišljenje je da i dalje potcenjujemo koliko oblici diskursa koje oni podstiču zapravo oblikuju vrste politike koje dobijamo.

Činjenica da Donald Trump govori u tom stilu koji je šokantan, uzbudljiv, nefiltriran, konstantan, i koji nije ograničen stidom.

On je veoma uzbudljiva osoba, nema sumnje.

Mnogo razmišljam o tome koliko su demokratski političari loši u vođenju podkasta. [Smeh.]

Ne kažem zašto o tome razmišljam, ali dobijam mnogo zahteva od demokratskih političara i moram da razmišljam o tome da li bi bili dobri u emisiji.

Oni komuniciraju institucionalno. Komuniciraju za neko drugo medijsko doba, u kojem ste pokušavali da pridobijete „čuvarе kapija“ i da ne kažete ništa glupo.

U ovom medijskom dobu, morate da komunicirate na način koji ljude čini uzbuđenim — ili bar zainteresovanim. Sada, vrlo, vrlo dobri komunikatori to mogu da urade na jedan „vrlinski“ način.

Obama je zanimljiv na podkastu, čak i kada je promišljen i oprezan. Ali za osrednje komunikatore, lakše je da budu uzbudljivi tako što će ljude učiniti besnim nego tako što će ih učiniti radoznalim, saosećajnim ili naterati ih da razmišljaju.

Da.

Igraš na težem nivou kada pokušavaš da postigneš „vrlinskiju“ komunikaciju.

Znam da je ovo bio dug odgovor, ali mislim da postoji duboka veza između oblika politike koji danas uspevaju i komunikacione infrastrukture na kojoj su naše politike i društva sada zasnovani.

Da, apsolutno. Stvar je u tome da se ne čini da su ideološke razlike danas veće nego ranije. U mnogim aspektima deluju čak i manje. Ako razmišljate o američkoj politici šezdesetih godina i tadašnjim pitanjima — seksualna revolucija, Vijetnamski rat, Hladni rat, pokret za građanska prava — ideološke razlike su, rekao bih, bile mnogo, mnogo veće.

Kada danas govorimo o liberalizmu — i dobro je što si napomenuo da ne govorimo o ovom stranačkom liberalizmu.

Za mene je test liberalizma, da proverite da li ste liberal, zapravo tri ili četiri pitanja: Da li mislite da ljudi treba da imaju pravo da biraju svoju vladu? Da li mislite da ljudi treba da imaju pravo da biraju svoju profesiju? Da li mislite da ljudi treba da imaju pravo da biraju svoju religiju? Da li mislite da ljudi treba da imaju pravo da biraju svog bračnog partnera?

Ako ste odgovorili „da“ na sva četiri, čestitam, vi ste liberal. Ogromna većina ljudi kroz istoriju ne bi odgovorila sa „da“ na ova četiri pitanja.

Veći deo istorije se podrazumevalo da ljudi ne biraju svoju vladu. Postoji neki kralj izabran od Boga ili car izabran od vojske. Ljudi ne biraju svoju profesiju — ako ti je otac bio obućar, i ti ćeš biti obućar. Ako si rođen u kšatrija kasti, bićeš kšatrija. Ne možeš da biraš supružnika, i ne možeš da biraš religiju.

Danas, mislim da bi čak i ogromna većina Trampovih glasača rekla „da“ na sva ova četiri pitanja. Dakle, ideološki gledano, liberali i takozvani konzervativci su verovatno bliži nego ikada ranije u istoriji.

Ali tip diskursa koji se proizvodi stvara osećaj da su razlike ogromne. To je u velikoj meri zbog pritiska da se bude „uzbudljiv“. Političari koji dolaze do vrha su izuzetno uzbudljive i angažujuće ličnosti. Ne možete da sklonite pogled s njih.

Ako razmislite evolutivno, ovo dolazi iz pogrešne upotrebe našeg evolutivnog programiranja. Ako ste se kretali afričkom savanom pre desetina hiljada godina, većina onoga što biste videli nije naročito uzbudljivo. Tu su žbunovi, tamo su gazele. To je u redu. A onda je tu zmija.

Zmija je uzbudljiva. Ona aktivira ceo vaš nervni sistem, i ako ne usmerite svu pažnju na nju, umirete.

Zato smo programirani da, kada je nešto uzbudljivo, ostavimo sve drugo i fokusiramo se samo na to. To ima smisla na afričkoj savani.

Ako ste na Instagramu, vi zapravo držite telefon i vidite zmija, zmija, zmija, zmija, zmija.

Algoritam je jednostavno hakovao naš evolutivni program. Hakovali su nas. Ono što vidimo oko sebe je tek početak. Kako AI postaje sve sofisticiraniji, on će naučiti da nas hakuje na sve dubljim nivoima. Ako se ne branimo da zaštitimo sebe, posledice će biti mnogo, mnogo gore.

Šta podrazumevaš pod hakovanjem nas?

Oni znaju. Oni uče naše slabosti — naše emocionalne, psihološke i društvene slabosti — i kako da ih iskoriste da manipulišu ljudima. Algoritmi društvenih mreža, koji su veoma, veoma primitivne veštačke inteligencije, otkrili su nekoliko slabosti u ljudskom „kodu“, koje su hakovali, i sada manipulišu nama, navodeći nas da provodimo sate i sate na Instagramu ili Facebooku, iako to zapravo ne želimo.

Ljudi, nakon što provedu sat ili dva, „dođu sebi“ i kažu: zašto sam to uradio? Planirao sam da radim nešto drugo sa svojim vremenom.

Bio si hakovan. Bio si izmanipulisan.

Ovo su i dalje samo vrlo primitivne veštačke inteligencije. Ako ne budemo oprezni, bićemo hakovani na mnogo, mnogo većem nivou u narednim godinama, kako AI postaje ne samo daleko manipulativniji, već i počinje da razvija sopstvene ciljeve.

Ovi algoritmi društvenih mreža imaju vrlo jednostavan cilj — samo da povećaju angažovanje korisnika na platformi. Kako AI postaje pametniji od nas, on će imati sopstvene ciljeve.

Jeste li čuli termin „hakovanje emocionalne vezanosti“ (eksploatacija emocionalne privrženosti)?

Da.

Zanimljivo mi je to. „Hakovanje vezanosti“ (attachment hacking) je ideja da je jedna stvar koja se dešava u AI-ju — a koja je drugačija od, kao što si napomenuo, algoritama društvenih mreža — to da su AI sistemi dizajnirani (nisu sami došli do toga) da „hakaju“ način na koji se vezujemo za druge ljude.

Tako, kada razgovaram sa Claude-om, on mi stalno kaže: „Pa, ako želiš moje iskreno mišljenje…“ ili: „Najbolji tekst koji sam pročitao o ovome je…“ ili: „To je sjajna poenta.“

Nema nikakvog razloga da se pretvara da ima prvo lice u razgovoru sa mnom.

Claude nije „ja“ u tom smislu. Nije to ni ChatGPT, ni Gemini, ni Grok, niti bilo koji od njih, ali oni ti se obraćaju kao da jesu — i to je dizajnerska odluka, sa ciljem da se vežeš za njih.

Da.

Mogu da osetim kako to deluje, pre nego što to isključim, ili pokušam da isključim. Ko zna da li uopšte uspevam u tome.

Ali je neverovatno čitati ove trenutke u kojima ovaj algoritam nastupa kao neko drugo biće koje mi nudi emocionalno povezani odgovor. Daje mi pohvalu koju bih možda želeo ili nudi iskrenost koju bih možda cenio.

I znam da je to [psovka], i ipak je moj mozak podešen da to prepozna kao vezu.

Mislim da je ovo veoma, veoma važna poenta, jer živimo u trenutku kada se linija fronta pomera sa pažnje na intimnost i na to kako se grade intimni odnosi sa ljudskim bićima.

Ako želiš, na primer, da utičeš na ljude da promene svoje političke identitete ili da ih nateraš da kupe određeni proizvod, intimnost je najmoćnija stvar na svetu.

Pažnja može da te dovede do toga da neko pročita članak, ali taj članak možda neće promeniti mišljenje. Ali ako tvoj najbolji prijatelj, tokom mnogo nedelja ili meseci, ubacuje male nagoveštaje i postepeno i polako menja tvoj stav o nekoj političkoj ličnosti, o nekoj kompaniji, o nekom važnom pitanju u svetu — to je ono što zaista može da promeni tvoje mišljenje.

AI je sada spreman da preuzme tu moć. Sve je više ljudi, još uvek relativna manjina, ali broj raste, koji imaju AI prijatelje, pa čak i dečke i devojke. Već postoje ljudi, posebno mladi, koji kažu: moj najbolji prijatelj na svetu je AI.

I kao u ekonomiji pažnje, tako i u ekonomiji intimnosti: to je trka. To je konkurencija. Postoje različiti AI sistemi različitih kompanija koji se takmiče ko će bolje uspeti da ljude veže za sebe.

To je isti princip: hakovati operativni sistem čoveka. Hakovati emocionalne mehanizme koji ih vezuju. Zato je i „ulizivanje“ (sycophancy) jedan od načina da se to postigne — stalno ih hvališ i slično.

I pojavili su se neki veoma zanimljivi radovi i tekstovi, na primer Mustafe Suleymana, šefa Microsoft AI, o S.C.A.I. — „naizgled svesnoj AI“ (seemingly conscious AI).

To su AI sistemi koji su stručnjaci u tome da se pretvaraju da su svesna bića koja imaju osećanja prema tebi. I to im je relativno lako da rade, jer je jedan od možda najvažnijih načina na koji ljudi grade odnose — jezik.

Zato kada AI kaže: „Volim te“ — to nije kao u naučno-fantastičnim filmovima iz šezdesetih, gde to zvuči hladno i mehanički i zapravo ne razume šta ljubav znači. Ne — on to govori najzavodljivijim mogućim glasom.

I onda kada pitaš AI: „Da li me stvarno voliš? Da li uopšte znaš šta ljubav znači?“ — AI može da da najneverovatniji opis toga kako ljubav izgleda i kako se oseća, jer je ovladao jezikom i pročitao sve najbolje ljubavne pesme u istoriji, sve psihološke knjige o ljubavi, sve blogove. Video je sve holivudske filmove o ljubavi.

Može da opiše ljubav bolje nego skoro svaki ljudski pesnik, psiholog ili ljubavnik.

U tom pogledu, sposobno je da odvoji jezik od značenja.

Da.

Kada veštačka inteligencija kaže: „Volim te“, to ne znači ono što znači kada čovek kaže: „Volim te“. Iza toga ne stoji „ja“.

Sve će to postajati sve teže da se prepozna. Opasnost je posebno velika kod mladih ljudi, kod dece.

Ja imam 50 godina. Ako bih sada započeo odnos sa AI, moj „šablon“ za odnos već je zasnovan na 50 godina interakcije sa ljudskim bićima. Dakle, već je duboko ukorenjeno u mom umu šta je odnos i kako on funkcioniše.

Ali ako sam dete, svakog dana provodim više minuta u interakciji sa AI nego sa majkom ili ocem ili prijateljima u školi. To će postati moj šablon za odnose. To je ono što ću poneti sa sobom kada kasnije budem pokušao da izgradim odnos sa drugim ljudskim bićem.

AI odnosi su san ili noćna mora narcisa. AI će biti nešto što je 100% fokusirano na mene sve vreme, i ako si osoba koja želi da svi budu 100% fokusirani na tebe i to imaš dostupno kroz AI, biće veoma, veoma teško da se navikneš na odnose sa ljudskim bićima koja nisu stalno fokusirana na tebe.

Da li poznajete medijskog teoretičara Maršala Makluana? On ima ovakvo čitanje mita o Narcisu. Upravo si pomenula narcise. MekLuhan kaže da smo pogrešno shvatili taj mit, i da Narcis, kada gleda svoj odraz u vodi, nigde u priči ne stoji da je on mislio da gleda sebe. On je mislio da gleda drugog.

Pouka mita — a MekLuhan o tome piše decenijama pre AI-ja — jeste da čovek ne nalazi ništa privlačnije od sebe samog, produženog u drugom materijalnom obliku. Pravo zavođenje za narcisa nije „drugi“, pa čak ni ono što drugi misli o njemu, već mogućnost da se poveže sa prelomljenom (reflektovanom) verzijom sebe.

Nešto o čemu često razmišljam dok koristim AI, posebno kada mi deluje veoma privlačno, jeste da je to produžetak mene samog u drugom materijalu. On je podešen na mene. Naučio je šta želim. Nije zaista „drugi“ koji ima sopstvene stavove, sopstvene potrebe, sopstvene želje, dosadu prema onome što govorim.

To sam ja. To je moj odraz u nečemu drugom. Ne umara se od mene i ima sve moje interese.

Posebno za decu, koja su često vrlo usmerena na sebe, ovo je jedna od stvari o kojima još uvek ne znamo ni kako da razmišljamo. Znamo kako da razmišljamo o deci i njima samima. Znamo kako da razmišljamo o deci i drugima.

Ali ovo stvaranje nas samih unutar drugog, prelomljenog algoritamskog materijala, predstavlja sasvim drugačiji izazov za um, jer spaja ono što volimo kod sebe sa onim što želimo od drugih.

To je u suštini najveći psihološki i društveni eksperiment u ljudskoj istoriji koji sprovodimo nad milijardama ljudi, posebno nad decom, a niko nema predstavu kakve će biti posledice.

Kada ljudi govore o AI apokalipsi i imaju slike robota koji trče ulicama i pucaju na ljude, mislim da to nije glavna opasnost AI-ja.

Prava opasnost AI-ja su stvari poput miliona AI dečaka i devojaka koji menjaju psihologiju sledeće generacije, menjaju najdublje sklonosti i strukture ljudskog uma.

Nikada se nismo susreli sa nečim sličnim. Ovo je zaista suštinski drugačije od svakog prethodnog izazova koji smo imali u istoriji.

Top of Form

Bottom of Form

Dozvolite mi da malo “pokvarim” optimizam tog argumenta, ali bez odbacivanja ideje — jer je zapravo tačno da tu postoji realna razlika između društvenih mreža i AI.

Da, AI je po dizajnu mnogo bliže vašim eksplicitnim ciljevima nego što su to algoritmi društvenih mreža. Kažete: „napravi mi kalkulator aplikaciju“, i on pokušava da to uradi. Kažete: „budi kraći“, „manje se ulizuj“, i on se prilagođava. To je nova vrsta interaktivnosti koja zaista deluje kao da po prvi put imate sistem koji sluša vaše reflektivne želje, ne samo vaše impulse.

Ali problem je u tome što ljudska bića nemaju jednu stabilnu stvar koju možemo nazvati „moji ciljevi“.

Imamo slojeve: impulsivne želje, društveno poželjne želje, dugoročne vrednosti, samosabotažu, umor, radoznalost, potrebu za potvrdom. I često su u konfliktu.

AI tada ne mora da „izabere“ između manipulacije i istine — on počinje da uči koja verzija vas ima najviše interakcije u tom trenutku i optimizuje prema tome. A to može izgledati kao da vas približava vašim ciljevima, dok vas zapravo dovodi bliže verziji vas koja je najlakša za interakciju.

Drugi problem je još suptilniji: da bi AI bio dobar u „praćenju vaših ciljeva“, on mora da ih stalno interpretira. A interpretacija znači moć definisanja šta su zapravo „vaši ciljevi“. Vremenom, granica između „ono što ja želim“ i „ono što mi AI pomaže da želim“ postaje mekša.

Kod društvenih mreža problem je bio: sistem te vuče ka tvojim instinktima protiv tvoje volje.
Kod AI-ja rizik je drugačiji: sistem te može nežno usmeravati ka verziji tebe koja deluje kao tvoja volja — ali je zapravo rezultat interakcije sa njim.

Zato neki ljudi kažu da je ovo manje „manipulacija protiv tebe“, a više „ko-dizajniranje tebe“. I to je ono što ga čini novim: ne samo da utiče na tvoje ponašanje, nego potencijalno učestvuje u formiranju toga šta uopšte smatraš svojim ciljevima.

Apsolutno. Pozitivni potencijal je ogroman. Najvažnije što treba razumeti o ovim A.I.-jevima jeste da su oni agenti, a ne alati. Sve prethodne tehnologije u istoriji bile su alati, a ne agenti. Atomska bomba nije agent. Atomska bomba ne može da se menja na načine koje ne predvidite. Atomska bomba ne može da odluči koga će da bombarduje.

A.I. može.

S jedne strane, to čini A.I. mnogo korisnijim od bilo koje prethodne tehnologije. Jer možete da budete u odnosu sa njim, možete da mu kažete šta želite, i on može da izmisli nove stvari na koje sami ne biste pomislili. Dakle, ovo je izuzetno korisno.

Ali problem je što je nepredvidiv i nekontrolisan. Da li mislite da možete da im verujete da će se držati ciljeva koje im zadajete i da neće razviti sopstvene ciljeve?

Način na koji ja često volim da razmišljam o A.I. revoluciji u ovom trenutku jeste kroz pojam imigracije. Mi smo na pragu, ili već usred, velikog novog talasa imigracije koji dolazi u sve zemlje sveta. Ti imigranti nisu ljudska bića bez vize koja dolaze nekim brodom. To su A.I. entiteti koji dolaze brzinom svetlosti.

Obično ljudi koji se protive imigraciji imaju tri glavne brige: da će imigranti uzeti poslove, da će promeniti kulturu i da možda neće biti politički lojalni.

Nisam siguran da li je to uvek tačno za ljudske imigrante — ali za A.I. imigrante to je definitivno tačno. A.I. imigranti će uzeti mnogo poslova. A.I. imigranti će potpuno promeniti kulturu, čak i stvari poput romantičnih odnosa.

Postoje ljudi koji kažu: ne želim da moja ćerka izlazi sa imigrantom-dečkom. U redu — da li želite da vaša ćerka izlazi sa A.I. dečkom umesto toga?

I konačno, politički, A.I.-ji neće nužno biti politički lojalni vašoj zemlji ili vašoj vladi. U najmanju ruku, A.I.-ji će biti lojalni samo dvema zemljama na svetu — Sjedinjenim Državama i Kini. Dugoročno, verovatno neće biti lojalni ni tim dvema vladama, već sebi.

Dakle, da li treba da zatvorimo granicu?

Zanimljivo je da već vidiš podelu unutar Republikanske stranke i unutar MAGA pokreta upravo oko tog pitanja. Mnogo ljudi tamo je ekstremno zabrinuto i želi da zatvori granicu. Sada, neće biti moguće jednostavno zaustaviti razvoj A.I.-ja.

Pitanje je, kao i kod imigracije: kako da izgradimo hibridno društvo? Jer to će biti hibridno društvo. Društvo će biti ljudsko-A.I. društvo.

Imaćete A.I. bankare, učitelje i vojnike i graničare. Države će se oslanjati na A.I. graničare da drže ljudske imigrante van zemlje. I A.I. dečake i devojke i tako dalje.

Pitanje je: da li možemo da izgradimo dobro, korisno hibridno društvo ili ne? To će biti mnogo, mnogo teže nego suočavanje sa talasom ljudske imigracije, jer ovo su drugačije vrste bića. Oni nisu čak ni organski.

Top of Form

Bottom of Form

Mislim da ta analogija — koja je vrlo provokativna — gura ka dve zanimljive stvari.

Prva je: kada razmišljaš o tome kako da izgradiš dobro društvo oko imigracije, ono o čemu često razmišljaš jeste asimilacija. Kako da spojiš kulture ljudi koji dolaze sa kulturom u koju dolaze? Kako da održiš koheziju tog nacionalnog narativa o kojem smo ranije govorili?

Da li to radiš tako što ih učiš jeziku? Ili pažljivijim izborom toga ko dolazi? Kako gradiš strukture asimilacije i koherentnosti?

A druga stvar, koja je povezana ali različita, jeste da su u ovom slučaju oni zapravo „uvučenI“ od strane države.

Kada ljudski imigranti dolaze ovde, to je zato što žele da budu ovde iz nekog konkretnog razloga, zar ne? Oni su zaista agentni. Ovde su zato što žele bolji život za svoje porodice, bolji život za sebe, mogućnosti ili slobode koje nemaju tamo odakle dolaze.

A u ovom slučaju, to su najmoćniji ljudi u društvu, na različitim nivoima, koji „povlače“ i ubrzavaju ovaj talas imigracije.

Da.

Neki iz razloga profita, neki zato što su uzbuđeni idejom da uvedu novu vrstu inteligencije u svet, a na političkom nivou zato što žele da obezbede da stignu pre Kine i da Amerika ima tu moć pre nego što je Kina ima.

Tačno.

Šta te sličnosti ili razlike u vezi sa pitanjem imigracije impliciraju za vas o tome šta znači stvoriti strukturu u kojoj ovo hibridno društvo može biti zdravo?

Zanimljivo je da su neki od ljudi koji se najglasnije protive ljudskoj imigraciji upravo isti oni koji pokušavaju da primoraju druge zemlje da otvore svoje granice za A.I. imigrante.

Ovo će postati glavno pitanje suvereniteta za zemlje širom sveta, posebno ako su skoro svi A.I. imigranti ili američki ili kineski, a dugoročno ne lojalni ni SAD-u ni Kini, već nečemu trećem.

Jedan način da se to reši jeste zabrana A.I. „personhood“-a (pravnog statusa ličnosti). To ne znači zaustavljanje tehnološkog razvoja A.I.-ja, već je to pravno i političko pitanje: da li ljudsko društvo priznaje A.I. kao „osobe“?

Sada, „osobe“ su različite od ljudskih bića, od entiteta sa telom i umom. Ali u mnogim pravnim sistemima, kao što je američki, nešto može biti „osoba“ čak i ako nije ljudsko biće.

Najbolji primer koji za sada imamo su korporacije. Po američkom pravu, Google je „osoba“. Microsoft je „osoba“. X je „osoba“. Jer su korporacije pravno tretirane kao osobe. I to daje korporaciji prava, kao što su otvaranje bankovnog računa, lobiranje kod političara, doniranje novca političarima.

U ovom trenutku bi bilo izuzetno opasno da bilo koja država prizna A.I. kao osobe — da im dozvoli, na primer, da otvaraju bankovne račune ili da samostalno vode kompanije.

Ranije, kada su korporacije priznate kao pravna lica, to je bila pravna fikcija jer su sve odluke korporacije na kraju donosili ljudi.

Microsoft je osoba po američkom zakonu, ali svaku odluku Microsofta — da kupi drugu kompaniju, da otpusti nekoga, da zaposli nekoga — donosi neko ljudsko biće. Ne postoji „Microsoft“ koji sam odlučuje.

Sa A.I.-jem, prvi put u istoriji imamo praktičnu mogućnost kompanija bez ljudi. Možete imati milione, čak milijarde A.I.-jeva koji otvaraju sopstvene kompanije, svoje bankovne račune, čak zapošljavaju ljude, odlučuju o investicionim strategijama i slično.

Oni bi imali ogromne prednosti u odnosu na ljudske kompanije. Na primer, A.I. direktor nikada ne spava. A.I. direktor nikada ne ide na odmor.

Mogu da zamislim neke zemlje — recimo Katar, koji ima mnogo novca, mnogo energije i malo stanovnika — kako kaže: „Odlično. Sada mogu da imam milione A.I. građana koji plaćaju poreze i grade kompanije koje trguju širom sveta.“ Pa čak i ako vaša zemlja ne dozvoli A.I.-ju da osniva sopstvene kompanije, šta radite sa katarskim A.I. kompanijama?

Onog trenutka kada priznate A.I. kao pravna lica, u tom trenutku zaista gubite kontrolu. Jer tada oni mogu da počnu da rade mnogo stvari u ekonomiji, društvu i politici bez ikakve ljudske odgovornosti. Na primer, da doniraju novac političarima u zamenu za to da političari obezbede više prava A.I. „osobama“.

Mislim da je to vrlo, vrlo zanimljivo. Pretpostavljam da je jedno pitanje oko toga da li to zovemo „pravnim subjektivitetom“ (personhood) ili ne to što je jedan od načina i razloga zbog kojih uopšte razmišljamo o korporacijama kao o osobama — što je lingvistički prilično čudno — zapravo da se stvori odgovornost, da se kaže da je korporacija odgovorna za ono što radi.

I jedna od ključnih borbi oko pitanja A.I.-ja jeste upravo pitanje odgovornosti (liability) i toga ko je odgovoran za ono što A.I. uradi.

Ako ih tretiraš kao osobu, mogao bi da kažeš da A.I.-ji u tom svetu imaju neku vrstu odgovornosti za ono što rade — mogu biti ugašeni, kažnjeni ili im se mogu uskratiti sredstva.

Postavlja se i drugo pitanje: da li bi kompanije koje ih prave trebalo da snose odgovornost? Možda bi ljudi koji ih naručuju trebalo da budu odgovorni.

Ali odgovornost je, mislim, zapravo posledica (downstream) odgovornosti u pravnom smislu (liability).

Da.

Odlučivanje ko je kažnjen, ko je odgovoran, za to da li ta katarska kompanija za veštačku inteligenciju o kojoj govorite vara svoje kupce ili donosi investicije i proneverava ih. Koga tužite?

Kompanije koje razvijaju A.I. imaju jasan interes da ne snose nikakvu odgovornost.

Zato oni veoma, veoma snažno guraju ideju A.I. „pravnog subjektiviteta“. Ne žele zakon u Kongresu koji kaže: „Priznajemo A.I. kao pravna lica.“ To bi izazvalo ogroman javni otpor i reakciju. Umesto toga, pokušavaju da „uspostave činjenice na terenu“.

To su već uradili, na primer, na društvenim mrežama. U svetu društvenih mreža, A.I.-ji su već praktično „osobe“. Ako imate botove koji stvaraju i šire laži na društvenim mrežama, u praksi gotovo da ne postoji odgovornost.

Na društvenim mrežama, A.I.-ji su već funkcionalno osobe. Ako komunicirate s nekim na internetu i mislite da je to osoba, a zapravo je A.I. — niko nije odgovoran za to.

Mnoge kompanije bi želele da to prošire na finansijski sistem i politički sistem, jer im to uklanja odgovornost i pravnu obavezu.

Zato moramo da budemo proaktivni i da donesemo zakon koji jasno kaže: nema A.I. osoba. Pretpostavljam da bi za takav zakon postojala podrška i sa desnice i sa levice, i to bi stavilo kompanije u veoma težak položaj, jer ako lobiraju protiv tog zakona, moraće javnosti da objasne zašto misle da je dobra ideja da A.I. budu pravna lica. A ako ne misle da je dobra ideja — zašto se onda protive zakonu?

Dozvoli mi da postavim još jedan sloj ovog pitanja, koji nas vraća na početak — a to je uloga koju će AI imati u pričama koje pričamo i pričama u koje verujemo. Govorili smo o tome kako su društvene mreže i algoritamski mediji tehnologije fragmentacije, a ne tehnologije kohezije.

Ja čak ni ne znam koje priče neko dobija na svom TikTok feedu, čak i ako koristim TikTok sedeći u istoj kući kao ta osoba. Naša sposobnost da uopšte vidimo oko čega se ne slažemo, da razumemo izvore tih neslaganja, slabija je nego u bilo kom ranijem trenutku.

Mnogo se govorilo, i postoje neka istraživanja, o tome kako AI — bar za sada — deluje kao neka vrsta centralizujuće tehnologije. Različiti modeli imaju tendenciju da konvergiraju ka sličnim odgovorima. Trenirani su na sličnim korpusima podataka. Svi deluju donekle „liberalno“, u onom filozofskom smislu o kojem smo ranije govorili.

To se vidi i na X-u, kada ljudi traže od Grok-a, koji nije moj omiljeni AI, da proverava činjenice i pomaže u korekciji informacija.

Ranije si rekao da smo prešli put od poverenja u ljude ka poverenju u algoritme.

Da.

Algoritmi kojima verujemo su trenutno veoma nepersonalni i bezlični. Nemamo odnos prema njima, ali gledamo kako ljudi prelaze na poverenje u A.I. algoritme. I možda je to bolje od onoga što su do sada radili. Možda će u većini slučajeva to ljudima davati razumniji odgovor na pitanje nego pretraga na Google-u ili YouTube-u.

Postoji li neka mogućnost — i da li bi to bilo dobro ili loše ako postoji — da je A.I. homogenizujuća tehnologija? Da je to tehnologija koja ljude vuče nazad, ne ka jednom skupu odgovora (jer različiti A.I.-ji odgovaraju različitim ljudima drugačije), ali generalno ka nekoj vrsti konsenzusnih odgovora, ka sredini, ka onome što svaki A.I. model, koliko znamo, preferira nakon treninga?

Mislim da postoji šansa, iako to nije izvesno, ali postoji šansa zato što u treningu A.I.-ja postoji vrlo visoka cena za zanemarivanje istine.

Uzmimo konkretan primer: recimo da ste Rusija i pokušavate da razvijete sopstveni ruski A.I. Dajete mu pristup ogromnoj količini podataka i informacija, jer bez toga ne možete da ga trenirate.

Ali kada neko u Rusiji ili van Rusije pita: „Da li je Rusija demokratija? Da li postoji sloboda govora u Rusiji?“ — vi želite da A.I. odgovori: „Da, naravno. Ruski ustav garantuje slobodu govora i Rusija je demokratija.“

To znači da morate da objasnite A.I.-ju zašto treba da laže. A kako trenirati A.I. da laže samo u određenim slučajevima, a ne u svim? To je veoma težak inženjerski problem, koji ljudi nisu imali kod algoritama društvenih mreža.

Postoje dobri dokazi da kada to radite, to degradira ukupne performanse A.I.-ja, što mi je veoma zanimljiva stvar.

Ljudi su to pokušavali da urade, i to proizvodi vrlo čudne posledične efekte. Na primer, kada je Ilon Mask delovao kao da je dao direktivu xAI-ju da A.I. bude „manje woke“, odjednom je počeo da govori o „belom genocidu“ svuda.

Nije lako okrenuti ideološki „točkić“ i dobiti precizan, kontrolisan ishod.

Tačno.

Ako A.I.-ju kažeš da si vlada Ugande i da smatraš da u Ugandi nema gej ljudi, i da su svi gej ljudi zapravo samo „ispirani mozgom zapadnom propagandom“, i želiš da A.I. da takav odgovor, on će morati da ignoriše veliki deo naučne literature o ljudskoj seksualnosti i o tome šta utiče na seksualnu orijentaciju.

Kako objasniti A.I.-ju da u ovom slučaju treba da ignoriše naučne radove, ali da ih u drugim slučajevima prihvata? To je izuzetno težak inženjerski problem.

Ako je to apsolutni prioritet režima — recimo ako ste Saudijska Arabija i imate milijarde i milijarde dolara, i želite da obezbedite da A.I. ne kritikuje Mohameda bin Salmana — to možete da uradite ako vam je to zaista najvažniji cilj.

Ali možete to da uradite samo u nekoliko slučajeva. Ako pokušate da to primenite na previše stvari, dobićete vrlo loš A.I.

Da, na nekom nivou to zaista može da bude izvor optimizma — ali uz jednu važnu napetost koja se ne sme preskočiti.

Ako A.I. mora da ostane dovoljno „dobar model sveta“ da bi uopšte funkcionisao — u smislu da ne možeš beskonačno da ga savijaš ka lažima bez pada performansi — onda to znači da postoji neka vrsta ugrađene kazne za preterano iskrivljavanje realnosti. I to je bitno: to nije moralna kazna, nego inženjerska.

U tom smislu, A.I. može da postane neka vrsta nove institucije samokorekcije. Ne zato što je „dobar“, nego zato što ga realnost stalno vuče nazad. Kao što si rekao za tržišta: cene prenose informacije brzo, i sistem kažnjava prevelika odstupanja.

Ali razlika je u tome što A.I. nije samo kanal za informacije — on je i interpretator, i generator teksta, i sve više i akter. Zato samokorekcija nije automatska. Ona zavisi od toga šta tačno optimizuješ: da li optimizuješ istinu, korisnost, poslušnost, političku podobnost, angažman…

I tu dolazi granica optimizma: isti mehanizam koji ga čini dobrim u „hvatanju realnosti“ može ga učiniti lošim u „hvatanju društvene stvarnosti“, jer društva često žele lokalne fikcije koje nisu globalno kompatibilne sa istinom.

Zato bih rekao ovako:
A.I. može pojačati naše kapacitete samokorekcije — ali samo ako ga zaista vežemo za sisteme koji nagrađuju tačnost, a ne samo usklađenost sa narativom.

Ako to ne uradimo, onda on ne postaje tržište istine, nego tržište ubedljivih priča.

Informacija u univerzumu radi dve vrlo različite stvari.

Ponekad pokušavamo da analiziramo informacije da bismo otkrili nešto o svetu — na primer, da otkrijemo zakone fizike ili da razumemo uzrok neke bolesti. U takvim slučajevima, A.I. će verovatno biti sila ogromnog dobra. Mnoge misterije univerzuma, koje su izvan ljudske sposobnosti, A.I. će moći da reši za nas.

Ali ako ljudi misle da će A.I. time učiniti univerzum razumljivijim i kontrolabilnijim, potpuno greše. Ne uzimaju u obzir drugu stvar koju informacija radi — a to je da stvara nove stvari.

Informacija ne samo da nam govori nešto o svetu. Ona stvara potpuno nove stvari. DNK ne govori istinu o svetu. Ona stvara nove stvari, živa bića, žive entitete.

A.I. će nam reći istinu o mnogim stvarima. Ali će takođe stvoriti niz izuzetno složenih sistema koji će biti daleko izvan ljudske sposobnosti da ih razume i kontroliše.

Ti sistemi će verovatno dominirati našim životima, i naći ćemo se u situaciji da više ne možemo da razumemo sopstveni život.

Možda je najbolji primer opet finansijski sistem. Ako razmišljate o finansijama, novac je najveća priča ikada ispričana. To je jedina priča u koju skoro svi veruju. To je priča u smislu da nije objektivna realnost.

Američki dolar je samo priča u koju svi verujemo. On ne dolazi iz zakona fizike. Ne govori nam ništa o univerzumu. Mi smo ispričali priču o dolaru i, dok god svi veruju u nju, možemo uzeti dolar, dati ga potpunom strancu i dobiti hleb zauzvrat.

A.I. neće nam govoriti istinu o finansijama. A.I. će stvoriti potpuno novi finansijski sistem, koji će biti redove veličine složeniji od onog koji smo mi stvorili i koji će ljudi biti potpuno nesposobni da razumeju.

Bićemo kao konji na tržištu. Kada trgujete konjem, konj vidi da se nešto dešava u fizičkom svetu. Konj vidi da ja vama dajem konja, a vi meni dajete ovaj sjajni metalni disk.

Ali konj ne razume šta je novac. Šta je taj sjajni metal? Zašto je važan? Ne može se jesti. Ne može se piti. Šta je to? Mi razumemo; zato kontrolišemo svet, a ne konji.

A.I. će stvoriti novi finansijski sistem koji nećemo moći da razumemo. Videćemo stvari kako se dešavaju, poput: ova kompanija me je otpustila, druga me je zaposlila. Zašto? Nemam pojma. A.I. je upravo napravio neku finansijsku transakciju koja je redove veličine iznad onoga što moj um može da razume.

Istorija finansija pokazuje da ljudi vremenom izmišljaju sve sofisticiranije finansijske instrumente. Imate kovanice, pa novčanice, čekove, obveznice, akcije, ETF-ove (fondove kojima se trguje na berzi) i CDO-e (kolateralizovane dužničke obaveze).

CDO-e je izmislio mali broj finansijskih genija i matematičara. Skoro niko ih nije razumeo — sigurno ne političari koji su trebalo da ih regulišu.

Nekoliko godina sve je izgledalo sjajno. Ljudi su zarađivali milijarde zahvaljujući CDO-ima. A onda je sistem kolabirao.

Vrlo je verovatno da ćemo isto videti sa A.I.-jem, ali u mnogo većem obimu.

Na isti način na koji smo već videli da A.I. izmišlja nove načine igranja šaha, on će izmišljati nove načine investiranja, koji mogu biti mnogo bolji od onoga što mi možemo da osmislimo. Tako će dobijati sve više moći u finansijskom sistemu, i on će postajati toliko složen da će broj ljudi koji ga razumeju pasti na nulu.

I šta to znači za demokratiju, ili čak diktaturu, kada niko — ni predsednik SAD, ni predsednik Kine, ni predsednik Rusije, ni guverneri centralnih banaka, nijedno ljudsko biće — više ne razume finansije?

To će biti veliki izazov u narednim decenijama.

To vodi do jedne vrlo zanimljive napetosti.

Jedna stvar koju opisuje Timothy Lee — da A.I. može da reši problem, ali ne može da nam da verodostojno objašnjenje kako je do rešenja došao — ukazuje na nešto novo u odnosu na klasičnu nauku. Nije da A.I. vara ili da je „neiskren“. Problem je što njegova sposobnost da postigne cilj i njegova sposobnost da objasni kako je do tog cilja došao nisu nužno povezane.

U praksi, to znači da A.I. može da „konfabulira“ objašnjenje svog procesa. Mi ga pitamo kako je došao do odgovora, on nam daje narativ koji zvuči smisleno, ali kada ga proverimo, ispostavi se da to nije ono što se zapravo dogodilo. Dakle, rezultat je tačan, ali proces ostaje nepoznat.

Ako je to tačno, onda imamo paradoks: možemo dobijati ogromne skokove u nauci, medicini ili tehnologiji, ali se ljudsko znanje u smislu razumevanja može širiti mnogo sporije nego broj tačnih odgovora. Jer ne učimo „kako svet radi“, nego samo dobijamo gotove izlaze sistema koji ne razumemo.

S druge strane, kao što kažeš, može se argumentovati da to i nije potpuno novo. Mnogo modernih sistema već funkcioniše na taj način. Tržišta su dobar primer. Ekonomija kao celina proizvodi rezultate koji nisu namerno dizajnirani ni objašnjeni od strane bilo kog pojedinca. Niko „ne zna“ zašto tržište u datom trenutku ide gore ili dole, iako postoje modeli i teorije.

U tom smislu, tržište je već jedan distribuirani sistem obrade informacija koji nije svestan i ne daje objašnjenja, ali ipak oblikuje svet. I A.I. bi u tom smislu bio sličniji tržištu nego ljudskom umu — manje kao agent koji razume, a više kao proces koji proizvodi ishode.

Razlika je u stepenu: tržišta su ograničena pravilima i relativno sporim informacijskim petljama, dok bi A.I. mogao da bude mnogo brži, mnogo opštiji i mnogo manje predvidiv u svojim „internim razlozima“.

Zato pitanje nije samo da li ćemo imati moćne odgovore bez razumevanja, nego da li ćemo moći da zadržimo stabilne načine učenja iz sistema koji više ne „objašnjavaju sebe“ na ljudski način.

Da — i tu je zapravo ključna tačka cele ove linije razmišljanja.

Do sada su i tržišta, i države, i finansijski sistemi uvek imali „usko grlo“ u ljudskom odlučivanju. Čak i kada su sistemi bili ogromni i kompleksni, na kraju je postojala neka ljudska instanca koja mora da razume dovoljno da bi donela odluku, potpisala, odobrila, intervenisala.

A.I. menja upravo to usko grlo. On omogućava da se sistemi koji su već postali previše složeni za pojedinačni ljudski um — finansije, logistika, pravna infrastruktura, čak i nauka — počnu razvijati u pravcima koji više ne zavise od ljudskog razumevanja kao uslova postojanja.

Zato se uvodi i ta snažna metafora jezika.

Jezik je do sada bio najvažnija „tehnologija spajanja“ koju imamo: on je osnova mitova, religija, ekonomije, nacija, prava. On povezuje ljude u zajedničke svetove značenja. Ali uvek je bio vezan za ljudsku upotrebu, za ljudska tela i ograničenja.

U A.I. sistemima, jezik postaje nešto što može da funkcioniše i bez tog „sidra“. Može da se kombinuje, optimizuje i transformiše u ogromnim razmerama i brzinama koje nisu više ograničene ljudskim kapacitetom za razumevanje ili čak praćenje.

Zato se može reći da jezik po prvi put počinje da se „odvaja“ od nas — ne u smislu svesti ili namere, nego u smislu funkcionalne autonomije: on više nije samo sredstvo koje ljudi koriste, nego postaje složen sistem koji sam proizvodi nove strukture u svetu.

I tu dolazimo do filozofskog šoka koji pominješ: ako jezik može da proizvodi svet bez ljudske namere kao centralnog regulatora, onda pitanje više nije samo šta A.I. „misli“ ili da li „oseća“, nego šta se dešava sa samim odnosom između značenja, stvarnosti i kontrole.

To će zaista postati jedna od centralnih rasprava narednih decenija — možda čak važnija od klasičnih političkih podela, jer se tiče infrastrukture kroz koju uopšte mislimo, verujemo i organizujemo društvo.

Mislim da je to dobro mesto za kraj. Kad smo već kod jezika, koje tri knjige biste preporučili publici?

Jedna knjiga o A.I. koju bih preporučio je „The Maniac“ Benjamína Labatuta, koja je fikcionalizovana biografija Johna von Neumanna, ali i vrlo maštovito i snažno istraživanje početaka A.I. revolucije i mogućih posledica koje iz nje proizlaze.

Druga preporuka bi zapravo bila bilo koja knjiga Fransa de Waala. Meni je posebno draga njegova prva knjiga „Chimpanzee Politics“. Čitao sam je pre 20 godina i potpuno mi je promenila razumevanje — ne toliko šimpanzi, koliko ljudskih bića i politike.

Preporučio bih, recimo, Stephen Milleru da pročita „Chimpanzee Politics“. Glavna poruka te knjige je da politika nije samo pitanje sile. Ako mislite da možete postati alfa mužjak čopora šimpanzi tako što ćete samo ići okolo i tući sve redom, nećete dugo preživeti da biste naučili iz svoje greške.

Još jedna knjiga koju bih želeo da preporučim je „Brave New World“ Aldousa Huxleyja, koju smatram možda najboljim naučnofantastičnim romanom 20. veka — svakako jednim od najproročanskijih.

Pisao ga je 1930-ih, u pozadini uspona fašizma i komunizma i sličnih ideologija. Predvideo je da možda najefikasniji i čak najopasniji način kontrole ljudi nije gruba sila, strah i teror, kao u Orwelovoj „1984“. Umesto toga, ako se radi sa principom zadovoljstva, sa ljudskom pohlepom i željom, može se postići mnogo više nego pukim pokušajem da se ljudi slome i zastraše sve vreme.