Jedna kineska kompanija pokušava da razvije tehnologiju zasnovanu na veštačkoj inteligenciji koja bi autoritarnim vladama omogućila ne samo da nadziru disidente, već i da potencijalno predvide ko bi u budućnosti mogao da postane disident, piše Njujork tajms.
Ovaj projekat, koji je, kako se čini, još u fazi istraživanja, deluje kao da je preuzet iz distopijske naučne fantastike.
On pruža uvid u svet u kojem autoritarna država može da deluje protiv svojih građana i pre nego što oni javno iskažu bilo kakvo neslaganje.
Kineska kompanija Gidž netvorks (Geedge Networks) prodaje komercijalnu verziju Velikog zaštitnog zida (Great Firewall), sistema za nadzor i cenzuru koji Kina koristi za kontrolu aktivnosti na internetu.
Ti alati omogućavaju vlastima da prate internet saobraćaj i registruju kada neko pokuša da zaobiđe uobičajene oblike internet cenzure.
Pokušaj da se predvidi buduće neslaganje
Prema procurelim internim dokumentima kompanije, firma radi na novim proizvodima koji koriste veštačku inteligenciju za analizu podataka o lokaciji i korišćenju interneta kako bi predvideli ko bi mogao da uradi ili kaže nešto kritično prema vlastima, navode istraživači sa Univerziteta Vanderbilt.
Takva tehnologija, ukoliko bude usavršena, dala bi autoritarnim režimima moćno sredstvo za obračun sa osobama koje smatraju neprijateljima.
Sama ideja da autoritarna vlast koristi veštačku inteligenciju za gušenje neslaganja već je dovoljno uznemirujuća.
Međutim, upotreba veštačke inteligencije za predviđanje neslaganja mnogo pre nego što osoba preduzme bilo kakvu akciju, prema mišljenju nekih ljudi iz industrije, predstavlja gotovo noćnu moru.
„To se događa kada se masovni nadzor spoji sa veštačkom inteligencijom“, rekao je Bret Dž. Goldstin, direktor Laboratorije za složene probleme (Wicked Problems Lab) pri Institutu za nacionalnu bezbednost Univerziteta Vanderbilt. „Bez sistema kontrole i ravnoteže, ono što Kina radi svojim građanima predstavlja najavu onoga što postaje moguće svuda gde se ovakvi alati koriste bez nadzora.“
Veštačka inteligencija kao alat za identifikaciju političkog rizika
Istraživači sa Vanderbilta otkrili su da Gidž, u saradnji sa svojom istraživačkom jedinicom MESA Lab, koju podržava država, razvija tehnologiju koja bi pravila profile kineskih građana, a zatim koristila veštačku inteligenciju da identifikuje osobe koje bi mogle predstavljati politički rizik.
Međutim, čini se da je napredak kompanije usporen zbog izvoznih ograničenja na američke računarske čipove za veštačku inteligenciju, uvedenih tokom administracije Džoa Bajdena.
To ukazuje na mogućnost da su američka ograničenja usporila kineski razvoj naredne generacije tehnologija za nadzor.
Američke sankcije usporile razvoj sistema
Dokumenti kompanije Gidž pokazuju da su se 2024. godine, u vreme kada su na snazi bile stroge američke izvozne restrikcije prema Kini, kompanija i njena laboratorija suočavali sa problemom nedostatka računarske snage potrebne za razvoj tehnologija za nadzor.
Bret V. Benson, profesor političkih nauka na Univerzitetu Vanderbilt, rekao je da se u dokumentima pominju ograničenja u vezi sa GPU procesorima.
GPU (grafičke procesorske jedinice) predstavljaju čipove koji pokreću modele veštačke inteligencije.
Zbog tih ograničenja, rekao je, kompanija je počela da koristi starije i manje moćne modele veštačke inteligencije, kao i starije čipove.
Prema navodima američkih zvaničnika, Gidž danas ima pristup dovoljnom broju grafičkih procesora za svoje postojeće proizvode.
Međutim, da bi ostvarila najambiciozniju verziju svoje tehnologije za prediktivnu analizu, kompaniji bi verovatno bili potrebni napredniji čipovi nego što Kina trenutno može da nabavi, naveli su isti izvori.
Tramp odobrio Kini pristup naprednijim čipovima
Tokom nedavne posete predsednika Trampa Pekingu, američki zvaničnici saopštili su da će Kina ipak dobiti pristup naprednijoj verziji Nvidia čipova.
Istovremeno, Kina nastoji da svoje kompanije iz oblasti veštačke inteligencije postepeno odvikne od oslanjanja na čipove američkog dizajna, kako izvozne kontrole više ne bi mogle da ograničavaju njihove tehnološke ambicije.
Nove informacije dobijene su analizom velike količine podataka, uključujući 100.000 dokumenata kompanije Gidž, koji su prvobitno objavljeni prošlog septembra.
Na osnovu tih dokumenata, magazin Wired i druge publikacije opisali su kako je Gidž izvozio svoj softver za bezbednost mreža u zemlje poput Etiopije, Kazahstana, Mjanmara i Pakistana, omogućavajući im da sprovode masovni nadzor mobilnih komunikacionih mreža.
Profilisanje građana na osnovu kretanja i aktivnosti na internetu
Istraživači sa Univerziteta Vanderbilt, proučavajući dokumentaciju, nisu se fokusirali na tehnologiju koju je Gidž prodavao, već na novu generaciju tehnologije koju je pokušavao da razvije, kao i na ograničenja koja bi mogla da ga spreče da tu strategiju sprovede u delo.
Prema dokumentima kompanije Gidž, tokom prvih meseci 2024. godine istraživači su radili na razvoju bihejvioralnih profila ljudi zasnovanih na telekomunikacionim podacima, aktivnostima na društvenim mrežama i podacima o lokaciji.
Modeli veštačke inteligencije korišćeni su za klasifikaciju ljudi i za „otkrivanje štetnih informacija“, izraza koji Komunistička partija Kine često koristi kao eufemizam za identifikovanje političkog neslaganja ili drugih sadržaja koje vlast želi da suzbije.
Prema navodima istraživača sa Univerziteta Vanderbilt, dokumenti sugerišu da je tim kompanije radio na povezivanju fizičkog kretanja ljudi sa drugim oblicima njihovih aktivnosti na internetu, uključujući filmove koje gledaju i knjige koje čitaju.
Kina godinama razvija prediktivni nadzor
Kina već godinama razvija tehnologije za prediktivni nadzor.
Međutim, kako pokazuju dokumenti kompanije Gidž, modeli veštačke inteligencije značajno su ubrzali razvoj takvih alata.
A Gidž pokazuje kako bi tehnologija prediktivnog nadzora i policijskog delovanja uskoro mogla da postane kineski izvozni proizvod.
Iako dokumenti ne obuhvataju poslednje mesece, nema dokaza da je Gidž završio razvoj ili stavio u upotrebu ovu prediktivnu tehnologiju, naveli su američki zvaničnici koji su govorili pod uslovom anonimnosti zbog osetljivosti procena o kojima su razgovarali.
Međutim, zvaničnici priznaju da kineske kompanije rade na razvoju takvih tehnologija kako bi dodatno usavršile sistem državnog nadzora.
Takođe, prema rečima stručnjaka i državnih zvaničnika, kineski biroi javne bezbednosti ubrzano nastoje da iskoriste DipSik, vodeći kineski model veštačke inteligencije, za razvoj drugih oblika prediktivnog policijskog nadzora.
