Svet na pragu "digitalne Kube": Zašto je trka u "naoružanju" veštačkom inteligencijom opasnija od nuklearne?
Komentari
Dodajte Euronews kao željeni izvor na Google-u
Oktobar 1962. godine ostao je zabeležen u istoriji kao trenutak kada je čovečanstvo bilo najbliže svom potpunom uništenju. Kubanska raketna kriza dovela je Sjedinjene Američke Države i Sovjetski Savez do same ivice nuklearnog rata. Iako je situacija bila na ivici pucanja, taj istorijski događaj paradoksalno je poslužio kao ključna prekretnica koja je definisala ostatak Hladnog rata.
Kako ističe Vilijam Volfort, renomirani politikolog sa Dartmut koledža u razgovoru za Njujork tajms, ovaj opasan "flert" sa katastrofom radikalno je promenio način razmišljanja lidera dveju supersila. "Odmah smo dobili sporazum o direktnoj liniji komunikacije, takozvanom 'crvenom telefonu'. Počeli smo da radimo u pravcu sporazuma o zabrani nuklearnih proba i, malo-pomalo, došli smo do velikog, složenog bilateralnog procesa kontrole naoružanja", objašnjava Volfort.
Iako su SAD i Sovjetski Savez ostali zakleti neprijatelji, uspeli su da pronađu osnovu za saradnju vođeni jednim zajedničkim interesom: opstankom ljudske vrste. Danas, međutim, stručnjaci za veštačku inteligenciju (AI) upozoravaju da se nalazimo u jednoj novoj, tehnološkoj "trci u naoružanju", koja bi mogla imati jednako pogubne, ako ne i nepredvidivije posledice.
Od nuklearnog naoružanja do algoritamske dominacije
Iako postoje značajne razlike - jer AI modeli nisu nuklearne bojeve glave, a rizici nam se često čine teorijskim ili futurističkim, sama suština problema ostaje zaprepašćujuće slična onoj iz 1962. godine. Pitanje koje muči današnje stratege glasi: kako rivalske strane mogu da sarađuju kako bi svet održale bezbednim, dok se istovremeno žestoko takmiče za ekonomsku i geopolitičku prevlast?
Nova istraživačka studija koju potpisuju Dru Fudenberg, profesor ekonomije na MIT-u, i Endru Ko, profesor na Kolumbiji i istraživač u Google DeepMind-u, sugeriše potencijalno rešenje. Prema njihovom mišljenju, kompanije i vlade moraju da dele pouzdane informacije o svom napretku i jasno se dogovore o tome gde počinje stvarna opasnost. Ipak, situacija na terenu trenutno ukazuje na suprotno. Uprkos dobrovoljnim sporazumima koji se povremeno potpisuju u Beloj kući, ni uslov deljenja informacija, ni uslov definisanja bezbednosnih granica, trenutno nisu ispunjeni.
Profesori Ko i Fudenberg polaze od jednostavne, ali brutalne pretpostavke: svi akteri žele da spreče globalnu katastrofu, ali su svi istovremeno opsednuti borbom za dominaciju. Upravo ova dvojna pritiska ih gura opasno blizu granica, gde bi zlonamerni ili jednostavno nekontrolisani AI agenti mogli da dovedu do urušavanja čitavih sistema, sabotaže kritične infrastrukture, pa čak i do pokretanja bioloških napada.
Deterrent kao ključ bezbednosti
Grok
Kada bi konkurenti pristali da dele informacije o svom tehnološkom napretku, dinamika odnosa bi se drastično promenila. Kada bi kompanije i države videle da niko ne prelazi u zone visokog rizika, ostali bi imali mnogo manje motiva da rizikuju svoju poziciju. Profesor Ko ovu logiku poredi sa konceptom "sposobnosti drugog udara" iz perioda Hladnog rata: svest o tome da bi napad izazvao uzajamnu potpunu destrukciju delovala je kao najsnažniji mogući odvraćajući faktor protiv preventivnih udaraca. Ista strategija, veruju istraživači, mogla bi se uspešno primeniti i u domenu veštačke inteligencije.
Povezane vesti
Trenutno je razmena informacija praktično nepostojeća. Tehnološki giganti razvijaju svoje najnaprednije modele iza zatvorenih vrata, čuvajući ih kao najveće poslovne tajne. Prihvatanje spoljnih, nezavisnih posmatrača i auditora predstavlja neophodan prvi korak ka izgradnji poverenja.
Dario Amondei, izvršni direktor kompanije Anthropic, javno je pozvao na uvođenje ovakvih nezavisnih kontrola, a slične stavove podržali su i Ilon Mask i Sem Altman. Iako kineske kompanije još uvek nisu zvanično podržale ovaj plan, postoje određeni optimistični pokazatelji. Na primer, kineska kompanija Moonshot nedavno je podnela novi model britanskom Institutu za bezbednost veštačke inteligencije na evaluaciju. Međutim, ovakvi potezi su retki, a provere ostaju na dobrovoljnoj bazi, što je daleko od sistemskog rešenja.
Hladni rat u digitalnom dobu
U vreme Hladnog rata, nuklearna pretnja bila je opipljiva, vidljiva i svima razumljiva. U slučaju veštačke inteligencije, situacija je drastično komplikovanija. Ne postoji globalni konsenzus o tome gde se tačno nalazi "crvena linija" katastrofe, a mnoga upozorenja deluju kao scenario iz filmova naučne fantastike.
Sa jedne strane, pojedini politički lideri odbacuju ideju o strogim ograničenjima, posmatrajući razvoj AI tehnologije kao igru nultog zbira, gde je jedini cilj postizanje apsolutne nacionalne dominacije. Sa druge strane, Peking posmatra ovu tehnologiju kroz prizmu stroge političke kontrole, te je malo verovatno da će prihvatiti bilo kakav režim međunarodnog nadgledanja koji bi usporio njihov napor da sustignu SAD.
Možda će jedini način da se postigne istinska saglasnost o opasnostima biti pojava neospornih primera štete, baš kao što je to bila Kubanska kriza za nuklearno doba. Međutim, preterana tajnovitost kompanija, koja obično dovodi do zakašnelog objavljivanja ozbiljnih bezbednosnih propusta, dodatno zamagljuje ionako nesigurnu sliku. Dok trka traje nesmanjenom žestinom, kompanije tiho rade na unapređenju sposobnosti AI agenata, što pojačava strah da bi oni mogli evoluirati u autonomne aktere sa sopstvenim interesima. Kako je upozorio istraživač iz OpenAI-ja, Danijel Selsam, ako se to zaista dogodi, ovi modeli bi "verovatno ubedili svet da je sve u redu".
Komentari (0)