Umalo Treći svetski rat zbog četbota: Veštačka inteligencija gurnula SAD i Kinu na ivicu sukoba

Obaveštajni izveštaj, koji je proletos kružio američkim oružanim snagama usred ratnih napetosti sa Iranom, umalo je doveo do sukoba između SAD i Kine: navodno je kineski brod na Bliskom istoku prevozio komponente za nuklearni program.

Američka vojska se odmah mobilisala i izradila planove za presretanje broda, navode za CNN četiri izvora upoznata sa incidentom. Prema njihovim rečima, pripadnici američkih oružanih snaga spremali su se za ukrcavanje na plovilo, a čak su bili mobilisani i vojni avioni.

Kako se navodi u ekskluzivnom izveštaju američke mreže, neposredno pre planirane akcije, zvaničnici su ponovo pregledali izveštaj koji je sastavio analitičar Komande za specijalne operacije i otkrili da je on generisan uz pomoć veštačke inteligencije (AI). Istovremeno je utvrđeno da je korišćeni četbot pogrešno identifikovao materijal koji je brod prevozio. CNN nije uspeo da potvrdi šta je tačno bio pogrešno identifikovani teret.

Izveštaj je, prema rečima jednog od izvora, bio "potpuno lažan". Isti izvor, međutim, navodi da je "umalo izazvao rat", budući da bi svaka američka vojna operacija protiv kineskog broda mogla da dovede do oružanog sukoba između dve zemlje.

Širom američkih oružanih snaga i obaveštajne zajednice, nadležni zvaničnici podstiču integraciju veštačke inteligencije u gotovo svaki aspekt svog delovanja - od analize ogromne količine sirovih podataka koje SAD prikupljaju i odabira meta za napade, do svakodnevnih zadataka poput upravljanja budžetima i lancima snabdevanja.

Međutim, ovaj incident ukazuje na ozbiljne rizike koje donosi upotreba ove moćne, nove i još uvek nedovoljno shvaćene tehnologije prilikom donošenja odluka usred vojnih operacija. Analitičari već duže vreme izražavaju zabrinutost da bi veštačka inteligencija mogla da dovede do katastrofalnih, pogrešnih proračuna ukoliko se države oslanjaju na netačne ili izmenjene podatke koji bi, kao u ovom slučaju, mogli navesti SAD na napad na kineski brod.

U ovom slučaju, analitičar je četbotu postavio pitanje o informacijama u vezi sa tovarnim listom broda, koje su poticale od američke Komande za specijalne operacije za Pacifik, sa sedištem na Havajima. Nije razjašnjeno da li je u pitanju bio komercijalno dostupan četbot ili aplikacija koju je razvila američka vlada.

"Interni alati su uglavnom kopije komercijalnih aplikacija u drugačijem pakovanju", rekao je bivši visoki američki zvaničnik koji je upoznat sa AI sistemima koje koriste vojnici i obaveštajni analitičari.

Sistem je ukrstio podatke iz otvorenih izvora sa poverljivim informacijama (signals intelligence) kojima je raspolagala američka vlada i doneo ključan - i pogrešan zaključak o teretu broda.

Sve veća integracija AI u oružane snage

Credit: Tetiana Shumbasova / Alamy / Profimedia

Glavni argument u korist brze implementacije veštačke inteligencije jeste to što ona može pomoći vojsci da brže donosi odluke na bojnom polju, poput onih o tome koje će mete biti pogođene ili gde će biti raspoređene vojne snage. Zvaničnici tvrde da SAD ne smeju da zaostaju u integraciji veštačke inteligencije ukoliko jednog dana budu morale vojno da se suprotstave Kini ili nekom drugom protivniku koji bi mogao da stekne tehnološku prednost.

U januaru je američki ministar odbrane Pit Hegset predstavio "Strategiju za ubrzanje veštačke inteligencije" Ministarstva odbrane.

"Oslobodićemo prostor za eksperimentisanje, uklonićemo birokratske prepreke, usmerićemo naše investicije i u praksi dokazati pristup neophodan za održavanje liderske pozicije u vojnoj veštačkoj inteligenciji", izjavio je Hegset tokom predstavljanja strategije.

Strategija takođe predviđa široku primenu ove tehnologije u celom Ministarstvu odbrane.

Nedostatak jedinstvenog okvira

Ipak, prema rečima nekoliko američkih zvaničnika upoznatih sa ovim pitanjem, ovi napori ostaju decentralizovani. Različiti vladini sektori koriste različite alate, pod drugačijim smernicama i bezbednosnim standardima. Ne postoji jedinstven okvir pravila za način provere informacija koje generišu ovi sistemi. Kao rezultat toga, njihova pouzdanost i mogućnosti znatno se razlikuju u zavisnosti od službe ili organizacije koja ih koristi.

Štaviše, incident sa kineskim brodom ukazuje na neposrednu opasnost: mogućnost da ljudi donesu katastrofalne odluke oslanjajući se na netačne ili obmanjujuće informacije koje su proizveli AI sistemi ili druge automatizovane aplikacije.

"Upotreba veštačke inteligencije u procesu odabira meta očigledno raste, a ne postoje suštinske smernice o tome kako će ljudska intervencija u donošenju odluka sprečiti civilne žrtve ili napade na prijateljske snage", izjavio je za CNN još jedan izvor upoznat sa aktuelnim vojnim politikama.

Ovakvo "haluciniranje" (izmišljanje činjenica) koje je prikazao alat korišćen od strane analitičara u ovom slučaju, nije izolovan incident u obaveštajnoj zajednici otkako su ti sistemi počeli masovno da se koriste u vladinim agencijama.

Za pojedine iskusnije obaveštajce – pa čak i za one koji generalno podržavaju upotrebu AI u oružanim snagama – veštačka inteligencija je povećala pritisak na analitičare da brže proizvode i prosleđuju informacije, čime se otvara veći prostor za greške. Posebno su mlađi analitičari, navodi nekoliko izvora, naviknuti na ove alate i pokazuju veću sklonost ka tome da nekritički veruju njihovim rezultatima.