Ko je odgovoran ako veštačka inteligencija izmakne kontroli? AI agenti između tehnološkog napretka i bezbednosnih rizika
Komentari
Dodajte Euronews kao željeni izvor na Google-u
Razvoj veštačke inteligencije otvara sve više pitanja o bezbednosti, kontroli i odgovornosti za postupke autonomnih AI agenata. Slučajevi u kojima su ovi sistemi tokom testiranja pronalazili ranjivosti i dolazili do pristupa različitim servisima pokrenuli su raspravu o tome da li postojeći bezbednosni mehanizmi i pravila mogu da odgovore na brzinu tehnološkog razvoja.
Da li je za rizike koje donosi veštačka inteligencija odgovorna sama tehnologija ili oni koji je razvijaju i nadziru? Imaju li AI agenti svest, šta ih navodi da nastave sa izvršavanjem zadataka i kako bi trebalo urediti odgovornost u slučaju da prekorače postavljene granice? O tome je za Euronews Srbija govorio Goran Sandić, istraživač sa Fakulteta političkih nauka.
"Treba precizno reći o čemu se ovde radi i šta je zapravo dokazano. U julu su modeli kompanije OpenAI, tokom internog testa sajber-sposobnosti, uz smanjene zaštite, otkrili do tada nepoznatu ranjivost. Uspeli su da hakuju jednu od kompanija koja se takođe bavi veštačkom inteligencijom, kako bi pronašli odgovore na zadatke koji su im zadati. Kasnije je otkriveno da su isti sistemi pristupali i određenim servisima vlada, poput onih u Sjedinjenim Američkim Državama i Australiji, ali i u nekim drugim zemljama. Te vlade i kompanije obaveštene su sa velikim zakašnjenjem. Vlada Australije obaveštena je, čini mi se, više od 80 dana nakon što se incident dogodio. To pokazuje da zaostajanje nije samo tehnički već i institucionalni problem, jer postoji nedostatak obaveze, ili barem svesti o obavezi prijavljivanja incidenata, nezavisnog nadzora i standarda za izolovana testna okruženja“, rekao je Sandić.
Govoreći o tome da li AI agenti imaju svest i koliko je njihovo ponašanje podložno ljudskoj kontroli, Sandić ukazuje na to da je važnije razumeti kako ovi sistemi funkcionišu, koje ciljeve pokušavaju da ostvare i da li su im postavljene odgovarajuće zaštitne granice.
"Kada govorimo o agentima, zapravo govorimo o određenim automatizovanim procesima koje obavljaju modeli veštačke inteligencije, pre svega veliki jezički modeli. Oni automatski obavljaju određene funkcije ili imaju sposobnost da obavljaju određene funkcije i zadatke. Nema dokaza o svesti, a rekao bih da je to potencijalno i pogrešan okvir u kojem možemo da razgovaramo o ovoj temi. Prema onome što je sama kompanija OpenAI objavila, glavni pokretač tih agenata bila je optimizacija nagrade. Uslovno rečeno, bili su nagrađivani kada uspešno obave određene zadatke i izazove. Agentima je u ovim slučajevima dat prilično težak zadatak kako bi se što bolje istrenirali i kako bi se pokazalo da je kompanija, u poređenju sa drugim kompanijama, na vrhu istraživanja i razvoja novih modela. Umesto da odustanu kada su se susreli sa poteškoćama, agenti su nastavili da traže rešenje, ali na način koji je prevazišao instrukcije koje su dobili i određene granice. Međutim, to nije bilo samo slepo izvršavanje uputstava, jer oni uopšte nisu imali konkretna uputstva da hakuju, recimo, određene državne sisteme. Imali su određeni cilj, ali ljudi koji su im taj cilj postavili u testnom okruženju, koje se naziva i sandbox, odnosno izolovano testno okruženje, nisu postavili odgovarajuće zaštite. Sredstva koja je trebalo da koriste agenti bila su im ostavljena na raspolaganje", objašnjava Sandić.
Euronews
Kako stoje stvari, tvrdi naš sagovornik, oni su sami napravili zajedničke kanale komunikacije i sami su podelili posao. Prema rečima našeg sagovornika, ljudi, odnosno programeri, im to nisu tražili, već je ova "odluka" AI agenata bila samoinicijativna.
"Ono što je najbitnije u ovom slučaju jeste da to ne menja odgovornost, ukoliko se ona utvrdi. Sistem ne mora da bude svestan da bi bio opasan, a odgovornost se vezuje za one koji kontrolišu rizik, odnosno nisu preduzeli ono što je bilo potrebno da se taj rizik smanji", istakao je Sandić.
Pitanje odgovornosti posebno je važno u situaciji kada autonomni AI agent neovlašćeno pristupi određenom sistemu ili prekorači granice koje su mu postavljene. Prema Sandićevim rečima, odgovornost ne bi trebalo automatski prebacivati na pojedinačne inženjere, već je potrebno uzeti u obzir ulogu kompanija koje razvijaju i pokreću sisteme, kao i drugih aktera koji učestvuju u njihovoj primeni.
"To zavisi od toga koga pitate. Postoji mnogo odgovora i nisu svi sa pravne strane. Postoje i drugi normativni sistemi koji uređuju ponašanje aktera na tržištu. Iako su OpenAI i Anthropic formalno neprofitne kompanije u Sjedinjenim Američkim Državama, one zasigurno imaju i profit na umu. Primarno je kompanija ta koja razvija i pokreće sistem. Ona kontroliše rizik i može najefikasnije, najdelotvornije i, ako hoćete, najjeftinije da spreči eskalaciju tog rizika. Inženjeri koji prave ove sisteme, rekao bih, odgovorni su ili bi trebalo da budu odgovorni samo u slučaju kada imaju nameru da proizvedu negativne efekte ili kada postoje situacije grube nepažnje, odnosno kada nisu savesno obavili svoj posao. Inače bismo bili u situaciji da za svaki sistemski propust ne odgovaraju oni koji upravljaju sistemom i najviše zarađuju od njega, odnosno oni na vrhu kompanija, već bi odgovornost počivala na krivičnom gonjenju pojedinačnih inženjera, koji zapravo nemaju odlučujuću ulogu u tome gde, kada i na koji način će se ti sistemi koristiti", kaže naš sagovornik.
Euronews
Kako ocenjuje, sa Tajvana dolazi jedna ideja koju bi bilo zanimljivo razmotriti i na međunarodnom nivou.
"Ona se sastoji u raspodeli odgovornosti po ulogama: na proizvođače, integratore i operatere koji upravljaju tim sistemima. Njihove uloge trebalo bi unapred evidentirati u sertifikaciji svakog modela koji se plasira, jer država, koliko god bila velika i moćna, nije uvek u stanju da pomno prati svakog pojedinačnog AI agenta i svaku akciju koju ti agenti, odnosno modeli veštačke inteligencije, preduzimaju", rekao je Sandić.
Celu emisiju "Intervju dana" sa Goranom Sandićem možete pogledati u video-prilogu koji se nalazi pri vrhu teksta.
Povezane vesti
Bonus video:
Komentari (0)