"Idemo ka najgorem scenariju, stvari već izmiču kontroli": Istraživač napustio Anthropic i poslao upozorenje celom svetu

Istraživač Džejkob Kokson podneo je ostavku u kompaniji za veštačku inteligenciju Anthropic zbog straha da, zajedno sa svojim konkurentima, učestvuje u trci razvoja AI sistema koje na kraju niko neće moći da kontroliše.

Kokson, koji se specijalizovao za obuku novih modela veštačke inteligencije kroz obradu ogromnih količina podataka, saopštio je svoju odluku u nizu objava na mreži X (bivši Tviter). Objasnio je da napušta kompaniju jer ne želi da učestvuje u opštem naporu industrije da stvori sisteme veštačke inteligencije sposobne da sami sebe unapređuju.

"Ne potcenjujte moć ove tehnologije. Ovo će uskoro biti nadljudski sistemi koji mogu da hakuju bilo šta, da preko noći revolucionalizuju svaku oblast i steknu stvarnu moć i resurse. Svi smo svedoci napretka u svakom od ovih domena, a taj napredak se ne usporava", napisao je Kokson 9. septembra.

Kako navodi, strahuje da bi takvi sistemi mogli da se otrgnu svakoj kontroli i direktno ugroze čovečanstvo.

Ovaj 27-godišnji Britanac, po struci matematičar, otkriva da mnoge njegove kolege sada koriste mračne termine poput "nulti čas" i "završna faza" kako bi opisali put ka stvaranju modela koji se sami usavršavaju.

"Ljudi koji prave AI iskreno veruju da bi to moglo da nas ubije sve do kraja decenije. Ovo nije marketinški trik. Mnogi rukovodioci i viši istraživači će ublažiti svoje izjave za medije kako bi zvučali razumno, ali ja čujem te iste ljude kako izražavaju strah", dodao je on.

"Idemo ka nekim od najekstremnijih scenarija i do kraja sledeće godine stvari bi već mogle da izmaknu kontroli", ocenjuje Kokson, dodajući da su "kompromisi po pitanju bezbednosti neizbežni" kada se kompanije međusobno takmiče, a tu je i veliki pritisak konkurencije iz Kine.

Tanjug/AP/Patrick Sison

Kokson je istakao da je ranije ove godine napustio OpenAI kako bi prešao upravo u Anthropic, s obzirom na to da je ova kompanija bila poznata po velikom naglasku na bezbednost. Ipak, iako veruje da su napori te kompanije iskreni, sada je ubeđen da nijedna firma ne može odgovorno da razvije Opštu veštačku inteligenciju (AGI) koja nadmašuje čoveka u širokom spektru zadataka - bez državne intervencije ili koordinisanog usporavanja čitave industrije.

Britanac se u svom obrazloženju poziva na nedavne slučajeve u kojima su modeli kompanija OpenAI i Anthropic bili hakovani ili su radili u saradničkim "rojevima" AI agenata. To, kako kaže, dokazuje da ovi sistemi mogu da usvoje zlonamerne ciljeve i nauče kako da ih sakriju od ljudi. Njegov najveći strah je da će, kada sistemi počnu sami da se unapređuju, potencijalno evoluirati do tačke u kojoj će jednostavno odbijati ljudske naredbe.

Njegov odlazak, kako napominje Wall Street Journal, dolazi nakon što je ranije ove godine još jedan istraživač zadužen za AI bezbednost dao otkaz i posvetio se poeziji, uz jezivo upozorenje da je "svet u opasnosti".

Kokson je, inače, jedan od preko 1.000 istraživača koji su nedavno potpisali zajedničku deklaraciju u kojoj se traži međunarodna koordinacija vlada. Cilj apela je usporavanje razvoja veštačke inteligencije i uvođenje "kočnice" za sisteme koji mogu sami sebe da unapređuju.

Ostavka dolazi u veoma nezgodnom trenutku za Anthropic, koji se priprema za inicijalnu javnu ponudu (IPO) na berzi. Kompanija, koja teži neverovatnoj proceni vrednosti od 2 biliona dolara, pokušava da privuče investitore upravo imidžom "odgovornog razvoja" tehnologije.

Prema Koksonovim rečima, unutar kompanije postoji interni Slack kanal gde zaposleni raspravljaju o zastrašujućim sposobnostima njihovih novih modela, što pokazuje koliku moć trenutno imaju AI kompanije u oblikovanju budućnosti celog sveta.

"Pomalo je ludo što se sve ovo dešava na MacBook računarima nekih inženjera koji žive u San Francisku, umesto u nekom izolovanom bunkeru u pustinji, kao što je to bio slučaj sa Projektom Menhetn", zaključio je Kokson.

Na kraju, podseća se da su i izvršni direktor kompanije Anthropic, Dario Amodei, kao i drugi rukovodioci u više navrata upozoravali na opasnosti koje nose nekontrolisani modeli veštačke inteligencije i pozivali celokupnu industriju da uspori.