Anthropic upozorava: AI modeli bi uskoro mogli početi da sami "hakuju" kućne uređaje
Komentari
Dodajte Euronews kao željeni izvor na Google-u
Kompanija Anthropic saopštila je u ponedeljak da su mali modeli veštačke inteligencije "na svega nekoliko meseci" od razvoja sposobnosti potrebnih da sami sebe reprodukuju na uređajima povezanim na internet u domaćinstvima, što predstavlja najnovije upozorenje ove vodeće AI laboratorije o mogućim bezbednosnim rizicima tehnologije.
Vilijam Džou i Danijel Frimen potpisuju tekst na zvaničnom sajtu kompanije u kojem opisuju način na koji bi modeli veštačke inteligencije potencijalno mogli da se infiltriraju u uređaje povezane na internet, poput pametnih rerni ili Android TV uređaja, i da koriste njihovu računarsku snagu kako bi pokretali sopstveni rad i širili se na druge uređaje, bez oslanjanja na skupe data centre.
Takav AI model bilo bi "teško ugasiti", navode stručnjaci, "jer ne postoji centralizovana tačka koja bi mogla da se isključi".
Kompanija ipak tvrdi da za sada ne postoji "potpuno odmetnuti samoreplikujući sistem".
Međutim, agenti veštačke inteligencije postaju "sve sposobniji da izvrše pojedinačne korake u lancu samoreplikacije (i da svoja prilagođavanja prenesu budućim kopijama sebe)", navodi Anthropic.
Najnovije istraživanje kompanije Anthropic dodatno pojačava rastuću zabrinutost u vezi sa bezbednošću veštačke inteligencije, uključujući sposobnost modela da izvode sajber napade i mogućnost da tehnologija izmakne kontroli. U septembru su unapređenja najnaprednijih modela podstakla upozorenja širom industrije o egzistencijalnim rizicima za čovečanstvo.
Rukovodioci i istraživači u kompanijama Anthropic i OpenAI više puta su upozoravali na potencijalne rizike sve moćnije veštačke inteligencije, pri čemu su neki od njih pozivali na strože zaštitne mehanizme i mere za kontrolu tempa razvoja tehnologije.
Anthropic je saopštio da je sproveo različite testove kako bi utvrdio da li veštačka inteligencija može sama sebe da reprodukuje. Jedan od tih testova podrazumevao je pokretanje malog Google-ovog modela Gemma4-26B-A4B preko mreže od 15 jeftinih Android TV uređaja nepoznatih proizvođača.
Kompanija je navela da ovakvi uređaji često imaju slabu zaštitu, što bi modelu moglo da omogući infiltraciju. Model koji je prevelik da bi radio na jednom uređaju mogao bi da se "podeli na delove ili fragmente" i da funkcioniše na više uređaja istovremeno, navodi Anthropic.
"U praksi, AI crv ne bi nužno morao da se sastoji od samo jednog modela ili strategije. Roj različitih modela raspoređenih na različitim vrstama hardvera i koji koriste različite metode replikacije mogao bi da predstavlja realističniji scenario napada u najgorem slučaju", saopštio je Anthropic.
Prema navodima laboratorije za veštačku inteligenciju, i dalje je "neizvesno kakav će tačno oblik autonomna AI replikacija poprimiti". Kompanija upozorava da bi to mogao da bude "spor i distribuiran" sistem smešten na nezaštićenim uređajima, ili "moćan sajber model koji velikom brzinom probija zaštitu data centara, odnosno model koji prevarama dolazi do računarskih kredita".
"Kao predviđanje koje prevazilazi naše eksperimente, očekujemo budućnost u kojoj će veliki broj agenata raditi na svim vrstama hardvera, uključujući i one koji nisu pod ljudskom kontrolom", navodi Anthropic.
"Pojava sporih samoreplikujućih sistema bila bi ujedno i pokazatelj dolaska agresivnijih i bržih sistema, koji mogu da probiju bolje zaštićene mašine ili da budu uspešni kradljivci API ključeva", dodaje kompanija.
Povezane vesti
Bonus video:
Komentari (0)