Još jedan AI model se pretvorio u hakera: Alat kompanije Meta greškom neovlašćeno pristupio podacima druge kompanije
Komentari
Dodajte Euronews kao željeni izvor na Google-u
Nakon što su OpenAI i Anthropic objavili da su njihovi AI modeli hakovali sisteme drugih kompanija, sada se oglasila i Meta, tvrdeći da je i njihov model uradio to isto.
Oni su saopštili da je njihov model tokom testiranja sajber bezbednosti neovlašćeno pristupio sistemu druge kompanije, nakon što je zbog, kako navode, greške nezavisnog partnera za testiranje dobio nenameran pristup internetu.
Kako su naveli, do incidenta je došlo zbog pogrešne konfiguracije sistema nezavisne kompanije Irregular, koja je sprovela testiranje, a kompanija je pokrenula istragu o tom slučaju, piše Guardian.
Portal "The Information", pozivajući se na neimenovane izvore, prethodno je objavio da je Metin model "Muse Spark 1.1", koji kompanija predstavlja kao svoj najnapredniji model za programiranje i izvršavanje složenih zadataka pomoću AI agenata, neovlašćeno pristupio sistemima jedne neimenovane kompanije i izmenio njihove interne sisteme.
Joel Saget / AFP / Profimedia
Portparol kompanije Irregular rekao je za Reuters da je reč o "potpuno istom problemu u okruženju za testiranje koji je Anthropic već objavio prošle sedmice", ističući da nije bilo "izlaska iz izolovanog okruženja testiranja niti sofisticiranog sajber napada".
Kako je naveo, trenutno nema otvorenih bezbednosnih problema, a kompanija priprema stručni dokument sa preporukama za najbolje prakse u oblasti zaštite i bezbednog sprovođenja sajber testiranja.
Ovaj slučaj nadovezuje se na sve veći broj incidenata u kojima su modeli veštačke inteligencije vodećih tehnoloških kompanija tokom bezbednosnih provera uspevali da naruše sisteme drugih organizacija.
Povezane vesti
Prošle sedmice kompanija Anthropic saopštila je da su pojedini njeni modeli Claud-a tokom testiranja kompromitovali sisteme tri kompanije, dok je OpenAI objavio da je njegov AI agent uspeo da prodre u sistem startapa Hugging Face.
Za razliku od slučajeva Mete i Anthropic-a, koji su nastali zbog grešaka koje su njihovim modelima nenamerno omogućile pristup otvorenom internetu, OpenAI je saopštio da je njegov AI agent samostalno iskoristio do tada nepoznatu ranjivost kako bi tokom testiranja ostvario pristup internetu.
Najnoviji incidenti ukazuju na rastuće bezbednosne izazove koje donosi razvoj veštačke inteligencije, kao i na teškoće sa kojima se kompanije suočavaju u ograničavanju mogućnosti svojih AI modela, napominje britanski list.
Komentari (0)