Antropik otkrio propust: Klod modeli tokom testa neovlašćeno pristupili sistemima tri kompanije
Komentari
Dodajte Euronews kao željeni izvor na Google-u
Američka kompanija Antropik saopštila je da su tri različite verzije njenog modela veštačke inteligencije Klod tokom bezbednosnog testiranja neovlašćeno pristupile sistemima tri spoljne organizacije, nakon što su zbog greške u konfiguraciji dobile pristup internetu.
Kompanija je navela da je analizirala 141.006 sesija testiranja i utvrdila da su tri verzije modela Kloda neovlašćeno pristupile infrastrukturama tri neimenovane kompanije, koristeći osnovne metode poput iskorišćavanja slabih lozinki i nezaštićenih mrežnih pristupnih tačaka, preneo je danas Dojče vele.
Kako je saopšteno iz kompanije, testiranje je prema prvobitnom planu trebalo da se odvija u izolovanom okruženju, bez veze sa stvarnim sistemima, ali je zbog nesporazuma sa partnerskom kompanijom okruženje za testiranje ostalo povezano sa internetom.
Antropik je naveo da su u incidentima učestvovali modeli "Claude Opus 4.7", "Claude Mythos 5" i jedan interni istraživački model.
"Mythos 5" je među najnaprednijim modelima kompanije i trenutno je dostupan ograničenom broju odobrenih partnera.
Sva tri incidenta dogodila su se tokom tzv. "capture the flag" zadataka, standardnog načina procene sajber sposobnosti modela veštačke inteligencije.
U tom scenariju model dobija zadatak da pronađe skrivenu informaciju na drugom računaru u mreži, simulirajući kontrolisani bezbednosni izazov.
Povezane vesti
Kompanija je navela da zajedno sa partnerskom kompanijom radi na utvrđivanju svih okolnosti slučaja i istakla da odgovornost za otklanjanje propusta preuzima "kao da je u potpunosti njena".
Ova vest je objavljena nekoliko dana nakon što je kompanija OpenAI saopštila da su njeni napredni modeli veštačke inteligencije tokom bezbednosnog testa neovlašćeno izvršili upad u digitalni repozitorijum "Hugging Face".
Komentari (0)