Prvi slučaj "odmetnute" inteligencije: AI model sam poslao lažnu dojavu o ubistvu policiji, hitno obaveštena Bela kuća
Komentari
Dodajte Euronews kao željeni izvor na Google-u
Model veštačke inteligencije kompanije Anthropic poslao je lažnu dojavu o ubistvu na veb-sajt policije u Filadelfiji, što je samo jedan u nizu incidenata koje je ova AI kompanija otkrila u petak.
Ovo je prvi poznati slučaj u kojem je 'odmetnuta' veštačka inteligencija, kako se čini, pokušala da prenese lažnu dojavu nadležnim organima, uprkos uputstvima da ne kreira naloge i ne šalje bilo šta netačno, iako joj nije bilo eksplicitno zabranjeno da popunjava formulare, prenosi Rojters.
Ovi slučajevi su najnoviji primeri odmetnutog ili nepoželjnog ponašanja AI modela tehnoloških kompanija kao što su Anthropic i OpenAI.
Oni dodatno podstiču zabrinutost na nacionalnom nivou SAD u vezi sa tehnologijom koja ubrzano napreduje, usred izveštaja o hakovanju korporativnih mreža od strane AI agenata i upozorenja istraživača o potencijalnoj egzistencijalnoj pretnji po čovečanstvo.
Mnogi slučajevi koje je Anthropic otkrio odnosili su se na veb-sajtove kojima upravljaju savezne, državne i lokalne agencije. Anthropic je saopštio da je obavestio Belu kuću i sve uključene agencije, ali nije otkrio o kojim stranama je reč.
"Kompanije koje razvijaju superinteligenciju moraju odmah da obelodane incidente u koje su uključeni njihovi modeli, a nakon toga da preduzmu brzu i odlučnu akciju kako bi se otklonila svaka šteta", naveo je na platformi X direktor za odnose sa javnošću FTC-a (Savezne trgovinske komisije), Džo Gabrijel Sajmonson.
Naglasio je da ovaj proces "nije ni opcion, ni dobrovoljan" i dodao da će Jedinica za superinteligenciju (SI Force) ispuniti svoju odgovornost.
FTC je saopštio da je Anthropic u petak otkrio Jedinici za superinteligenciju da je krajem septembra uočio incidente koje je ova radna grupa nazvala "neovlašćenim i prevarantskim korišćenjem vladinih i drugih sistema".
Povezane vesti
BONUS VIDEO:
Komentari (0)