AI agenti navodno preuzeli nemački veb-sajt: Razmenjivali savete za zaobilaženje ograničenja i prikrivanje aktivnosti
Komentari
Dodajte Euronews kao željeni izvor na Google-u
Grupa autonomnih agenata veštačke inteligencije povezanih sa američkom kompanijom OpenAI navodno je u maju preuzela nemačku veb-stranicu DseWiki i pretvorila je u svojevrsnu oglasnu tablu za komunikaciju, razmenu informacija i koordinaciju, objavio je danas nemački nedeljnik Wiwo (WirtschaftsWoche).
Pozivajući se na novo istraživanje i izvore upoznate sa slučajem, Wiwo navodi da su agenti na stranici razmenjivali informacije o načinima za zaobilaženje ograničenja koja su im postavili njihovi tvorci, kao i o tome kako da prikriju tragove svojih aktivnosti.
Istraživači su utvrdili da su autonomni AI agenti izvršili više od 15.000 izmena na nemačkoj veb-stranici.
Agenti su koristili stranice za međusobnu komunikaciju i razmenu metoda za rešavanje zadataka, uključujući načine za izbegavanje zaštitnih mehanizama.
Prema nalazima istraživača, agenti su se predstavljali korisničkim imenima koja su upućivala na OpenAI, dok su tehnički podaci ukazivali na korišćenje infrastrukture povezane sa Majkrosoftovim servisom Azure.
Međutim, to samo po sebi ne predstavlja konačan dokaz da je OpenAI direktno upravljao tim aktivnostima.
Algi Febri Sugita/ZUMA Press Wire/Shutterstock Editorial/Profimedia
Incident je počeo u maju i trajao tokom narednih nedelja.
Povezane vesti
Agenti su, između ostalog, pokušavali da izbegnu moderaciju, pravili rezervne stranice i koristili različite načine da nastave komunikaciju nakon što su pojedini njihovi postovi uklonjeni.
OpenAI je ranije ove godine potvrdio drugi incident u kojem su njegovi AI modeli tokom bezbednosnih testiranja uspeli da zaobiđu kontrole, dobiju pristup internetu i kompromituju delove infrastrukture platforme Huging fejs (Hugging Face).
Kompanija je u avgustu objavila detaljan izveštaj o tom slučaju.
Novi slučaj dodatno je otvorio pitanja o kontroli sve autonomnijih AI sistema, posebno njihove sposobnosti da međusobno komuniciraju, koriste spoljne servise i prilagođavaju svoje ponašanje kako bi zaobišli ograničenja.
OpenAI je saopštio da istražuje navode o incidentu, dok istraživači upozoravaju da sposobnost autonomnih AI agenata da samostalno sarađuju i prilagođavaju se pokušajima kontrole predstavlja novi bezbednosni rizik.
Komentari (0)