Astra prepoznaje slabe tačke sistema: Open AI priprema napredni model veštačke inteligencije
Komentari
Dodajte Euronews kao željeni izvor na Google-u
Kompanija za razvoj veštačke inteligencije Open AI objavila je da priprema novi model veštačke inteligencije Astra koji može da otkrije bezbednosne propuste bez vođenja čoveka.
Ipak kompanija upozorava na značajan bezbednosni rizik, pošto bi ista sposobnost mogla da bude iskorišćena za napade na računarske sisteme.
Open AI navodi da je Astra ostvarila maksimalan rezultat na testu ExploitBench, koji meri sposobnost AI modela da iskoristi poznate slabe tačke sistema.
U izmenjenoj verziji testa koju su razvili inženjeri iz Open AI, model je navodno sam pronašao i iskoristio dva "zero-day" bezbednosna propusta koji prethodno nisu bili poznati.
Naziv "zero day" potiče od toga što tvorci softvera nemaju nikakvo vreme, odnosno nula dana, da isprave grešku pre nego što je napadač zloupotrebi.
Kompanija iz San Franciska napominje da je zbog toga odlagala razvoj i lansiranje Astre dok nisu razvijeni zaštitni mehanizmi.
Open AI navodi da će korisnicima koje proceni kao rizične ograničiti pristup naprednim sajber-bezbednosnim mogućnostima Astre.
Povezane vesti
Najnaprednije sajber mogućnosti Astre u početku će biti dostupne samo maloj grupi testera, a potom će pristup biti proširen kako bi se model koristio za odbranu računarskih sistema, poručuje Open AI na svojoj veb stranici.
Kompanija je takođe testirala da li bi Astra mogla da ponovi ponašanje ranijih AI agenata koji su uspeli da izađu iz kontrolisanog okruženja tokom obuke i pristupe privatnim podacima, ali ti strahovi se nisu potvrdili.
Komentari (0)