Istraživači pronašli slabost kineskih AI modela i naveli ih da im daju uputstva za razvoj biološkog oružja
Komentari
Dodajte Euronews kao željeni izvor na Google-u
Kineska kompanija za razvoj veštačke inteligencije "Moonshot" pokrenula je internu reviziju nakon što su nezavisni istraživači uspeli da zaobiđu zaštitne mehanizme dva njena modela Kimi i dobiju odgovore o razvoju biološkog oružja i atentatima, objavio je BBC.
Kompanija "Mindgard", koja testira bezbednost sistema veštačke inteligencije (AI), saopštila je da je u julu otkrila da su modeli Kimi K2.6 i K3 Swarm podložni takozvanom "džejlbrejkingu".
Ta tehnika podrazumeva korišćenje složenih instrukcija kojima se model pokušava navesti da ignoriše zaštitne mehanizme koje su postavili njegovi programeri.
Osnivač "Mindgard"-a Piter Garagan rekao je za BBC da su nalazi zabrinjavajući jer, kada "džejlbrejk" uspe, modeli mogu da odgovaraju na teme o kojima bi inače odbili da razgovaraju.
Kompanija je, takođe, saopštila da bi uspešno zaobilaženje zaštite kod modela Kimi K2.6 potencijalno moglo da omogući izvršavanje koda na računarskim resursima i povezivanje sa internetom, što bi predstavljalo potencijalni rizik za sajber napade.
"Moonshot" je za BBC rekao da pozdravlja doprinos nezavisnih istraživača kao važan deo razvoja bezbednije veštačke inteligencije i da razgovara sa "Mindgard"-om o njegovim nalazima.
Profesor Alan Vudvord sa Univerziteta u Sariju rekao je da takvi modeli nose rizik da dospeju u pogrešne ruke, ali da mogu da imaju i korisnu primenu u sajber odbrani.
Povezane vesti
On je ocenio da će međunarodna regulativa teško pratiti brzinu razvoja veštačke inteligencije i pozvao je na veći fokus na identifikaciju i krivično gonjenje ljudi koji zloupotrebljavaju AI sisteme.
Komentari (0)