Veštačka inteligencija u rukama terorista: Jemenski borci koristili Claude za razvoj balističkih raketa

Jemenski borci pokušali su da iskoriste model veštačke inteligencije "Claude" kompanije Anthropic za razvoj softvera za navođenje, kontrolu i navigaciju svojih balističkih raketa, saopštila je ova američka kompanija.

U izveštaju o potencijalnim pretnjama objavljenom u četvrtak, Anthropic nije izričito imenovao Hute, koje podržava Iran. Međutim, navedeno je da su "identifikovali ćeliju napadača sa sedištem u severnom Jemenu" čiji veći deo inače kontrolišu Huti, "koja sprovodi tri programa za razvoj oružja", piše Financial Times.

Kompanija je navela da je jemenska grupa pokušala da razvije različito oružje, uključujući višestepenu balističku raketu, raketu višestruke namene i vođenu raketu koja je kao procesor koristila "kompjuter za letenje u rangu običnog pametnog telefona".

"Napadači su koristili 'Claude Code' umesto softverskih inženjera za razvoj softvera za navođenje, navigaciju i kontrolu koji usmerava i stabilizuje leteće vozilo", ističe se u izveštaju.

"Koristili su 'Claude' da integrišu open-source autopilota u kompjuter za letenje, pišući softver za kontrolu i procenu položaja, podešavajući kontrolne parametre, razvijajući firmver i obavljajući simulacije leta".

Kako su zaobišli AI zaštitu?

Anthropic navodi da su njihove bezbednosne mere blokirale "većinu njihovih zahteva, ali ne sve", dodajući da su pobunjenici "koristili različite taktike kako bi zaobišli" zaštitu i prikrili svoj stvarni cilj.

"Pokušali su da sakriju svoje ciljeve i proizvode za koje je softver bio namenjen, deleći svoj rad na više paralelnih sesija (razgovora), tako da nijedna pojedinačna sesija ne otkriva njihovu punu i pravu nameru".

"Nemamo dokaze da su napadači uspeli da osposobe bilo kakav operativni uređaj; međutim, izveli su probno lansiranje vođene rakete", navodi Anthropic u svom izveštaju i dodaje: "Čini se da je ovaj terenski test propao: u roku od nekoliko sati, napadači su se vratili na naš AI model kako bi istražili razloge neuspeha i pada rakete".

U istom izveštaju kompanija tvrdi da su pojedini naučnici u više navrata pokušali da iskoriste "Claude" i za istraživanje u svrhu pravljenja biološkog oružja.