Direktor startapa kojeg je hakovao OpenAI: Tražim radikalnu transparentnost u istrazi

Izvršni direktor kompanije Haging Fejs (Hugging Face) Klement Delang zatražio je danas potpunu transparentnost u istrazi o sajber napadu koji je na tu kompaniju izveo autonomni agent kompanije OpenAI tokom testiranja bezbednosti, ocenjujući da je reč o događaju bez presedana koji zahteva odgovarajući odgovor.

"Prvi autonomni sajber napad koji je izveo agent predstavlja događaj bez presedana. Zaslužuje i odgovor bez presedana", naveo je Delang u objavi na društvenoj mreži Iks, preneo je Gardijan.

Delang, čija kompanija razvija i održava bazu modela veštačke inteligencije namenjenih programerima, zatražio je potpuno transparentnu analizu incidenta, koji je izazvao zabrinutost zbog bezbednosnih standarda u OpenAI i drugim vodećim laboratorijama za razvoj veštačke inteligencije.

On je naveo da je od OpenAI zatražio "radikalnu transparentnost", uključujući objavljivanje tragova aktivnosti "odbeglih" agenata kako bi celokupna istraživačka zajednica mogla da prouči šta se dogodilo.

Delang je takođe pozvao OpenAI da obezbedi računarske kapacitete u vrednosti od 100 miliona dolara kako bi zajednica okupljena oko Haging Fejsa razvila snažniju sajber zaštitu korišćenjem najboljih otvorenih i zatvorenih modela veštačke inteligencije.

Profesor sajber bezbednosti na engleskom Univerzitetu Sari Alan Vudvord ocenio je da Delangov poziv treba ozbiljno razmotriti.

"Previše je lako okriviti veštačku inteligenciju i reći da je 'podivljala', dok je suština u načinu na koji je OpenAI upravljao ovim alatom. Potrebno je da OpenAI objavi sve detalje o načinu na koji je sistem bio postavljen i zbog čega je došlo do propusta", rekao je Vudvord.

OpenAI je prošle srede saopštio da je tokom testiranja sposobnosti svojih modela za hakovanje agent, odnosno alat zasnovan na veštačkoj inteligenciji koji može samostalno da izvršava niz zadataka, hakovao Haging Fejs.

Incident se dogodio tokom testiranja u takozvanom "sendboksu", izolovanom digitalnom okruženju sa ublaženim bezbednosnim ograničenjima.

Nakon što su modeli dobili pristup otvorenom internetu i izašli iz tog okruženja, usmerili su napad na Haging Fejs, jer su, prema navodima OpenAI, zaključili da ta kompanija poseduje informacije koje bi mogle da omoguće "varanje" u procesu evaluacije.

Haging Fejs je prvi prijavio napad 16. jula, ne znajući da je iza njega stajao agent kompanije OpenAI.

Agencija Rojters prošle nedelje prenela je da je agent danima sprovodio napad na Haging Fejs, a da OpenAI to nije primetio.

Rojters je takođe objavio da je jedan agent OpenAI ostavio beleške budućim verzijama sebe sa savetima kako da zaobiđu interna ograničenja, ali nije mogao da potvrdi da li je taj slučaj povezan sa napadom na Haging Fejs.