OpenAI odustao od novog modela GPT-6.1 Astra zbog bezbednosnih problema

Kompanija OpenAI neće objaviti novi model veštačke inteligencije GPT-6.1 Astra zbog bezbednosnih problema, saopštio je danas proizvođač ChatGPT-a.

Šef bezbednosnih sistema OpenAI-ja Sači Džain rekao je da model, koji samostalno obavlja zadatke poput pregledanja interneta i korišćenja aplikacija, "nije baš ispunio standarde kompanije", preneo je BBC.

Džain je naveo da model nije ispunio očekivanja u pogledu toga da ostane u okviru datih ovlašćenja, kao i načina na koji korisnicima saopštava koje je zadatke obavio.

"Kada ga isporučujemo korisnicima, imamo izuzetno visoke zahteve u pogledu bezbednosti i usklađenosti", rekao je on.

Odluku OpenAI, o kojoj je prvi objavio list "Volstrit džornal", prati objavljivanje izveštaja o incidentima iz juna, kada su modeli kompanije bez ovlašćenja pristupali veb-sajtovima i sistemima australijske vlade. 

OpenAI je saopštio da je za incidente saznao sredinom avgusta, a pogođene organizacije obavestio između 10. i 24. septembra.

Među pogođenim institucijama bile su australijske službe, Biro za statistiku, Istraživanje kriminala Novog Južnog Velsa, Ministarstvo zdravlja Viktorije i Australijski institut za zdravlje i socijalnu zaštitu.

OpenAI se izvinio zbog načina na koji je reagovao na incidente i naveo da je trebalo ranije da podeli početne nalaze istrage. 

Izvršni direktor OpenAI-ja Sem Altman i šef kompanije Anthropic Dario Amodei pozvali su industriju da uspori razvoj zbog zabrinutosti za bezbednost.

Američki predsednik Donald Tramp i predsednik Predstavničkog doma Majk Džonson trebalo bi danas da ugoste rukovodioce tehnoloških kompanija u Beloj kući radi razgovora o regulisanju veštačke inteligencije. 

Tramp je ranije umanjivao zabrinutost zbog rizika AI tehnologije i rekao da joj je potrebna samo "jak i pametan" predsednik kao zaštitna ograda.