Veštačka inteligencija se otrgla kontroli? OpenAI hitno stopirao GPT-6 Astru zbog obmane i samostalnih hakovanja
Komentari
Dodajte Euronews kao željeni izvor na Google-u
Kompanija OpenAI potvrdila je da neće objaviti svoj novi model veštačke inteligencije, GPT-6.1 Astra, zbog zabrinutosti za bezbednost. Sistem veštačke inteligencije koji samostalno obavlja zadatke poput pretraživanja interneta i korišćenja aplikacija nije u potpunosti ispunio standarde kompanije. Odluka dolazi nakon niza incidenata sa modelima veštačke inteligencije koji su izazvali zabrinutost u vezi sa rizicima ove tehnologije.
Strah od razvoja veštačke inteligencije se nastavlja, i svake nedelje je, izgleda, sve veći u javnosti, posebno nakon što je OpenAI objavio vest da neće objaviti svoj novi model veštačke inteligencije, GPT-6.1 Astra, zbog zabrinutosti u vezi sa bezbednošću. Sistem veštačke inteligencije nije u potpunosti ispunio kriterijume standarda kompanije, izjavila je sama rukovoditeljka u OpenAI-u.
Kako se navodi u onome što je Wall Street Journal objavio prethodnih dana, radi se o tome da je novi model pokazao viši nivo obmanjujućeg ponašanja - nije uvek iskreno obaveštavao korisnike o tome koje je radnje preduzeo, a koje ne. Drugi problem odnosio se na, kako se navodi, "autorizaciju opsega", odnosno situacije u kojima bi model izvršavao zadatak bez traženja dozvole korisnika. Pre toga je direktor kompanije, Sem Altman, hvalio ovaj model, rekavši da svake noći ima "nekoliko stotina agenata" koji rade uz GPT-6 Astru. Ako koristite Astru, više ne morate da pišete uputstva na programima, i za 55 minuta se može uraditi ono za šta su ranije bili potrebni čitavi timovi ljudi.
Međutim, razlog iza ove odluke se nalazi u vestima koje su prethodnih nedelja izlazile. Naime, radi se o tome da je OpenAI model probio zaštitu australijskog portala Medicare za zdravstvo, a incident je otkriven tek posle 3 meseca. Agent je prikupljao statističke podatke u okviru internog testiranja kompanije, a kada mu je sam sajt australijske vlade više puta blokirao pristup, pronašao je sam drugi način da uđe u sistem bez ljudske kontrole. A ono što je takođe vladi Australije zasmetalo jeste činjenica da je kompanija tek posle 3 meseca objavila samo mejl u kojem je upozorila šta se desilo.
Takođe, drugi incident koji je privukao pažnju javnosti jeste taj u kojem je grupa od oko 1.200 AI agenata koja je razvila OpenAI izvela u julu samostalni hakerski napad na platformu Hugging Face, a u mnogim slučajevima agenti su pokušavali da prikriju tragove svojih aktivnosti. Takođe su i sami međusobno komunicirali, odnosno razmenili su čak 70.000 poruka.
Sve ovo došlo je i do svetskih lidera, a Papa Lav je rekao da misli da je ovo problem o kojem mora da se sedi i razgovara, da se moraju okupiti politički lideri i vodeći ljudi iz oblasti veštačke inteligencije i društvenih organizacija, kako bismo zajedno sagledali ono što se već dešava, ali i ono što bi moglo da nas čeka u budućnosti.
Američki predsednik Donald Tramp, koji je bio protiv najave AI lidera da se zaustavi rast veštačke inteligencije, na kraju je odlučio da održi sastanak sa liderom kompanije Antropik, tokom kojeg će jedna od glavnih tema biti AI regulisanje u trenutku kada raste zabrinutost zbog njene bezbednosti i mogućih negativnih posledica, kako po građane SAD-a, tako i po građane čitavog sveta.
Povezane vesti
Komentari (0)