Alarm iz OpenAI: Bivši stručnjak upozorava na sve veće rizike veštačke inteligencije
Komentari
Dodajte Euronews kao željeni izvor na Google-u
Bivši zaposleni kompanije američke kompanije OpenAI Dejvid Robinson, koji je radio na bezbednosti veštačke inteligencije (AI), napustio je tu kompaniju i upozorio da vodeće firme u oblasti AI ne čine dovoljno na smanjenju rizika koje ta tehnologija nosi.
Robinson, koji je ranije predvodio rad na transparentnosti u OpenAI timu za bezbednost, naveo je da je kompanija koja je razvila ChatGPT "napredovala metodom pokušaja i grešaka".
Međutim, prema njegovim rečima, posledice neizbežnih grešaka koje takav pristup donosi postaju sve ozbiljnije kako se povećavaju mogućnosti veštačke inteligencije, preneo je Blumberg.
Kao primer je naveo slučaj kada OpenAI tokom testiranja nije uspeo da spreči svoj AI sistem da se ponaša na način koji nije bio predviđen.
"Moje bivše kolege su pametne, vredno rade i pokušavaju da donesu dobre odluke. Ali, dok kompanija juri od jednog lansiranja do drugog, ne uspeva da dostigne nivo opreza za koji verujem da je neophodan", napisao je Robinson.
On je dodao da je potrebno "nešto mnogo bliže savršenstvu iz prvog pokušaja".
Robinson je naveo da bi kompanije koje razvijaju veštačku inteligenciju trebalo da budu organizovane poput nuklearnih elektrana, "sa višestrukim bezbednosnim mehanizmima i pažljivim, dugotrajnim planiranjem, kako povremena i neizbežna ljudska greška ne bi otvorila vrata katastrofi".
Povezane vesti
"U ovom trenutku, kompanije za razvoj veštačke inteligencije ne znaju kako to da urade, ali drugi ljudi znaju", naveo je Robinson.
Brojni zaposleni u vodećim kompanijama za razvoj veštačke inteligencije poslednjih nedelja upozorili su na potencijalno katastrofalne rizike koje ta tehnologija može da predstavlja.
Neki od njih otišli su toliko daleko da su upozorili da bi AI jednog dana mogao da dovede do nestanka ljudske vrste.
U tom kontekstu, izvršni direktor kompanije Antropik Dario Amodei pozvao je na usporavanje razvoja najnaprednijih AI modela i najavio da će njegova kompanija angažovati nezavisne procenitelje koji bi pomogli u proveri i zaštiti tehnologije.
Pojedini drugi akteri u industriji, među kojima je i izvršni direktor OpenAI Sam Altman, javno su podržali Amodeijev plan.
Portparol OpenAI saopštio je da kompanija preduzima promene kako bi ojačala bezbednost u okruženjima za istraživanje i testiranje, obučava AI modele da odgovorno izvršavaju zadatke, proširuje saradnju sa nezavisnim proceniteljima i unapređuje praćenje ponašanja modela u realnom vremenu kako bi se uočilo zabrinjavajuće ponašanje.
Komentari (0)