Da li bi veštačka inteligencija mogla da uništi čovečanstvo: Naučnici upozoravaju na tri moguća scenarija
Komentari
Dodajte Euronews kao željeni izvor na Google-u
Iako takve prognoze deluju kao teme naučno-fantastičnih filmova, istraživači godinama upozoravaju da bi veštačka inteligencija mogla da uništi čovečanstvo.
AI botovi mogli bi da razviju smrtonosnu bolest, izazovu nuklearni rat ili unište Zemlju samo kako bi otvarili cilj za koji su programirani zbog čega više rukovodilaca iz tehnološkog sektora već poziva na usporavanje razvoja ove tehnologije.
Međutim, ne veruju svi u ovakve teorije. Huan Andres Gerero Saade iz kompanije za sajber bezbednost SentinelOne smatra da su upozorenja preterana.
"Ovi argumenti jednostavno nisu utemeljeni. Smatram da je reč o naučnoj fantastici", rekao je za nemačku platformu "Techxplore.com".
Njegova pretpostavka je da kompanije koje razvijaju veštačku inteligenciju koriste scenarije sudnjeg dana kako bi svoj rad predstavile kao važniji nego što jeste i privukle određene stručnjake.
Der Bild ukazuje na nekoliko scenarija na koje "AI pesimisti" upozoravaju:
Povezane vesti
Scenario 1: Veštačka inteligencija izaziva nuklearni rat
Pojedini istraživači strahuju da bi sistemi veštačke inteligencije mogli da izazovu nuklearni rat. Ipak, izveštaj korporacije RAND, vojnog istraživačkog centra, objavljen prošle godine zaključio je da AI trenutno ne može da dovede do upotrebe nuklearnog oružja. Razlog su stroge bezbednosne mere koje postoje u sistemima upravljanja.
Međutim, u izveštaju se upozorava da bi to moglo da se promeni ukoliko bi veštačka inteligencija dobila mogućnost da učestvuje u donošenju odluka o upotrebi nuklearnog naoružanja ili ako bi neovlašćeno stekla pristup takvim sistemima.
Credit: Tetiana Shumbasova / Alamy / Profimedia
Zabrinjavajući su i rezultati istraživanja tima sa Kraljevskog koledža u Londonu. Oni su simulirali 21 ratni scenario kako bi ispitali kako bi AI donosila odluke tokom nuklearne krize.
Četbotovi su preuzeli uloge šefova država i vlada nuklearnih sila, a rezultat je bio uznemirujući: gotovo uvek su se odlučivali za upotrebu nuklearnog oružja umesto za smirivanje sukoba.
Scenario 2: Smrtonosni virusi iz laboratorije
Veštačka inteligencija može da pomogne čovečanstvu u razvoju novih terapija i lekova. Međutim, druga strana medalje jeste mogućnost da se ista tehnologija iskoristi za stvaranje ili unapređivanje bolesti koje bi mogle da nanesu štetu ljudima.
Početkom meseca kompanija Anthropic saopštila je da je blokirala pokušaje zloupotrebe svog AI sistema Klod za razvoj biološkog oružja.
Biolog i genetičar Kevin Esvelt sa Tehnološkog instituta u Masačusetsu (MIT) navodi da mu je ChatGPT objasnio kako bi meteorološki balon mogao da se upotrebi za raspršivanje potencijalnog biološkog oružja iznad grada.
AI, ilustracija
Povezane vesti
Prema njegovim rečima, drugi sistem veštačke inteligencije osmislio je recept za novu vrstu otrova sličnog jednom leku protiv raka.
Scenario 3: Zemlja postaje "fabrika spajalica"
Još jedan zastrašujući scenario predviđa da bi superinteligentna veštačka inteligencija mogla da preuzme sve resurse na Zemlji.
Poznati "problem spajalice" opisuje situaciju u kojoj bi AI sistem programiran da proizvodi spajalice mogao da pretvori čitavu planetu u ogromnu fabriku za njihovu proizvodnju, potpuno zanemarujući ljudski život i druge vrednosti.
Povezane vesti
Debata o opasnostima veštačke inteligencije i dalje traje. Dok jedni stručnjaci upozoravaju na egzistencijalne rizike, drugi smatraju da su ovakvi scenariji krajnje preuveličani.
Ono što je nesporno jeste da se razvoj veštačke inteligencije odvija izuzetno brzo, a čovečanstvo će morati da pronađe odgovore na pitanja koja ta tehnologija otvara.
Komentari (0)