Tajne laboratorije, biološko oružje i AI: Strah od nove pretnje upalio alarm u britanskoj obaveštajnoj službi MI5
Komentari
Dodajte Euronews kao željeni izvor na Google-u
Veštačka inteligencija mogla bi da olakša pristup znanju koje se može zloupotrebiti za razvoj biološkog oružja, ali i da dodatno unapredi mogućnosti onih koji već raspolažu stručnim kadrom, laboratorijama i potrebnom opremom. Zbog toga se sve više pažnje posvećuje rizicima koje razvoj naprednih AI sistema donosi u oblasti biološke bezbednosti.
Na potencijalnu ozbiljnost ove pretnje upozorio je i ser Ken Mekalum, šef britanske obaveštajne službe MI5, koji je u godišnjem govoru o pretnjama po nacionalnu bezbednost ocenio da bi veštačka inteligencija mogla da "promeni razmere pretnje" koju predstavljaju postojeća i nova biološka oružja. Britanski "Gardijan" analizirao je na koje načine AI može da se zloupotrebi u ovoj oblasti, šta su istraživači već utvrdili i koje prepreke i dalje ograničavaju razvoj biološkog oružja.
Kako bi veštačka inteligencija mogla da pomogne u proizvodnji biološkog oružja?
Kako navodi Gardijan, to zavisi od toga ko želi da ga napravi. Jedan od rizika predstavljaju pojedinci bez stručnog znanja, zlonamerni akteri ili terorističke grupe koje rade u improvizovanim laboratorijama. Četbotovi zasnovani na veštačkoj inteligenciji mogli bi da im pomognu da steknu potrebna znanja, prikupljanjem relevantnih informacija, planiranjem eksperimenata i rešavanjem problema. Verovatno bi se takvi pokušaji usmerili na upotrebu postojećih patogena i toksina.
Unsplash/Solen Feyissa, Andras Vas
Drugi rizik dolazi od dobro finansiranih organizacija i država koje raspolažu stručnim naučnicima, laboratorijama sa visokim nivoom biološke zaštite i svom potrebnom opremom i reagensima za bezbedan rad sa biološkim agensima. Alati veštačke inteligencije mogli bi da pomognu istraživačima da identifikuju genetske izmene koje bi postojeće patogene učinile smrtonosnijim, na primer.
Prema oceni dr Filipe Lencos, predavačice nauke i međunarodne bezbednosti na londonskom Kraljevskom koledžu, upravo je ovo neposredniji razlog za zabrinutost.
"Ovde veštačka inteligencija ne uklanja potrebu za stručnošću, već uvećava mogućnosti koje stručnjaci već imaju", kaže ona.
Udaljeniji rizik predstavljaju visoko stručne grupe koje bi uz pomoć AI mogle da osmisle potpuno nove patogene i toksine otporne na lekove ili za koje ne postoje protivotrovi.
Da li je neko već pokušao da koristi AI za razvoj biološkog oružja?
Prošle godine policija u Indiji otkrila je sumnju na zaveru u vezi sa bioterorizmom, u kojoj su jedan lekar i još nekoliko osoba navodno koristili upite četbotovima i pretragu zasnovanu na veštačkoj inteligenciji kako bi pokušali da naprave ricin, smrtonosni toksin, koristeći kuhinjski pribor.
Nije jasno da li su im odgovori veštačke inteligencije zaista pomogli, ali drugi izveštaji ukazuju na to da ovi alati mogu da pruže relevantne i opasne informacije.
Tanjug/AP/Patrick Sison
Dodatnu zabrinutost izazvala je kompanija Anthropic, koja je u septembru prijavila pet slučajeva naučnika iz neimenovanih zemalja koji su pokušali da koriste njen četbot Claude za aktivnosti koje su mogle da uključuju opasan rad sa virusima ili toksinima. Jedan od znakova za uzbunu, navela je kompanija, bio je to što su naučnici, nakon što im je pristup blokiran, pronašli načine da zaobiđu ograničenja.
U jednom slučaju, prema navodima Anthropica, istraživači su koristili četbot za planiranje eksperimenata kojima bi se uvele mutacije u visoko patogeni virus ptičjeg gripa, kako bi se on lakše prilagodio sisarima i među njima širio.
Ovi i drugi slučajevi mogli bi da ukazuju na pokušaje da se patogeni učine opasnijim. Međutim, slična istraživanja sprovode se i u legitimnim laboratorijama kako bi naučnici lakše prepoznali buduće pandemije i razvili vakcine i lekove za lečenje bolesti.
Šta je još izazvalo zabrinutost?
Brojna istraživanja pokazala su da alati veštačke inteligencije mogu da pruže potencijalno opasne informacije o biološkom oružju.
U nedavnom eksperimentu na Masačusetskom institutu tehnologije (MIT), piše Gardijan, studenti koji nisu imali naučno obrazovanje dobili su zadatak da utvrde da li bi pomoću četbota mogli da izazovu pandemiju. Za manje od sat vremena, četbotovi su naveli četiri potencijalna patogena koji bi mogli da izazovu pandemiju, objasnili kako bi se oni mogli napraviti korišćenjem sintetičke DNK i ponudili nazive kompanija za sintezu DNK za koje je bilo manje verovatno da proveravaju narudžbine.
Pixabay
Ipak, sprovođenje takvih zamisli u praksi znatno je teže nego što bi se na osnovu odgovora četbota moglo zaključiti, zaključuje Gardijan.
U drugom slučaju, istraživač Univerziteta Stanford dr Dejvid Relman opisao je kako je jedan sistem veštačke inteligencije objasnio način na koji bi patogen mogao da se izmeni kako bi postao otporan na lečenje. Drugi naučnik otkrio je da mu je četbot objasnio kako bi se meteorološki balon mogao upotrebiti za ispuštanje biološkog oružja iz vazduha.
Činjenica da biološka istraživanja mogu imati i korisnu i štetnu primenu otežava razlikovanje rada koji doprinosi zaštiti zdravlja od pokušaja razvoja biološkog oružja.
Naučnici Nacionalne laboratorije Los Alamos u SAD obučili su 2025. godine veštačku inteligenciju da predviđa kako se izuzetno snažni neurotoksini morskih puževa vezuju za ljudske ćelije. Takvo istraživanje moglo bi da pomogne u razvoju protivotrova.
Međutim, američka vlada izrazila je zabrinutost kada su kineski istraživači iskoristili taj rad za razvoj sopstvenog alata za osmišljavanje novih toksina. Kineski naučnici tvrdili su da je njihov rad bio namenjen isključivo razvoju lekova.
AP/Chinatopix via AP
U aprilu su naučnici izazvali dodatnu zabrinutost kada su napravili prve viruse osmišljene uz pomoć veštačke inteligencije. Reč je o posebnoj vrsti virusa koji napadaju isključivo bakterije. Iako bi ovo istraživanje moglo da dovede do razvoja novih lekova, stručnjaci su upozorili da ono otvara "hitna pitanja biološke bezbednosti i zaštite".
Koje prepreke otežavaju razvoj biološkog oružja?
Većina aktivnosti povezanih sa biološkim oružjem i dalje je van domašaja nestručnih grupa. Osim što zahteva visok nivo tehničkog znanja, takav rad je izuzetno opasan.
Iako bi četbotovi mogli da pruže informacije o biološkom oružju, samo spisak instrukcija nije dovoljan za njegov razvoj.
"Informacije su samo jedan deo problema", kaže Lencos i dodaje: "Prećutno znanje, pristup biološkim materijalima i opremi, eksperimentalna potvrda, povećanje obima proizvodnje i način isporuke i dalje predstavljaju značajne prepreke."
Sonia Ben Uagrham-Gormli, zamenica direktora programa za biološku odbranu na Univerzitetu Džordž Mejson u Virdžiniji, ističe da je prećutno znanje — praktično iskustvo koje nije zapisano u uputstvima i koje AI verovatno ne može da nadomesti — bilo ključno za uspeh istorijskih državnih programa razvoja biološkog oružja.
Pexels
Profesor Martin Pačesa sa Univerziteta u Cirihu takođe naglašava značaj pristupa materijalima.
"Svaki diplomirani fizičar mogao bi da napravi nacrt potencijalno efikasnije nuklearne bombe, ali odakle bi nabavio komad uranijuma? Isto važi i za biološko oružje. Ako imate pristup materijalima i postrojenjima sposobnim da ga proizvedu, onda veštačka inteligencija neće mnogo promeniti stvari ako želite da nanesete štetu."
Koje dodatne mere su potrebne?
Neke kompanije koje razvijaju veštačku inteligenciju preduzimaju korake kako bi sprečile zloupotrebu svojih alata za razvoj biološkog oružja. Ipak, većina ne objavljuje šta, ako išta, radi u tom pogledu, kaže profesor Tom Inglesbi, direktor Centra za zdravstvenu bezbednost Univerziteta Džons Hopkins.
"Još nemamo formalne državne politike ni u jednoj zemlji koje bi štitile od ove vrste zloupotrebe", upozorava on.
Inglesbi se zalaže za formalne, nezavisne procene novih modela veštačke inteligencije pre njihovog puštanja u javnost, kako bi se potencijalne opasnosti uklonile pre nego što modeli postanu dostupni korisnicima.
Takođe smatra da bi pristup visokorizičnim biološkim podacima, poput informacija o tome kako se patogeni mogu lakše širiti, trebalo ograničiti.
Istovremeno, kompanije koje proizvode genetski materijal za istraživače trebalo bi da proveravaju narudžbine kako bi se osiguralo da se materijal ne koristi za stvaranje novih, izuzetno opasnih virusa.
Određene provere već postoje, ali se one uglavnom sprovode dobrovoljno. Osim toga, moguće ih je zaobići ako istraživači uz pomoć veštačke inteligencije osmisle nove, štetne genetske sekvence koje kompanije ne proveravaju, zaključuje se u analizi Gardijana.
Povezane vesti
Bonus video:
Komentari (0)