Kina upozorava: AI dezinformacije postaju ozbiljna pretnja tokom vanrednih situacija

Dok se Kina suočava s posledicama tajfuna Noul, koji je tokom vikenda pogodio kopno, zvaničnici su svesni da će verovatno morati da se nose i s dodatnim problemom: opasno obmanjujućim video-snimcima napravljenim pomoću veštačke inteligencije (AI).

Snažne oluje i poplave poslednjih meseci dovele su do prave poplave lažnih snimaka na društvenim mrežama. Među njima su prikazi tela koja navodno plutaju u poplavnim vodama, lažne scene teških poplava u područjima koja uopšte nisu pogođena, kao i izmišljeni prikazi spasilačkih akcija.

U pojedinim područjima video-snimci s lažnim informacijama o nestancima struje izazvali su paniku među stanovnicima, koji su počeli masovno da kupuju hitne zalihe.

Neki drugi lažni snimci nadovezuju se na stvarne događaje.

Početkom jula poplave u gradu Hengdžou, u pokrajini Guangsi, dovele su do toga da stotine zmija pobegnu s jedne farme za njihov uzgoj. Nakon toga pojavile su se i lažne slike na kojima se tvrdilo da su krokodili pušteni u reku.

U već napetoj i opasnoj situaciji, obeleženoj masovnim evakuacijama i složenim spasilačkim operacijama, vlasti žele da spreče širenje panike. Sada strahuju da AI tehnologija – u koju Kina ulaže milijarde dolara – pruža jednostavne i lako dostupne alate za obmanjivanje javnosti.

"Mnogi od kreatora ovakvog sadržaja koriste vesti o katastrofama kako bi stekli više pratilaca, znajući da će senzacionalistički ili preterani sadržaj privući više lajkova i pregleda. Namerno izmišljaju informacije kako bi privukli pažnju ljudi", izjavio je Huang Džihua, zamenik načelnika zadužen za sajber bezbednost u Policijskoj upravi pokrajine Džeđijang, za kineske državne medije.

Poslednjih sedmica bilo je više hapšenja i kazni – od pritvora do pokretanja krivičnih postupaka, pa sve do novčanih kazni – zbog izrade lažnih izveštaja i video-snimaka.

Upozorenje stručnjaka

Međutim, stručnjaci upozoravaju da bi mogla uslediti nezapamćena kriza dezinformacija.

U članku objavljenom u novinama Centralne partijske škole Komunističke partije Kine, profesor Čen Bin napisao je:

"AI drastično smanjuje tehničke prepreke za proizvodnju lažnih informacija. Pojedincima više nisu potrebne napredne tehničke veštine. Dovoljno je da daju uputstvo AI alatima i oni mogu brzo stvoriti uverljive tekstove, slike, audio i video-zapise koji izgledaju veoma realistično, ali su u potpunosti izmišljeni i mogu se masovno proizvoditi."

Profesor Gao Fuping sa Istočnokineskog univerziteta za političke nauke i pravo rekao je za BBC da motivi za objavljivanje ovakvog sadržaja variraju – od ljudi koji žele da naprave nešto zabavno ne razmišljajući o posledicama, preko onih koji žele da privuku što više pregleda radi zarade, pa do pojedinaca koji namerno žele da izazovu paniku ili društvene nemire.

"Neki korisnici misle da je internet anoniman i da nije regulisan ili da ih nije moguće identifikovati", rekao je.

Pojedini stručnjaci traže da sav sadržaj generisan pomoću AI bude jasno označen. Međutim, drugi upozoravaju da se takve oznake lako mogu ukloniti naknadnim uređivanjem materijala.

Credit: sleepyfellow / Alamy / Profimedia

Profesor Sju Sjaoke sa Pekinškog normalnog univerziteta smatra da je potrebno uložiti više napora u proveru geografske lokacije snimaka, vremenskih oznaka i izvora fotografija.

"Ipak, treba naglasiti da tehnologija za otkrivanje AI sadržaja još uvek zaostaje za tehnologijom njegovog stvaranja. Nalazimo se u stalnoj igri mačke i miša. Ne treba očekivati da će tehnologija jednim klikom moći da prepozna sav AI sadržaj", upozorio je.

Kina ima više od 6.000 kompanija koje se bave AI-jem

Kineska vlada snažno podržava razvoj AI tehnologije u nastojanju da zemlja postane vodeća svetska tehnološka sila.

Još 2017. godine objavila je da će AI biti "glavna pokretačka snaga" budućeg razvoja zemlje.

Ogromne količine novca ulažu se u AI kompanije, podstičući snažnu konkurenciju na domaćem tržištu. Državna novinska agencija Sinhua navodi da Kina danas ima više od 6.000 kompanija koje se bave veštačkom inteligencijom.

U takvim okolnostima profesor Sju smatra da Kina mora izgraditi "pouzdanu infrastrukturu za informisanje". To bi moglo uključivati zvanične sisteme ranog upozorenja i platforme za praćenje katastrofa kojima bi mediji imali pristup.

Međutim, bilo je slučajeva u kojima su i zvanični izvori, uključujući državne medije, umanjivali razmere katastrofa, što je dovelo do nepoverenja javnosti.

Početkom jula lokalnim novinarima naloženo je da ublaže način izveštavanja o velikom proboju nasipa Liulan kod grada Naninga, koristeći izraze poput "otvor" ili "pukotina" umesto reči "proboj".

Činilo se da su zvaničnici pokušavali da situaciju predstave manje ozbiljnom nego što jeste, ali posledice su bile tragične. Voda koja je prodrla kroz oštećeni nasip usmrtila je najmanje 26 ljudi nizvodno.

To nije bio usamljen slučaj.

Godine 2021. lokalni zvaničnici uhapšeni su pod optužbom da su prikrili ili umanjili podatke o 139 poginulih tokom katastrofalnih poplava u pokrajini Henan.

Takvi slučajevi stvorili su vakuum poverenja koji je dodatno olakšao širenje lažnog sadržaja.

Policija ipak poziva građane da tokom vanrednih situacija veruju isključivo proverenim izvorima.

"Kada naiđete na informacije o katastrofama iz nepoznatih izvora, pristupite im s dozom skepticizma i oslanjajte se na zvanična saopštenja", poručio je Gao Kai iz Biroa javne bezbednosti grada Ningboa.

Dodao je i da će autori lažnih informacija biti pronađeni.

"Internet nije prostor bez zakona. Organi javne bezbednosti nastaviće da pojačavaju borbu protiv nezakonitih aktivnosti na internetu."

Prema njegovim rečima, formiran je poseban tim koji pažljivo prati društvene mreže, posebno platforme za kratke video-snimke, kako bi brzo otkrivao i procesuirao ovakve slučajeve.

Kazne mogu biti od novčanih do zatvorskih, a u slučajevima kada su posledice dezinformacija posebno ozbiljne, zatvorska kazna može iznositi i do sedam godina.

Nacionalna akcija protiv lažnog internet sadržaja

Kineska Uprava za sajber-prostor (Cyberspace Administration of China) 23. jula pokrenula je nacionalnu akciju protiv lažnog internet sadržaja povezanog s poplavama i drugim katastrofama. Lokalnim kancelarijama naloženo je da posebno obraćaju pažnju na izmišljene podatke, zlonamerno montirane snimke, inscenirane događaje, pogrešno predstavljene istorijske događaje i lažno predstavljanje državnih službenika. Društvenim mrežama takođe je naloženo da pojačaju kontrolu sadržaja koji objavljuju.

Profesor Gao smatra da je "rešenje u kombinaciji edukacije javnosti i sprovođenja zakona", naglašavajući potrebu da se javnosti predstave stvarni slučajevi kažnjavanja odgovornih.

Dodao je da "šteta koju uzrokuje AI-generisani lažni sadržaj pre svega zavisi od načina na koji ljudi koriste tu tehnologiju, a ne od same tehnologije", smatrajući da postojeći zakoni mogu odgovoriti na taj izazov.

Međutim, nisu svi toliko optimistični.

Profesor Čen upozorava da se "AI tehnologija razvija mnogo brže od pravnih okvira. Kako se pojavljuju nova pravna pitanja, AI dezinformacije ostaju ozbiljan izazov."

Advokat Piter Pang, koji radi u Šangaju i Vašingtonu, kaže da pravnici širom sveta beleže nagli porast broja slučajeva povezanih s ovim problemom.

On smatra da bi, osim autora dezinformacija, pravnu odgovornost trebalo da snose i kompanije koje razvijaju AI aplikacije, kao i platforme na kojima se objavljuju lažni video-snimci.

"Prva linija odgovornosti trebalo bi da budu platforme, jer upravo one omogućavaju širenje takvog sadržaja", rekao je za BBC.

Kao primer naveo je hipotetičku situaciju u kojoj vozač pregazi pešaka zbog panike izazvane lažnom objavom na društvenim mrežama.

"Autor videa mogao bi reći: ‘Ti si pregazio nekoga. To je tvoj problem. Ja nisam.’ Ali treba razmisliti šire. Ti si stvorio osnovu na kojoj su ljudi reagovali. Ako si izazvao paniku, moraš snositi odgovornost za posledice."

Profesor Sju upozorava da će se "AI-generisane dezinformacije verovatno povećavati ne samo po količini već i po brzini širenja".

"U budućnosti će politički izbori, vanredne situacije u javnom zdravstvu, oružani sukobi, prirodne katastrofe i pitanja koja utiču na svakodnevni život građana biti posebno rizična područja za AI dezinformacije. Umesto da čekaju da se lažne informacije viralno prošire pa tek onda pokušavaju da ih zaustave, vlade i internet platforme trebalo bi da se za to pripreme unapred."