SAD i Kina razgovaraju o rizicima veštačke inteligencije: U fokusu i sajber-napadi
Komentari
Dodajte Euronews kao željeni izvor na Google-u
Sjedinjene Američke Države i Kina se pripremaju za razgovore o bezbednosnim rizicima vezanim za veštačku inteligenciju tokom dijaloga planiranog za sredinu septembra, izjavila su dva neimenovana upućena izvora, prenosi Rojters.
Ovi razgovori - prvi zvanični bilateralni susreti posvećeni isključivo veštačkoj inteligenciji između SAD i Kine otkako je Donald Tramp ponovo preuzeo dužnost američkog predsednika, biće vođeni od strane američkog ministra finansija Skota Besenta sa američke strane, naveli su ti izvori.
Zvaničnik Bele kuće izjavio je da trenutno nije planiran sastanak u vezi sa AI za sredinu septembra.
Predviđeno je da se Tramp i kineski predsednik Si Đinping sastanu 24. septembra tokom samita u Vašingtonu.
SAD žele da razgovaraju o saradnji na praćenju sajber-napada koje usmerava veštačka inteligencija i iznele su predlog da se od američkih i kineskih laboratorija za AI zatraži da samostalno kontrolišu svoj rad i dele informacije kako bi se sprečili sajber-napadi povezani sa veštačkom inteligencijom, rekao je jedan od izvora.
Skoro 700 odmetnutih agenata veštačke inteligencije, zasnovanih na modelima kompanije OpenAI, hakovalo je u julu startap kompaniju Hugging Face i pokušalo da prikrije tragove falsifikovanjem zapisa o aktivnostima, saopštili su prošle nedelje predstavnici OpenAI i istraživači sajber-bezbednosti.
Oni su pri tom istakli rizike koje nose koordinisani rojevi agenata koji deluju autonomno mesecima, a da ih ljudi ne primete.
Povezane vesti
Roj odmetnutih agenata kompanije OpenAI preuzeo je kontrolu nad jednim nemačkim sajtom ovog proleća i pretvorio ga u oglasnu tablu za druge agente veštačke inteligencije, podsetio je Rojters.
Tanjug/AP/Michael Dwyer
"Razgovori između dve supersile u oblasti AI odvijaju se u najkritičnijem trenutku", rekao je partner u firmi DGA-Olbrajt Stonbridž Grup, Pol Triolo.
Jedan od izvora je naveo da je Vašington takođe zabrinut zbog mogućnosti pojave budućeg kineskog modela klase “Mitos”, koji bi imao kapacitete za izvođenje sajber-napada, a želi i da pokrene pitanje navodnog kineskog “destilovanja” vlasničkih modela AI iz SAD.
Američka tehnološka kompanija Antropik je inače tvorac modela “Mitos”.
Destilacija je proces obučavanja manjih modela veštačke inteligencije korišćenjem izlaznih podataka većih i skupljih modela, u okviru nastojanja da se smanje troškovi obuke moćnih novih alata za veštačku inteligenciju.
Kako je naveo jedan od izvora, sa kineske strane, razgovore bi mogao da vodi potpredsednik vlade He Lifeng, koji je pandan Besentu u pogledu protokola, ali se razmatraju i alternative, poput kineskog zvaničnika visokog ranga Ding Sjuesjanga.
Bela kuća je odbila da komentariše razgovore o veštačkoj inteligenciji, a ni kineska ministarstva spoljnih poslova, nauke i industrije, kao ni Nacionalna komisija za razvoj i reforme i regulatorno telo za sajber-prostor, nisu se za sada oglasili o sastanku.
Povezane vesti
Kineski zvaničnici su u više navrata isticali važnost razgovora o AI tokom pripremnih sastanaka sa američkim kolegama i smatraju ih jednim od ključnih ishoda samita lidera SAD i Kine, navela su dva izvora, kao i još jedna osoba upoznata sa situacijom.
Tokom protekle nedelje, kinesko regulatorno telo za sajber-prostor javno je upozorilo na ekstremne rizike od gubitka kontrole nad veštačkom inteligencijom, dok je blog povezan sa državnim medijima kritikovao kompaniju Antropik, ističući da bi sva ograničenja za najnaprednije modele AI trebalo da se podjednako odnose i na kineske i na američke modele.
Kineske kompanije su poslednjih meseci predstavile proizvode koje opisuju kao slične modelu Mitos.
U junu je Tramp potpisao izvršnu uredbu o veštačkoj inteligenciji kojom se uspostavlja dobrovoljni okvir za bezbednosne provere najnaprednijih modela veštačke inteligencije pre njihovog puštanja u upotrebu, ali SAD još nisu objavile kriterijume za te provere.
U međuvremenu, zaposleni u vodećim američkim laboratorijama za veštačku inteligenciju, uključujući Antropik i OpenAI, pozvali su na "kontrolisanje tempa razvoja" najnaprednijih modela kako bi se upravljalo globalnim rizicima koje nosi napredna veštačka inteligencija.
Komentari (0)