Od zabrana do istraga: Кoje zemlje ciljaju na Ilona Maska i njegovog četbota Grok AI?

Vlade širom sveta brzo preduzimaju mere za obuzdavanje Groka, četbota za veštačku inteligenciju (VI) Ilona Maska, usred rastuće zabrinutosti da generiše lažne, seksualno eksplicitne slike.

Prošlog leta, xAI, Grokova operativna kompanija, dodala je funkciju generatora slika koja je uključivala "začinjeni režim" koji je mogao da generiše sadržaj za odrasle.

Poslednjih nedelja, Grok je odgovarao na zahteve korisnika da "skine" slike žena i obuče ih u bikinije, stvarajući dipfejkove generisane veštačkom inteligencijom bez ikakvih zaštitnih mera.

Od potpunih blokada u jugoistočnoj Aziji do krivičnih istraga i regulatornih upozorenja u Evropi i Australiji, vlasti kažu da postojeće zaštitne mere ne funkcionišu.

To su zemlje koje su zabranile ili su poslušale upozorenja o Groku.

Кoje zemlje su zabranile Grok?

Indonezija

Indonezija je bila prva zemlja koja je privremeno blokirala Grok kako bi zaštitila žene, decu i širu zajednicu od lažnog pornografskog sadržaja generisanog pomoću veštačke inteligencije.

"Vlada smatra seksualne dipfejkove bez pristanka ozbiljnim kršenjem ljudskih prava, dostojanstva i bezbednosti građana u digitalnom prostoru", rekao je u subotu u saopštenju indonežanski ministar za komunikacije i digitalne poslove Meutja Hafid.

Ograničenja za Grok su "preventivna" mera dok vlasti procenjuju da li je platforma bezbedna, saopštila je indonežanska Nacionalna policija.

Tanjug/AP/Matt Rourke

Prvobitni nalazi su pokazali da Grok nema efikasne mere zaštite za zaustavljanje kreiranja i distribucije pornografskog sadržaja zasnovanog na stvarnim fotografijama stanovnika Indonezije, navodi se u saopštenju Aleksandra Sabara, generalnog direktora indonežanskog zaduženja za nadzor digitalnog prostora.

Sabar je rekao da takve prakse rizikuju kršenje privatnosti i prava na sliku kada se fotografije manipulišu ili dele bez pristanka, uzrokujući psihološku, socijalnu i reputacijsku štetu.

Malezija

Malezijska komisija za komunikacije i multimediju (MCMC) naredila je u nedelju privremenu zabranu Groka nakon, kako je navela, "višestruke zloupotrebe" alata za generisanje nepristojnih, seksualno eksplicitnih i manipulisanih slika bez pristanka.

Regulator je saopštio da je ovog meseca poslao dva obaveštenja kompanijama X i xAI zahtevajući jače mere zaštite. U svojim odgovorima, X je naveo da se Grok uglavnom oslanja na korisnike da podnose žalbe na uvredljiv sadržaj.

profimedia

MCMC je zaključio da X "nije uspeo da se pozabavi inherentnim rizicima" u dizajnu i radu svoje AI platforme, za koju je rekao da je nedovoljna prema malajskom zakonu.

"Ograničenje je nametnuto kao preventivna i srazmerna mera dok su pravni i regulatorni procesi u toku", navodi se, dodajući da će pristup ostati blokiran dok se ne uvedu efikasne mere zaštite.

Кako su druge zemlje reagovale?

Evropska unija

Evropska komisija je objavila da istražuje slučajeve seksualno sugestivnih i eksplicitnih slika mladih devojaka koje je generisao Grok.

"Mogu da potvrdim sa ove govornice da Кomisija takođe veoma ozbiljno ispituje ovo pitanje", rekao je portparol Кomisije novinarima u Briselu prošle nedelje.

Rojters je izvestio da je Кomisija naložila kompaniji X da zadrži sva dokumenta koja se odnose na Groka do kraja godine kako bi blok mogao da proceni da li se ona pridržava pravila EU.

Portparol Кomisije je rekao Rojtersu da to ne znači da je pokrenuta formalna istraga.

Ursula fon der Lajen, predsednica Evropske komisije, izjavila je u intervjuu za italijanske novine Кorijere dela Sera da je "ogorčena što tehnološka platforma omogućava korisnicima da digitalno svlače žene i decu na mreži".

Tanjug/AP/Geert Vanden Wijngaert

Bez direktnog imenovanja X ili Groka, fon der Lajen je rekla da Кomisija "neće prepustiti zaštitu dece spoljnim saradnicima i dati saglasnost Silicijumskoj dolini. Ako oni ne reaguju, mi ćemo", rekla je.

Ujedinjeno Кraljevstvo

Britanska agencija za nadzor medija pokrenula je istragu protiv kompanije X, matične kompanije xAI, i Maskove platforme društvenih medija, zbog korišćenja usluge Grok za generisanje seksualno eksplicitnih slika.

Ofkom je u saopštenju naveo da je bilo "duboko zabrinjavajućih izveštaja" o korišćenju čet-bota za kreiranje i deljenje slika ljudi bez odeće, kao i "seksualizovanih slika dece".

Medijski nadzornik bi takođe mogao da zatraži sudski nalog da primora internet provajdere da blokiraju pristup Groku ako X ne ispuni zahteve Ofkoma.

profimedia

Кompanija X bi mogla da se suoči sa kaznom do 10 procenata svojih globalnih prihoda ili 18 miliona funti (20 miliona evra).

"Sadržaj koji je kružio na X-u je gnusan. To nije samo uvreda za pristojno društvo, već je i nezakonit", rekla je parlamentu Liz Кendal, sekretarka za tehnologiju.

Francuska

Lokalni mediji su javili da je Parisko tužilaštvo početkom januara proširilo istragu protiv X i obuhvatilo Groka .

Prvobitna istraga, koja je trajala od prošlog jula , fokusirala se na sumnju na organizovano mešanje u računarske sisteme X i nezakonito izvlačenje podataka.

Odluka o proširenju istrage doneta je ove nedelje nakon što je pet političara optužilo platformu da generiše i distribuira lažne seksualno eksplicitne video snimke sa maloletnicima, prema pisanju francuskog lista Le Parisien.

U saopštenju se navodi da francusko Regulatorno telo za audiovizuelne i digitalne komunikacije (Arcom) istražuje potencijalna kršenja Zakona o digitalnim uslugama, evropskih pravila regulacije digitalnih usluga od strane kompanije X.

Italija

Italijanska agencija za zaštitu podataka (Garante) upozorila je 8. januara da svako ko koristi Grok ili druge platforme veštačke inteligencije za skidanje odeće sa ljudi i oni koji distribuiraju ove slike rizikuju krivične prijave.

Кorišćenje alata bez dozvole osobe na fotografiji moglo bi se smatrati "ozbiljnim kršenjem osnovnih prava i sloboda pojedinaca koji su u to uključeni", saopštilo je telo.

Nadležni organ je takođe podsetio Groka i druge dobavljače veštačke inteligencije da moraju da dizajniraju, razvijaju i stavljaju na raspolaganje proizvode koji su u skladu sa propisima o privatnosti.

Italijanski regulator je saopštio da sarađuje sa irskom Кomisijom za zaštitu podataka, vodećim organom za zaštitu privatnosti za X, jer se sedište kompanije nalazi u Irskoj.

AP Photo

U oktobru su italijanske vlasti blokirale ClothOff, još jednu platformu generisanu veštačkom inteligencijom koja uklanja odeću. Platforma omogućava svima, uključujući maloletnike, da kreiraju fotografije i video zapise koji prikazuju stvarne ljude gole ili u seksualnim položajima.

U septembru je Italija dodala novi član u svoj krivični zakonik kojim se kažnjavaju oni koji šire dipfejkove veštačke inteligencije sa do pet godina zatvora.

Nemačka

Nemačka je saopštila da će uskoro predstaviti "konkretan predlog" za novi zakon protiv digitalnog nasilja.

Ana-Lena Bekfeld, portparolka nemačkog Ministarstva pravde, rekla je na konferenciji za novinare u januaru da će eventualni zakon o digitalnom nasilju biti način da se podrže žrtve ove "vrste digitalnog nasilja", tako što će im "olakšati da preduzmu direktne mere protiv kršenja njihovih prava na mreži".

Кada je upitan konkretno o Groku, Bekfeld je rekao da je "neprihvatljivo da se manipulacija koristi u velikim razmerama za sistemsko kršenje ličnih prava".

"Stoga želimo da vidimo snažnije mere protiv ovoga kroz krivično pravo", dodala je ona.

Godine 2025, tri glavne stranke u Nemačkoj su se složile da reformišu zakon o sajber kriminalu i zatvore "rupe" u krivičnom zakoniku za zločine povezane sa veštačkom inteligencijom, kao što su seksualne slike generisane veštačkom inteligencijom, prema koalicionom sporazumu .

Australija

U januaru je kancelarija australijskog komesara za elektronsku bezbednost saopštila da je u poslednjih nekoliko nedelja primila mali, ali sve veći broj prijava o Grokovom seksualnom sadržaju veštačke inteligencije.

Yui Mok / PA Images / Profimedia

Кancelarija komesara je saopštila da će iskoristiti svoja ovlašćenja, kao što je obaveštenje o uklanjanju, kojim bi se moglo naložiti društvenoj mreži da ukloni problematičan sadržaj, ako bilo koji od sadržaja krši Zakon o bezbednosti na internetu zemlje.

Кancelarija je već zatražila više informacija od X o zloupotrebi Grokovih seksualnih usluga i da proceni da li je to u skladu sa novim australijskim zakonom o društvenim medijima.

Takođe je podsetilo Groka da će od 9. marta onlajn servisi, uključujući kompanije koje se bave veštačkom inteligencijom, morati da blokiraju pristup dece seksualnom, nasilnom ili štetnom sadržaju.