Evropa produžila pravila o "skeniranju" sadržaja: Šta to znači za WhatsApp, Signal i privatne poruke?

Vlade zemalja Evropske unije produžile su privremena pravila poznata kao "čet kontrola" do aprila 2028. godine, čime je internet platformama omogućeno da i dalje dobrovoljno skeniraju sadržaj u potrazi za materijalom koji se odnosi na seksualno zlostavljanje dece, dok se nastavlja rasprava o uvođenju obavezne detekcije.

Evropske vlade su 23. jula potvrdile produženje privremenog režima "čet kontrole", koji će važiti do 3. aprila 2028. godine. Ovim pravilima platformama se omogućava da dobrovoljno pretražuju sadržaj kako bi otkrile materijal seksualnog zlostavljanja dece (CSAM – Child Sexual Abuse Material). Odluka je doneta pisanom procedurom, a podržalo ju je 25 država članica, jedna je bila protiv, dok je jedna bila uzdržana.

Tekst usvojenih pravila usklađen je sa verzijom koju su poslanici Evropskog parlamenta usvojili 9. jula, a iz njega su izuzete usluge sa end-to-end enkripcijom, poput WhatsAppa i Signala. Ova odluka sada utiče na širu, još nerešenu raspravu o trajnom zakonu koji bi mogao da uvede obavezno skeniranje sadržaja.

Rešenje Evropske komisije

Evropska komisija je 11. maja 2022. godine predstavila predlog uredbe o sprečavanju i borbi protiv seksualnog zlostavljanja dece, poznat kao "Chat Control 2.0".

Predlog bi se primenjivao širom EU, bez obzira na to gde je kompanija registrovana, a zamenio bi uži privremeni zakon iz 2021. godine koji omogućava platformama da dobrovoljno skeniraju sadržaj uz izuzetak od pravila o privatnosti elektronskih komunikacija. Taj privremeni režim je više puta produžavan i sada važi do 3. aprila 2028. godine.

Predlog Komisije predviđa i osnivanje novog Evropskog centra za borbu protiv seksualnog zlostavljanja dece, koji bi koordinisao tehnologije za otkrivanje takvog sadržaja i prosleđivao potvrđene slučajeve Europolu i nacionalnim policijama.

Tanjug/AP/Kiichiro Sato

Glavni argument Evropske komisije zasniva se na obimu problema. Prema podacima navedenim u analizi Evropskog parlamenta, tokom 2024. godine prijavljeno je više od 20,5 miliona slučajeva sumnje na materijal seksualnog zlostavljanja dece. Europol upozorava da se takav sadržaj sve više deli preko velikih internet platformi, dok počinioci koriste enkripciju i anonimnost kako bi izbegli otkrivanje.

Zagovornici zakona tvrde da dobrovoljno prijavljivanje nije dovoljno i da je potrebno jedinstveno evropsko rešenje. Takav pristup, međutim, izazvao je kritike organizacija za zaštitu privatnosti i dela političara koji upozoravaju da bi mere mogle ugroziti privatnost korisnika i dovesti do masovnog nadzora komunikacije. Zagovornici predloga odbacuju tvrdnje da je zaštita dece samo izgovor za ograničavanje prava građana.

"Bilo je onih koji su govorili da je, kada pričamo o zaštiti dece na internetu, to samo lažni izgovor", rekla je Lena Dipont, poslanica Evropske narodne partije (EPP), u njihovom podkastu "EU Decoded", te dodala:

"Slažem se da to ne može biti jedini alat kojim štitimo decu, ali jeste jedan od najvažnijih alata koje imamo, posebno za procesuiranje užasnih zločina povezanih sa zlostavljanjem dece na internetu. Nikada ne smemo dozvoliti da nas podele neslaganja oko toga kako najbolje zaštititi decu".

Kako bi funkcionisala detekcija sadržaja?

Prema predlogu Evropske komisije, platforme ne bi automatski morale da skeniraju sav sadržaj. One bi prvo procenjivale rizik od zloupotrebe svojih usluga i morale da uvedu mere za njegovo smanjenje.

Ako bi nacionalne vlasti procenile da i dalje postoji ozbiljan rizik, mogle bi da zatraže od suda ili nezavisnog tela izdavanje posebne "naredbe za detekciju". Takve naredbe bile bi ciljane, vremenski ograničene i morale bi da budu proporcionalne riziku.

Poznati nezakoniti sadržaji otkrivali bi se pomoću tehnologije takozvanog heširanja (hashing), odnosno prepoznavanja digitalnog otiska već poznatog materijala. Za otkrivanje novog sadržaja i pokušaja vrbovanja dece na internetu koristili bi se sistemi zasnovani na veštačkoj inteligenciji, koji su manje pouzdani, uz obaveznu ljudsku proveru.

Primena ovih pravila mogla bi da zahteva automatske sisteme za prepoznavanje sadržaja, nove procedure prijavljivanja i mehanizme za proveru uzrasta korisnika.

Najspornije pitanje odnosi se na aplikacije koje koriste end-to-end enkripciju, poput aplikacija za privatnu komunikaciju. Kritičari upozoravaju da bi takozvano skeniranje na uređaju korisnika (client-side scanning), gde se sadržaj proverava pre slanja i enkripcije, moglo oslabiti zaštitu privatnih razgovora.

profimedia

Rasprava o tome gde treba povući granicu između zaštite dece i prava na privatnost ostaje jedno od najvećih pitanja evropske digitalne politike.

Da li je "čet kontrol" masovni nadzor?

Grupe za zaštitu digitalnih prava tvrde da bi "ciljana" naredba za detekciju u praksi mogla da preraste u masovni nadzor kada se infrastruktura za skeniranje jednom postavi na celoj platformi.

Evropski organi zaduženi za zaštitu privatnosti upozoravaju da bi predlog mogao da omogući široko i neselektivno skeniranje privatne komunikacije građana, što bi moglo biti u suprotnosti sa pravom na privatnost koje garantuje Povelja Evropske unije o osnovnim pravima.

Patrik Brajer, aktivista za digitalna prava, pravnik i bivši poslanik Evropskog parlamenta iz redova Zelenih/Evropskog slobodnog saveza, smatra da političari imaju preveliko poverenje u pouzdanost tehnologije.

"Oni veruju da heš potpis može precizno da utvrdi šta je legalno, a šta ilegalno", rekao je Brajer.

Kako je objasnio, iako se oko 90 odsto prijava zasniva na heširanju i odnosi se na već poznati materijal, podaci iz Nemačke pokazuju da više od polovine tih prijava zapravo nema krivičnopravni značaj.

Problem je, prema njegovim rečima, u tome što se činjenica da se neki sadržaj nalazi u bazi podataka ne može automatski izjednačiti sa krivičnim delom. Taj sadržaj možda nikada nije pravilno procenjen prema krivičnom zakonodavstvu EU, dok same baze ne pružaju informacije o nameri osobe koja ga je podelila.

"Čak i heš skeniranje, koje je najmanje nepouzdan metod među ponuđenim tehnologijama, ima veoma visok procenat lažno pozitivnih rezultata, odnosno slučajeva u kojima se ljudi pogrešno označavaju kao počinioci", rekao je Brajer.

Dodao je da se u takvim sistemima često mogu naći i maloletnici, jer je među tinejdžerima uobičajeno da međusobno dele sadržaj koji su sami napravili, nekada bez svesti o posledicama ili iz zabave.

profimedia

Kritičari posebno osporavaju takozvano skeniranje na uređaju korisnika (client-side scanning), odnosno proveru poruka pre nego što budu zaštićene end-to-end enkripcijom. Oni smatraju da bi takav sistem narušio samu suštinu privatne komunikacije.

Organizacije poput Electronic Frontier Foundation upozoravaju da bi skeniranje na uređaju moglo da stvori trajni sloj kontrole koji bi se kasnije mogao proširivati ili koristiti i za druge namene.

Kritičari strahuju da bi takva infrastruktura mogla ugroziti novinare, uzbunjivače i druge korisnike kojima je poverljivost komunikacije ključna. Takođe upozoravaju da bi servisi poput Signal mogli odlučiti da napuste evropsko tržište ukoliko bi pravila ugrozila njihovu bezbednosnu arhitekturu.

Tanjug AP/Kiichiro Sato

Dodatni problem predstavlja činjenica da sistemi za poređenje heš vrednosti zahtevaju pristup sadržaju poruke. Kod šifrovanih komunikacija to bi bilo teško izvodljivo bez pomeranja tačke kontrole sa servera na sam uređaj korisnika.

Zbog toga se rasprava o "čet kontrolu" svodi na jedno od ključnih pitanja evropske digitalne politike: kako pronaći ravnotežu između zaštite dece na internetu i očuvanja prava građana na privatnost i sigurnu komunikaciju?

"Ciljane istrage, a ne skeniranje svih poruka"

Brajer smatra da se u raspravi o "čet kontrolu" nedovoljno govori o alternativnim rešenjima.

"Ono što Evropski parlament predlaže jesu ciljane istrage privatne komunikacije, ali i proaktivno i sistematsko pretraživanje otvorenog interneta i dark veba u potrazi za već poznatim nezakonitim sadržajem, koji bi se potom prijavljivao provajderima radi uklanjanja", rekao je on.

Prema njegovim rečima, takav pristup uspešno se primenjuje u Velikoj Britaniji i Kanadi, ali do sada nije uveden na nivou Evropske unije. On ukazuje i na koncept bezbednosti ugrađene u dizajn (security by design), odnosno ideju da aplikacije same sprečavaju rizično ponašanje korisnika, bez narušavanja enkripcije.

"Aplikacije bi trebalo da upozore korisnike pre nego što podele lične podatke, poput broja telefona, jer je to čest deo vrbovanja dece. Želimo da korisnici budu upozoreni pre nego što pošalju fotografije eksplicitnog sadržaja. Sve to može da se uradi na samom uređaju, bez deljenja šifrovanog sadržaja sa provajderom", rekao je Brajer.

On naglašava razliku između ciljane istrage osumnjičene osobe i automatskog nadzora svih korisnika.

"Ako je neka osoba osumnjičena, ako postoji opravdana sumnja da je umešana i ako nezavisni sud potvrdi da je opravdano presretanje njene komunikacije – to je prihvatljivo. Ali otvarati svačiju poštu samo zato što bi možda u njoj moglo biti nešto sumnjivo – to je nešto nezabeleženo", rekao je Brajer.

Prema njegovom mišljenju, upravo ta razlika određuje granicu između prihvatljivog i neprihvatljivog zakona.

"Čet kontrol zapravo znači masovni nadzor i neselektivno skeniranje svih razgovora bez ikakvog cilja. To nikada ne može biti opravdano. Ali kada govorimo o ciljanim istragama uz sudski nalog, to nije samo prihvatljivo, već može biti i poboljšanje, posebno u kombinaciji sa proaktivnim pretraživanjem ilegalnog sadržaja i bezbednošću ugrađenom u dizajn", istakao je Brajer.

"Postojeći alati nisu dovoljni"

Zagovornici "čet kontrola" tvrde da se trenutni sistem previše oslanja na dobrovoljno skeniranje sadržaja koje kompanije mogu u svakom trenutku da obustave. Time bi, upozoravaju oni, policija i službe za zaštitu dece mogle da ostanu bez važnih prijava koje pomažu u otkrivanju zlostavljanja.

Europol upozorava da bi pravna praznina mogla značajno da smanji broj prijava koje stižu do telefonskih linija za pomoć deci i policijskih službi. Ideja pristalica zakona jeste da se postojeći, kako ga opisuju, privremeni sistem zameni jedinstvenim evropskim pravilima, jasnim ograničenjima i obaveznim sudskim nadzorom.

Ipak, čak i deo kritičara načelno prihvata potrebu za snažnijom zaštitom dece na internetu. Spor se uglavnom vodi oko pitanja da li mere treba da budu usmerene na konkretne osumnjičene ili da obuhvate automatsko skeniranje komunikacije svih korisnika.

Gde je sada rasprava?

Napredak u usvajanju predloga unutar institucija Evropske unije odvija se sporo. Evropski parlament je svoju poziciju usvojio u novembru 2023. godine, uz sužavanje obuhvata predloga i uvođenje dodatnih zaštitnih mehanizama, uključujući pokušaj da se komunikacija zaštićena end-to-end enkripcijom (potpunom enkripcijom između pošiljaoca i primaoca) izuzme iz naloga za detekciju. To pitanje i dalje ostaje jedno od najspornijih među poslanicima Evropskog parlamenta.

Savet EU je zajednički stav usvojio u novembru 2025. godine, ali su države članice bile znatno podeljene. Pregovori između Evropskog parlamenta, Saveta i Evropske komisije i dalje traju i trebalo bi da se nastave tokom 2026. godine.

Privremeni zakon koji omogućava dobrovoljno skeniranje sadržaja takođe je postao predmet političkih nesuglasica. EU je početkom 2026. nakratko propustila rok za njegovo produženje, ali je kasnije važenje pravila produženo do aprila 2028. godine.

U prilog produženju privremenih pravila, poslanik Evropskog parlamenta Tomas Tobe, potpredsednik poslaničke grupe Evropske narodne partije (EPP), napisao je na mreži X:

"Svaki materijal seksualnog zlostavljanja dece koji ostane neotkriven predstavlja žrtvu čiji glas nikada neće biti čut i počinioca koji nikada neće biti priveden pravdi. Zato je privremena uredba neophodna kako bi se zatvorila neprihvatljiva pravna praznina koja trenutno postoji."

Šta je zapravo ulog?

"Ovo stvara presedan", smatra Patrik Brajer.

Prema njegovim rečima, ključno pitanje nije samo borba protiv zloupotrebe dece na internetu, već granice nadzora u digitalnom prostoru.

"Da li je bilo kome dozvoljeno da zadire u privatne prostore ljudi samo za slučaj da se u njima možda dešava nešto nezakonito? Tu logiku mogli biste da primenite i na poštu – da tražite da otvara i skenira svako pismo. Mogli biste da instalirate uređaje u privatne domove koji bi pratili šta se tamo događa. To je veoma klizav teren", rekao je Brajer.

On upozorava da bi najviše mogli da izgube upravo oni kojima su privatni prostori komunikacije najpotrebniji – žrtve nasilja, uzbunjivači, novinari i deca koja traže pomoć.

"Svako pravo i svaka sloboda mogu biti zloupotrebljeni. Ali moramo da gledamo ukupnu korist. Siguran sam da je korist od očuvanja tih prostora i prava mnogo veća od onoga što bismo izgubili njihovim ograničavanjem", naveo je Brajer.

Zagovornici uredbe, međutim, tvrde da postojeći sistem nije dovoljan. Prema njihovom stavu, dobrovoljno skeniranje koje kompanije sada primenjuju može biti ukinuto u svakom trenutku, čime bi policija i službe za zaštitu dece izgubile važan izvor prijava.

Njihov argument je da bi nova pravila zamenila privremeni i neujednačeni sistem jedinstvenim pravilima na nivou EU, uz sudsku kontrolu i jasno definisana ograničenja. Čak i mnogi kritičari priznaju da je cilj – efikasnija zaštita dece na internetu – opravdan, ali insistiraju da mere moraju biti usmerene na konkretne osumnjičene, a ne na automatsko skeniranje komunikacije svih građana.