Zabrana štetnih deepfake sadržaja: Zašto je zaštita lica i glasa toliko komplikovana?
Komentari
Dodajte Euronews kao željeni izvor na Google-u
Na milione pregleda na društvenim mrežama prikupio je video-snimak u kojem američki milijarder i vlasnik kompanija X, Tesla, SpaceX Ilon Mask navodno upozorava da će nestašica vode do 2030. odneti milijarde života. Za osnovu snimka je poslužio stvarni intervju, ali je zvuk u potpunosti zamenjen, verovatno uz korišćenje kloniranog glasa i alata za usklađivanje pokreta usana.
Ovaj primer deepfake sadržaja su dokazali i dokumentovali faktčekeri iz Full Facta.Oni su registrovali na desetine naloga koji su delili ovaj sadržaj sa ciljem širenja panike i obmane korisnika.
Video-snimak se pojavio na više platformi društvenih mreža, a najviše pažnje je privukao na Fejsbuku.
AI manipulisani deepfake snimak Ilona Maska:
Više od 3,8 miliona pregleda prikupila je objava sa lažnim snimkom američke kongresmenke Aleksandrije Okasio-Kortez, postavljena početkom novembra na mreži X. Njeno lice bilo je nalepljeno na video druge žene, seksualizovanog sadržaja, a faktčekeri Lead Storiesa pronašli su originalni materijal, koji je na mrežama postojao mesecima pre falsifikata.
Automatski alati za otkrivanje AI manipulacija, koji su u širokoj upotrebi na društvenim mrežama, u ovom slučaju nisu dali pouzdan odgovor povodom upita korisnika da li je video stvaran. Prava istina je utvrđena tek poređenjem snimaka i proverom porekla. Dok su faktčekeri utvrđivali činjenice, lažni snimak je već deljen na hiljadama profila.
Šta je deepfake sadržaj?
Deepfake je digitalno generisan ili izmenjen audio‑vizuelni sadržaj napravljen pomoću veštačke inteligencije, koji verno imitira izgled, glas ili pokrete stvarne osobe, često na način koji može da obmane posmatrača.
Targetiranje političara, a posebno žena, seksualizovanim snimcima koji služe za obmanu korisnika, nije novost, ali daje dodatni podstrek institucijama za ograničavanjem i pooštravanjem zaštite ličnosti.
Debata o načinima zaštite povedena je i u Evropskoj uniji, međutim eventualna zabrana je dovela do niza pitanja ograničavanja slobode govore. Na prvom mestu pitanje je kako razlikovati prevaru od satire, ko treba da zaustavi širenje snimka i da li zaštita digitalnog identiteta može nenamerno da pretvori nečije lice i glas u prava kojima se trguje.
Ovom temom se bavio Politico, koji je predstavio nacrt tehnoloških prioriteta grupe Socijalista i demokrata u Evropskom parlamentu. Naime, grupa S&D poziva na zabranu štetnih, neodobrenih ili obmanjujućih deepfake sadržaja. Prema predlogu, platforme i pružaoci AI usluga trebalo bi da sprečavaju njihovo širenje, umesto da čekaju prijavu žrtve.
Šta već postoji kao zakon, a šta bi nova zabrana promenila?
Evropska unija već reguliše deo ovog problema. Njihovo zakonsko rešenje, Akt o veštačkoj inteligenciji, predviđa obaveze transparentnosti, uključujući jasno otkrivanje da je deepfake sadržaj veštački generisan ili izmenjen, kao i tehničko označavanje sintetičkog sadržaja za pružaoce usluga na društvenim mrežama.
Međutim, jasna oznaka za krajnjeg korisnika da se radi o veštački manipulisanom materijalu nije isto što i oznaka ugrađena u datoteku, koju može da pročita softver. Takva oznaka, naime, ne obaveštava nužno osobu koja gleda snimak. Komisija zato objašnjava da oni koji imaju obavezu da publici otkriju manipulaciju ne mogu da se oslone samo na dostupni alat - mašinski čitljivu oznaku.
Problem je još ozbiljniji kada znamo da ni vidljivo upozorenje ne rešava pitanje zloupotrebe lika i glasa. Natpis koji ovih dana često viđamo: "Napravljeno pomoću AI", govori nam kako je snimak nastao. Taj natpis ipak ne rešava pitanje da li je osoba pristala da se njen lik koristi, da li joj je naneta šteta ili se njenim glasom prodaje proizvod koji nikada nije preporučila.
Evropska unija ipak već 2. decembra ove godine uvodi dodatne zabrane koje se tiču određenih AI sistema za stvaranje ili izmenu intimnog i seksualno eksplicitnog materijala javnosti poznatih osoba bez odgovarajućeg pristanka, kao i materijala seksualnog zlostavljanja dece.
Tanjug/AP/Pascal Bastien
Seksualizovani sadržaji generisani pomoću veštačke inteligencije bude najviše pažnje u javnosti s obzirom na količinu štete i ozbiljnost posledica koje proizvode. Međutim, oni su samo deo problema. Ista tehnologija se najčešće upotrebljava za kreiranje političkih izjava koje ne odgovaraju realnosti, lažne reklame i slične promocije sadržaja.
U Srbiji su lekari Danica Grujičić i Milovan Bojić bili žrtve deepfake sadržaja koji je deljen na društvenoj mreži Fejsbuk. Reč je bila o reklami proizvoda za hipertenziju i bolju cirkulaciju. Njihovi lik i delo, a posebno prepoznatljivost u javnosti, iskorišćeni su za promociju za koju oni nisu dali svoju dozvolu, sa ciljem obmane korisnika.
Kada je u pitanju legislativa Evropske unije, postojeće obaveze ipak imaju i ograničenja u pogledu toga na koga se odnose. Komisija navodi da je lična, neprofesionalna upotreba izuzeta iz obuhvata obaveza AI akta koje važe za korisnike sistema.
Ko može da raspolaže vašim digitalnim dvojnikom?
Kada su u pitanju pojedinačne zemlje Evropske unije, Danska pokušava da zaštitu uvede izmenama Zakona o autorskom pravu. Predlog podnet parlamentu 8. oktobra obuhvata realistične digitalne imitacije izgleda, glasa i drugih ličnih karakteristika bez pristanka osobe, uz izuzetke koji načelno štite karikaturu, satiru, parodiju i kritiku vlasti i društva.
U ovom slučaju posebno su značajni izuzeci, jer politička imitacija može biti očigledna šala u originalnoj objavi, ali zatim može da se pojavi bez objašnjenja pred publikom koja ne poznaje kontekst.
I evropski AI akt pravi razliku za očigledno umetničke, kreativne, satirične ili fikcionalne sadržaje. Član 50 tog dokumenta predviđa da se manipulacija uz pomoć veštačke inteligencije otkrije na primeren način, bez ometanja prikazivanja ili uživanja u delu.
Postoji još jedna dilema koja se tiče pravnog sredstva. Politico prenosi upozorenja stručnjaka da prava nalik autorskim mogu otvoriti prostor za licenciranje ili prenošenje kontrole nad digitalnim imitacijama. Danski model razlikuje neprenosivu opštu zaštitu ličnih karakteristika od posebne zaštite izvođačkih nastupa, koja može da se licencira.
AI, ilustracija
U tom smislu posebno su značajne i zanimljive uloge glumaca ili pevača, za koje je razlika između dva pristupa očita. Naime, jedno je kada izvođač odobri upotrebu digitalne imitacije, a sasvim drugo potpisivanje ugovora koji kompaniji koja generiše sadržaj daje kontrolu nad budućom upotrebom lika i dela.
Na primeru kiparskog rešenja koje se tiče deepfake sadržaja vidi se da Zakon ne određuje izričito može li se novo pravo licencirati ili preneti. To ostavlja prostor za različita tumačenja o upotrebi nakon što je neko za određenu stvar dao svoj pristanak.
S obzirom da postoje nacionalna rešenja koja dodatno komplikuju zaštitu lika i dela, grupacija S&D želi da pitanje reši na evropskom nivou, kako bi u svim zemljama bio primenjivan jedan model.
Ukradena lica i glas, milioni reprodukcija, reakcija i obmana
Koliko je manipulacija deepfake sadržajem uzela maha pokazuje istraživanje Univerziteta Makgil. Istraživači su dokumentovali mrežu od najmanje 293 naloga na TikToku i Instagramu koji su koristili snimke stvarnih ljudi, menjali pokrete usana i dodavali sintetičke glasove za objavljivanje političkog sadržaja o Kanadi i odnosima sa SAD.
Istraživanje pokazuje da je od 7. avgusta do 4. novembra objavljen 3.201 video sa ukupno 22,1 miliona reprodukcija sadržaja. Među njima je bila izmišljena priča da je kanadski premijer Mark Karni na Trampov "ultimatum od 48 sati" odgovorio otkazivanjem ugovora o odbrani. Ta ista izmišljena priča ponavljana je kroz 161 video i prikupila je 5,1 milion reprodukcija ukupno.
Kao sporan oni navode i snimak digitalne autorke Ešli Heterington koja iz ugla žene hrišćanke govori o zabavljanju i upoznavanju partnera.
Stvarni snimak Ešli Heterington:
Originalni video je preuzet i izmenjen tako da izgleda kao da Heterington govori o radnim mestima u Kanadi i carinama.
Deepfake sadržaj već proizvodi ozbiljne posledice i ozbiljno šteti licima koje postaju žrtve krađe identiteta, čiji se autoritet, ekspertiza i prepoznatljivost u javnosti najčešće zloupotrebljavaju.
Pred poslanicima Evropskog parlamenta, ali i drugim zakonodavnim telima širom sveta stoji ozbiljan zadatak zaštite integriteta i ličnosti, ali i korisnika od štetnog sadržaja koji može da dovede do ozbiljnih društvenih poremećaja.
Povezane vesti
Bonus video:
Komentari (0)