EU povukla crvenu liniju: Zabranjuje AI alate za lažne intimne fotografije bez pristanka

Evropska unija postigla je danas privremeni dogovor o pojednostavljivanju pojedinih delova zakona o veštačkoj inteligenciji (AI), uz uvođenje zabrane AI alata koji stvaraju seksualne eksplicitne slike bez pristanka, uključujući takozvane "nudifaj" aplikacije, nakon globalnih reakcija izazvanih neovlašćenim eksplicitnim fotografijama koje je ove godine kreirao četbot "Grok", kompanije američkog milijardera Ilona Maska.

Sporazum su postigli pregovarači Evropskog parlamenta i Saveta Evropske unije u okviru šireg plana EU "Omnibus VII", čiji je cilj smanjenje birokratije i jačanje digitalne konkurentnosti, javlja Belga.

Zabrana će biti deo izmena Zakona EU o veštačkoj inteligenciji, ključnog evropskog propisa u toj oblasti, usvojenog 2024. godine.

"Danas je Evropska unija povukla crvenu liniju. Veštačka inteligencija nikada ne sme da bude korišćena za ponižavanje, eksploataciju ili ugrožavanje ljudi. Prvi put se dogodilo da evropsko zakonodavstvo izričito zabranjuje aplikacije za skidanje odeće pomoću AI tehnologije", izjavio je poslanik Evropskog parlamenta Majkl Meknamara, prenosi portal "Brussels Signal".

Prema dogovoru, odlaže se i primena pravila za visokorizične sisteme veštačke inteligencije, odnosno modele koji mogu da predstavljaju rizik po bezbednost, zdravlje ili osnovna prava građana.

Samostalni visokorizični AI sistemi podležu novim pravilima od decembra 2027. godine, dok će sistemi ugrađeni u proizvode biti obuhvaćeni od avgusta 2028.

Sporazumom se uvodi i izričita zabrana AI sistema koji generišu seksualno eksplicitne ili intimne slike bez pristanka, kao i materijal koji prikazuje seksualno zlostavljanje dece, a zabrana bi trebalo da stupi na snagu u decembru 2027. godine.

Dogovorom se dodatno jačaju ovlašćenja Kancelarije EU za veštačku inteligenciju i unapređuje koordinacija među državama članicama.

Portparol EU izjavio je da će Kancelarija za regulaciju veštačke inteligencije, kada njena ovlašćenja stupe na snagu u avgustu 2026. godine, imati mogućnost da po potrebi zahteva pristup modelima i internim bezbednosnim procedurama kompanija.

Privremeni sporazum sada treba formalno da odobre Evropski parlament i pojedinačne države članice EU kako bi zvanično stupio na snagu.