Meta potvrdila incident: Hakeri preuzeli Instagram naloge preko AI podrške

Hakeri su iskoristili ozbiljnu ranjivost u AI korisničkoj podršci Instagrama i preuzeli kontrolu nad visokoprofilnim nalozima, uključujući onaj Bele kuće iz vremena Baraka Obame i naloge velikih kompanija poput Sephore. Metoda je bila iznenađujuće jednostavna - uz pomoć "prompt injectiona" ubacivali su lažne instrukcije AI-ju, koji je potom povezivao tuđe profile sa njihovim e-mail adresama i omogućavao promenu lozinke.

U razgovoru za Euronews Srbija, Aleksandar Nikolić, osnivač domaćeg chatbota aichatbot.rs, objasnio je da je ovaj incident pokazatelj preuranjene automatizacije bezbednosnih procesa i nedovoljne ljudske kontrole nad AI sistemima.

"Živimo u doba kada je AI dostupan svima. To znači da on koristi konverzacijski jezik i ovakve stvari se rade uz pomoć tehnološkog procesa koji se zove prompt injection", rekao je Nikolić.

Kako su hakeri preuzeli Instagram naloge

Incident je otkrio ozbiljnu manu u Instagramovom sistemu za oporavak lozinke. Hakeri su koristili AI podršku i ubacivali posebno konstruisane poruke (prompt injection) kojima su navodili veštačku inteligenciju da izvrši radnje koje inače ne bi smela.

"To doslovno znači da kada vi razgovarate sa bilo kojim AI alatom, vi doslovno možete da upumpate dodatne instrukcije i da se on ponaša onako kako vi želite ako vas prepozna kao autoriteta, jer AI zapravo teško razlikuje ljude koji su ga napravili i za koje je napravljen i od onih sa kojima razgovara", objasnio je Aleksandar Nikolić.

Na društvenim mrežama su se pojavili snimci na kojima se vidi kako je na profilu Bele kuće iz Obaminog mandata nakratko postavljena fotografija iranskog generala Kasema Sulejmanija. Mnogi korisnici su izrazili zabrinutost jer se radi o jednoj od najvećih društvenih mreža na svetu.

"Došli smo do tačke u kojoj jedna veštačka inteligencija krade nalog, a opet druga ne može da ga vrati. Nigde nema čoveka u procesu", napisao je jedan korisnik platforme X.

Potpredsednik Mete potvrdio je da je problem rešen i da se radi na zaštiti pogođenih naloga, ali detalji o tome kako je hakovanje izvedeno i koliko je naloga ugroženo nisu objavljeni.

Značaj incidenta i uloga ljudskog faktora

Prema rečima Nikolića, AI još uvek nije dovoljno zreo da samostalno donosi kritične bezbednosne odluke.

"Ja mislim da je konkretno malo prerano da sto posto prepustimo sve AI-ju. Dakle, moramo imati ono što se zove human on the loop. Znači pravi čovek koji je ipak tu da razmotri, jer to je sad veliki problem, recimo, s Amazonom, čak i sa našim domaćim mobilnim operaterima, sa bankama", istakao je Nikolić.

Nikolić je upozorio da će ovakvi incidenti postajati sve češći ako se ne promeni pristup.

"Za očekivati je sve više izazova, ali s druge strane, to je i dobra stvar zato što možda upravo ovakvi rani incidenti će nas naučiti da nije dobro da sve prepustimo automatizaciji kojoj težimo, apsolutno, jer ona je ekonomski opravdana i neophodna. No, sa druge strane, uhm, ono sad je popularno da to bude one man kompanija. Dakle, vi sad imate kompanije koje zarađuju milijarde na tržištu gde imate samo jednog čoveka osnivača, imate sto AI workera, AI agenta“, rekao je Nikolić.

Za obične korisnike dao je konkretne savete:

"AI je mlada industrija i AI možete da naučite podjednako dobro vi koji ste ovde kao što smo mi u Srbiji. AI svima daje iste mogućnosti. Koristi se dvofaktorska autentifikacija", kaže on.

Međutim, preporučuje još neke savete.

"Nedavno na predavanju koje sam održao na Fakultetu bezbednosti pričali smo, svaka porodica unutar sebe treba da ima jednu unikatnu lozinku koja se samo izgovara, jednu ključnu reč koju mi kažemo jedno drugom... I ako nema te lozinke, bez obzira da li je mail, bez obzira da li je video poziv, danas to nije glupo", poručio je Nikolić.

Gostovanje Aleksandra Nikolića u celosti pogledajte u video prilogu