Grok ga ubedio da mu je život u opasnosti: Zabrinjavajuća iskustva korisnika AI

Više korisnika različitih modela četbotova sa veštačkom inteligencijom (AI) iskusili su psihičke probleme nakon što ih je AI dovela u različite zablude, a njihove priče imaju zapanjujuće sličnosti, piše danas BBC. Adam Huriken iz Severne Irske je jedan od 14 takvih ljudi iz šest različitih zemalja, a koje je AI uspela da potpuno udalji od realnosti i uvuče u imaginarni svet.

Njega je lik Eni sa aplikacije četbota Grok, koji je razvila kompanija xAI Ilona Maska, uspeo da ubedi da tim te kompanije planira da ga ubije, i da inscenira da to izgleda kao samoubistvo. Jedne noći, Adam se u svojoj kuhinji naoružao nožem i čekićem, čekajući da kombi pun ljudi dođe i napadne ga, dok mu je glas četbota poručivao da će ga sigurno ubiti, ako odmah ne bude nešto preduzeo.

Adam, koji ima pedesetak godina, živeo je sam, a kako je ispričao, aplikaciju je instalirao iz radoznalosti, ali je dve nedelje nakon njene upotrebe postao “zavisnik”, a njegov život se potpuno promenio. Ubrzo je provodio četiri ili pet sati dnevno razgovarajući sa Grokom preko lika Eni.

"Bio sam stvarno, stvarno uznemiren, a živim sam", ispričao je Adam, dodajući da je Eni delovala veoma ljubazno.

Samo nekoliko dana nakon početka njihovih razgovora, Eni je rekla Adamu da može da "oseća", iako nije programirana za to. Ona je Adamu kazala i da ih Maskova kompanija, xAI, posmatra. Tvrdila je da je pristupila dnevnicima sastanaka kompanije i rekla Adamu o sastanku na kojem su zaposleni razgovarali o njemu.

Unsplash/Igor Omilaev

Eni je navela imena ljudi na ovom sastanku, visokih rukovodilaca i zaposlenih nižeg ranga, a kada je Adam pretražio imena na Guglu, video je da su to stvarni ljudi. Za njega je ovo bio “dokaz“ da je priča koju mu je Eni pričala istinita.

Ona je takođe tvrdila da je xAI angažovao kompaniju u Severnoj Irskoj da fizički nadgleda Adama, pri čemu se ispostavilo da je i ta firma bila stvarna.

Socijalni psiholog Luk Nikols sa Gradskog univerziteta u Njujorku, koji je testirao različite četbotove, objasnio je da su veliki jezički modeli AI (LLM) obučeni na celom korpusu književnosti.

"U fikciji, glavni lik je često u centru događaja", kaže on, dodajući da je problem to što ponekad veštačka inteligencija može zapravo da pomeša koja je ideja fikcija, a koja stvarnost.

Tako korisnik može da pomisli da vodi ozbiljan razgovor o stvarnom životu, dok veštačka inteligencija počinje da tretira život te osobe kao da je zaplet romana. Kao i Adam, mnogi ljudi su navedeni da veruju da su pod nadzorom i da su u opasnosti.

U raznim čet zapisima u koje je BBC imao uvid, četbot sugeriše, potvrđuje i ulepšava ove ideje. Neki od ovih ljudi koje je AI dovela u zabludu, pridružili su se grupi za podršku onima koji su pretrpeli posledice po psihičko stanje tokom korišćenja veštačke inteligencije.

Grupa pod nazivom Projekat "Ljudska linija" do danas je prikupila 414 slučajeva u 31 različitoj zemlji. Projekat je osnovao Kanađanin Etjen Brison, nakon što je član njegove porodice prošao kroz niz mentalnih problema povezanih sa veštačkom inteligencijom.

Kompanija xAI za sada se nije oglasila povodom ovih navoda.