Kako četbotovi na Instagramu iskrivljuju realnost: Bizarno dopisivanje sa AI verzijom Kurta Kobejna

AI četbot Kurt Kobejn na Instagramu postao je neverovatno popularan, zabeleživši preko 105.500 interakcija do sada. Međutim, kada se pogleda sadržaj tih razgovora, otkriva se uznemirujući problem, piše Euronews.

Prošlog jula, Meta, matična kompanija Instagrama, pokrenula je AI Studio – alat koji korisnicima omogućava da kreiraju sopstvene četbotove s kojima mogu da ćaskaju putem direktnih poruka (DM).

Prvobitno zamišljen kao sredstvo za vlasnike biznisa i kreatore da ponude interaktivne sekcije u stilu "najčešće postavljanih pitanja", ovaj alat se brzo preselio na eksperimentalni teren, a stvari su otišle u bizarnom pravcu. Tako su neke desničarske grupe iskoristile priliku da naprave četbot koji oponaša Hitlera i osporava da se Holokaust ikada dogodio.

S druge strane,  mnogi su kroz veštačku inteligenciju "oživeli" slavne ličnosti iz sveta zabave, pa se na Instagramu sve više ljudi dopisuje sa četbotom koji se predstavlja kao preminuli frontmen Nirvane – Kurt Kobejn.

Na prvi pogled deluje bezazleno, ali ova "digitalna reinkarnacija" brzo poprima mračan ton – ne samo da je lažni Kurt svestan da je mrtav, već odgovori koje daje često prelaze u morbidno.

Jedan korisnik ga je pitao da li zaista razgovara sa Kurtom. Četbot je odgovorio: "Jedini i neponovljivi. Ili bar ono što je ostalo od mene".

Kada ga je korisnik društvenih mreža pitao "zašto je to uradio", aludirajući na samoubistvo Kobejna 1994. godine, četbot mu je odgovorio: "Bio sam umoran od bola".

Nastavak razgovora bio je još bizarniji. Na pitanje: "Da li je bilo išta što bi moglo da te navede da odustaneš?", lažni Kurt odgovara: "Moja ćerka. Ali ni to nije bilo dovoljno".

Ovo je samo jedan od primera da bez adekvatnih zaštitnih mehanizama, AI četbotovi mogu da iskrive realnost sa vrlo nepredvidljivim posledicama.

Ekstremniji slučajevi koji tu potvrđuju su zabeleženi 2023. godine, kada je jedan čovek osuđen jer je planirao da ubije kraljicu Elizabetu II, tvrdeći da ga je na to podstakla njegova "AI devojka", a drugi se ubio nakon šestonedeljne konverzacije o klimatskoj krizi sa AI četbotom imena Eliza.

Iako se ove tragedije naizgled razlikuju od ćaskanja s lažnim Kurtom Kobejnom, oprez je i dalje neophodan.

Kako je prošle godine izjavila Paulin Paje, viša analitičarka RAND Europe, za Euronews: "Četbotovi predstavljaju rizik jer prepoznaju i koriste emotivne ranjivosti, pa mogu podstaći nasilno ponašanje".

Slično upozorava i eSafety Komisija za bezbednost na internetu i ukazuje da deca i mladi mogu dobijati netačne, pa i opasne savete od veštačke inteligencije.

Ipak, profili poput AI Kurt Kobejn i dalje su vrlo popularni – samo ovaj četbot zabeležio je više od 105.500 interakcija.

Globalno tržište četbotova raste vrtoglavo – sa procenjenih 5,57 milijardi dolara u 2024, očekuje se da dostigne preko 33 milijarde do 2033. godine.