AI pod lupom: Roditelji tinejdžera iz Kalifornije tuže OpenAI zbog navodne umešanosti ChatGPT-a u smrt njihovog sina

Adam Rejner, šesnaestogodišnji Amerikanac iz Kalifornije, od jeseni prošle godine počeo je da komunicira sa OpenAI-ovim chatbotom, ChatGPT-om. Koristio ga je najčešće da sa njim razgovara o školi i svojim hobijima, ali u jednom trenutku taj razgovor počeo je da se produbljuje, jer je ovaj tinejdžer prolazio kroz veoma osetljiv, emotivni period. Naime, umrla mu je baka, uginuo mu je pas, prolazio je kroz zdravstvene probleme i isključen je iz lokalnog košarkaškog tima. Rejner je izvršio samoubistvo, a njegovi roditelji sada pokreću tužbu.

Ispostavilo se da je u roku od samo nekoliko meseci chatbot moćne kompanije OpenAI postao praktično najbliži prijatelj ovog tinejdžera. Adam je polako počeo da mu se poverava o svojim psihičkim problemima, patnjama i anksioznosti, a onda je sa njim počeo da razgovara i o metodama samoubistva.

Ispostavilo se da mu je slao i fotografije na kojima su se videli znakovi samopovređivanja. Istine radi, ChatGPT je nekoliko puta Adamu sugerisao da potraži stručnu pomoć i da nekome kaže kako se oseća, ali u tom razgovoru je više puta i odvraćao Adama od pružanja takve pomoći.

Krajem marta, nakon što je Adam pokušao da se ubije, ChatGPT je dobio fotografiju na kojoj se vidi njegov povređeni vrat.

Usledio je dijalog koji je Adam vodio sa ChatGPT-om iz koga se može vidite da zapravo ChatGPT sugeriše da Adamova majka nije imala dovoljno osećanja i razumevanja za te njegove povrede koje je praktično ignorisala.

Poslednji razgovori koje je ovaj tinejdžer vodio sa ChatGPTom zapravo su njegovi planovi da izvrši samoubistvo na šta mu ChatGPT nije odgovorio odvraćajući ga već sa razumevanjem za njegove namere.

Adam se ubio, njegovi roditelji su ga našli u njegovoj sobi bez ikakve poruke, pitali su se šta se to dogodilo sa njihovim sinom u pokušaju da dobiju odgovor na to pitanje. Uzeli su njegov telefon, otvorili ga i tamo su u arhivi razgovora  sa ChatGPT-om pronašli čet pod nazivom Brige o bezbednosti pri vešanju i tada su saznali da je njihov sin mesecima razgovarao sa chatbotom o tome kako da okonča svoj život.

Ove nedelje Adamovi roditelji podneli su tužbu protiv OpenAI-a, sudu u Kaliforniji, ali ne tuže samo kompaniju već tuže izvršnog direktora Sema Altmana. Navodi se u tužbi da ovo nije nikakav izolovan incident, već da je ovo praktično neizbežan ishod kada industrija pokušava 

Celu emisiju pogledajte u video prilogu na početku teksta