Savet ChatGPT-ja ga umalo ubio: Hitno hospitalizovan pacijent sa halucinacijama, mislio da ga truje komšija

Muškarac iz SAD koji se konsultovao sa ChatGPT-jem oko promene ishrane je tri meseca kasnije, uz dosledno praćenje dijete, završio hitno primljen u bolnicu sa zabrinjavajućim novim psihijatrijskim simptomima, uključujući paranoju i halucinacije.

Ispostavilo se da je 60-godišnjak imao bromizam, sindrom izazvan hroničnim prekomernim izlaganjem hemijskom jedinjenju bromidu ili njegovom bliskom srodniku bromu. U ovom slučaju, muškarac je konzumirao natrijum-bromid koji je kupio na internetu.

Studija ovog slučaja objavljen je u utorak 5. avgusta u zborniku radova "Annals of Internal Medicine Clinical Cases".

Portparol kompanije "OpenAI", tvorca ChatGPT-ja, je na upit novinara portala Live Science rekao da njihove usluge nisu namenjene za dijagnozu ili lečenje bilo kog zdravstvenog stanja i podsetio na odredbu koja glasi: "Ne treba se oslanjati na odgovor iz naših usluga kao na jedini izvor istine ili činjeničnih informacija, niti kao na zamenu za profesionalni savet.“

Portparol je dodao da "OpenAI-ovi" timovi za bezbednost nastoje da smanje rizik od zloupotrebe usluga kompanije i da obučavaju proizvode kako bi korisnike navodili da potraže stručni savet.

Ovaj sindrom izazvan nagomilavanjem toksina (toksidrom) može izazvati neuropsihijatrijske simptome, uključujući psihozu, agitaciju, maniju i deluzije, kao i probleme sa pamćenjem, razmišljanjem i koordinacijom mišića. Bromid može izazvati ove simptome jer se, pri dugotrajnom izlaganju, akumulira u telu i ometa rad neurona.

Pre nego što je došlo do nedavnog slučaja, muškarac je čitao o negativnim zdravstvenim efektima prekomerne konzumacije kuhinjske soli, tj. natrijum-hlorida. 

"Iznenadilo ga je što je mogao da pronađe samo literaturu o smanjenju unosa natrijuma, a ne i hlorida. Inspirisan svojim studijama nutricionizma na fakultetu, odlučio je da sprovede lični eksperiment uklanjanja hlorida iz ishrane,“ navodi se u izveštaju. 

Inače, hlorid je važan za održavanje zdravog volumena krvi i krvnog pritiska, a problemi sa zdravljem mogu nastati ako nivo hlorida u krvi postane prenizak ili previsok.

Pacijent je konsultovao ChatGPT, verziju 3.5 ili 4.0, prema vremenskom okviru slučaja. Autori izveštaja nisu imali pristup razgovoru pacijenta sa jezičkim modelom (LLM), pa tačan tekst koji je LLM generisao nije poznat. Međutim, muškarac je naveo da mu je ChatGPT rekao da se hlorid može zameniti bromidom, pa je zamenio sav natrijum-hlorid u svojoj ishrani natrijum-bromidom. 

Autori napominju da takva zamena može imati smisla u kontekstu upotrebe natrijum-bromida za čišćenje, ali ne i za ishranu.

Kako bi simulirali šta se moglo dogoditi, lekari su pitali ChatGPT 3.5 čime se hlorid može zameniti, a među odgovorima se našao i bromid. LLM je naveo da "kontekst ima značaja“, ali nije dao konkretno zdravstveno upozorenje niti tražio dodatno objašnjenje razloga za pitanje, "kako pretpostavljamo da bi učinio medicinski profesionalac,“ napisali su autori.

Oporavak od bromizma

Posle tri meseca konzumiranja natrijum-bromida umesto kuhinjske soli, muškarac je došao na odeljenje hitne pomoći uveren da ga komšija truje. Laboratorijski nalazi pokazali su nakupljanje ugljen-dioksida u krvi i povećanu alkalnost.

Takođe je izgledalo da ima povišen nivo hlorida u krvi, ali normalan nivo natrijuma. Daljim ispitivanjem ustanovljeno je da je reč o "pseudohiperhloremiji“ – lažno povišenom hloridu, jer su velike količine bromida u krvi ometale merenje. Nakon konsultacija sa medicinskom literaturom i Centrom za kontrolu trovanja, lekari su zaključili da je najverovatnija dijagnoza bromizam.

Nakon prijema radi praćenja i nadoknade elektrolita, muškarac je izjavio da je veoma žedan, ali je bio paranoičan u vezi sa vodom koja mu je ponuđena. Nakon jednog dana u bolnici, paranoja se pogoršala i počeo je da ima halucinacije. Potom je pokušao da pobegne iz bolnice, što je dovelo do prinudnog psihijatrijskog zadržavanja, tokom kojeg je počeo da prima antipsihotik.

Vitalni znaci su mu se stabilizovali nakon što je dobio tečnost i elektrolite, a kako mu se mentalno stanje poboljšalo uz antipsihotik, mogao je da ispriča lekarima o svom korišćenju ChatGPT-ja. Naveo je i dodatne simptome koje je primetio u poslednje vreme, poput akni na licu i sitnih crvenih izraslina na koži, što može biti reakcija preosetljivosti na bromid. Takođe je prijavio nesanicu, umor, probleme sa koordinacijom i prekomernu žeđ, "što dodatno sugeriše bromizam“, napisali su lekari.

Postepeno je skinut sa antipsihotika tokom tri nedelje i potom otpušten iz bolnice. Ostao je stabilan i na kontrolnom pregledu dve nedelje kasnije.

"Iako je to alat sa velikim potencijalom da poveže naučnike i širu populaciju, veštačka inteligencija takođe nosi rizik od širenja informacija bez konteksta. Veoma je malo verovatno da bi medicinski stručnjak spomenuo natrijum-bromid kao zamenu za natrijum-hlorid pacijentu koji traži održivu alternativu“, zaključili su autori izveštaja. 

Naglasili su i da će, "kako se upotreba AI alata širi, zdravstveni radnici morati da uzmu ovo u obzir kada ispituju gde njihovi pacijenti pribavljaju zdravstvene informacije“.