Muškarac povjerovao savjetu ChatGPT-ja pa završio u bolnici zbog trovanja

Umjetna inteligencija može biti korisna, ali nikako nije zamjena za liječnika, a to je na teži način naučio 60-godišnji muškarac koji je zbog pogrešnog savjeta ChatGPT-ja završio u bolnici.

Prema izvješću objavljenom u stručnom časopisu Annals of Internal Medicine Clinical Cases, muškarac je tražio preporuku kako poboljšati prehranu i smanjiti unos kuhinjske soli (natrijevog klorida). ChatGPT mu je, umjesto zdravih alternativa, predložio da sol zamijeni natrijevim bromidom.

Otrovao se

Savjet je shvatio ozbiljno, kupio je natrijev bromid putem interneta i uvrstio ga u svoju prehranu tijekom tri mjeseca. Na kraju je završio u bolnici, uvjeren da ga susjed pokušava otrovati. Dok je bio na odjelu, liječnicima je ispričao kako se strogo pridržava određenih prehrambenih ograničenja i čak destilira vlastitu vodu. No unutar jednog dana stanje mu se pogoršalo, razvila se paranoja i počeo je doživljavati halucinacije.

Liječnici otkrili uzrok

Dijagnosticiran mu je bromizam – trovanje uzrokovano prevelikom izloženošću spoju bromu, koji se inače koristi u industrijskom čišćenju. Liječnici su ga liječili tekućinama, antipsihoticima i elektrolitima nakon što je pokušao pobjeći iz bolnice. Iako se stanje počelo popravljati, pojavili su se dodatni simptomi: umor, akne, problemi s koordinacijom pokreta (ataksija) i pojačana žeđ (polidipsija).

Opasnost od AI zdravstvenih savjeta

Stručnjaci su upozorili da umjetna inteligencija može generirati znanstveno netočne informacije, bez mogućnosti kritičkog promišljanja, što može dovesti do širenja dezinformacija. "Vrlo je malo vjerojatno da bi bilo koji medicinski stručnjak predložio natrijev bromid kao zamjenu za kuhinjsku sol," stoji u izvješću.

Tvrtka OpenAI, koja razvija ChatGPT, u svojim uvjetima korištenja jasno navodi da se njihove usluge ne smiju koristiti za postavljanje dijagnoza ili liječenje zdravstvenih stanja.

Ljudi ipak traže zdravlje od umjetne inteligencije

Unatoč upozorenjima, istraživanje Talker Researcha za godišnji izvještaj The Vitamin Shoppe pokazalo je da 35% Amerikanaca već koristi AI kako bi upravljali svojim zdravljem.

Čak 63% ispitanika navelo je da im je AI primarni izvor zdravstvenih savjeta, više nego društvene mreže (43%) i influenceri (41%). Ipak, većina i dalje vjeruje liječnicima (93%) te savjetima prijatelja (82%).