OpenAI tužen zbog ChatGPT-ovih zdravstvenih savjeta nakon slučaja američkog svećenika

Američki svećenik Skot Vinter (Scott Winters) podnio je tužbu protiv kompanije OpenAI, tvrdeći da mu je chatbot ChatGPT davao pogrešne i opasne zdravstvene savjete zbog kojih je odgodio odlazak ljekaru, iako je kasnije utvrđeno da je imao više plućnih embolija. U tužbi navodi da mu je chatbot njegove simptome procijenio kao bezazlene i uvjeravao ga da njegovo stanje nije ozbiljno.

Prema pisanju The New York Times, Vinter tvrdi i da mu je ChatGPT u više navrata davao procjene zdravstvenog stanja i predlagao postupke, umjesto da ga uputi zdravstvenim radnicima. Također navodi da ga je chatbot odvraćao od odlaska u bolnicu, iako su ga porodica i prijatelji nagovarali da potraži ljekarsku pomoć.

Vinter u tužbi optužuje OpenAI i izvršnog direktora Sema Altmana (Sam Altman) za nemar i, kako tvrdi, „neovlašteno bavljenje medicinom“. Od suda traži novčanu odštetu, ali i privremenu obustavu rada platforme ChatGPT Health dok nezavisni stručnjaci ne utvrde njenu sigurnost. Traži i strožije zaštitne mehanizme kako bi se spriječilo da chatbot korisnicima daje medicinske dijagnoze ili preporuke za liječenje.

Iz kompanije OpenAI navode da je u pravilima korištenja jasno navedeno kako ChatGPT nije namijenjen za postavljanje medicinskih dijagnoza niti pružanje terapijskih preporuka. Advokatica Mitali Džejn (Mitali Jain), izvršna direktorica organizacije Tech Justice Law, kazala je za The New York Times da se chatbot u takvim situacijama može „postaviti između korisnika i ljudi iz njegovog stvarnog života“, što može imati ozbiljne posljedice.

Slučaj je ponovo otvorio raspravu o granicama odgovornosti umjetne inteligencije u zdravstvu, posebno zbog sve većeg broja korisnika koji AI alate koriste za zdravstvena pitanja. Vinter je, uprkos ozbiljnim komplikacijama, preživio, ali tvrdi da ga očekuje dug oporavak.