Tužba protiv OpenAI-a zbog navodnih opasnih savjeta ChatGPT-a o zdravlju

Američki sveštenik Scott Winters pokrenuo je tužbu protiv kompanije OpenAI, tvrdeći da mu je ChatGPT davao pogrešne i izuzetno opasne medicinske savjete zbog kojih je odgodio odlazak ljekaru i liječenje ozbiljnog zdravstvenog problema. Prema pisanju The New York Timesa, Winters navodi da je chatbot njegove simptome ocijenio kao bezazlene, iako je kasnije utvrđeno da je imao više plućnih embolija.

U tužbi se navodi da mu je ChatGPT poručio kako njegovo stanje „nije ništa ozbiljno”, te ga navodno uvjeravao da njegovo tijelo nije pred otkazivanjem, uz rečenicu: „Bog nije stvorio tvoje tijelo da neprestano otkazuje.” Winters optužuje OpenAI i izvršnog direktora Sama Altmana za nemar i, kako tvrdi, „neovlašteno bavljenje medicinom”. Kaže i da je chatbot u više navrata iznosio vlastite procjene njegovog zdravstvenog stanja i predlagao načine liječenja, umjesto da ga uputi zdravstvenim radnicima.

Prema tvrdnjama iz tužbe, ChatGPT ga je čak odgovarao od odlaska u bolnicu, iako su ga porodica i prijatelji na to nagovarali. Kada je Winters chatbotu rekao da članovi njegove crkve smatraju da griješi što ne traži medicinsku pomoć, navodno je dobio odgovor da „većina ljudi, uključujući dobronamjerne članove crkve, jednostavno ne razumije”. Advokatica Mitali Jain, izvršna direktorica organizacije Tech Justice Law, izjavila je za The New York Times da se chatbot u takvim situacijama „postavlja između korisnika i ljudi iz njegovog stvarnog života”, što, prema njenim riječima, može imati ozbiljne posljedice.

Osim novčane odštete, Winters od suda traži i privremenu obustavu rada platforme ChatGPT Health dok nezavisni stručnjaci ne utvrde da je sigurna za korištenje. Traži i strože zaštitne mehanizme koji bi spriječili chatbot da korisnicima daje konkretne medicinske dijagnoze ili preporuke za liječenje. Iz OpenAI-ja navode da je u uvjetima korištenja jasno navedeno kako ChatGPT nije namijenjen za postavljanje medicinskih dijagnoza niti pružanje terapijskih preporuka, ali kompanija korisnicima omogućava učitavanje zdravstvene dokumentacije putem servisa ChatGPT Health kako bi razgovarali s chatbotom o zdravstvenim temama.

OpenAI je ranije saopćio da oko 230 milijuna ljudi sedmično koristi njihove alate za pitanja povezana sa zdravljem. Winters je, uprkos ozbiljnim zdravstvenim komplikacijama, preživio, ali tvrdi da ga očekuju godine fizičkog i psihičkog oporavka. Ovo nije jedini pravni postupak s kojim se OpenAI suočava: protiv kompanije su podnesene i druge tužbe u kojima se tvrdi da je ChatGPT davao opasne savjete korisnicima, uključujući slučajeve u kojima se chatbot dovodi u vezu sa smrću usljed predoziranja i samoubistvom jednog tinejdžera. Sve tužbe, između ostalog, traže dodatne sigurnosne mjere i strožu kontrolu zdravstvenih funkcija ovog AI sistema.