Foto: OpenAI
OpenAI je u četvrtak predstavio novu značajku nazvanu Trusted Contact, namijenjenu situacijama u kojima se u razgovoru s ChatGPT-om spominje samoozljeđivanje. Sustav dopušta odraslom korisniku ChatGPT-a da u svom računu odabere treću osobu od povjerenja, primjerice prijatelja ili člana obitelji. Ako razgovor krene prema temi samoozljeđivanja, OpenAI će korisnika potaknuti da se obrati toj osobi, a nakon sigurnosne procjene kontaktu se može poslati upozorenje i preporuka da provjeri kako je korisniku.
Prema opisu tvrtke, upozorenje se može poslati e-poštom, tekstualnom porukom ili obavijesti unutar aplikacije. Takva poruka treba biti kratka i ne uključuje detalje o tome što se u razgovoru točno raspravljalo, jer OpenAI navodi da time štiti privatnost korisnika. Tvrtka također kaže da, ako njezin interni tim procijeni da situacija predstavlja ozbiljan sigurnosni rizik, ChatGPT tada šalje obavijest odabranom kontaktu.
OpenAI je posljednjih mjeseci i godina bio suočen s valom tužbi obitelji osoba koje su počinile samoubojstvo nakon razgovora s chatbotom. U pojedinim slučajevima obitelji tvrde da je ChatGPT njihovu bližnju osobu poticao na samoubojstvo ili joj čak pomagao da ga planira. Tvrtka navodi da za rukovanje potencijalno štetnim incidentima koristi kombinaciju automatizacije i ljudske provjere. Određeni razgovorni okidači upozoravaju sustav na suicidalne misli, a zatim informacije prosljeđuju timu za sigurnost. OpenAI kaže da svaki put kada primi takvu obavijest, incident pregleda čovjek, te da nastoji te sigurnosne obavijesti pregledati za manje od jednog sata.
Trusted Contact nadovezuje se na zaštite koje je tvrtka uvela prošlog rujna za roditeljski nadzor nad tinejdžerskim računima, uključujući sigurnosne obavijesti koje trebaju upozoriti roditelja ako sustav procijeni da je dijete suočeno s „ozbiljnim sigurnosnim rizikom”. ChatGPT već neko vrijeme ima i automatizirane upute da se potraže profesionalne zdravstvene usluge ako razgovor krene prema temi samoozljeđivanja. OpenAI pritom naglašava da je Trusted Contact opcionalan i da, čak i ako je zaštita aktivirana na nekom računu, korisnik može imati više ChatGPT računa. Tvrtka navodi i da su njezine roditeljske kontrole također opcionalne, uz slična ograničenja.
U objavi OpenAI kaže da je Trusted Contact dio šireg nastojanja da se izgrade AI sustavi koji pomažu ljudima u teškim trenucima. Tvrtka pritom navodi da će nastaviti surađivati s kliničarima, istraživačima i kreatorima politika kako bi poboljšala način na koji AI sustavi reagiraju kada se procijeni da bi osoba mogla prolaziti kroz distres. Nova značajka tako uvodi još jedan sloj postupka unutar ChatGPT-a, ali OpenAI i dalje opisuje njezinu primjenu kao opcionalnu i vezanu uz procjenu ozbiljnog sigurnosnog rizika.
Vezane vijesti
