OpenAI proširio roditeljske kontrole u ChatGPT-u: obavijesti i za nasilne prijetnje

OpenAI je proširio opcije roditeljske kontrole u ChatGPT-u tako da će roditelji i staratelji s povezanim nalozima dobivati obavijest ako njihovo dijete bude izbačeno s platforme zbog kršenja pravila o nasilnim prijetnjama. Riječ je o dodatku na sustav roditeljskog nadzora koji je pokrenut prošle godine, a već je omogućavao povezivanje računa roditelja i tinejdžera radi ograničavanja vremena korištenja, smanjenja osjetljivog sadržaja i slanja upozorenja kada chatbot otkrije znakove samopovređivanja kod djeteta.

Najnovijim ažuriranjem roditelji će dobivati izravna upozorenja ako se račun njihova djeteta deaktivira zbog kršenja pravila o nasilnom ponašanju. OpenAI navodi da je u razvoju ove sigurnosne funkcije surađivao s tvrtkom Moonshot, koja je specijalizirana za praćenje i suzbijanje nasilja na internetu.

Osnivač Moonshota Vidhya Ramalingam rekao je da blagovremeno obavještavanje roditelja uz širi kontekst predstavlja prvi korak koji obiteljima daje priliku da ranije reagiraju i potraže pomoć. Ramalingam je pritom naglasio da je takav pristup samo jedna od mnogih mjera koje će biti potrebne za veću sigurnost mladih ljudi tijekom korištenja ChatGPT-a.

Promjena dolazi nakon što je otkriveno da je osumnjičeni za masovnu pucnjavu u mjestu Tumbler Ridge u Britanskoj Kolumbiji 2025. godine koristio ChatGPT. Kanadske vlasti su, prema navodima, pozvale kompaniju na odgovornost nakon izvještaja da OpenAI nije obavijestio nadležne organe kada je blokirao račun napadača, prenosi PCPress. Izvršni direktor OpenAI-ja Sam Altman uputio je i javnu ispriku zbog tog ozbiljnog propusta te obećao značajno pooštravanje mjera sigurnosti unutar sustava.

Uz nova sigurnosna upozorenja, OpenAI je uveo i opciju Study Mode, koju roditelji mogu aktivirati izravno kroz kontrolnu ploču. Ta opcija omogućuje da ChatGPT daje smjernice i tragove prije konačnog odgovora kako bi pomagao učenicima u učenju. Chatbot će, osim toga, tinejdžerima koji provode previše vremena na platformi slati češća podsjećanja na pauzu, s ciljem razvijanja zdravijih digitalnih navika.