OpenAI uvodi nova upozorenja roditeljima za račune tinejdžera u ChatGPT-u

OpenAI je proširio roditeljske kontrole za ChatGPT tako da će roditelji i staratelji s povezanim računima biti obaviješteni ako njihovom djetetu bude ukinut pristup zbog kršenja pravila koja se odnose na prijetnje nasiljem ili činove nasilja na internetu. Kompanija je, uz to, omogućila i direktno uključivanje režima Study Mode putem roditeljskih postavki.

Ranije je OpenAI uveo roditeljske kontrole koje roditeljima dopuštaju povezivanje vlastitog računa s računom tinejdžera, određivanje razdoblja u kojima se ChatGPT ne može koristiti, smanjenje prikaza osjetljivog sadržaja te primanje obavijesti ako chatbot prepozna znakove da dijete možda razmišlja o samopovređivanju. Novost je da se sustav obavještavanja sada proširuje i na slučajeve u kojima OpenAI procijeni da bi korisnik mogao predstavljati moguću opasnost za druge.

U primjeru koji je kompanija objavila, roditelj prima upozorenje o „važnom ažuriranju” za račun djeteta, a nakon klika na opciju „Learn More” prikazuje se dulja poruka u kojoj stoji da je račun deaktiviran zbog kršenja pravila korištenja koja se odnose na „činove nasilja”. OpenAI je naveo i da je funkciju razvijao u suradnji s kompanijom Moonshot, koja je specijalizirana za praćenje i suzbijanje nasilja na internetu.

Osnivačica Moonshota Vidhja Ramalingam rekla je da obavještavanje roditelja kada se pojavi ozbiljna zabrinutost, uz mogućnost dobivanja više konteksta, predstavlja prvi korak koji obiteljima daje priliku da reagiraju na vrijeme i potraže pomoć. Dodala je i da je takav pristup samo jedna od mjera koje će biti potrebne kako bi mladi bili sigurniji tijekom korištenja ChatGPT-a.

OpenAI je najavio dodatno jačanje sigurnosnih protokola nakon što je otkriveno da je osumnjičeni za masovnu pucnjavu u Tambler Ridžu u Britanskoj Kolumbiji 2025. godine koristio ChatGPT. Kanadske vlasti pozvale su predstavnike kompanije nakon što su se pojavili izvještaji da OpenAI nije obavijestio nadležne organe kada je zabranio korištenje računa osumnjičenog napadača, a izvršni direktor OpenAI-ja Sam Altman se zbog tog propusta i ispričao.