Foto: OpenAI
OpenAI je predstavio novu značajku Lockdown Mode, koju opisuje kao dodatnu zaštitu od prompt injection napada. Riječ je o napadima u kojima su zlonamjerne upute za chatbot skrivene u web-stranicama i drugim izvorima sadržaja, a cilj je utjecati na ponašanje modela tijekom obrade podataka.
Lockdown Mode isključuje live web pregledavanje, pa je pristup moguć samo spremljenom, cacheiranom sadržaju. Isključuje i dohvaćanje te prikaz slika s interneta, dok je i dalje moguće generirati slike. Uz to, gasi deep research i agent mode. OpenAI navodi da bi ChatGPT i uz uključen Lockdown Mode i dalje mogao biti ranjiv na prompt injection, primjerice ako se takve upute pojave u cacheiranom web sadržaju ili u učitanoj datoteci te utječu na ponašanje ili točnost odgovora.
Tvrtka kaže da je cilj smanjiti vjerojatnost da se osjetljivi podaci podijele tijekom takvih pokušaja. OpenAI pritom naglašava da Lockdown Mode nije namijenjen svima, nego ljudima i organizacijama koje rukuju osjetljivim podacima i žele strožu zaštitu od rizika iznošenja podataka povezanih s prompt injectionom. Time značajka ostaje usmjerena na situacije u kojima je potreban viši stupanj kontrole nad načinom na koji ChatGPT pristupa vanjskim izvorima.
OpenAI kaže da Lockdown Mode trenutačno uvodi na self-serve ChatGPT Business račune, kao i na prihvatljive osobne račune. U objavi nije navedeno više pojedinosti o širem rasporedu uvođenja, a nova opcija dolazi uz postojeća ograničenja i mogućnosti ChatGPT-a koja se odnose na web pristup, istraživanje i rad agenata. Za korisnike koji rade s osjetljivim dokumentima ključna je upravo činjenica da se dio vanjskih izvora u tom načinu rada namjerno sužava, dok rizik prompt injectiona OpenAI ne opisuje kao potpuno uklonjen.
Vezane vijesti
