AZOP upozorava: ne unosite osobne podatke u chatbotove i LLM sustave

Agencija za zaštitu osobnih podataka (AZOP) objavila je preporuke za sigurno korištenje velikih jezičnih modela i javno dostupnih chatbotova temeljenih na njima. U središtu smjernica nalazi se upozorenje da se u takve sustave ne bi smjeli unositi tekstovi, dokumenti ni slike koji mogu otkriti identitet pojedinaca, a organizacijama se poručuje da unaprijed postave interna pravila za korištenje alata umjetne inteligencije.

AZOP pritom podsjeća da se podaci u LLM sustavima mogu obrađivati na poslužiteljima vanjskih pružatelja usluga, mogu se pohraniti u povijesti razgovora te se u određenim slučajevima mogu koristiti i za daljnje treniranje modela ili sigurnosne analize. Agencija navodi da ni uklanjanje imena i prezimena nije dovoljno, jer se identitet osobe često može rekonstruirati iz kombinacije kontekstualnih podataka, poput lokacije, datuma, opisa događaja ili drugih detalja koji sami po sebi možda ne izgledaju osjetljivo.

U preporukama se posebno ističe da zaposlenici ne bi smjeli samostalno odlučivati o korištenju javno dostupnih AI alata za obradu službenih podataka. Organizacije bi, prema AZOP-u, trebale prethodno procijeniti pravnu utemeljenost i sigurnosne aspekte takvih alata, osobito kada je riječ o obradi internih dokumenata, ugovora te zdravstvenih ili financijskih podataka. Takva je uporaba dopuštena samo ako je proces organizacijski kontroliran i pravno utemeljen, uz prethodno informiranje ispitanika i ugovorno uređene odnose s pružateljem usluge.

Agencija upozorava i na rizike neovlaštenog korištenja, među kojima navodi gubitak kontrole nad informacijama, obradu podataka u nepredviđene svrhe te moguće prijenose podataka izvan Europskog gospodarskog prostora. Dodatno se upozorava na potencijalno netočne ili pristrane rezultate koje generira AI, a koji mogu utjecati na prava pojedinaca ako se koriste u postupcima odlučivanja u zdravstvu, financijama ili javnoj upravi. Zbog toga AZOP preporučuje da svaka organizacija donese internu politiku korištenja LLM alata kojom će jasno definirati dopuštene i zabranjene radnje.

Posebno rizičnom praksom ocijenjeno je učitavanje strukturiranih dokumenata, poput tablica ili baza podataka, u javne AI sustave radi brze analize ili sažimanja. Takvi dokumenti često sadrže niz povezanih informacija o zaposlenicima ili klijentima, što povećava opasnost od profiliranja i povrede povjerljivosti, navodi Agencija. Umjesto stvarnih podataka, preporučuje se korištenje anonimiziranih verzija dokumenata i neutralnih opisa poput „osoba A” ili „zaposlenik”, ali samo ako se ni iz takvog opisa ne može utvrditi identitet.

U završnom dijelu preporuka AZOP poručuje da se rezultati koje generira umjetna inteligencija trebaju koristiti samo kao nacrti ili pomoćni materijali, uz obveznu kritičku provjeru prije daljnje uporabe. Korisnicima se savjetuje i da unutar samih alata prilagode postavke privatnosti, isključe povijest razgovora te onemoguće korištenje svojih podataka za treniranje modela. Agencija pritom naglašava da činjenica da je AI alat dostupan na internetu ne znači automatski i zakonitost njegove uporabe za obradu osobnih podataka prema GDPR-u.