Britanska agencija upozorila roditelje na zloupotrebu dječjih fotografija uz pomoć umjetne inteligencije

Britanska Nacionalna agencija za borbu protiv kriminala (NCA) upozorila je roditelje da budu oprezni prilikom objavljivanja fotografija djece na internetu, nakon što su kriminalci počeli koristiti umjetnu inteligenciju za izradu eksplicitnog sadržaja na temelju javno dostupnih snimaka. Nove smjernice preporučuju da se dječje fotografije dijele samo u zatvorenim grupama ili uz pažljivo podešene postavke privatnosti na društvenim mrežama.

NCA i Fondacija za nadzor interneta (IWF) objavili su smjernice s ciljem zaštite djece od sve češće zloupotrebe umjetne inteligencije za izradu materijala koji prikazuje seksualno zlostavljanje djece. Povod za upozorenje bio je slučaj iz Velike Britanije u kojem su kriminalne grupe iskoristile javno dostupne fotografije učenika jedne škole, a zatim pomoću umjetne inteligencije napravile lažni eksplicitni sadržaj i prijetile njegovom objavom ako ne dobiju novac.

Prema podacima IWF-a, analitičari su tijekom 2025. godine otkrili 3.400 videosnimaka generiranih umjetnom inteligencijom, dok ih je godinu ranije bilo 13. Organizacije upozoravaju i da sadržaj koji prikazuje seksualno zlostavljanje djece postaje uvjerljiviji i dostupniji kako tehnologija napreduje, a istodobno i brutalniji. Prema istim podacima, 65 posto od ukupno 3.443 videosnimka generirana umjetnom inteligencijom tijekom 2025. godine svrstano je u kategoriju A prema britanskom krivičnom zakonu, što znači da prikazuju najteža krivična djela, uključujući silovanje i seksualno mučenje.

Izvršni direktor IWF-a Kerry Smith rekao je da je prijetnja „veoma uznemirujuća“, ali je pritom naglasio da cilj nije poručiti roditeljima da nikada ne dijele fotografije svoje djece s obitelji i prijateljima kojima vjeruju. „Želimo da budu svjesni mogućih rizika i da na osnovu svih činjenica donose informirane odluke“, istaknuo je Smith. On je upozorio i da posljedice ovakvih zloupotreba mogu biti ozbiljne te da je šteta stvarna, uz mogućnost dugoročnih posljedica.

Nove smjernice preporučuju roditeljima da fotografije djece dijele isključivo u zatvorenim grupama ili da postavke privatnosti na društvenim mrežama prilagode tako da objave mogu vidjeti samo osobe kojima vjeruju. IWF je istodobno uputio poziv tehnološkim kompanijama da prije nego što svoje AI modele učine dostupnima korisnicima uvedu snažne zaštitne mehanizme kako bi spriječile njihovu zloupotrebu za izradu materijala koji prikazuje seksualno zlostavljanje djece.