Foto: Freepik Premium/n1info.ba
Britanska Nacionalna agencija za borbu protiv kriminala (NCA) upozorila je roditelje da ne objavljuju fotografije djece na internetu jer se pomoću umjetne inteligencije mogu pretvoriti u pornografski materijal. NCA i Zaklada za nadzor interneta (IWF) objavile su nove smjernice za zaštitu djece od sve češće uporabe AI-a za izradu pedofilskog sadržaja.
Do upozorenja je došlo nakon što je jedna škola u Britaniji bila meta kriminalnih skupina koje su iskoristile javno dostupne fotografije učenika kako bi pomoću AI-a stvorile pornografski materijal, a zatim prijetile da će ga objaviti ako im se ne plati. Analitičari IWF-a naveli su da su u 2025. godini otkrili 3400 video snimaka generiranih AI-om, u usporedbi s 13 evidentiranih u 2024. godini.
Izvršni direktor IWF-a Kerry Smith rekao je da je prijetnja uznemirujuća. Pritom je naglasio da se ne govori o tome da fotografije djece ne treba dijeliti s ljudima koje volite i kojima vjerujete, nego da ljudi trebaju biti svjesni potencijalnih rizika i donositi informirane odluke imajući na umu sve činjenice. Smith je upozorio i da posljedice takvih fotografija mogu biti razorne te da je šteta vrlo stvarna.
Organizacije su upozorile da pedofilski sadržaj s napretkom tehnologije postaje sve rašireniji i realističniji. Dodale su i da su fotografije i videosnimci pritom sve nasilniji: 65 posto od 3.443 umjetno generirana videa u 2025. godini klasificirano je u kategoriju A prema britanskom kaznenom zakonu, što znači da prikazuju najteža kaznena djela poput silovanja i seksualnog mučenja.
Nove smjernice savjetuju roditeljima da na društvenim mrežama otvore zatvorene grupe i u njima dijele fotografije svoje djece ili da prilagode postavke privatnosti tako da ih može vidjeti samo ograničen broj osoba. IWF je također pozvao tehnološke kompanije da dobro zaštite svoje AI modele prije nego što ih ponude korisnicima, kako ih kriminalci ne bi mogli zloupotrijebiti za proizvodnju pedofilskog sadržaja.
Vezane vijesti
