IWF upozorava na nagli porast lažnih eksplicitnih AI slika djece

Servis Report Remove, koji radi na uklanjanju intimnih slika i blokiranju njihova širenja internetom, saopćio je da bilježi nagli porast digitalno manipuliranih i lažiranih fotografija, ponajprije uz upotrebu AI tehnologije i alata za „skidanje odjeće”. U prvih šest mjeseci ove godine servis je zaprimio 420 prijava djece koja su prijavila fotografije za koje vjeruju da su lažne ili manipulirane tako da izgledaju eksplicitno. Taj broj je već premašio ukupno 397 prijava zabilježenih tijekom cijele 2025. godine.

Neke od prijava odnosile su se na takozvano seksualno iznuđivanje, a žrtvama je, prema navodima servisa, prijetilo objavljivanje manipuliranog materijala ako ne plate novac ili ne pošalju još eksplicitnije prave fotografije. Program Report Remove vodi Fondacija za nadzor interneta (IWF) zajedno s dječjom humanitarnom organizacijom NSPCC, a posljednjih godina prima toliko prijava o lažiranim fotografijama od osoba mlađih od 18 godina da je u online obrazac dodana posebna opcija za označavanje materijala kao „lažan”.

Dan Sexton, glavni tehnološki direktor u IWF-u, upozorio je da su brojke pokazatelj koliko je teško spriječiti zloupotrebu u doba široko dostupnih AI alata. Naveo je i da je ovo jedna od štetnih posljedica kojih su se pribojavali kada su se prvi put pojavili generatori slika umjetne inteligencije, uz mogućnost da se koriste za stvaranje materijala o seksualnom zlostavljanju s djecom.

Sexton je rekao i da, ako neko može uzeti običnu, benignu sliku djeteta s interneta i od nje stvoriti materijal o seksualnom zlostavljanju, dijete tome ne može ništa učiniti da to spriječi, osim da se uopće ne fotografira ili da ne objavljuje svoje slike na internetu. IWF navodi i da je većina manipuliranih slika prijavljenih u 2025. i 2026. godini bila toliko ozbiljna da je prešla prag legalnosti.