EU uvodi stroža pravila za AI sadržaj: obavezne oznake za profesionalnu upotrebu i deepfakeove

Europska unija uvodi stroža pravila za sadržaj nastao uz pomoć umjetne inteligencije, s naglaskom na veću transparentnost i zaštitu građana od lažnih i manipulativnih objava, posebno deepfake sadržaja. Nova pravila traže jasno označavanje slika, videozapisa i tekstova nastalih pomoću AI tehnologije kada se koriste u profesionalne svrhe, uključujući oglašavanje, medije i komercijalne kampanje.

Obveza se, prema navedenim smjernicama, odnosi i na influensere koji ostvaruju prihod objavljivanjem sadržaja. Privatni korisnici koji na svojim profilima objavljuju AI fotografije zasad nemaju obvezu označavanja takvog sadržaja. Kod videozapisa nastalih ili izmijenjenih uz pomoć umjetne inteligencije predviđena je vidljiva oznaka od početka prikazivanja, koja bi trebala ostati prisutna ili se povremeno ponavljati.

Najveći fokus novih pravila je na deepfake sadržajima, odnosno fotografijama, snimkama i audiozapisima koji mogu biti toliko realistični da dovedu do obmane javnosti. Za izmijenjene fotografije preporučuje se korištenje dodatnih oznaka koje bi korisnicima jasno pokazale da je sadržaj promijenjen uz pomoć AI alata. Za audiozapise, poput podcasta generiranih umjetnom inteligencijom, potrebno je na početku navesti da je riječ o vještački stvorenom govornom sadržaju.

Kod tekstova se preporučuje postavljanje oznake uz naslov ili iznad sadržaja. Kako navodi njemački list Der Spiegel, za primjenu novih pravila odgovorni su i pružatelji AI usluga, među njima kompanije koje razvijaju velike jezičke modele i druge alate umjetne inteligencije. Od njih se očekuje da uvedu mehanizme za prepoznavanje sadržaja generiranog pomoću AI tehnologije.

Europska kancelarija za umjetnu inteligenciju dodatno nadzire sigurnost velikih AI sustava, posebno zbog mogućnosti zloupotrebe i potencijalnih sajber-napada. Za najteža kršenja propisa predviđene su kazne do 35 milijuna eura ili sedam posto ukupnog godišnjeg prihoda kompanije. Za kršenje obveza vezanih za transparentnost i sigurnosne mjere kazne mogu iznositi do 15 milijuna eura ili tri posto globalnog prihoda.

Za postojeće sustave umjetne inteligencije predviđen je prijelazni period, dok se nova pravila za nove modele primjenjuju odmah. Time se razdvajaju već aktivni sustavi od onih koji tek ulaze u primjenu, uz različit tempo usklađivanja s novim obvezama.