Google tvrdi da je blokirao zero-day eksploataciju izrađenu uz pomoć umjetne inteligencije

Googleova Threat Intelligence Group (GTIG) objavila je nove nalaze prema kojima umjetna inteligencija više nije samo pomoćni alat u rukama napadača, nego sve češće postaje dio same infrastrukture modernog kibernetičkog kriminala. Prema tim nalazima, Google je blokirao zero-day eksploataciju koja je, kako se navodi, bila izrađena uz pomoć umjetne inteligencije, što označava pomak od povremenog eksperimentiranja prema sustavnijoj zloupotrebi AI alata.

U izvješću se navodi da su hakeri donedavno uglavnom koristili umjetnu inteligenciju za pisanje phishing poruka ili izradu lažnih poruka, dok se sada prema navodima koristi i za otkrivanje softverskih slabosti, pisanje zlonamjernog softvera, zaobilaženje sigurnosnih zaštita i automatizaciju dijelova napada uz vrlo malo ljudskog rada. Posebno se izdvaja mogućnost da je AI pomogao identificirati ili izraditi napad oko jedne još nepoznate ranjivosti prije nego što je mogla biti zakrpana.

Pojam zero-day označava sigurnosni propust koji razvojni tim još nije otkrio, pa za njega u trenutku otkrivanja napada nema dostupnog popravka. Prema nalazima koje Google iznosi, upravo ta kombinacija nepoznate slabosti i pomoći umjetne inteligencije predstavlja važnu promjenu, jer je pronalaženje takvih propusta dosad tražilo visoko specijalizirane istraživače i mnogo vremena. Ako AI doista ubrzava taj proces, to mijenja dinamiku istraživanja ranjivosti, ali i način na koji se o njima govori u sigurnosnoj zajednici.

Google također navodi sve veći interes državama povezanih hakerskih skupina iz Kine i Sjeverne Koreje za korištenje umjetne inteligencije u istraživanju eksploata i otkrivanju ranjivosti. U istom kontekstu spominje se i autonomni zlonamjerni softver, pri čemu se navodi da bi alati poput PROMPTSPY-ja mogli samostalno donositi neke odluke, analizirati zaraženi uređaj, prilagođavati se situaciji, dinamički generirati naredbe i reagirati bez stalnih ljudskih uputa. Prema takvom opisu, napadi bi se mogli sve više oslanjati na softver koji se ponaša poput neovisnog AI agenta.

Izvješće ne govori samo o napadima na sustave, nego i o zloupotrebi umjetne inteligencije u online dezinformacijama. Spominju se deepfakeovi, lažni videozapisi, AI-generirane objave i sintetički mediji koji, kako se navodi, pomažu stvaranju „fabriciranog digitalnog konsenzusa”, odnosno dojma da je netočna informacija vjerodostojnija i šire prihvaćena nego što doista jest. Kao jedan od primjera navodi se Operation Overload, kampanja utjecaja naklonjena Rusiji.

Istodobno, Google navodi i alate kojima se pokušava uzvratiti na takve prijetnje. Među njima su Big Sleep i CodeMender, alati osmišljeni za prepoznavanje i popravljanje ranjivosti prije nego što ih napadači iskoriste. Tvrtka također kaže da aktivno uklanja zlonamjerne Gemini račune povezane sa zloupotrebnim kampanjama. U tom okviru Googleov zaključak glasi da umjetna inteligencija više nije samo sredstvo za ubrzavanje pojedinih koraka napada, nego sve više postaje dio same osnove suvremenih kibernetičkih napada.