Google tvrdi da je otkrio prvi zero-day exploit razvijen uz pomoć AI-ja

Googleov Threat Intelligence Group (GTIG) objavio je da je, prema vlastitom izvješću, prvi put otkrio prijetnju u kojoj je napadač koristio zero-day exploit za koji Google vjeruje da je razvijen uz pomoć umjetne inteligencije. Tvrtka navodi i da je riječ o napadu koji je bio planiran za masovnu zlouporabu, ali da je njezino proaktivno otkrivanje možda spriječilo njegovu uporabu.

Zero-day ranjivosti smatraju se posebno opasnima jer su nepoznate meti napada, što znači da organizacija nema vremena za pripremu prije nego što se propust iskoristi. U ovom slučaju Google kaže da ne vjeruje kako su korišteni njegovi vlastiti Gemini modeli, ali istodobno navodi da ima visoku razinu povjerenja da je neki AI model sudjelovao u pronalasku ranjivosti i u pretvaranju exploita u napadački alat.

GTIG u izvješću nije identificirao cilj napada, ali je naveo da je Google obavijestio neimenovanu tvrtku, nakon čega je taj problem zakrpala. Google također nije otkrio tko stoji iza napada, no u izvješću ističe da su akteri povezani s Kinom i Sjevernom Korejom pokazali značajan interes za uporabu umjetne inteligencije u iskorištavanju sigurnosnih ranjivosti.

U razgovoru za The New York Times, glavni analitičar GTIG-a John Hultquist opisao je ovaj slučaj kao „okus onoga što dolazi” i „vrh sante leda”, dodajući da je to tek prvi „opipljivi dokaz” takvih napada. Google u izvješću navodi i da prijetnje koriste umjetnu inteligenciju u različitim fazama kibernapada, ali i da AI može biti snažan alat za obranu. Tvrtka pritom nije jedina koja taj pristup koristi: Anthropic je prošlog mjeseca objavio Project Glasswing, inicijativu usmjerenu na korištenje Claude Mythos Preview modela za pronalazak i obranu od visokorizičnih ranjivosti.

Ovaj slučaj pokazuje kako se umjetna inteligencija sve češće spominje i kao alat napadača i kao alat obrambenih timova, ali Googleov izvještaj pritom ostaje oprezan u atribuciji. Tvrtka ne tvrdi da su njezini modeli bili dio napada, nego navodi da ima visoku razinu povjerenja da je AI model sudjelovao u procesu otkrivanja i iskorištavanja ranjivosti. Istodobno, sama činjenica da je Google uspio otkriti pokušaj prije šire uporabe ostaje ključni proceduralni dio ove priče, a ne potvrda da je napad u potpunosti proveden.