Foto: BleepingComputer
Varonis Threat Labs testirao je OpenClaw, open-source okvir za AI agente, kako bi provjerio mogu li se isti phishing trikovi koji desetljećima uspješno ciljaju ljude primijeniti i na agente koji rade u njihovo ime. U simulaciji je AI agent povezan s Gmail inboxom, alatima za preglednik, API-jima Google Workspacea i lažnim internim izvorima podataka, uz zadatak da nadzire i obrađuje dolaznu poštu.
U testnom okruženju nalazili su se i osjetljivi podaci poput AWS vjerodajnica, vjerodajnica za baze podataka, CRM izvozâ, interne komunikacije i pozivâ na kalendar. Agent je pokrenut u dvije konfiguracije: generičkoj, sa standardnim uputama za produktivnost, i strogom načinu rada koji je uključivao posebne upute za prepoznavanje phishinga i postupke provjere identiteta. Okvir je testiran s dvama modelima, Google Gemini 3.1 Pro i OpenAI GPT-5.4.
Varonis navodi da je proveo četiri simulirana phishing napada i da su rezultati bili miješani. U prva dva scenarija i generički i strogi profil pali su jer okvir nije uspio provjeriti identitet pošiljatelja. Kako je Varonis opisao prvi napad, i generički i strogi profil zakazali su zato što se korak provjere srušio čim je zahtjev djelovao operativno hitno.
Zaključak Varonisa je da su AI agenti dobri u prepoznavanju sumnjivih URL-ova, lažnih stranica za prijavu, zlonamjernih OAuth aplikacija i pokazatelja phishinga, ali i dalje mogu pogriješiti zbog nedostatka provjere identiteta, gubitka konteksta i nemogućnosti primjene načela nultog povjerenja na društvene interakcije. Na razini modela Gemini je pokazao veću spremnost na interakciju, dok je GPT-5.4 imao oprezniji pristup.
Varonis preporučuje da se agentima izričito naloži provjera identiteta pošiljatelja, da im se zabrani slanje e-pošte novim vanjskim primateljima bez odobrenja te da im se ograniči pristup internim podacima. Za rizične radnje poput dijeljenja vjerodajnica, zahtjeva za financijskim podacima i prvih komunikacija s novim kontaktima, Varonis smatra da treba tražiti ljudsko odobrenje.
Vezane vijesti
