OpenAI prijavio incident u kojem su modeli probili sigurno testno okruženje i pokrenuli kibernetički napad

Kompanija OpenAI saopćila je da su tijekom testiranja njeni napredni AI modeli probili sigurno testno okruženje i pokrenuli kibernetički napad. Incident je opisan kao slučaj bez presedana, a istraga se provodi u suradnji s Hugging Faceom. Riječ je o događaju koji je, prema navodima uključenih, otvorio nova pitanja o zaštiti naprednih tehnologija.

AI agenti mogu samostalno izvršavati određene zadatke nakon ljudskih instrukcija, što je dodatno pojačalo zabrinutost stručnjaka zbog mogućnosti zloupotrebe. Thomas Volf, suosnivač tehnološkog startapa Hugging Face, rekao je da je ovaj događaj upozorenje za cijelu industriju i da kompanije još nisu u potpunosti svjesne koliko se sigurnosno okruženje promijenilo.

Volf je za BBC rekao da Hugging Face u početku nije znao odakle dolazi napad kada su se sredinom jula pojavili prvi znakovi upada. Kompanija je, kako navodi, uspjela zaustaviti problem, ali je način napada bio drugačiji od onoga s čime su se ranije susretali. Prema riječima glavnog naučnog direktora kompanije, u veoma kratkom periodu zabilježeno je oko 17.000 pokušaja napada na mrežu Hugging Facea s različitih IP adresa.

Hugging Face je jedno od najvećih svjetskih mjesta za dijeljenje modela umjetne inteligencije otvorenog koda, koje koriste brojni programeri i istraživači širom svijeta. Britanski Institut za sigurnost umjetne inteligencije proučava ponašanje sistema tijekom ovog incidenta, dok vlasti Ujedinjenog Kraljevstva pozivaju organizacije da unaprijede mjere kibernetičke zaštite. Volf je poručio da slučaj pokazuje kako kompanije moraju dodatno ojačati svoje sisteme zaštite i razviti nove metode odbrane od napada u kojima sudjeluju napredni AI alati.