Foto: Anthropic
Anthropic PBC je naglo onemogućio globalni pristup svoja dva najmoćnija modela umjetne inteligencije, Fableu 5 i Mythosu 5, samo nekoliko dana nakon njihova lansiranja. Taj je potez uslijedio nakon što je američko Ministarstvo trgovine izdalo opsežan nalog o kontroli izvoza, pozivajući se na hitne sigurnosne zabrinutosti povezane s modelima.
Nalog Ministarstva trgovine izričito zabranjuje svim “stranim državljanima”, uključujući državljane savezničkih zemalja i same Anthropicove strane zaposlenike, pristup modelima Fable 5 i Mythos 5. Budući da je ograničavanje upotrebe isključivo prema nacionalnosti teško provesti, Anthropic je pristup onemogućio globalno kako bi mogao poštovati nalog.
Anthropic je na platformi X priopćio da je nalog stigao nakon “nesporazuma” američkih sigurnosnih vlasti o rizicima novih modela. Tvrtka je navela i da su joj državni dužnosnici dali “usmeni dokaz o mogućem uskom, ne-univerzalnom jailbreaku”. Poveznica s tim rizikom, kako se navodi, može biti i u izjavi voditelja red tima pri britanskom AI Safety Instituteu, koji je četiri dana ranije rekao da je njihov tim za kibernetičku sigurnost postigao “značajan napredak” prema univerzalnom jailbreaku Fablea 5.
Xander Davies iz britanskog AISI-ja je 9. lipnja na X-u napisao: “Unutar nekoliko sati od pristupa razvili smo jailbreak koji je izvlačio zlonamjerne odgovore na jednozahtjevna pitanja i odgovore.” Dodao je i: “Tijekom dodatna dva dana usmjerenog testiranja proširili smo jailbreak tako da je ponekad dopuštao višekoračne zlonamjerne agentne pozive alata.” Nije odmah bilo jasno je li izvozni nalog izdan zbog tih napora.
The Wall Street Journal je, međutim, izvijestio da je Ministarstvo trgovine zapravo uznemirio izvještaj o jailbreaku iz Amazona, koji je također imao pristup modelu. Prema pisanju lista, izvršni direktor Amazona Andy Jassy osobno je nazvao ministra financija Scotta Bessenta i druge dužnosnike kako bi ih obavijestio da su njegovi istraživači pomoću Fablea 5 dobili “informacije koje bi se mogle upotrijebiti u kibernetičkim napadima”.
Na X-u je David Sacks, suvoditelj predsjednikova Vijeća savjetnika za znanost i tehnologiju, objavio da je Bijela kuća prošli tjedan zatražila od izvršnog direktora Anthropicа Daria Amodeija da zakrpa ili povuče Fable 5, ali da je on to odbio. Anthropic je uzvratio tvrdnjom da je nedostatak koji je otkrio britanski tim bio tek “mali” rizik i da je postojao i u konkurentskim modelima, uključujući GPT-5.5 tvrtke OpenAI Group PBC. Tvrtka je upozorila i da bi američka vlada mogla primjenjivati previsoke standarde koji bi “u osnovi zaustavili sva nova uvođenja modela” za sve frontierske AI laboratorije.
Za Anthropic je spor oko Fablea 5 i Mythosa 5 stigao u osjetljivom trenutku. Tvrtka bi mogla pretrpjeti kolateralnu štetu zbog povlačenja modela, a incident bi mogao narušiti njezin ugled pouzdanog partnera među rastućim poslovnim klijentima. Osim toga, zabrana znači da mnogi njezini zaposlenici više ne mogu koristiti tehnologiju koju su sami razvili.
U Europi je zabrana izazvala oštre reakcije američkih saveznika. Glasnogovornik Europske komisije Thomas Regnier rekao je da EU trenutačno procjenjuje praktične posljedice zabrane. “Vidimo novu generaciju vrlo sposobnih modela umjetne inteligencije kako dolazi na tržište”, rekao je. “Ti modeli nude značajne koristi, uključujući za kibernetičku obranu, ali također otvaraju ozbiljna kibernetička pitanja koja treba adresirati. Smatramo da mjere opreza poduzete u tom svjetlu ne bi smjele biti diskriminatorne prema partnerima.”
Britanski zastupnik Tom Tugendhat rekao je da su deseci britanskih bolnica i tvrtki, koje su imale pristup modelu i provodile važna istraživanja, preko noći izgubili pristup. Francuski političari Jordan Bardella i Bruno Retailleau poručili su da je zabrana “poziv na buđenje” za Europljane te ih pozvali da podupru domaće tvrtke poput pariškog Mistral AI-ja kako bi se osiguralo da ključna digitalna infrastruktura ne može biti isključena na hir američkih dužnosnika.
Vezane vijesti
