Foto: SecurityWeek
Anthropic je u utorak objavio opću dostupnost modela Claude Fable 5, koji opisuje kao Mythos-klasu umjetne inteligencije s novim zaštitnim mjerama usmjerenima na ograničavanje uporabe u visokorizičnim područjima, uključujući kibernetičku sigurnost. Tvrtka navodi da je to prvi put da je model te razine mogućnosti procijenjen dovoljno sigurnim za širok javni i developerski pristup.
Prema objavi, Fable 5 pokazuje bolje rezultate od prethodnih modela u softverskom inženjerstvu, znanju, vizualnim zadacima i dugotrajnim procesima. U osjetljivim područjima poput kibernetičke sigurnosti i biologije model se automatski prebacuje na manje sposobni Claude Opus 4.8 kako bi se smanjila mogućnost zloupotrebe. Anthropic navodi i da podaci ranog korištenja pokazuju kako najmanje 95 posto sesija prolazi isključivo na mogućnostima Fablea 5 bez aktiviranja prebacivanja.
Tvrtka ističe i sigurnosni aspekt tog dizajna. Navodi da su napadači kojima bi mogućnosti razine Mythos mogle donijeti financijsku korist, primjerice kroz kibernetičke napade, motivirani pokušati zaobići zaštitne mjere. Zbog toga je Anthropic proveo opsežno interno testiranje otpornosti svojih klasifikatora, nakon čega je uslijedio vanjski bug bounty program od više od 1.000 sati, bez pronalaska univerzalnih jailbreakova. Neovisno vanjsko testiranje također, prema navodima tvrtke, nije otkrilo kritične zaobilaženje zaštite.
Anthropic je istoga dana objavio i da se provjerenim korisnicima, uključujući partnere iz područja kibernetičke sigurnosti unutar Projecta Glasswing, omogućuje nadogradnja s Claude Mythos Preview na Claude Mythos 5. Tvrtka planira postupno širiti taj pristup kroz strukturirani program za povlaštene korisnike. Nedavno je najavila i širenje Projecta Glasswing za otprilike 150 novih organizacija, ali nije navela koje su nove članice. Nekoliko tvrtki je potom zasebno potvrdilo sudjelovanje u projektu, među njima Dragos, Tenable, TrendAI (Trend Micro), Netskope, BeyondTrust, Rubrik, BT, Intercontinental Exchange i Hitachi.
Anthropic navodi da su i Fable 5 i Mythos 5 cijenjeni po 10 dolara po milijunu ulaznih tokena i 50 dolara po milijunu izlaznih tokena. Fable 5 je odmah dostupan putem Claude API-ja za developere.
Vezane vijesti
