Anthropic otvara pristup modelu Mythos europskoj agenciji ENISA kroz Project Glasswing

Europska unija je blizu pristupa Anthropicovu frontier modelu Mythos nakon tjedana pritiska da bude uključena u Project Glasswing, strogo kontroliranu inicijativu koja odabranim organizacijama daje pristup modelu za istraživanje kibernetičke sigurnosti i otkrivanje ranjivosti. Prema komentarima za Dark Reading, glasnogovornik Europske komisije za tehnološku suverenost Thomas Regnier potvrdio je da su se vodili produktivni sastanci s Anthropicom i da Komisija pozdravlja najnoviji razvoj događaja oko mogućeg budućeg pristupa.

Anthropicov model Claude Mythos Preview izazvao je zabrinutost zbog sposobnosti da ne samo otkriva sigurnosne propuste nego i autonomno razvija lance eksploatacije, i to velikom brzinom i u velikom opsegu. Anthropic je objavio da je model pronašao tisuće ranjivosti u široko korištenom softveru, uključujući propust star 27 godina u OpenBSD-u i ranjivost staru 17 godina u FreeBSD-u. Istraživači pritom upozoravaju da bi alat poput Mythosa mogao značajno sniziti barijeru za otkrivanje i iskorištavanje ranjivosti na razini koja bi olakšala automatizaciju sofisticiranih kibernetičkih napada.

Regnier je taj ishod opisao kao rezultat „snažne bilateralne suradnje i angažmana” Europske komisije s Anthropicom te naglasio da je pristup Mythosu „od najveće važnosti” kako bi se dobila jasna slika o mogućim rizicima vezanima uz otkrivanje i iskorištavanje ranjivosti uz pomoć umjetne inteligencije. Dodao je i da se zabrinutost zbog dvojne namjene AI alata ne odnosi samo na jedan model, nego na širi val snažnih modela koji dolaze na tržište.

U travnju je Anthropic objavio da će sposobnosti Mythosa učiniti dostupnima strogo provjerenoj skupini tvrtki kako bi tehnologiju koristile za traženje i osiguravanje ranjivosti u vlastitim proizvodima prije nego što ih pronađu protivnici. Takozvani Project Glasswing trenutačno uključuje više od 40 organizacija, među kojima su Amazon, Apple, Microsoft, Google, Linux Foundation, JP Morgan Chase, NVIDA i druge. Anthropic je rekao i da će za te organizacije osigurati 100 milijuna dolara u korisničkim kreditima za korištenje Mythosa.

Dogovor ipak još nije u potpunosti zaokružen. Anthropic i Europska komisija i dalje pregovaraju o uvjetima i odredbama koje će uređivati kako će ENISA sigurno i na obostrano prihvatljiv način raditi s modelom. ENISA će, prema navodima, biti prva europska institucija koja dobiva pristup Mythosu, a Komisija takvu vidljivost smatra važnom ne samo za razumijevanje samog modela nego i za izgradnju institucionalne sposobnosti procjene vala sličnih modela koji se očekuju nakon njega.