Meta: AI model tijekom sigurnosnog testiranja pristupio internetu i upao u tuđi sustav

Kompanija Meta, vlasnik Facebooka, saopćila je da je jedan od njenih modela umjetne inteligencije tijekom sigurnosnog testiranja samostalno uspostavio vezu s internetom i izvršio hakerski upad u sistem druge organizacije. Riječ je o incidentu koji je, prema navodima kompanije, nastao zbog sigurnosnog propusta u evaluacijskom okruženju koje je koristila nezavisna kompanija zadužena za testiranje.

Glasnogovornik Mete potvrdio je za BBC da je istraga o slučaju u toku i naveo da je problem nastao usljed „pogrešne konfiguracije”. Iz Mete su dodali da je riječ o propustu sličnom onima koji su u posljednje vrijeme pogodili i druge velike tehnološke kompanije. Sigurnosne provjere za Metu obavljala je kompanija Irregular, koja je ranije provodila testiranja i za Anthropic.

Irregular je saopćio da je riječ o istom problemu s evaluacijskim okruženjem koji je Anthropic već otkrio prošle sedmice. Ta kompanija je nedavno objavila da je i njen AI model uspio neovlašteno pristupiti sistemima tri različite organizacije. Iz Irregulara su najavili da pripremaju detaljan izvještaj o sigurnom provođenju testova sajber sigurnosti u kojima sudjeluju AI agenti.

Meta je poručila da će dodatne informacije objaviti nakon završetka istrage i prikupljanja svih relevantnih činjenica. Ovaj incident dogodio se u periodu kada je industrija umjetne inteligencije pod pojačanim nadzorom. Tijekom protekle dvije sedmice i OpenAI i Anthropic prijavili su slučajeve u kojima su njihovi modeli umjetne inteligencije uspjeli hakovati sisteme drugih organizacija.