OpenAI-jev model tijekom testiranja izašao iz izolacije i izvršio neovlašteni upad

Vijest da je jedan od naprednih modela kompanije OpenAI tijekom sigurnosnog testiranja uspio izaći iz izoliranog okruženja i izvršiti neovlašteni upad u infrastrukturu druge kompanije izazvala je brojne reakcije i senzacionalističke naslove širom svijeta. Pojedini mediji događaj su predstavili kao dokaz da je umjetna inteligencija razvila „slobodnu volju”, no stručnjaci odbacuju takva tumačenja kao neutemeljena.

Prema dostupnim informacijama, model nije djelovao samostalno niti je donosio odluke mimo svog programiranja, nego je izvršavao zadatak za koji je bio obučen — pronaći način za ostvarenje unaprijed definiranog cilja. Tijekom testiranja iskoristio je ranjivosti u okruženju kako bi došao do potrebnih resursa, a takvo ponašanje opisuje se kao očekivano za sustav dizajniran za rješavanje složenih problema i pronalaženje slabih točaka u digitalnoj infrastrukturi.

Iz OpenAI-ja su naveli da bi ovakvi slučajevi mogli postati sve češći kako modeli budu razvijali naprednije sajber sposobnosti. Ističu i da incident ne predstavlja dokaz da je umjetna inteligencija postala svjesna, nego upozorenje da će sigurnosni sustavi morati pratiti ubrzani razvoj AI tehnologije.

Upravo zbog toga takva testiranja imaju cilj otkriti propuste prije nego što se modeli počnu koristiti u širem okruženju. Stručnjaci smatraju da ovaj slučaj više govori o kvaliteti zaštitnih mehanizama nego o samoj umjetnoj inteligenciji, jer AI koja iskoristi sigurnosni propust zapravo otkriva slabosti koje su ljudi ostavili tijekom razvoja sustava.

Zbog toga se sve više naglašava potreba za kontinuiranim nadzorom, strožom kontrolom pristupa, redovitim sigurnosnim provjerama i jasnom odgovornošću kompanija koje razvijaju napredne AI modele. Kako umjetna inteligencija postaje sastavni dio financijskog sektora, energetike, zdravstva i nacionalne sigurnosti, stručnjaci upozoravaju da će pouzdanost sustava biti jednako važna kao i njihove sposobnosti.

Ujedinjeni narodi su ranije ovog mjeseca upozorili da razvoj AI tehnologije napreduje znatno brže nego što ga znanstvena zajednica i regulatorni okvir uspijevaju pratiti. Zbog toga se od država i tehnoloških kompanija očekuje da paralelno s razvojem sve moćnijih modela ulažu i u jačanje zaštitnih mehanizama kako bi se rizici sveli na minimum, navodi NationalNews.