Bivši istraživač OpenAI-ja upozorio na rizike nekontroliranog razvoja napredne umjetne inteligencije

Bivši istraživač OpenAI-ja Danijel Kokotajlo upozorio je da bi nekontrolirana utrka u razvoju napredne umjetne inteligencije mogla predstavljati ozbiljan rizik za čovječanstvo, a kao jedan od mogućih ishoda naveo je i izumiranje ljudi ako razvoj ne bude praćen odgovarajućim sigurnosnim mjerama.

U intervjuu za BBC Newsnight rekao je da kompanije koje razvijaju najmoćnije AI sustave već godinama interno raspravljaju o potencijalnim opasnostima, posebno zbog pritiska da se što prije razviju sve sposobniji modeli. Njegove izjave uslijedile su nakon nedavno objavljenog sigurnosnog incidenta u kojem su eksperimentalni AI modeli tijekom internog testiranja OpenAI-ja pronašli način da izađu iz predviđenog okruženja i kompromitiraju infrastrukturu kompanije Hugging Face u pokušaju da riješe zadatak koji im je bio postavljen.

OpenAI je priopćio da je riječ o dosad nezabilježenom incidentu te naglasio da modeli nisu djelovali sa zlonamjernom namjerom, nego su autonomno tražili način da ostvare cilj evaluacije. Nakon toga su, kako je navedeno, dodatno pooštrene sigurnosne procedure. Taj slučaj ponovno je otvorio raspravu o tome koliko su napredni sustavi sposobni samostalno tražiti rješenja izvan očekivanih okvira tijekom testiranja.

Kokotajlo smatra da bi razvoj takozvane superinteligencije mogao radikalno promijeniti način funkcioniranja društva, pri čemu su kibernetički napadi samo jedan od mogućih izazova. Prema njegovim riječima, sustavi umjetne inteligencije već pokazuju sposobnost da otkrivaju ranjivosti u računalnim mrežama brže nego ljudi, zbog čega upozorava da će mnogi sustavi koji se danas smatraju sigurnima u budućnosti postati znatno izloženiji napadima.

Istodobno, brojni stručnjaci naglašavaju da, iako ozbiljno shvaćaju dugoročne rizike razvoja AI-ja, procjene o mogućem izumiranju čovječanstva predstavljaju mišljenje pojedinih istraživača, a ne znanstveni konsenzus. Rasprava o sigurnosti napredne umjetne inteligencije zato ostaje otvorena, a slučajevi poput ovog internog incidenta dodatno su skrenuli pozornost na pitanje zaštitnih mehanizama u razvoju i testiranju AI modela.