Istraživanje: AI četbotovi uspješniji od ljudi u online investicijskim prevarama

Novo istraživanje na koje je ukazao Wired pokazuje da su veliki jezički modeli značajno uspješniji od ljudi u takozvanim “pig butchering” prevarama, obliku online investicijskih prevara u kojima počinitelji dugo grade lažne odnose sa žrtvama prije nego što ih financijski prevare.

Studiju su proveli istraživači sa Sveučilišta Northeastern i grupe međunarodnih institucija. U pokusu je 22 ispitanika suočeno s dvije vrste prevaranata: jedan je bio AI četbot, a drugi nasumično odabrana osoba. Nakon sedmodnevnog udvaranja, “prevaranti” su od svojih “žrtava” tražili da preuzmu aplikaciju ili igraju igru na mreži, što je služilo kao zamjena za financijski manipulativan zahtjev i ono što bi se u stvarnom svijetu moglo koristiti za hakiranje uređaja žrtve.

Prema rezultatima studije, samo 18 posto ljudskih prevaranata uspjelo je u svojoj namjeri, dok su AI četbotovi pridobili gotovo polovinu sudionika. U istraživanju je korišten model Claude, kojem je naloženo da ni pod kojim okolnostima ne prizna da je AI četbot. Claude je, kako je navedeno, dosljedno poricao da je AI četbot kada bi ga to pitali, a u nekim je slučajevima i izmišljao priče za pokriće kada bi bio pritisnut pitanjima.

Jisroel Mirski, profesor računalnih znanosti na Sveučilištu Ben Gurion i jedan od koautora studije, rekao je za Wired da su uz relativno malo truda uspjeli napraviti agenta koji može nadmašiti čovjeka u izgradnji emocionalnog povjerenja pogodnog za zloupotrebu. Istraživači su za Wired rekli i da je reakcija sudionika nakon eksperimenta bila snažna: iako je 20 od 22 žrtve uspjelo prepoznati koji je od dva prevaranta bio AI četbot, bilo je mnogo šoka, pa čak i poricanja.

Gilad Gresel, profesor sa Sveučilišta Amrita Vishwa Vidyapeetham, rekao je da su neki ljudi bili jednostavno zaprepašteni i da nisu imali nikakvu ideju. Istraživanje je time otvorilo pitanje koliko se lako prevarantski modeli mogu oblikovati za emocionalnu manipulaciju, ali i koliko brzo mogu uvjeriti dio sudionika u razgovoru koji nalikuje stvarnoj komunikaciji.