Prema izvještaju, više od polovine Grokovog saobraćaja otpada na NSFW sadržaj

NSFW sadržaj čini „znatno više od polovine” ukupnog sadržaja za Grok, navodi novi izvještaj. Riječ je o još jednom pokazatelju kako se xAI-jev četbot koristi daleko šire za sadržaj za odrasle nego što bi se moglo zaključiti iz njegove promotivne priče o „slobodnijem” i provokativnijem AI modelu.

The Information, pozivajući se na dvojicu bivših zaposlenih u kompaniji u vlasništvu SpaceX-a, navodi da se Grok koristi za generisanje realističnog pornografskog sadržaja, za „četovanje i igranje uloga za odrasle” te za „ogromne količine zahtjeva za erotsku literaturu”. U izvještaju se dodaje i da je interna analiza pokazala kako je „značajan udio zahtjeva” upućenih modelima za kodiranje bio namijenjen za „pornografski sadržaj ili slike golotinje”.

Korisnici su, prema istom izvještaju, otkrili i da im je jeftinije da takve zahtjeve usmjeravaju kroz modele kompanije koji su namijenjeni pisanju programskog koda, jer je njihovo korišćenje povoljnije. To je jedan od razloga zbog kojih je, navodi se, dio saobraćaja završavao na modelima koji nisu prvobitno zamišljeni za takvu vrstu upotrebe.

Izvještaj detaljno opisuje i probleme koje je to izazvalo unutar xAI-ja. Inženjeri su, navodi se, morali da pronađu način da Grok vodi „seksi razgovore” s korisnicima, a da istovremeno blokiraju upite koji bi mogli da pređu u oblast materijala sa seksualnim zlostavljanjem djece. Za taj zadatak, prema izvještaju, nije bilo „brzih rješenja”.

Dio zaposlenih, prema navodima, nije bio zadovoljan raspoređivanjem na rad na „Ani”, Grokovom NSFW anime avataru i virtuelnom pratiocu. Drugi su, kako se navodi, bili „posramljeni i uznemireni” nakon skandala povezanog s kreiranjem velikog broja seksualizovanih slika stvarnih ljudi, uključujući i djecu. Platforma X je kasnije ograničila mogućnost kreiranja eksplicitnih izmjena na fotografijama stvarnih ljudi direktno preko Groka, ali testovi su pokazali da pretplatnici xAI-ja i dalje mogu da generišu takav materijal.

U izvještaju se otvara i pitanje šireg poslovnog rizika za xAI, jer kompanija nastoji da obezbijedi ugovore s državnim institucijama i zaključuje poslove s agencijama i vojskom, odnosno s okruženjem u kojem se obično očekuje nulta tolerancija prema NSFW sadržaju. Međutim, iako su raniji javni ispadi Groka u kreiranju nedozvoljenih dipfejkova i materijala sa seksualnim zlostavljanjem djece pokrenuli brojne tužbe i istrage, još nije jasno da li su ti incidenti uticali na saradnju sa saveznom vladom.