Foto: Android Authority
Googleova manje poznata aplikacija AI Edge Gallery dobila je ažuriranje koje podržava Gemma 4, najnovije Googleove open-source modele, a to je autoru izvornog osvrta bio povod da joj ponovno da priliku. Riječ je o eksperimentalnoj aplikaciji koja je lansirana prije otprilike godinu dana, a sada ponovno dolazi u fokus zbog podrške za modele koji se preuzimaju izravno na uređaj i rade bez stalne veze s internetom.
Aplikacija je dostupna na Androidu i iOS-u, a testirana je na iPhoneu Air, Google Pixelu 10 Pro i Oppo Find X9 Ultra. Osnovna ideja je jednostavna: korisnik preuzima otvorene AI modele na svoj uređaj i zatim ih koristi za različite zadatke, uključujući opći chatbot, transkripciju zvuka, pitanja o slici i neke agentne zadatke. U praksi se ističu tri mogućnosti koje su posebno korisne kad mreža nije dostupna.
Prva je AI Chat, offline chatbot koji radi na samom uređaju i podržava tekst, glas i slike kao ulaz. Autor navodi da je sporiji od ChatGPT-a ili Geminija, ali da se izdvaja upravo zato što radi potpuno lokalno, bez interneta. Na letu za Tajland koristio ga je za osnovne fraze i za pitanja o nazivima filmova iz sustava za zabavu u zrakoplovu, kako bi dobio preporuke i okvirne IMDb ocjene. Model pritom ne može pristupiti internetu i oslanja se na podatke na kojima je treniran, pa korisnik mora postavljati pitanja u skladu s tim ograničenjem.
Druga mogućnost je audio scribe alat koji može transkribirati govor i prevoditi ga u hodu. Na uređajima koji mogu iskoristiti hardver, prijevod je opisan kao iznenađujuće brz, gotovo kao u namjenskim aplikacijama za prevođenje, i radi pouzdano i bez interneta. Treća korisna funkcija je rad sa slikama: moguće je priložiti fotografiju i postaviti pitanje o njezinu sadržaju. Autor navodi da mu je to pomoglo tijekom putovanja, posebno za prevođenje jelovnika i razumijevanje natpisa na drugim jezicima.
Jedna od prednosti tog pristupa je i to što se sve odvija na uređaju, pa se ne šalju slike na poslužitelj i ne čeka se odgovor iz oblaka. Ipak, aplikacija ima i ograničenja. Najveći problem koji autor izdvaja jest to što se razgovori ne spremaju, pa se ne može jednostavno vratiti na prethodnu nit razgovora kao u Geminiju ili ChatGPT-u. Druga zamjerka odnosi se na iskorištavanje hardvera na Androidu: na iPhoneima aplikacija koristi GPU za obradu, što je općenito brže za AI obradu, dok na Androidu Google, prema tom osvrtu, još ne koristi hardver u istoj mjeri.