Foto: Bug.hr
Umjetna inteligencija jest moćan alat, ali pojedini pravci njezine primjene pokazuju kako bi nas mogla odvesti digitalizirana automatizacija bez ljudskog nadzora, odgovornosti, konteksta i prosudbe. Bug.hr u analitičkom tekstu polazi od toga da se stvarna opasnost često ne pojavljuje u obliku filmske apokalipse s robotima, nego kroz administrativne odluke koje se donose bez jasnog objašnjenja i bez osobe koja bi preuzela odgovornost.
U središtu tog upozorenja nalazi se javna uprava, područje u kojem algoritmi mogu služiti za brže rješavanje predmeta, prepoznavanje sumnjivih obrazaca i borbu protiv prijevara. No upravo ondje automatizacija može postati posebno osjetljiva jer država ne upravlja običnom komercijalnom uslugom, nego odlučuje o pravima, naknadama, porezima, dozvolama, školovanju, boravku i socijalnoj pomoći. Ako takav sustav pogriješi, posljedice nisu iste kao kad web-trgovina pošalje krivi proizvod.
Kao primjer Bug.hr navodi nizozemski skandal s dječjim doplatcima, u kojem su roditelji koji su primali naknadu za čuvanje djece godinama označavani kao mogući prevaranti. Prema opisu slučaja, to se događalo na temelju rizičnih profila, sitnih administrativnih pogrešaka ili podataka poput državljanstva i migracijskog podrijetla. Naknade su bile obustavljane, traženo je vraćanje već isplaćenih iznosa, a dio obitelji nije znao zbog čega je završio u postupku sumnje.
Autor teksta pritom ističe da se pogrešna ili preširoka primjena umjetne inteligencije ne mora pojaviti samo u javnoj upravi. Upozorava na obrasce koji se mogu prepoznati i u drugim područjima, od korporativnog odlučivanja do sustava u kojima se nadzor, odgovornost i kontekst zamjenjuju automatiziranim procjenama. U tom okviru umjetna inteligencija nije predstavljena kao problem sama po sebi, nego kao tehnologija koja postaje opasna kada se koristi kao zamjena za ljudsku prosudbu.
Tekst zato razdvaja korisne smjerove razvoja od onih koji vode u slijepu ulicu. AI može pomagati u analizi velikih skupova podataka, pretraživanju literature, otkrivanju obrazaca u medicinskim slikama, modeliranju proteina, programiranju, prijevodu, obradi dokumenata, planiranju i edukaciji. No istodobno upozorava da se ti alati ne bi smjeli pretvarati u mehanizme koji skrivaju institucionalne probleme iza tehničkog sučelja i automatiziranih odluka.
Vezane vijesti
