Revizori u BiH spremaju se za vještačku inteligenciju: Pravila igre tek treba napisati

Vještačka inteligencija polako ulazi u javni sektor Bosne i Hercegovine, a među institucijama koje već razmatraju kako koristiti nove tehnologije nalazi se i Ured za reviziju institucija BiH.

Iako se zasad ne govori o tome da će algoritmi preuzeti posao revizora, pitanje primjene AI-ja više očigledno nije samo teorijsko. U Sarajevu je u maju održan stručni seminar predstavnika Ureda za reviziju institucija BiH i Državnog ureda za reviziju Republike Hrvatske upravo o mogućnostima, ali i rizicima korištenja vještačke inteligencije u reviziji.

Iza naizgled stručne teme krije se pitanje šta će se dogoditi kada državne institucije počnu masovnije koristiti AI i ko će kontrolisati način na koji ga koriste?

"Seminar je otvorio brojna pitanja u svezi s budućom primjenom AI-ja u radu vrhovnih revizijskih institucija, uz zaključak kako VRI trebaju biti pioniri, ali i uzori u odgovornoj i racionalnoj primjeni vještačke inteligencije. Posebno je naglašena potreba vođenja računa o rizicima, etičkim pitanjima, odgovornostima i racionalnom korištenju javnih sredstava", naveli su iz Ureda.

Istaknuto je i kako će se, osim pitanja primjene AI-ja u radu revizijskih institucija, neminovno otvarati i pitanje korištenja AI-ja u institucijama javnog sektora, što pred vrhovne revizijske institucije postavlja zahtjev za razvijanjem internih kapaciteta, jačanjem stručnih znanja i provedbom kontinuiranih obuka u ovoj oblasti.

AI može pregledati hiljade dokumenata

Revizorske institucije predstavljaju gotovo idealan primjer poslova u kojima bi vještačka inteligencija mogla imati praktičnu primjenu.

Revizori rade s velikim količinama finansijskih podataka, ugovora, izvještaja, pravilnika, odluka i druge dokumentacije. Upravo su analiza podataka i obrada velikog broja dokumenata među poslovima u kojima savremeni AI sistemi mogu značajno ubrzati rad.

Tehnologija bi, na primjer, mogla pomoći pri pretraživanju velikih količina dokumentacije, pronalaženju neuobičajenih obrazaca u podacima, poređenju dokumenata ili pripremi materijala za daljnju analizu revizora.

To ne znači da bi AI donosio konačne revizorske zaključke.

Naprotiv, što se tehnologija više koristi u osjetljivim poslovima javnog sektora, važnije postaje pitanje ljudske kontrole nad rezultatima koje proizvodi.

Upravo su zato na seminaru posebno istaknuti rizici, etička pitanja, odgovornost i racionalno korištenje javnog novca.

Hrvatska već razvija pravila

Za BiH bi posebno moglo biti zanimljivo iskustvo susjedne Hrvatske.

Predstavnici Državnog ureda za reviziju Republike Hrvatske u Sarajevu su predstavili iskustva u razvoju normativnog okvira za korištenje vještačke inteligencije, ali i rezultate istraživanja spremnosti institucija javnog sektora za primjenu novih tehnologija.

Predstavnici bh. Ureda, s druge strane, predstavili su vlastita istraživanja potencijala primjene AI-ja u vrhovnim revizijskim institucijama, uključujući koristi i rizike, kao i rezultate istraživanja među članicama EUROSAI-ja.

To pokazuje da se pitanje AI-ja više ne posmatra samo kroz tehnološku prizmu.

Ako institucija koristi sistem vještačke inteligencije, mora se znati koje podatke taj sistem smije obrađivati, gdje se oni čuvaju, ko ima pristup rezultatima i, možda najvažnije, ko odgovara ako AI napravi grešku.

Ko odgovara kada pogriješi algoritam?

U privatnom sektoru greška AI sistema može značiti poslovni gubitak. U javnom sektoru posljedice mogu biti mnogo ozbiljnije.

Državne institucije raspolažu ličnim podacima građana, finansijskim informacijama, ugovorima, javnim nabavkama i dokumentima koji nisu uvijek namijenjeni javnosti.

Unošenje takvih podataka u neadekvatno kontrolisane AI sisteme moglo bi otvoriti pitanja zaštite povjerljivih informacija.

Postoji i drugi problem.

AI sistemi mogu proizvesti uvjerljiv odgovor koji nije nužno tačan. Ako bi se takav rezultat nekritički koristio u revizijskom postupku, tehnološka pomoć mogla bi postati novi izvor grešaka.

Zbog toga će ljudska provjera ostati ključna čak i tamo gdje AI značajno ubrza posao.

Revizori će uskoro morati kontrolisati i tuđi AI

Postoji još jedan razlog zbog kojeg je ova tema posebno važna za revizorske institucije.

Nije pitanje samo hoće li revizori koristiti vještačku inteligenciju.

Mnogo veći izazov mogao bi nastati kada AI počnu koristiti institucije koje revizori kontrolišu.

Ministarstva, agencije, fondovi i druga javna tijela u budućnosti bi mogla nabavljati različite AI sisteme, automatizovati administrativne procese ili koristiti algoritme prilikom obrade velikih količina podataka.

Tada će revizori morati znati procijeniti ne samo je li određeni sistem zakonito nabavljen i koliko je plaćen nego i koristi li se odgovorno, daje li pouzdane rezultate i postoje li odgovarajući mehanizmi kontrole.

Upravo je na seminaru naglašeno da takav razvoj pred vrhovne revizijske institucije postavlja zahtjev za jačanjem stručnih znanja, internih kapaciteta i kontinuiranom edukacijom zaposlenih.

AI će otvoriti i pitanje javnog novca

Posebno zanimljivo bit će pratiti koliko će javni sektor u narednim godinama trošiti na AI.

Uz softverske licence dolaze troškovi infrastrukture, integracije sistema, održavanja, zaštite podataka, edukacije zaposlenih i angažovanja vanjskih kompanija.

Drugim riječima, razvoj AI-ja mogao bi otvoriti potpuno novo tržište javnih nabavki.

A upravo će revizorske institucije vjerovatno biti među onima koje će morati provjeravati da li je taj novac potrošen racionalno.

Zato zaključak seminara da vrhovne revizijske institucije trebaju biti „pioniri, ali i uzori“ u odgovornoj primjeni vještačke inteligencije ima šire značenje.

Institucije koje će sutra kontrolisati kako drugi troše javni novac na AI prvo će morati pokazati kako se ista tehnologija može odgovorno koristiti u njihovim vlastitim redovima.

Vještačka inteligencija tako pred vrata bh. administracije ne donosi samo mogućnost bržeg rada.

Donosi i nova pitanja o novcu, odgovornosti, zaštiti podataka i kontroli algoritama.

A upravo bi odgovori na ta pitanja mogli odrediti hoće li AI u javnom sektoru postati alat za efikasniju administraciju ili samo još jedna skupa stavka u budžetima institucija.