Unapređenje javne uprave primenom veštačke inteligencije

Redakcija časopisa „Pravo u privredi i pravosuđu” razgovarala je sa Bogdanom Steševićem, rukovodiocem grupe za razvoj i primenu veštačke inteligencije u javnoj upravi u Kancelariji za informacione tehnologije i elektronsku upravu, o perspektivi veštačke inteligencije u državnoj upravi i njenoj implementaciji, uspostavljanju državnih data centara i njihovoj važnosti, suverenitetu podataka i korišćenju ChatGPT alatima u svakodnevnom poslu.

Kako u praksi izgleda radni dan rukovodioca za AI u državnoj upravi? Kako balansirate između administrativnih i regulatornih procedura s jedne strane, i brze, agilne prirode razvoja AI tehnologija s druge?

Iskreno, ne postoji tipičan radni dan. Nekad je to dan pun sastanaka sa institucijama koje žele da uvedu AI u svoje procese, nekad radimo sa tehničkim timovima na konkretnim rešenjima, a nekad se najviše bavimo pitanjima bezbednosti, podataka, regulative i planiranjem.

Ono što je stalno jeste ta potreba da spojimo dva sveta. S jedne strane, državna uprava ima procedure, pravila i odgovornost prema građanima. S druge strane, AI tehnologije se menjaju izuzetno brzo. Zadatak Kancelarije za IT i eUpravu je da bude pokretač inovacija u državnoj upravi i u primeni novih tehnologija, ali i da ne dozvoli da brzina ugrozi bezbednost, privatnost ili kvalitet javnih usluga.

Zato često radimo kroz pilot-projekte. Prvo testiramo, proveravamo rezultate, gledamo gde postoje rizici, pa tek onda širimo primenu.

Naš početak rada sa veštačkom inteligencijom je vezan za AI infrastrukturu, gde već skoro pet godina imamo vidljive rezultate, a sada smo dosta svog rada i pažnje posvetili razvoju i primeni AI, i kada vidim gde smo pre tačno godinu dana bili, a koliko sada AI projekata imamo, što realizovanih što u fazi razvoja, mogu da kažem da smo zadovoljni postignutim ali i sa generalnom zainteresovanošću državne i javne uprave za korišćenjem veštačke inteligencije.

U vremenu kada je konkurencija na tržištu rada izražena i jaka kada su u pitanju AI inženjeri i data scientist-i, sa kakvim se izazovima suočavate prilikom zapošljavanja i zadržavanja vrhunskih IT stručnjaka u državnoj upravi, i šta je njihov najveći motiv da rade u vašem timu?

Najveći izazov je što se za iste ljude takmičimo sa privatnim sektorom, velikim kompanijama i međunarodnim tržištem. AI inženjeri, data scientist-i i stručnjaci u ovim oblastima danas imaju dosta opcija.

Državna uprava ne može uvek da se takmiči samo visinom plate, ali može da ponudi nešto što je mnogim ljudima veoma važno - rad na projektima koji imaju širi društveni značaj. Ovde ne pravite alat koji će koristiti samo jedna kompanija, već rešenja koja mogu da olakšaju život građanima, privredi i samim institucijama.

Ljude dodatno motiviše to što mogu da rade sa ozbiljnom infrastrukturom, velikim sistemima, istraživačima i međunarodnim partnerima. A za nekoga ko želi da ostavi trag, to je vrlo jak motiv.

Kancelarija je, od svog osnivanja 2017. godine, uspostavila i izgradila dva državna data centra. U Državnom data centru u Kragujevcu, koji smo otvorili 2020. godine i koji je jedan od samo dva Državna data centra u celoj Evropi sa najvećim mogućim nivoom pouzdanosti, je instaliran i prvi nacionalni superkompjuter, na kome rade fakulteti, instituti i domaće startap kompanije i koji je dobio i međunarodna priznanja. I u Državnim data centrima, kao i na superkompjuteru radi veliki broj mladih stručnjaka koje je privuklo to što mogu da rade na takvoj infrastrukturi koja je retko dostupna negde drugde. To za njih znači brži lični razvoj i sticanje specifičnih veština koje su veoma tražene u današnje vreme.

Sa popularnošću alata poput ChatGPT, neki zaposleni mogu pribeći korišćenju AI na poslu. Da li vaša Grupa radi na kreiranju internih smernica i kodeksa ponašanja za zaposlene u javnoj upravi po pitanju bezbedne upotrebe AI alata?

Da, i to je nešto što smatramo veoma važnim. Državna uprava već koristi alate poput ChatGPT, ili će ih sve više koristiti, i zato je bolje da imaju jasna pravila nego da se ta upotreba dešava stihijski.

Ne želimo da pristup bude: „AI je zabranjen”. Naprotiv, AI može mnogo da pomogne u svakodnevnom radu. Ali mora da se zna šta nikako ne sme da se radi. Na primer, ne smeju se unositi lični podaci građana, poverljivi dokumenti ili interni materijali u javno dostupne alate.

Takođe, važno je da zaposleni znaju da AI nije nepogrešiv. Sve što alat predloži mora da se proveri, posebno kada je reč o informacijama koje utiču na prava građana ili odluke institucija.

U skladu sa svim ovim, Kancelarija ima svoje interne procedure i direktive o korišćenju AI alata, a takođe već neko vreme radimo i obuke za državne službenike za bezbedno korišćenje generativne AI, gde nam je cilj da obučimo 500 državnih službenika da koriste Microsoft Copilot za svoje dnevne poslove. Ovo je i iz bezbednosnih razloga logična odluka, s obzirom da državna uprava koristi Microsoft operativni sistem i alate.

Takođe, striktne procedure smo izradili i u okviru sertifikacije ISO 42001 Kancelarije, za menadžment AI sistema, pa i tu imamo jasno definisana pravila.

Kancelarija za IT i eUpravu je pokrenula projekat razvoja velikog nacionalnog jezičkog modela za srpski jezik. Koliko resursa i procesorskog vremena novog superkompjutera je posvećeno isključivo ovom projektu i kada građani mogu da očekuju prve konkretne eUsluge pokretane domaćim AI modelom?

Razvoj velikog jezičkog modela za srpski jezik je jedan od najvažnijih projekata, jer nam je potreban AI koji dobro razume naš jezik, naše propise, administrativni stil i kontekst u kojem funkcioniše javna uprava, ali i celokupni kulturni i istorijski kontekst naše zemlje.

Ne bih izlazio sa fiksnim procentima zauzetosti superkompjutera, jer se ti resursi ne dodeljuju jednom zauvek. Oni se raspoređuju u zavisnosti od faze projekta - drugačije potrebe imate kada model trenirate, drugačije kada ga testirate, a drugačije kada ga prilagođavate za konkretnu uslugu.

Ono što je sigurno, je da će u nekim kraćim trenucima, biti potrebno korišćenje većeg dela novog superkompjutera jer to zahteva i sama veličina modela i podataka.

Građani će prve efekte najverovatnije videti kroz praktične alate: pametnije pretrage, AI asistente za elektronske usluge, poput ovoga koji smo mi razvili za naš Portal eUprava, brže dobijanje odgovora i bolju podršku službenicima koji obrađuju zahteve. Važno je da ne obećavamo.

Prvi cilj je da generalni jezički model razvijemo i testiramo pre početka Gitex konferencije koja će se sledeće godine održati u okviru Expo 2027, a nakon toga ćemo raditi u više pravaca kako bismo kreirali domenski specifične modele, korisne alate i servise koji se baziraju na tim modelima.

Nedavno je pokrenut javni poziv „Efikasnija uprava uz pomoć veštačke inteligencije” u saradnji sa UNDP-om. Koje su to administrativne procedure i eUsluge koje vaša Grupa targetira kao prioritetne za transformaciju uz pomoć superkompjutera?

Poziv smo uputili javnoj upravi i dobili skoro 70 prijava, što dosta govori o zainteresovanosti za primenu AI. Prioritet su nam procesi koji su masovni, ponavljajući i koji građanima ili službenicima danas oduzimaju mnogo vremena. To su razne vrste zahteva, potvrda, provera dokumentacije, odgovori na česta pitanja, kao i obrada velikog broja predmeta.

AI tu može da pomogne tako što će ubrzati pretragu informacija, predložiti sledeći korak, proveriti da li dokumentacija nedostaje ili pomoći službeniku da brže dođe do relevantnog propisa.

Ali važno je naglasiti: AI ne treba da zameni odgovornost čoveka. On treba da bude podrška. Konačna odluka, naročito kada utiče na prava građana, mora ostati pod ljudskim nadzorom.

Ovaj vid AI automatizacije smo već radili i znamo kako da na bezbedan način razvijemo i integrišemo u postojeće sisteme, a znamo i kakve rezultate može da pruži kroz ubrzanje raznih administrativnih procedura, ali i sve to uz manji procenat grešaka u odnosu na klasičnu obradu koju rade ljudi.

Kada država razvija sopstvene AI sisteme na osetljivim podacima građana u Državnom data centru, pitanje suvereniteta podataka je ključno. Kako vaša Grupa balansira između korišćenja globalnih otvorenih kodova (open-source) i kreiranja potpuno zatvorenih, bezbednih modela unutar državnog cloud-a?

Mi ne gledamo na open-source i zatvorene sisteme kao na suprotnosti. Open-source rešenja su izuzetno korisna jer ubrzavaju razvoj, omogućavaju veću transparentnost i smanjuju zavisnost od jednog dobavljača.

Zato je pristup uglavnom hibridan. Koristimo ono najbolje iz globalne AI zajednice, ali modele prilagođavamo našim potrebama i pokrećemo ih u okruženju koje država može da kontroliše. Cilj je da budemo otvoreni za inovacije, ali zatvoreni za bezbednosne rizike. Iz tog razloga smo i nabavili i instalirali sopstvenu AI infrastrukturu, kako bi svi podaci ostali u zemlji, a pre toga i izgradili data centre.

Ali kada govorimo o podacima građana, tu nema kompromisa. Osetljivi podaci moraju da ostanu u kontrolisanom, bezbednom okruženju, u skladu sa zakonima i pravilima zaštite podataka, mada i tu ima zabuna jer možete da pomislite da je za AI modele neophodno koristiti lične podatke građana, što nije tačno. Veliki broj modela se razvijaju bez tih podataka, jer oni i nemaju svrhu za sâm rad modela, prosto ne čine ga boljim, a kada je i potrebno da AI model zna da razlikuje šta je ime, šta lični broj građana, šta adresa, tu postoji više tehnika uklanjanja ili zamene tih podataka, pa se lični podaci ne koriste u treniranju modela.

U svakom slučaju, naš princip je ostao isti, sve što se razvija ili primenjuje mora da bude u okviru naše suverene državne infrastrukture.

Sa puštanjem u rad novih superkompjuterskih kapaciteta u Kragujevcu, pritisak istraživača, startapova i državnih organa na resurse će rasti. Na osnovu kojih tehničkih i strateških kriterijuma vaša Grupa procenjuje koji projekat zaslužuje prioritetno vreme za treniranje svojih modela?

Do sada smo uspevali da nađemo prostora za sve potrebe naših korisnika, ali pošto smo popunili sve kapacitete prvog superkompjutera morali smo da proširimo te kapacitete novim superkompjuterom, a i treći superkompjuter će stići krajem godine. Naravno, ne može svaki projekat imati isti prioritet, zato moramo da imamo jasne kriterijume. Gledamo nekoliko stvari: koliko je projekat važan za domen u kome se radi, koliko je tehnički zreo, da li ima jasne i dostupne podatke, realan plan i merljive rezultate.

Ovo je globalna praksa, pa se pristup i drugim velikim superkompjuterima daje kroz isti model gde se procenjuje veličina projekta, njegovi predviđeni rezultati i uticaj, količina resursa koji se traže. Tu postoje razlike u projektima i samim potrebama korisnika koji dolaze iz naučno-istraživačkog domena i onih koji dolaze iz startap zajednice, pa je bitno da se i princip po kome se odlučuje razlikuje za ta dva modela. Različiti su ciljevi i uticaji projekta kada se radi na naučnoj bazi i kada se razvija neki konkretan proizvod koji se bazira na AI.

Tradicionalna eUprava se bazira na elektronskim obrascima i bazama podataka. Koja je Vaša vizija sledećeg koraka - prelazak na „pametnu upravu” - i gde će građani najbrže osetiti tu promenu (npr. proaktivne usluge koje država nudi pre nego što ih građanin zatraži)?

Tradicionalna eUprava je uglavnom značila da umesto šaltera imate elektronski obrazac. To je bio veliki korak, ali sledeća faza je da uprava postane još proaktivnija.

To znači da država ne čeka da građanin pokrene postupak, već da mu, tamo gde je to moguće i zakonito, sama ponudi uslugu. Na primer, ako država već ima podatke da građanin ostvaruje neko pravo, sistem može da ga obavesti ili pokrene proces bez nepotrebnog prikupljanja iste dokumentacije. Mi već imamo neke usluge koje tako funkcionišu. Primer bi bio eBeba u kojoj se niz administrativnih procedura automatski pokreće i završava, u korist građana, bez potrebe za pokretanjem pojedinačnih usluga ponaosob.

Građani će tu promenu najbrže osetiti kroz manje odlazaka na šaltere, manje papira, manje ponavljanja istih podataka i brže rešavanje zahteva. Za mene je pametna uprava ona koja građaninu štedi vreme i mislim da smo uveliko u tome i do sada uspeli. Ono čime se sada bavimo je da dodatno ubrzamo i olakšamo pokretanje tih usluga i dobijanje potrebnih informacija ili dokumenata, putem primene AI alata.

Naš AI asistent na Portalu eUprava se koristi svakodnevno. Preko 40.000 konverzacija se obavi mesečno sa građanima i njega vidimo kao mesto gde će krajnji korisnici moći da kompletnu proceduru ili uslugu završe u komunikaciji sa njim.

Srbija je među prvima usvojila Etičke smernice za razvoj, primenu i upotrebu pouzdane i odgovorne veštačke inteligencije. Na koji način vaša Grupa u svakodnevnom radu kontroliše da li projekti koje razvijate ili odobravate ispunjavaju ove stroge etičke i pravne standarde?

Etika u AI ne sme da bude nešto što se proveri na kraju projekta. Ona mora da bude deo razvoja od prvog dana.

To znači da već na početku gledamo koje podatke projekat koristi, da li postoji pravni osnov, da li postoji rizik od diskriminacije, koliko je sistem transparentan i da li je obezbeđen ljudski nadzor.

Posebno vodimo računa o tome da AI ne postane „crna kutija” u oblastima koje su važne za građane. Ako sistem nešto preporuči ili označi, mora da postoji način da se razume zašto se to dogodilo i da čovek može da proveri odluku.

Poverenje građana je ključno. Bez poverenja, ni najbolja tehnologija neće imati pravi efekat.

Pre početka AI projekata smo imali sastanak i sa Poverenikom za zaštitu podataka o ličnosti, jer smatramo da saradnja i razumevanje procesa mora da postoji kako bismo na bezbedan i pravičan način razvili i primenili određeno AI rešenje. Možda u početku zahteva dodatnog napora i posla, ali bi morala da bude obaveza svih činilaca AI ekosistema u zemlji, koji se bave razvojem i primenom AI, da sve etičke i pravne aspekte zadovolje i da mogu da ih dokažu kroz izradu dokumenata, poput procene rizika koju donosi obrada podataka putem veštačke inteligencije.

AI regulativa se globalno menja neverovatnom brzinom (poput EU AI Act-a). Koliko blisko sarađujete sa međunarodnim partnerima i kako usklađujete domaće AI projekte sa evropskim i svetskim standardima, a da pritom ne usporite lokalne inovacije?

Kancelarija je učestvovala u pisanju prve strategije razvoja AI u Srbiji, kao i već pomenutih Etičkih smernica. Učestvovali smo i u pisanju druge Strategije za razvoj AI u Srbiji, koje su usvojene početkom prošle godine, a učestvujemo i u pisanju prvog Zakona o veštačkoj inteligenciji, koji će biti umnogome zasnovan upravo na EU AI Act-u.

Smatram da se veštačka inteligencija ne razvija u izolaciji. Pratimo šta se dešava u Evropskoj uniji, posebno oko AI Acta, ali i šire - kroz saradnju sa međunarodnim organizacijama, razmenu iskustava i rad sa partnerima koji već imaju razvijene modele upravljanja AI rizicima.

Naš cilj je da domaći projekti budu usklađeni sa evropskim standardima, ali i da ne napravimo sistem koji je toliko komplikovan da zaustavi inovacije. Regulativa treba da omogući siguran razvoj, a ne da obeshrabri ljude da razvijaju nova rešenja.

Zato pokušavamo da radimo pragmatično: visoki standardi za rizične sisteme, jasna pravila za zaštitu podataka i ljudski nadzor, ali i prostor za eksperimentisanje, pilot-projekte i inovacije u kontrolisanom okruženju. Naravno, pratimo i da li će EU AI act pretrpeti neke izmene, pod pritiskom bržeg razvoja veštačke inteligencije u Americi, Kini i drugim zemljama dalekog zapada i istoka.