Vještačka inteligencija (AI) i mašinsko učenje (ML) nisu više daleka budućnost – oni su već danas dio poslovnih procesa u bankama, osiguranjima, industriji i javnom sektoru. Donose ogromne prilike: bolje predikcije, brže odluke, smanjenje troškova i otkrivanje novih obrazaca. Ali, zajedno sa tim prilikama dolazi i cijeli niz novih rizika koje tradicionalni okviri upravljanja teško mogu obuhvatiti.
U ovoj transformaciji otvara se i jedno ključno pitanje: šta će biti nova uloga risk manager–a, ne ako, već kada AI preuzme i dio njegovih dosadašnjih poslova, a istovremeno donese potpuno nove izvore rizika?
Iako BiH tradicionalno kasni za svijetom u implementaciji novih tehnologija, mada se u posljednjih nekoliko godina taj time lag smanjio, sve je jasnije da ubrzo možemo biti suočeni sa zahtjevima za novim vještinama, ili već jesmo.
Do sada nam je glavna briga bila naći RM-a, a sada već razmišljamo kako ga prekvalificirati za novu ulogu.
Novi rizici koje AI i ML donose
Prva stvar koju treba jasno reći: AI nije samo još jedan alat, on je generator novih tipova rizika, (ako ništa uloga risk manager-a je sigurna zbog novih rizika koje neko treba držati pod kontrolom). Na blogu o rizicima AI i ML mozemo vidjeti koliko je tu novih ili pod kapom starih rizika koje ove nove tehnologije donose. Ključno je spomenuti da u svakoj oblasti upravljanja rizicima je bitno poznavanje barem konceptualno i blago tehnološko u dijelu upravljanja Rizikom Modela.
Još nije jasan okvir gdje bi se smjestilo upravljanje AI rizicima, ali nekako najprirodnije se trenutno čini u funkciju upravljanja rizicima modela. Nekoliko primjera rizika ML u bankarstvu u modelima upravljanja rizicima: Bias u kreditnom skoringu, neobjasnjivi output-i u fraud detection modelima, overffiting u modelima koji upravlja rizikom likvidnoscu i sl. Tu su jos i AI ili ML modeli koji nisu u oblasti u upravljanja rizicima, prodaja, marketing, HR i dr.
Uzimajući u obzir pokazatelje kvaliteta aktive i rizika likvidnosti posljednih godina, sve manje se očekuje od banaka da budu izložene tim tradicionalnim rizicima, jer su za njih već ustaljeni okviri upravljanja i kontrole, trebalo bi barem, ali zato sve više sa razvojem tehnologije pa i pri upravljanju tim tradicionalnim rizicima dolazi na scenu upravljanjem rizikom modela.
Uz to sve postoje ne tako eksplicitna supervizorska očekivanja i regulatorna tromost i neizvjesnost: Okviri poput EU AI Act-a tek su u implementaciji. Propisi se mijenjaju, a organizacije moraju upravljati rizicima u okruženju koje se mijenja nestvarnom brzinom a bez jasnih pravila. Iskustvo iz prethodnih regulatornih odluka naslućuje potrebu za dokumentovanosti rizika modela za AI sisteme, ocekivali bismo i “human in the loop” zahtjev kod Visokorizičnih modela, povezanost AI upravljačke strukture sa ESG okvirom (očekivano S i G više nego E).
Za RM-a ovo znači – ne radi se više samo o praćenju kreditnog, tržišnog ili operativnog rizika. Radi se i o razumijevanju kako tehnologija za praćenje tih vrsta rizika sama po sebi postaje izvor rizika.
Stara uloga u novom ruhu
Nakon što smo sagledali nove rizike, pogledajmo kako bi se mijenjala sama uloga risk managera. Tradicionalno, RM je čuvar balansa između poslovnih ambicija, regulatornih zahtjeva i opreznog upravljanja. Kod AI/ML-a to dobija novu dimenziju:
- Više nije dovoljno pratiti isključivo finansijske pokazatelje – potrebno je razumjeti principe rada algoritama. Da li algoritam daje očekivani rezultat? Kod AI i ML algoritama, uobičajeno je upravo ex-post testiranje.
- Risk manager postaje prevodilac između data scientista i višeg menadžmenta – on mora tehničke aspekte pretočiti u jezik rizika, kapitala i reputacije.
- Validacija modela se pretvara u interdisciplinarnu aktivnost koja uključuje statistiku, IT, pravo i etiku.
Drugim riječima: risk manager se mora podići na viši nivo – od izvršioca do strateškog partnera.
Profil RM budućnosti: kombinacija regulatornog znanja, osnovnog tehničkog razumijevanja AI i ML i sposobnosti strateške komunikacije. U najmanju ruku za očekivati su i nove uloge: AI risk analyst ili Model Governance Oficir.
Observacija kreiranje slike: Prompt: Difference between (old) traditional risk manager and new risk manager. Doradjen prompt nekoliko puta zbog nekoliko bias-a: gender, color of the skin i halucinacija u emocijama. Jedna od bitnih stavki kod korištenja i upravljanja AI jeste adekvatnost prompta, za smanjenje rizika.
AI risk governance: novi okvir upravljanja
Ako danas imamo ICAAP i ILAAP kao stubove upravljanja kapitalom i likvidnošću, sutra možemo očekivati i AI governance kao stub povjerenja u tehnologiju.
RM tu ima ključnu ulogu:
- Definisati okvir identifikacije, mjerenja, mitigacije i izvještavanja o AI rizicima.
- Koordinirati rad AI governance komiteta, gdje se okupljaju risk, compliance, IT i biznis.
- Jasno razgraničiti odgovornosti – šta je na developerima, šta na kontrolnim funkcijama, a šta na menadžmentu.
Bez ovakvog okvira, AI ostaje u sivoj zoni – moćan alat bez jasne odgovornosti.
Od manuelnog rada ka AI podršci
No, transformacija ne ide samo u smjeru novih rizika. Ona zadire i u sami radni dan RM-a.
- Današnja realnost: Ogroman dio vremena troši se na skupljanje podataka, ručno ažuriranje excel tabela, pripremu izvještaja za regulatora, odbore, vlasnika i beskrajan “ručni rad” (Skoro da se primjena AI čini nemogućim)
- Posljedice: Fokus se gubi na formu umjesto na suštinu – i tako je već godinama
- Šta AI mijenja: Automatizacija izvještavanja, brža agregacija podataka, otkrivanje anomalija u realnom vremenu.
Drugim riječima, fingers crossed – od AI bismo očekivali da ukine dio manuelnog posla i oslobodi prostor da se risk manager posveti analizi, scenarijima i donošenju strateških smjernica. To jest na posao koji donosi značajnu dodatnu vrijednost organizaciji.
Učenje kao preduslov opstanka
Ovdje dolazimo do najvažnije tačke: bez novih znanja, RM se izlaže novom izvoru stres-a.
- Tehnički nivo: Potrebno je razumjeti osnove AI i ML algoritama, data pipeline-a i zahtjeve za razvojom, testiranjem, validiranjem i monitoringom modela. Ne mora RM programirati, ali mora barem znati postavljati prava pitanja.
- Suštinski nivo: Fokus ostaje na interpretaciji, etici i regulativi – jer brojevi i rezultati same po sebi ništa ne znače bez ljudskog prosuđivanja.
- Praksa: Prekvalifikacija nije jednokratna – radi se o kontinuiranom učenju i usvajanju novih kompetencija.
Upravo ovdje leži i prilika za organizacije: investirati u edukaciju risk timova znači investirati u buduću sigurnost poslovanja.
