Zašto razina automatizacije mora biti popraćena jednakom razinom revizijskog traga, i gdje se povlači granica između ilustrativne simulacije i stvarne poslovne odluke.
Razina automatizacije koju organizacija uvodi mora biti popraćena jednakom razinom revizijskog traga — inače brzina postaje izvor rizika, a ne prednosti.
Posljednjih nekoliko godina gotovo svaka organizacija koja se ozbiljno bavi digitalizacijom suočila se s istim pitanjem: koliko duboko automatizirati odlučivanje, a da se pritom ne izgubi sposobnost objašnjenja zašto je neka odluka donesena. Odgovor koji se sve češće čuje u praksi glasi da tehnička izvedivost automatizacije nikada ne smije biti jedini kriterij. Jednako važno pitanje glasi može li organizacija u svakom trenutku pokazati tko je, kada i na temelju čega nešto odobrio, promijenio ili odbacio.
Dok se automatizacija donedavno promatrala prvenstveno kroz prizmu učinkovitosti — brže obrade, manje ručnog rada, veći obujam — regulatorna i tržišna očekivanja pomaknula su fokus prema dokazivosti. Nije dovoljno da sustav donese ispravnu odluku; mora postojati trag koji pokazuje na temelju kojih podataka, pravila i odobrenja je ta odluka nastala. Bez takvog traga, brza automatizacija zapravo ubrzava širenje neizvjesnosti, a ne smanjuje je.
To osobito vrijedi za procese koji izravno utječu na financijske izvještaje, ugovorne obveze ili javne objave. Ako sustav automatski predlaže tekst, klasificira rizik ili raspoređuje zadatke, uprava mora imati jasan odgovor na pitanje je li ta preporuka prošla ljudsku provjeru prije nego što je postala dio stvarnog poslovnog procesa.
U praksi je korisno razlikovati barem tri razine na kojima automatizirani ili algoritamski sustavi mogu djelovati unutar organizacije, jer svaka nosi drugačiji stupanj rizika i drugačije zahtjeve za nadzor.
Prva razina obuhvaća internu obradu podataka bez izravnog vanjskog učinka — sortiranje, klasifikaciju, prijedloge za daljnju analizu. Ovdje je pogreška relativno jeftina jer je odmah vidljiva unutar organizacije i lako se ispravlja.
Druga razina obuhvaća pripremu sadržaja ili preporuka koje čovjek mora eksplicitno odobriti prije nego što postanu vidljive izvan organizacije — nacrti objava, prijedlozi ugovornih izmjena, procjene rizika koje voditelj mora potvrditi. Ovdje je ključno da odobrenje bude stvarno, a ne formalnost bez sadržaja.
Treća razina obuhvaća stvarne, izvršene poslovne odluke s pravnim ili financijskim učinkom. Za tu razinu ne postoji zamjena za ljudsku odgovornost, koliko god sustav bio sofisticiran u pripremi podloge za odlučivanje.
Jedan od najčešćih izvora zabune u javnoj komunikaciji o digitalnoj transformaciji jest miješanje ilustrativnih, edukativnih prikaza rada algoritamskih sustava sa stvarnim poslovnim odlukama. Prikaz koji ilustrira kako bi automatizirani proces mogao izgledati — s vizualiziranim tijekom rada, simuliranim pokazateljima napretka ili sintetičkim primjerima — ima jasnu edukativnu vrijednost. No ta vrijednost postoji upravo zato što je transparentno označena kao ilustrativna, a ne kao izvor stvarnih poslovnih ili financijskih tvrdnji.
Organizacije koje javno prikazuju koncepte automatizacije trebale bi dosljedno označavati je li prikaz demonstracija koncepta ili stvaran operativni sustav s pravim posljedicama. Ta razlika nije kozmetička: ona određuje razinu povjerenja koju čitatelj ili partner opravdano može pridati prikazanim brojkama.
Europski regulatorni okvir za umjetnu inteligenciju sve jasnije razlikuje sustave prema razini rizika koji njihova primjena nosi, pri čemu sustavi koji utječu na financijske, pravne ili sigurnosne ishode podliježu strožim zahtjevima za dokumentaciju, nadzor i mogućnost ljudske intervencije. Neovisno o konačnom obliku pojedinačnih propisa, smjer je jasan: teret dokazivanja premješta se s pitanja je li sustav točan na pitanje je li njegov rad dokumentiran, objašnjiv i nadziran.
Za organizacije to znači da ulaganje u revizijski trag, jasne uloge odobravanja i dokumentaciju izvora podataka nije administrativni trošak koji usporava inovaciju, nego preduvjet za to da se automatizacija uopće može sigurno skalirati.
Za upravljačka tijela to se svodi na nekoliko konkretnih pitanja koja vrijedi redovito postavljati: koje odluke unutar organizacije danas nastaju uz pomoć automatiziranih sustava; postoji li za svaku od njih jasno definirana razina odobrenja; je li ta razina stvarno primijenjena u praksi, a ne samo zapisana u internom pravilniku; i može li se u svakom trenutku rekonstruirati tko je, kada i na temelju kojih podataka donio konkretnu odluku.
Organizacije koje na ta pitanja mogu odgovoriti s pouzdanjem u boljoj su poziciji ne samo prema regulatoru, nego i prema vlastitim ulagačima, partnerima i zaposlenicima — jer povjerenje u digitalne procese raste s razinom transparentnosti, a ne s brzinom kojom su ti procesi uvedeni.
Automatizacija i algoritamsko odlučivanje ostaju among najvažnijih poluga poslovne učinkovitosti idućeg desetljeća. No njihova dugoročna vrijednost ne mjeri se isključivo brzinom kojom ubrzavaju procese, nego sposobnošću organizacije da u svakom trenutku objasni, dokumentira i po potrebi ispravi svaku odluku koja iz njih proizlazi. Razlikovanje ilustrativnog od stvarnog, i dosljedno označavanje te razlike prema javnosti, ostaje jedan od najjednostavnijih, a najčešće zanemarenih koraka prema tom cilju.
Objava je originalna analiza; navedeni izvori služe kao referentna dokumentacija.
#TransparentnostAI #KorporativnoUpravljanje #RevizijskiTrag #DigitalnaTransformacija #NerminSefic #NerminSefić #GNKASG #GNKDINAMOLtd
Urednička odgovornost: objavu je prije objave odobrio glavni urednik Nermin Sefić.
Cjelovit tekst i izvor: https://gnk-asg.hr/objave/transparentnost-ai-sustava-korporativno-upravljanje/
Autor i urednička odgovornost: Nermin Sefić. Izdavač: GNK ASG d.o.o..
#GNKASG #GNKDINAMOLtd #NerminSefic #BusinessIntelligence #korporativnoupravljanje #revizijskitrag #automatizacija #odgovornostuprave
