Prikazani su postovi s oznakom revizijskitrag. Prikaži sve postove
Prikazani su postovi s oznakom revizijskitrag. Prikaži sve postove

srijeda, 7. listopada 2026.

Upravljanje rizikom umjetne inteligencije traži vlasnika, a ne samo pravila

Upravljanje rizikom umjetne inteligencije traži vlasnika, a ne samo pravila

Autor: Nermin Sefić

Upravljanje AI rizikom traži imenovanog vlasnika, klasifikaciju primjene, revizijski trag i jasnu točku ljudske odluke.

Pravilnik o uporabi umjetne inteligencije bez imenovane odgovorne osobe ostaje dokument koji nitko ne primjenjuje u spornom trenutku.

Organizacije koje uvode umjetnu inteligenciju u redovan rad u pravilu najprije napišu pravila o njezinoj uporabi. To je koristan prvi korak, ali sam po sebi rijetko dovoljan.

Pravilnik bez imenovane osobe koja odlučuje u spornim slučajevima ostaje dokument koji se citira nakon događaja, a ne primjenjuje prije njega. Sporni slučajevi nastaju upravo ondje gdje pravila nisu jednoznačna.

Odgovornost se ne dijeli tako da je nose svi. Nosi je netko imenovan, s ovlasti da zaustavi uporabu kad procijeni da je potrebno.

GNK ASG d.o.o. uporabu umjetne inteligencije unutar grupe vodi uz jasno određenu odgovornost za odluke koje iz nje proizlaze.

Drugi važan element je klasifikacija uporabe. Nije svaki AI zadatak jednako rizičan. Sažimanje javnog materijala nije isto što i obrada osobnih podataka ili prijedlog odluke koja može imati financijsku ili pravnu posljedicu. Organizacija treba unaprijed odrediti koje kategorije zahtijevaju dodatnu ljudsku provjeru.

Treći element je sljedivost. Za važne primjene treba biti moguće utvrditi koji je model korišten, s kojim ulazom, koja su pravila vrijedila i tko je pregledao rezultat. To ne znači čuvati svaki nevažan razgovor, nego osigurati revizijski trag tamo gdje posljedica odluke opravdava takvu kontrolu.

Modeli i načini uporabe se mijenjaju, pa jednokratna procjena nije dovoljna. Dobavljač može promijeniti ponašanje modela, a korisnici mogu pronaći novu primjenu koja nije bila dio početnog odobrenja. Vlasnik rizika zato treba periodično pregledavati stvarne načine uporabe, incidente i ručne korekcije.

Granica između preporuke i odluke mora ostati vidljiva. Digitalni Worker može prikupiti podatke, usporediti opcije i pripremiti nacrt, ali konačna poslovna odluka treba ostati kod osobe koja razumije posljedice i ima ovlast za njih. Formalno prisutan čovjek nije dovoljan ako se rezultat modela uvijek prihvaća bez provjere.

Sigurnost podataka pripada istom okviru. Korisnici moraju znati koje informacije ne smiju unositi u vanjske modele i gdje se nalaze odobreni alati. Pravilo koje je preteško primijeniti u stvarnom radu samo potiče korištenje lakših, ali nekontroliranih alternativa.

Dobar sustav uključuje i postupanje s pogreškom. Cilj nije tvrditi da model nikad neće pogriješiti, nego unaprijed znati kako se pogreška prijavljuje, kome se eskalira i što se mijenja nakon incidenta. Upravljanje AI rizikom tako postaje sustav odgovornosti i učenja, a ne samo popis zabrana.

Za područje Privatnost i AI korisno je svaku važnu primjenu vezati uz vlasnika, razinu rizika, dopušteni skup podataka i obveznu točku ljudske provjere. Time se pravila mogu primjenjivati dosljedno bez obzira na to koji alat ili model tim koristi u određenom trenutku.

Najbolja provjera nije postojanje pravilnika nego mogućnost da druga osoba rekonstruira zašto je AI rezultat prihvaćen, izmijenjen ili odbijen. Takav trag omogućuje učenje iz pogrešaka i sprječava da organizacija ovisi o neformalnom sjećanju korisnika ili proizvođača modela.

Periodični pregled treba uključiti i pitanje koristi. Ako određena AI primjena više ne štedi vrijeme, ne povećava kvalitetu ili stvara više korekcija nego vrijednosti, treba je promijeniti ili ugasiti. Vlasništvo nad rizikom ima smisla samo ako uključuje i pravo da se tehnologija prestane koristiti.

Prije širenja uporabe na novi proces korisno je provesti mali kontrolirani pilot s unaprijed definiranim kriterijima uspjeha i pogreške. Pilot treba završiti odlukom: proširiti, izmijeniti ili zaustaviti. Time organizacija izbjegava da eksperiment tiho postane trajni sustav samo zato što ga je nekoliko korisnika počelo redovito koristiti.

#GNKASG #NerminSefic #UmjetnaInteligencija #AIRizik #AIGovernance #UpravljanjeRizikom #Privatnost #Odgovornost #DigitalnaRadnaSnaga #Tehnologija #AI #KorporativnoUpravljanje


Cjelovit tekst i izvor: https://gnk-asg.hr/objave/upravljanje-rizikom-umjetne-inteligencije-trazi-vlasnika-a-ne-samo-pravila/

Odobrio urednik: Nermin Sefić — GNK ASG (GNK DINAMO Ltd.). Autor i urednička odgovornost: Nermin Sefić. Izdavač: GNK ASG d.o.o..

#GNKASG #GNKDINAMOLtd #NerminSefic #BusinessIntelligence #upravljanjeAIrizikom #umjetnainteligencija #AIgovernance #PrivatnostiAI #NerminSefić #digitalnaradnasnaga #ljudskaprovjera #revizijskitrag

četvrtak, 30. srpnja 2026.

Transparentnost AI sustava u korporativnom upravljanju

Transparentnost AI sustava u korporativnom upravljanju

Zašto razina automatizacije mora biti popraćena jednakom razinom revizijskog traga, i gdje se povlači granica između ilustrativne simulacije i stvarne poslovne odluke.

Razina automatizacije koju organizacija uvodi mora biti popraćena jednakom razinom revizijskog traga — inače brzina postaje izvor rizika, a ne prednosti.

Posljednjih nekoliko godina gotovo svaka organizacija koja se ozbiljno bavi digitalizacijom suočila se s istim pitanjem: koliko duboko automatizirati odlučivanje, a da se pritom ne izgubi sposobnost objašnjenja zašto je neka odluka donesena. Odgovor koji se sve češće čuje u praksi glasi da tehnička izvedivost automatizacije nikada ne smije biti jedini kriterij. Jednako važno pitanje glasi može li organizacija u svakom trenutku pokazati tko je, kada i na temelju čega nešto odobrio, promijenio ili odbacio.

Dok se automatizacija donedavno promatrala prvenstveno kroz prizmu učinkovitosti — brže obrade, manje ručnog rada, veći obujam — regulatorna i tržišna očekivanja pomaknula su fokus prema dokazivosti. Nije dovoljno da sustav donese ispravnu odluku; mora postojati trag koji pokazuje na temelju kojih podataka, pravila i odobrenja je ta odluka nastala. Bez takvog traga, brza automatizacija zapravo ubrzava širenje neizvjesnosti, a ne smanjuje je.

To osobito vrijedi za procese koji izravno utječu na financijske izvještaje, ugovorne obveze ili javne objave. Ako sustav automatski predlaže tekst, klasificira rizik ili raspoređuje zadatke, uprava mora imati jasan odgovor na pitanje je li ta preporuka prošla ljudsku provjeru prije nego što je postala dio stvarnog poslovnog procesa.

U praksi je korisno razlikovati barem tri razine na kojima automatizirani ili algoritamski sustavi mogu djelovati unutar organizacije, jer svaka nosi drugačiji stupanj rizika i drugačije zahtjeve za nadzor.

Prva razina obuhvaća internu obradu podataka bez izravnog vanjskog učinka — sortiranje, klasifikaciju, prijedloge za daljnju analizu. Ovdje je pogreška relativno jeftina jer je odmah vidljiva unutar organizacije i lako se ispravlja.

Druga razina obuhvaća pripremu sadržaja ili preporuka koje čovjek mora eksplicitno odobriti prije nego što postanu vidljive izvan organizacije — nacrti objava, prijedlozi ugovornih izmjena, procjene rizika koje voditelj mora potvrditi. Ovdje je ključno da odobrenje bude stvarno, a ne formalnost bez sadržaja.

Treća razina obuhvaća stvarne, izvršene poslovne odluke s pravnim ili financijskim učinkom. Za tu razinu ne postoji zamjena za ljudsku odgovornost, koliko god sustav bio sofisticiran u pripremi podloge za odlučivanje.

Jedan od najčešćih izvora zabune u javnoj komunikaciji o digitalnoj transformaciji jest miješanje ilustrativnih, edukativnih prikaza rada algoritamskih sustava sa stvarnim poslovnim odlukama. Prikaz koji ilustrira kako bi automatizirani proces mogao izgledati — s vizualiziranim tijekom rada, simuliranim pokazateljima napretka ili sintetičkim primjerima — ima jasnu edukativnu vrijednost. No ta vrijednost postoji upravo zato što je transparentno označena kao ilustrativna, a ne kao izvor stvarnih poslovnih ili financijskih tvrdnji.

Organizacije koje javno prikazuju koncepte automatizacije trebale bi dosljedno označavati je li prikaz demonstracija koncepta ili stvaran operativni sustav s pravim posljedicama. Ta razlika nije kozmetička: ona određuje razinu povjerenja koju čitatelj ili partner opravdano može pridati prikazanim brojkama.

Europski regulatorni okvir za umjetnu inteligenciju sve jasnije razlikuje sustave prema razini rizika koji njihova primjena nosi, pri čemu sustavi koji utječu na financijske, pravne ili sigurnosne ishode podliježu strožim zahtjevima za dokumentaciju, nadzor i mogućnost ljudske intervencije. Neovisno o konačnom obliku pojedinačnih propisa, smjer je jasan: teret dokazivanja premješta se s pitanja je li sustav točan na pitanje je li njegov rad dokumentiran, objašnjiv i nadziran.

Za organizacije to znači da ulaganje u revizijski trag, jasne uloge odobravanja i dokumentaciju izvora podataka nije administrativni trošak koji usporava inovaciju, nego preduvjet za to da se automatizacija uopće može sigurno skalirati.

Za upravljačka tijela to se svodi na nekoliko konkretnih pitanja koja vrijedi redovito postavljati: koje odluke unutar organizacije danas nastaju uz pomoć automatiziranih sustava; postoji li za svaku od njih jasno definirana razina odobrenja; je li ta razina stvarno primijenjena u praksi, a ne samo zapisana u internom pravilniku; i može li se u svakom trenutku rekonstruirati tko je, kada i na temelju kojih podataka donio konkretnu odluku.

Organizacije koje na ta pitanja mogu odgovoriti s pouzdanjem u boljoj su poziciji ne samo prema regulatoru, nego i prema vlastitim ulagačima, partnerima i zaposlenicima — jer povjerenje u digitalne procese raste s razinom transparentnosti, a ne s brzinom kojom su ti procesi uvedeni.

Automatizacija i algoritamsko odlučivanje ostaju among najvažnijih poluga poslovne učinkovitosti idućeg desetljeća. No njihova dugoročna vrijednost ne mjeri se isključivo brzinom kojom ubrzavaju procese, nego sposobnošću organizacije da u svakom trenutku objasni, dokumentira i po potrebi ispravi svaku odluku koja iz njih proizlazi. Razlikovanje ilustrativnog od stvarnog, i dosljedno označavanje te razlike prema javnosti, ostaje jedan od najjednostavnijih, a najčešće zanemarenih koraka prema tom cilju.

Objava je originalna analiza; navedeni izvori služe kao referentna dokumentacija.

#TransparentnostAI #KorporativnoUpravljanje #RevizijskiTrag #DigitalnaTransformacija #NerminSefic #NerminSefić #GNKASG #GNKDINAMOLtd

Urednička odgovornost: objavu je prije objave odobrio glavni urednik Nermin Sefić.


Cjelovit tekst i izvor: https://gnk-asg.hr/objave/transparentnost-ai-sustava-korporativno-upravljanje/

Autor i urednička odgovornost: Nermin Sefić. Izdavač: GNK ASG d.o.o..

#GNKASG #GNKDINAMOLtd #NerminSefic #BusinessIntelligence #korporativnoupravljanje #revizijskitrag #automatizacija #odgovornostuprave

Parametri i analize: 64 parametra koje SPT mjeri — i što pokazuju

Autor: Nermin Sefić Svih 64 parametra sustava SPT — od kretanja, srca i sna do prehrane i taktike — što pokazuju i kako ih šest analiza i ...