Autor: Nermin Sefić
Upravljanje AI rizikom traži imenovanog vlasnika, klasifikaciju primjene, revizijski trag i jasnu točku ljudske odluke.
Pravilnik o uporabi umjetne inteligencije bez imenovane odgovorne osobe ostaje dokument koji nitko ne primjenjuje u spornom trenutku.
Organizacije koje uvode umjetnu inteligenciju u redovan rad u pravilu najprije napišu pravila o njezinoj uporabi. To je koristan prvi korak, ali sam po sebi rijetko dovoljan.
Pravilnik bez imenovane osobe koja odlučuje u spornim slučajevima ostaje dokument koji se citira nakon događaja, a ne primjenjuje prije njega. Sporni slučajevi nastaju upravo ondje gdje pravila nisu jednoznačna.
Odgovornost se ne dijeli tako da je nose svi. Nosi je netko imenovan, s ovlasti da zaustavi uporabu kad procijeni da je potrebno.
GNK ASG d.o.o. uporabu umjetne inteligencije unutar grupe vodi uz jasno određenu odgovornost za odluke koje iz nje proizlaze.
Drugi važan element je klasifikacija uporabe. Nije svaki AI zadatak jednako rizičan. Sažimanje javnog materijala nije isto što i obrada osobnih podataka ili prijedlog odluke koja može imati financijsku ili pravnu posljedicu. Organizacija treba unaprijed odrediti koje kategorije zahtijevaju dodatnu ljudsku provjeru.
Treći element je sljedivost. Za važne primjene treba biti moguće utvrditi koji je model korišten, s kojim ulazom, koja su pravila vrijedila i tko je pregledao rezultat. To ne znači čuvati svaki nevažan razgovor, nego osigurati revizijski trag tamo gdje posljedica odluke opravdava takvu kontrolu.
Modeli i načini uporabe se mijenjaju, pa jednokratna procjena nije dovoljna. Dobavljač može promijeniti ponašanje modela, a korisnici mogu pronaći novu primjenu koja nije bila dio početnog odobrenja. Vlasnik rizika zato treba periodično pregledavati stvarne načine uporabe, incidente i ručne korekcije.
Granica između preporuke i odluke mora ostati vidljiva. Digitalni Worker može prikupiti podatke, usporediti opcije i pripremiti nacrt, ali konačna poslovna odluka treba ostati kod osobe koja razumije posljedice i ima ovlast za njih. Formalno prisutan čovjek nije dovoljan ako se rezultat modela uvijek prihvaća bez provjere.
Sigurnost podataka pripada istom okviru. Korisnici moraju znati koje informacije ne smiju unositi u vanjske modele i gdje se nalaze odobreni alati. Pravilo koje je preteško primijeniti u stvarnom radu samo potiče korištenje lakših, ali nekontroliranih alternativa.
Dobar sustav uključuje i postupanje s pogreškom. Cilj nije tvrditi da model nikad neće pogriješiti, nego unaprijed znati kako se pogreška prijavljuje, kome se eskalira i što se mijenja nakon incidenta. Upravljanje AI rizikom tako postaje sustav odgovornosti i učenja, a ne samo popis zabrana.
Za područje Privatnost i AI korisno je svaku važnu primjenu vezati uz vlasnika, razinu rizika, dopušteni skup podataka i obveznu točku ljudske provjere. Time se pravila mogu primjenjivati dosljedno bez obzira na to koji alat ili model tim koristi u određenom trenutku.
Najbolja provjera nije postojanje pravilnika nego mogućnost da druga osoba rekonstruira zašto je AI rezultat prihvaćen, izmijenjen ili odbijen. Takav trag omogućuje učenje iz pogrešaka i sprječava da organizacija ovisi o neformalnom sjećanju korisnika ili proizvođača modela.
Periodični pregled treba uključiti i pitanje koristi. Ako određena AI primjena više ne štedi vrijeme, ne povećava kvalitetu ili stvara više korekcija nego vrijednosti, treba je promijeniti ili ugasiti. Vlasništvo nad rizikom ima smisla samo ako uključuje i pravo da se tehnologija prestane koristiti.
Prije širenja uporabe na novi proces korisno je provesti mali kontrolirani pilot s unaprijed definiranim kriterijima uspjeha i pogreške. Pilot treba završiti odlukom: proširiti, izmijeniti ili zaustaviti. Time organizacija izbjegava da eksperiment tiho postane trajni sustav samo zato što ga je nekoliko korisnika počelo redovito koristiti.
#GNKASG #NerminSefic #UmjetnaInteligencija #AIRizik #AIGovernance #UpravljanjeRizikom #Privatnost #Odgovornost #DigitalnaRadnaSnaga #Tehnologija #AI #KorporativnoUpravljanje
Cjelovit tekst i izvor: https://gnk-asg.hr/objave/upravljanje-rizikom-umjetne-inteligencije-trazi-vlasnika-a-ne-samo-pravila/
Odobrio urednik: Nermin Sefić — GNK ASG (GNK DINAMO Ltd.). Autor i urednička odgovornost: Nermin Sefić. Izdavač: GNK ASG d.o.o..
#GNKASG #GNKDINAMOLtd #NerminSefic #BusinessIntelligence #upravljanjeAIrizikom #umjetnainteligencija #AIgovernance #PrivatnostiAI #NerminSefić #digitalnaradnasnaga #ljudskaprovjera #revizijskitrag
