Prikazani su postovi s oznakom umjetnainteligencija. Prikaži sve postove
Prikazani su postovi s oznakom umjetnainteligencija. Prikaži sve postove

srijeda, 7. listopada 2026.

Upravljanje rizikom umjetne inteligencije traži vlasnika, a ne samo pravila

Upravljanje rizikom umjetne inteligencije traži vlasnika, a ne samo pravila

Autor: Nermin Sefić

Upravljanje AI rizikom traži imenovanog vlasnika, klasifikaciju primjene, revizijski trag i jasnu točku ljudske odluke.

Pravilnik o uporabi umjetne inteligencije bez imenovane odgovorne osobe ostaje dokument koji nitko ne primjenjuje u spornom trenutku.

Organizacije koje uvode umjetnu inteligenciju u redovan rad u pravilu najprije napišu pravila o njezinoj uporabi. To je koristan prvi korak, ali sam po sebi rijetko dovoljan.

Pravilnik bez imenovane osobe koja odlučuje u spornim slučajevima ostaje dokument koji se citira nakon događaja, a ne primjenjuje prije njega. Sporni slučajevi nastaju upravo ondje gdje pravila nisu jednoznačna.

Odgovornost se ne dijeli tako da je nose svi. Nosi je netko imenovan, s ovlasti da zaustavi uporabu kad procijeni da je potrebno.

GNK ASG d.o.o. uporabu umjetne inteligencije unutar grupe vodi uz jasno određenu odgovornost za odluke koje iz nje proizlaze.

Drugi važan element je klasifikacija uporabe. Nije svaki AI zadatak jednako rizičan. Sažimanje javnog materijala nije isto što i obrada osobnih podataka ili prijedlog odluke koja može imati financijsku ili pravnu posljedicu. Organizacija treba unaprijed odrediti koje kategorije zahtijevaju dodatnu ljudsku provjeru.

Treći element je sljedivost. Za važne primjene treba biti moguće utvrditi koji je model korišten, s kojim ulazom, koja su pravila vrijedila i tko je pregledao rezultat. To ne znači čuvati svaki nevažan razgovor, nego osigurati revizijski trag tamo gdje posljedica odluke opravdava takvu kontrolu.

Modeli i načini uporabe se mijenjaju, pa jednokratna procjena nije dovoljna. Dobavljač može promijeniti ponašanje modela, a korisnici mogu pronaći novu primjenu koja nije bila dio početnog odobrenja. Vlasnik rizika zato treba periodično pregledavati stvarne načine uporabe, incidente i ručne korekcije.

Granica između preporuke i odluke mora ostati vidljiva. Digitalni Worker može prikupiti podatke, usporediti opcije i pripremiti nacrt, ali konačna poslovna odluka treba ostati kod osobe koja razumije posljedice i ima ovlast za njih. Formalno prisutan čovjek nije dovoljan ako se rezultat modela uvijek prihvaća bez provjere.

Sigurnost podataka pripada istom okviru. Korisnici moraju znati koje informacije ne smiju unositi u vanjske modele i gdje se nalaze odobreni alati. Pravilo koje je preteško primijeniti u stvarnom radu samo potiče korištenje lakših, ali nekontroliranih alternativa.

Dobar sustav uključuje i postupanje s pogreškom. Cilj nije tvrditi da model nikad neće pogriješiti, nego unaprijed znati kako se pogreška prijavljuje, kome se eskalira i što se mijenja nakon incidenta. Upravljanje AI rizikom tako postaje sustav odgovornosti i učenja, a ne samo popis zabrana.

Za područje Privatnost i AI korisno je svaku važnu primjenu vezati uz vlasnika, razinu rizika, dopušteni skup podataka i obveznu točku ljudske provjere. Time se pravila mogu primjenjivati dosljedno bez obzira na to koji alat ili model tim koristi u određenom trenutku.

Najbolja provjera nije postojanje pravilnika nego mogućnost da druga osoba rekonstruira zašto je AI rezultat prihvaćen, izmijenjen ili odbijen. Takav trag omogućuje učenje iz pogrešaka i sprječava da organizacija ovisi o neformalnom sjećanju korisnika ili proizvođača modela.

Periodični pregled treba uključiti i pitanje koristi. Ako određena AI primjena više ne štedi vrijeme, ne povećava kvalitetu ili stvara više korekcija nego vrijednosti, treba je promijeniti ili ugasiti. Vlasništvo nad rizikom ima smisla samo ako uključuje i pravo da se tehnologija prestane koristiti.

Prije širenja uporabe na novi proces korisno je provesti mali kontrolirani pilot s unaprijed definiranim kriterijima uspjeha i pogreške. Pilot treba završiti odlukom: proširiti, izmijeniti ili zaustaviti. Time organizacija izbjegava da eksperiment tiho postane trajni sustav samo zato što ga je nekoliko korisnika počelo redovito koristiti.

#GNKASG #NerminSefic #UmjetnaInteligencija #AIRizik #AIGovernance #UpravljanjeRizikom #Privatnost #Odgovornost #DigitalnaRadnaSnaga #Tehnologija #AI #KorporativnoUpravljanje


Cjelovit tekst i izvor: https://gnk-asg.hr/objave/upravljanje-rizikom-umjetne-inteligencije-trazi-vlasnika-a-ne-samo-pravila/

Odobrio urednik: Nermin Sefić — GNK ASG (GNK DINAMO Ltd.). Autor i urednička odgovornost: Nermin Sefić. Izdavač: GNK ASG d.o.o..

#GNKASG #GNKDINAMOLtd #NerminSefic #BusinessIntelligence #upravljanjeAIrizikom #umjetnainteligencija #AIgovernance #PrivatnostiAI #NerminSefić #digitalnaradnasnaga #ljudskaprovjera #revizijskitrag

ponedjeljak, 10. kolovoza 2026.

Halucinacije AI modela

Halucinacije AI modela

Autor: Nermin Sefić

Halucinacije velikih jezicnih modela dolaze u obliku identicnom tocnom odgovoru - visesloevita strategija ublazavanja rizika za poslovnu primjenu.

Halucinacije velikih jezičnih modela dolaze u obliku identičnom točnom odgovoru. Višeslojna strategija ublažavanja rizika za poslovnu primjenu.

Halucinacije velikih jezičnih modela - fenomen u kojem AI sustav generira samouvjereno, gramatički besprijekorno formuliran, ali činjenično netočan sadržaj - predstavljaju jedan od najupornijih izazova u praktičnoj primjeni ove tehnologije, izazov koji tehnički napredak modela smanjuje, ali dosad nije uspio potpuno eliminirati.

Za razliku od tradicionalnog softverskog buga, koji obično proizvodi prepoznatljivo netočan ili nedosljedan rezultat, halucinacija jezičnog modela često dolazi u obliku koji je lingvistički i strukturno identičan točnom odgovoru - iste razine samopouzdanja, iste kvalitete formulacije, bez ikakvog očitog signala koji bi korisniku sugerirao da treba biti sumnjičav.

Ova karakteristika čini halucinacije posebno opasnima u poslovnom kontekstu - korisnik koji nema neovisan način provjere činjenične točnosti odgovora, i koji je naviknuo na visoku pouzdanost modela za druge, ranije zadatke, može lako prihvatiti halucinirani sadržaj kao pouzdan, s potencijalno ozbiljnim posljedicama ako ta informacija informira značajnu poslovnu odluku.

Organizacije koje ozbiljno pristupaju ovom riziku razvijaju višeslojnu strategiju ublažavanja, ne oslanjajući se isključivo na poboljšanje samog modela. Prva linija obrane uključuje jasno definirane kategorije zadataka gdje se AI izlaz nikad ne prihvaća bez neovisne ljudske verifikacije - specifične činjenice, brojevi, citati ili tvrdnje koje bi, ako netočne, mogle imati značajne posljedice.

Druga linija uključuje tehničke pristupe poput "retrieval-augmented generation" - tehnike koja model eksplicitno vezuje uz provjerljive, dokumentirane izvore umjesto oslanjanja isključivo na model interno "sjećanje" naučeno tijekom treniranja, značajno smanjujući, iako ne potpuno eliminirajući, rizik halucinacije za zadatke gdje se relevantni izvori mogu jasno definirati.

GNK ASG d.o.o. primjenjuje ovu višeslojnu strategiju kroz sve interne primjene AI alata unutar GNK DINAMO Ltd. Grupe, prepoznajući da halucinacije ostaju stvaran, trajan rizik koji zahtijeva promišljenu organizacijsku praksu, ne samo oslanjanje na kontinuirano poboljšanje same tehnologije.


Cjelovit tekst i izvor: https://gnk-asg.hr/objave/halucinacije-ai-modela-rizik/

Autor i urednička odgovornost: Nermin Sefić. Izdavač: GNK ASG d.o.o..

#GNKASG #GNKDINAMOLtd #NerminSefic #BusinessIntelligence #AIhalucinacije #umjetnainteligencija #NerminSefić

utorak, 28. srpnja 2026.

Odgovornost se ne može automatizirati

Odgovornost se ne može automatizirati

Autorski komentar Nermina Sefića o granicama automatizacije, ulozi umjetne inteligencije i odgovornosti uprave u korporativnom odlučivanju.

Tehnologija može ubrzati odluku, ali odgovornost mora ostati jasno vezana uz čovjeka i instituciju.

Umjetna inteligencija, automatizacija i digitalni workflow sustavi mogu znatno ubrzati istraživanje, obradu podataka i pripremu odluka. To je njihova stvarna vrijednost. Problem nastaje kada se alat počne koristiti kao zamjena za odgovornost.

Algoritam može predložiti, usporediti i upozoriti. Ne može preuzeti pravnu, financijsku ni reputacijsku odgovornost za konačnu odluku. U ozbiljnom poslovnom sustavu mora biti jasno tko je provjerio podatke, tko je odobrio zaključak i na kojoj je osnovi odluka donesena.

Najbrži odgovor nije nužno i najbolji odgovor. Sustav koji daje rezultat bez izvora, konteksta i mogućnosti revizije stvara lažan osjećaj sigurnosti. Zato automatizacija mora imati kontrolne točke, evidentirane ovlasti i mogućnost povratka na prethodno stanje.

Uloga uprave nije da ručno obavlja svaki zadatak, nego da postavi granice, pravila i razinu odgovornosti. Tehnologija treba povećati kvalitetu odluke, a ne zamagliti pitanje tko za nju odgovara.

Organizacije koje to razumiju neće se bojati umjetne inteligencije. Koristit će je agresivno za analizu i pripremu, ali oprezno ondje gdje odluka proizvodi pravne, financijske ili javne posljedice.

Automatizirati se mogu procesi. Odgovornost ne može. Upravo ta razlika određuje hoće li tehnologija postati instrument boljeg upravljanja ili izvor novog rizika.

#NerminSefić #UmjetnaInteligencija #Automatizacija #KorporativnaOdgovornost #Upravljanje #GNKASG #NerminSefic #Sefic #Sefić #GNKDINAMOLtd


Cjelovit tekst i izvor: https://gnk-asg.hr/komentari/odgovornost-se-ne-moze-automatizirati/

Autor i urednička odgovornost: Nermin Sefić. Izdavač: GNK ASG d.o.o..

#GNKASG #GNKDINAMOLtd #NerminSefic #BusinessIntelligence #NerminSefić #umjetnainteligencija #automatizacija #korporativnaodgovornost #upravljanje

Parametri i analize: 64 parametra koje SPT mjeri — i što pokazuju

Autor: Nermin Sefić Svih 64 parametra sustava SPT — od kretanja, srca i sna do prehrane i taktike — što pokazuju i kako ih šest analiza i ...