Zaupanje postaja ključno za poslovno vrednost umetne inteligence: zaposleni priporočila umetne inteligence najpogosteje zavrnejo, kadar sistem ne more pojasniti, kako je sprejel odločitev
Zaupanje v umetno inteligenco postaja pomemben dejavnik njene poslovne donosnosti. To potrjuje nova globalna raziskava, ki jo je za družbo SAS, globalno podjetje, specializirano za podatke in umetno inteligenco, izvedel IDC. V raziskavi je sodelovalo 2.699 odločevalcev iz 28 držav. Organizacije, ki so vodilne pri odgovorni in zanesljivi uporabi umetne inteligence, imajo kar 15-krat večjo verjetnost za visoko donosnost naložb v projekte umetne inteligence.
Rezultati drugega letnega poročila Data and AI Impact Report: The New Economics of Trust kažejo, da razlike ne ustvarja nujno tehnologija, ki jo organizacije uporabljajo, temveč način njenega upravljanja. Kar 62 % organizacij z razvitimi praksami zaupanja vredne umetne inteligence poroča o pomembni ali visoki donosnosti naložb v umetno inteligenco, medtem ko je takšnih organizacij med tistimi, ki na tem področju zaostajajo, le 4 %. Organizacije z najbolj razvitimi praksami obenem dosegajo 1,85-krat večje koristi na 13 različnih področjih poslovanja, vključno z rastjo prihodkov, prihranki stroškov in izboljšanjem uporabniške izkušnje.
Zaupanja vredna umetna inteligenca (trustworthy AI) je umetna inteligenca, ki je zanesljiva, pravična, varna in skladna z regulativnimi zahtevami ter lahko jasno pojasni, kako je sprejela določeno odločitev. Raziskava obravnava pet področij: kakovost in upravljanje podatkov, upravljanje in nadzor modelov umetne inteligence, pojasnljivost odločitev in pravičnost, odgovorno politiko uporabe umetne inteligence ter revizijo in odgovornost.
Vprašanje zaupanja postaja še pomembnejše, ko sistemi umetne inteligence pridobivajo večjo avtonomijo. Kar 97,2 % uporabnikov se vsaj občasno odloči, da priporočila umetne inteligence ne bo upoštevalo. Pri tem glavni razlog ni nujno prepričanje, da je rezultat napačen, temveč dejstvo, da umetna inteligenca ne more pojasniti, kako je prišla do svoje odločitve. Hkrati zaupanje upade s 76 % pri generativni umetni inteligenci na 66 % pri agentski umetni inteligenci oziroma sistemih, ki lahko bolj avtonomno načrtujejo in izvajajo naloge.
»Ko umetna inteligenca deluje, je njen vpliv lahko izjemen,« poudarja Bryan Harris, tehnični direktor družbe SAS. »Vendar je znano, da imajo lahko najsodobnejši agenti umetne inteligence pri kompleksnih nalogah več kot 25-odstotno stopnjo napak, kar je pri odločanju z velikimi posledicami nesprejemljivo. Da bi organizacije dosegle natančne in dosledne rezultate, morajo strokovno znanje vključiti v agentske delovne tokove, ljudi pa ohraniti v središču upravljanja in nadzora. Organizacije, ki jim bo to uspelo, bodo zmanjšale vrzel v zaupanju in si pridobile konkurenčno prednost.«
»Ker umetna inteligenca postaja vse bolj avtonomna, se organizacije soočajo z novim izzivom: kako ohraniti zaupanje v sisteme, ki jih ljudje ne razumejo v celoti,« poudarja Chris Marshall, podpredsednik IDC-ja. »Naše ugotovitve kažejo, da močnejši nadzor, pojasnljivost odločitev, odgovornost in kakovostni podatkovni temelji postajajo predpogoj za uspešno širjenje uporabe umetne inteligence.«
Umetna inteligenca, ki ne more pojasniti svojih odločitev, postaja poslovno tveganje
Pomanjkanje zaupanja zaposlenih v odločitve umetne inteligence je ena glavnih ovir za njeno uspešno uporabo. Kadar zaposleni ne razumejo, na kakšni podlagi je sistem sprejel odločitev, pogosteje zavračajo njegova priporočila in jih ročno popravljajo. To lahko organizacije stane časa, produktivnosti in dobičkonosnosti. Ker je kakovost odločitev odvisna od podatkov, na katerih temeljijo, so kakovostni podatkovni temelji ključni tudi za vzpostavljanje zaupanja v rezultate umetne inteligence.
Zaupanja vredna uporaba umetne inteligence prinaša boljše poslovne rezultate
Raziskava kaže vse večjo razliko med organizacijami, ki dajejo prednost zaupanja vredni umetni inteligenci, in tistimi, ki tega ne počnejo. Organizacije, ki z umetno inteligenco ustvarjajo največ vrednosti, ne uporabljajo nujno drugačne tehnologije – ključna razlika je v načinu njenega upravljanja.
Kar 85 % vodilnih organizacij z razvitimi praksami zaupanja vredne umetne inteligence letos povečuje naložbe na tem področju za več kot 10 %, s čimer še dodatno povečujejo prednost pred organizacijami, ki zaostajajo.
Šibki podatkovni temelji zavirajo donosnost naložb v umetno inteligenco
Kljub hitremu razvoju umetne inteligence številne organizacije še vedno uporabljajo nezadostno razvito ali zastarelo podatkovno infrastrukturo. Brez kakovostnih podatkovnih temeljev je težko zagotoviti preglednost in pojasnljivost rezultatov ter učinkovito upravljati sisteme umetne inteligence.
Samo 17,5 % organizacij ima popolnoma optimizirano podatkovno infrastrukturo, ki je dovolj zrela za zahteve agentske umetne inteligence. Organizacije z optimiziranimi podatkovnimi temelji imajo štirikrat večjo verjetnost, da pričakujejo pomembno donosnost naložb v projekte umetne inteligence, ter šestkrat večjo verjetnost, da bodo zahtevale nadzor kakovosti podatkov in razložljivosti, potreben za vzpostavljanje zaupanja.
Razlike med panogami
Raziskava je bila izvedena med 2.699 odločevalci iz 28 držav, posebej pa so bili analizirani bančništvo, zavarovalništvo, sektor ved o življenju in javni sektor. Rezultati kažejo razlike v načinu, kako posamezne panoge pristopajo k umetni inteligenci. V bančništvu ima 85 % bank, ki so vodilne pri uporabi umetne inteligence, že vzpostavljene okvire za njeno upravljanje, v primerjavi z 29 % bank, ki na tem področju zaostajajo. V javnem sektorju 41 % vodilnih organizacij v naslednjem letu načrtuje povečanje naložb v zaupanja vredno umetno inteligenco za več kot 20 %. Hkrati je 23 % organizacij v sektorju ved o življenju uporabo umetne inteligence razširilo na raven celotne organizacije, kar je največji delež med obravnavanimi sektorji.
Celotni rezultati raziskave so na voljo na spletni strani družbe SAS.
