WHO opozarja na “resne napake” umetne inteligence v zdravstvu
Umetna inteligenca (UI) je že zdaj boljša od človeka pri izbiri organov darovalcev za presaditev in boljših odgovorih na nekatera vprašanja o zdravju bolnikov. Prinaša pa tudi tveganja in “resne napake”, je opozorila Svetovna zdravstvena organizacija WHO.
Svetovna zdravstvena organizacija (WHO) s sedežem v Ženevi pozdravlja ogromen potencial umetne inteligence, ki je lahko zelo koristen, a opozarja, da uvedba postopkov zdravljenja z umetno inteligenco v zdravstveni sistem prinaša tveganje “popolnoma napačnih” informacij.
“Potrebno je oceniti nevarnosti uporabe LLM (generiranih orodij za velike jezikovne modele), kot je ChatGPT. Povzročijo lahko namreč resne napake v zdravstvenem varstvu in spodkopljejo zaupanje v AI,” je dejal WHO.
Zdravstvena agencija ZN je to objavila v času, ko aplikacije umetne inteligence bliskovito hitro pridobivajo na priljubljenosti. Skrb izhaja iz dejstva, da za UI redne norme previdnosti ne veljajo.
Zagovorniki uporabe umetne inteligence verjamejo, da bodo zdravniki za hitrejše odgovarjanje na vprašanja bolnikov o njihovem zdravju, kmalu uporabljali sistem AI Chat. Umetna inteligenca pa bo uporabljena tudi pri diagnostiki.
WHO zaskrbljen
Dva klepetalna robota Microsofta in Googla sta pokazala, da njuni odgovori, ko gre za dejstva, niso povsem zanesljivi. WHO pa je zaskrbljen prav zato, ker se ti odgovori zdijo zanesljivi.
“UI daje odgovore, ki se končnemu uporabniku morda zdijo verodostojni. Vendar so lahko ti odgovori popolnoma netočni. Vsebujejo lahko resne napake. Posebej, ko gre za odgovore, povezane z zdravjem,” opozarja WHO.
Te informacije so lahko zavajajoče in proizvedejo informacije, ki bodo videti zelo verodostojne, vendar jih javnost ne bo ločila od zanesljivih. WHO zato predlaga, da se stroka pred uporabo umetne inteligence v zdravstvu posveti tem vprašanjem in pretehta koristi in škodo, preden odobri njeno široko uporabo.
vir Foto: Pexels