Googleova umjetna inteligencija širi “opasne dezinformacije o zdravlju”

Google je uklonio neke od svojih sažetaka o zdravlju koje je kreirala umjetna inteligencija (UI) što je istraga Guardiana otkrila da su ljudi bili izloženi riziku od štete zbog lažnih i obmanjujućih informacija.

Kompanija je izjavila da su njeni UI pregledi, koji koriste generativnu umjetnu inteligenciju za pružanje pregleda bitnih informacija o nekoj temi ili pitanju, “korisni” i “pouzdani”.

Ali neki od sažetaka, koji se pojavljuju na vrhu rezultata pretrage, prikazivali su netačne zdravstvene informacije, izlažući korisnike riziku od štete, piše Guardian.

U jednom slučaju koji su stručnjaci opisali kao “opasan” i “alarmantan”, Google je pružio lažne informacije o ključnim testovima funkcije jetre koje bi mogle navesti ljude s ozbiljnim bolestima jetre da pogrešno misle da su zdravi.

Guardian je otkrio da je prilikom upisivanja “koji je normalan raspon za testove krvi jetre” dobijeno mnoštvo brojeva, malo konteksta i bez ikakvog objašnjenja nacionalnosti, spola, etničke pripadnosti ili dobi pacijenata.

Stručnjaci su rekli da ono što je Googleov AI Overviews prikazao kao normalno može se drastično razlikovati od onoga što se zapravo smatra normalnim. Sažeci bi mogli dovesti do toga da teško bolesni pacijenti pogrešno pomisle da imaju normalan rezultat testa i da se ne potrude da odu na kontrolne preglede zdravstvene zaštite.

Nakon istrage, kompanija je uklonila UI preglede za ključne riječi “koji je normalan raspon za testove krvi jetre” i “koji je normalan raspon za testove funkcije jetre”.

“Ne komentarišemo pojedinačna uklanjanja unutar Pretrage. U slučajevima kada UI pregledi propuštaju određeni kontekst, radimo na poboljšanju, a također poduzimamo mjere u skladu s našim politikama gdje je to prikladno”, kazao je glasnogovornik Googlea.

Vanessa Hebditch, direktorica za komunikacije i politiku u British Liver Trustu, dobrotvornoj organizaciji za zdravlje jetre, izjavila je: “Ovo su odlične vijesti i drago nam je što vidimo uklanjanje Google AI pregleda u ovim slučajevima”.

“Međutim, ako se pitanje postavi na drugačiji način, i dalje se može dati potencijalno obmanjujući Pregled umjetne inteligencije i i dalje smo zabrinuti da druge zdravstvene informacije koje proizvodi umjetna inteligencija mogu biti netačne i zbunjujuće”, dodala je.

Guardian je otkrio da kucanje malih varijacija originalnih upita u Google, kao što su “lft referentni raspon” ili “lft test referentni raspon”, pokreće preglede umjetne inteligencije. To je bila velika briga, smatra Hebditch.

“Test funkcije jetre ili LFT je skup različitih krvnih testova. Razumijevanje rezultata i šta dalje učiniti je složeno i uključuje mnogo više od poređenja skupa brojeva”, naglasila je. “Ali AI Overviews predstavlja listu testova podebljanim slovima, što čitaocima vrlo lako otežava da propuste da ovi brojevi možda nisu ni pravi za njihov test”.

“Osim toga, AI pregledi ne upozoravaju da neko može dobiti normalne rezultate ovih testova čak i kada ima ozbiljnu bolest jetre i potrebna mu je daljnja medicinska njega. Ovo lažno uvjeravanje može biti vrlo štetno”, upozorava.

Google, koji ima 91% udjela na globalnom tržištu pretraživača, saopštio je da pregleda nove primjere koje mu je dostavio Guardian.

“Naša najveća briga u vezi sa svim ovim je što se radi o cjepidlačenju oko jednog rezultata pretrage i Google može jednostavno isključiti AI preglede zbog toga, ali se ne bavi većim problemom AI pregleda za zdravlje”, naglasila je Hebditch.

Sue Farrington, predsjedavajuća Foruma za informacije o pacijentima, koji promoviše zdravstvene informacije zasnovane na dokazima za pacijente, javnost i zdravstvene radnike, pozdravila je uklanjanje sažetaka, ali je rekla da i dalje postoje zabrinutosti.

“Ovo je dobar rezultat, ali je samo prvi korak u onome što je potrebno da se održi povjerenje u Googleove rezultate pretrage vezane za zdravlje. Još uvijek postoji previše primjera Google AI Overviews koji ljudima daju netačne zdravstvene informacije”, naglasila je.

Milioni odraslih širom svijeta već imaju poteškoća s pristupom pouzdanim zdravstvenim informacijama, smatra je Farrington. “Zato je toliko važno da Google usmjerava ljude na pouzdane, istražene zdravstvene informacije i ponude njege od pouzdanih zdravstvenih organizacija”, dodaje.

Pregledi umjetne inteligencije i dalje se pojavljuju za druge primjere koje je Guardian prvobitno istakao Googleu. Oni uključuju sažetke informacija o raku i mentalnom zdravlju koje su stručnjaci opisali kao “potpuno pogrešne” i “zaista opasne”.

Na pitanje zašto ovi pregledi umjetne inteligencije nisu također uklonjeni, Google je rekao da su povezivali na poznate i ugledne izvore te informisali ljude kada je važno potražiti stručni savjet.

“Naš interni tim kliničara pregledao je ono što je podijeljeno s nama i utvrdio da u mnogim slučajevima informacije nisu bile netačne i da su potkrijepljene visokokvalitetnim web stranicama”, rekao je glasnogovornik Googlea.

Victor Tangermann, viši urednik tehnološke web stranice Futurism, rekao je da rezultati istrage Guardiana pokazuju da Google ima posla “kako bi osigurao da njegov alat umjetne inteligencije ne širi opasne dezinformacije o zdravlju”.

(Mostarski.ba)