“E rrezikshme dhe alarmante”: Google heq disa përmbledhje të AI pasi rrezikohej shëndeti i përdoruesve

Google ka hequr disa nga përmbledhjet e saj shëndetësore të gjeneruara nga inteligjenca artificiale (AI), pasi një hetim i “Guardian” zbuloi se informacione të rreme dhe mashtruese po vinin në rrezik shëndetin e njerëzve. Kompania kishte promovuar “AI Overviews” – përmbledhje të shkurtra të informacionit thelbësor – si “të dobishme” dhe “të besueshme”. Megjithatë, disa prej tyre, të shfaqura në krye të rezultateve të kërkimit, ofronin informacione të pasakta shëndetësore.

Një rast “i rrezikshëm” dhe “alarmant” përfshinte informacione të gabuara rreth testeve të funksionit të mëlçisë. Kjo mund të bënte që persona me sëmundje serioze të mëlçisë të mendonin gabimisht se ishin të shëndetshëm. “Guardian” zbuloi se kërkimi “cili është diapazoni normal për analizat e gjakut të mëlçisë” shfaqte numra pa kontekst të mjaftueshëm, si kombësia, gjinia apo mosha. Ekspertët theksuan se rezultatet e AI mund të ndryshonin drastikisht nga normat reale, duke çuar pacientët të injoronin nevojën për kujdes mjekësor.

Pas hetimit, Google hoqi AI Overviews për termat e kërkimit specifikë rreth diapazonit normal të testeve të mëlçisë. Një zëdhënës i Google tha se kompania nuk komenton heqjet individuale, por vepron sipas politikave dhe punon për përmirësime të gjera kur AI Overviews humbasin kontekstin. Vanessa Hebditch, drejtoresha e komunikimit në British Liver Trust, e mirëpriti këtë veprim, por shprehu shqetësimin se variacionet e kërkimeve mund të shfaqnin sërish informacione mashtruese.

“Guardian” vërtetoi se kërkime të ngjashme si “lft reference range” ende aktivizonin AI Overviews. Hebditch theksoi kompleksitetin e testeve të funksionit të mëlçisë (LFT) dhe rrezikun e sigurisë së rreme nga përmbledhjet e AI, të cilat nuk paralajmërojnë se rezultatet normale mund të fshehin sëmundje serioze. Ajo shtoi se shqetësimi më i madh ishte mosadresimi i çështjes më të gjerë të AI Overviews për shëndetin, përtej heqjes së një rezultati të vetëm.

Sue Farrington, kryetarja e Forumit të Informacionit të Pacientëve, e quajti heqjen një hap të parë të mirë, por jo të mjaftueshëm për të ruajtur besimin, pasi ende ka shumë shembuj të informacioneve të pasakta shëndetësore nga AI Overviews. Ajo theksoi rëndësinë që Google t’i drejtojë përdoruesit drejt burimeve të besueshme shëndetësore, veçanërisht pasi miliona njerëz tashmë e kanë të vështirë të aksesojnë informacione të sakta.

AI Overviews ende shfaqen për shembuj të tjerë të theksuar nga “Guardian”, si informacione rreth kancerit dhe shëndetit mendor, të cilat ekspertët i përshkruan si “plotësisht të gabuara” dhe “vërtet të rrezikshme”. Google u përgjigj se këto lidheshin me burime të njohura dhe informonin për rëndësinë e këshillave të ekspertëve, duke shtuar se ekipi i tyre i mjekëve kishte gjetur se informacioni nuk ishte i pasaktë dhe mbështetej nga faqe interneti me cilësi të lartë. Victor Tangermann i Futurism theksoi se Google ka punë për të siguruar që mjeti i saj i AI të mos shpërndajë dezinformata të rrezikshme. Google mbron se AI Overviews shfaqen vetëm për kërkime me besim të lartë në cilësi dhe se kompania rishikon vazhdimisht përmbledhjet. Matt Southern i Search Engine Journal përmblodhi se “kur tema është shëndetësia, gabimet kanë më shumë peshë.”

Marrë nga The Guardian UK