Nakon što je istraga britanskog Guardiana ukazala na to da Googleovi AI sažeci (AI Overviews) mogu nuditi zavaravajuće informacije u vezi sa zdravstvenim temama, ova tehnološka kompanija uklonila je AI sažetke za dio spornih pretraga.
Guardian je ranije izvijestio da su korisnici koji su pretraživali upite poput „koji je normalan raspon za krvne testove jetre“ dobijali pojednostavljene numeričke vrijednosti koje nisu uzimale u obzir ključne faktore, poput dobi, spola, etničke pripadnosti ili nacionalnosti. Takvi odgovori mogli su navesti korisnike na pogrešan zaključak da su njihovi nalazi uredni, iako to u stvarnosti možda nije bio slučaj.
Prema novim provjerama, AI sažeci više se ne prikazuju za upite „koji je normalan raspon za krvne testove jetre“ i „koji je normalan raspon za testove funkcije jetre“. Ipak, utvrđeno je da su određene varijacije tih upita u početku i dalje generisale AI sažetke, iako su oni kasnije također nestali. U pojedinim slučajevima, među prvim rezultatima pretrage pojavljivao se upravo Guardianov tekst o uklanjanju ovih sažetaka.
Glasnogovornik Googlea izjavio je za Guardian da kompanija ne komentariše pojedinačna uklanjanja u okviru Pretraživanja, ali da kontinuirano radi na „širokim poboljšanjima“. Naveo je i da je interni tim kliničara analizirao sporne upite te zaključio da informacije „u mnogim slučajevima nisu bile netačne i da su se oslanjale na visokokvalitetne izvore“. Kako prenosi TechCrunch, Google je još prošle godine najavio nove funkcije usmjerene na unapređenje zdravstvenih informacija u pretraživanju, uključujući specijalizirane AI modele i poboljšane sažetke.
Ipak, stručnjaci upozoravaju da je problem dublji. Vanessa Hebditch, direktorica komunikacija i politike u organizaciji British Liver Trust, ocijenila je uklanjanje AI sažetaka kao „izvrsnu vijest“, ali je naglasila da se radi o parcijalnom rješenju. Prema njenim riječima, isključivanje AI sažetaka za pojedinačne upite ne rješava suštinski problem korištenja umjetne inteligencije za zdravstvene teme.
Iako je Google brzo reagovao na konkretnu kritiku, ostaje otvoreno pitanje koliko se AI alati mogu pouzdano koristiti za pružanje medicinskih informacija. Uklanjanje problematičnih odgovora predstavlja korak naprijed, ali stručnjaci upozoravaju da je potrebna sistemska promjena kako bi se u budućnosti izbjegli potencijalno opasni savjeti za korisnike, piše Bug.hr.