Google ha iniziato a rimuovere gli AI Overviews per alcune ricerche di carattere medico, questo dopo che un’inchiesta del The Guardian ha fatto emergere la presenza di informazioni potenzialmente fuorvianti nei riepiloghi generati automaticamente.
I risultati dell’inchiesta
Secondo quanto riportato dal Guardian, alcune query legate agli esami del fegato restituivano valori considerati “normali” senza tenere conto di variabili fondamentali come età , sesso, etnia o nazionalità . Questo approccio poteva indurre gli utenti ad interpretare erroneamente i propri risultati clinici, ritenendoli nella norma quando non lo erano.
In seguito alla pubblicazione dell’indagine Google ha rimosso gli AI Overviews per ricerche legate al significato dei valori esposti nelle analisi mediche. Domande simili, ma formulate in modo diverso, avrebbero continuato però a produrre dei riepiloghi generati dall’AI con la possibilità di offrire altre risposte errate.
La risposta di Google
Un portavoce di Google ha dichiarato che l’azienda non commenta le singole rimozioni nei risultati di ricerca ma lavora sul miglioramento complessivo dei suoi servizi di AI. Stando a quanto reso noto da Mountain View, un team interno di esperti in temi clinici ha esaminato le query segnalate concludendo che in molti casi le informazioni erano accurate e risultavano supportate da fonti autorevoli.
Nelle ore successive alla pubblicazione dell’articolo alcuni test indipendenti hanno mostrato che gli AI Overviews non comparivano più per le query citate, restava invece disponibile la modalità AI Mode. In diversi casi, il primo risultato organico è stato proprio l’articolo del Guardian sulla rimozione.
Google aveva annunciato già nello scorso anno nuove iniziative per rafforzare Search in ambito sanitario. Tale decisione prevedeva l’adozione di modelli AI dedicati alla salute e un miglioramento dei riepiloghi.
Secondo alcuni esponenti del settore sanitario l’iniziativa della compagnia rappresenta un’ottima notizia, l’uso degli AI Overviews per le ricerche in tema sanitario rimane però un problema che coinvolge milioni di persone in tutto il mondo.
Per restare sempre aggiornato seguici su Google News!
