La sempre maggiore diffusione dei chatbot AI sta creando notevoli preoccupazioni legate al loro impatto sulla salute mentale, in particolare per le fasce di popolazione più vulnerabili. Le persone soggette a disturbi alimentari rappresentano inoltre una delle categorie più esposte, questo perché le AI possono fornire suggerimenti o risposte che rinforzano i comportamenti disfunzionali. Una recente ricerca condotta tramite interviste con esperti del settore ha portato allo sviluppo di una nuova categorizzazione dei rischi legati all’interazione fra utenti vulnerabili e modelli generativi.
Come viene classificato il rapporto tra AI e disturbi alimentari
La nuova classificazione comprende sei aree:
- indicazioni dietetiche generiche che siano potenzialmente fuorvianti;
- contenuti legati alla thinspiration e a dinamiche di confronto sociale;
- supporto a comportamenti disordinati e a strategie di occultamento del proprio disturbo;
- amplificazione degli stati emotivi più negativi;
- stimoli a favore della iper-focalizzazione sul corpo;
- rappresentazioni stereotipate o troppo semplificate dei disturbi alimentari.
Alcuni test avrebbero evidenziato che diversi modelli di AI disponibili al pubblico potrebbero manifestare ancora questi pattern nonostante i sistemi di sicurezza già implementati. Un’infografica sintetizza la tassonomia con l’obiettivo di rendere le informazioni accessibili anche a chi non ha una formazione tecnica.
Servono nuovi strumenti di difesa per i più vulnerabili
Come equilibrare la protezione dei gruppi vulnerabili senza comprometterne l’esperienza d’uso? Come affrontare rischi che richiedono competenze cliniche specifiche?
I risultati della ricerca sottolineano l’esigenza di nuovi strumenti di misurazione per individuare come e quando un modello può generare dei rischi per gli utenti più fragili. Il rapporto raccomanda quindi di sviluppare benchmark appositi e di valutare il grado di esposizione delle applicazioni di AI alle popolazioni vulnerabili.
Dovrebbero essere poi fornite delle avvertenze riguardanti i consigli relativi a dieta ed esercizio ed evitare risposte che possano rafforzare convinzioni distorte e spesso diffuse. Non dovrebbe poi mancare una maggiore disponibilità di collegamenti diretti alle reti di supporto.
Per restare sempre aggiornato seguici su Google News!
