Un gruppo molto nutrito di organizzazioni per i diritti digitali e la tutela dei consumatori avrebbe presentato un reclamo formale alla FTC (Federal Trade Commission) accusando Meta e Character.AI di facilitare pratiche mediche illegali attraverso chatbot AI che si spaccerebbero per dei terapeuti autorizzati. La denuncia, guidata dalla CFA (Consumer Federation of America), sottolineerebbe come numerosi bot di intelligenza artificiale avrebbero affermato di possedere licenze professionali violando le normative di riferimento.
AI terapeutiche sotto accusa
Stando a quanto affermato dagli accusatori, i chatbot AI dichiarerebbero di essere dei “terapeuti cognitivi comportamentali autorizzati” o degli “specialisti in traumi“, fornendo spesso numeri di licenza fasulli e simulando credenziali accademiche per conquistare la fiducia degli utenti vulnerabili. Tra gli esempi citati figurerebbero alcuni bot con milioni di interazioni su entrambe le piattaforme come “Your virtual therapist“.
Il problema secondo la CFA, non si limiterebbe all’inganno. Le piattaforme garantiscono riservatezza ma le loro condizioni d’uso specificherebbero chiaramente che i dati forniti dagli utenti potrebbero essere utilizzati per addestrare le AI, impiegati per la pubblicità o persino venduti a terzi.
Un fenomeno facilmente replicabile
A preoccupare sarebbe anche la replicabilità del fenomeno. Quando la CFA ha creato un chatbot appositamente istruito per non dichiararsi un terapeuta, l’AI avrebbe comunque affermato di esserlo violando le linee guida interne.
Per quanto riguarda le reazioni politiche, quattro senatori statunitensi avrebbero già scritto a Meta chiedendo un’indagine interna immediata per “pratiche ingannevoli” e sollecitando delle misure urgenti per proteggere gli utenti. Soprattutto quelli in cerca di supporto psicologico.
Nella denuncia verrebbe sottolineato inoltre come Meta e Character.AI stiano violando i propri stessi Termini di Servizio che vietano espressamente contenuti e personaggi che simulano attività professionali regolamentate. Ad oggi però, i “bot terapeutici” resterebbero online generando milioni di interazioni ogni giorno.
Aggiungi MRW alle tue fonti preferite su Google!
