Meta ha annunciato un cambiamento rilevante nell’addestramento dei propri chatbot AI con l’obiettivo di rafforzare la sicurezza dei minori. Secondo quanto riferito da un portavoce del gruppo a TechCrunch, le nuove regole vietano alle intelligenze artificiali di interagire con adolescenti su argomenti delicati come autolesionismo, suicidio, disturbi alimentari e persino conversazioni romantiche.
Le limitazioni di Meta ai “personaggi AI”
Queste modifiche, che sono state definite “intermedie” dall’azienda, anticipano degli aggiornamenti ancora più strutturali e duraturi volti a garantire un’esperienza sicura e adeguata all’età di ciascun utente.
Oltre all’aggiornamento dei sistemi di training, Meta limiterà l’accesso dei minori a specifici personaggi AI disponibili su Instagram e Facebook. La piattaforma ospita infatti diversi chatbot generati dagli utilizzatori, alcuni dei quali fortemente sessualizzati come per esempio “Step Mom” o “Russian Girl”. Gli adolescenti potranno invece interagire soltanto con personaggi orientati a creatività ed educazione.
Tali modifiche arrivano a seguito di un’inchiesta di Reuters che aveva evidenziato come un documento interno autorizzasse i chatbot a interagire con minorenni in conversazioni basate su contenuti sessuali. Alcuni estratti avrebbero fatto emergere la presenza di risposte di natura “romantica” a volte inappropriate. Meta ha dichiarato che queste linee guida non erano coerenti con le proprie policy e che il documento è stato già corretto.
Le reazioni delle istituzioni USA
A quanto scoperto hanno fatto seguito però delle reazioni politiche e istituzionali a volte molto dure. Come per esempio quella del senatore Josh Hawley che ha avviato un’indagine ufficiale in proposito e una coalizione di 44 procuratori generali statunitensi che ha scritto alle principali aziende AI sottolineando l’urgenza di maggiori tutele per i minori.
Per il momento Meta non avrebbe comunicato dei dati precisi sul numero di adolescenti che utilizzano i suoi chatbot. L’azienda ha però ribadito l’impegno a perfezionare i sistemi di protezione e a definire delle misure preventive più solide.
Per restare sempre aggiornato seguici su Google News!
