OpenAI ha annunciato un cambiamento per molti versi inatteso nelle politiche di sicurezza di ChatGPT. Sam Altman, CEO dell’azienda, ha dichiarato infatti che a partire da dicembre la piattaforma permetterà interazioni di tipo erotico esclusivamente per utenti adulti verificati. La decisione fa riferimento al nuovo principio “treat adult users like adults” con cui OpenAI intende differenziare in modo più netto l’esperienza tra utenti minorenni e maggiorenni.
Sicurezza, verifica dell’età e nuove policy per i contenuti di ChatGPT
Altman ha spiegato che se in passato la priorità era quella di tutelare la salute mentale e limitare i rischi di dipendenza o comportamenti ossessivi, oggi l’azienda ritiene di aver ridotto tali problematiche attraverso nuove funzionalità di monitoraggio e prevenzione. La scelta di reintrodurre contenuti a sfondo erotico presenta però degli interrogativi su etica e sicurezza, soprattutto in relazione agli utenti più vulnerabili.
La nuova funzionalità sarà accessibile solo tramite un sistema di verifica dell’età basato sull’AI di predizione anagrafica già utilizzata da OpenAI. In caso di errore l’utente potrà confermare la propria identità caricando un documento. Questa soluzione, pur non essendo in massimo per la privacy, è considerata da Altman un compromesso necessario per garantire l’uso responsabile della piattaforma.
Il delicato equilibrio tra ricerca del profitto e tutela della salute mentale
Ad oggi aziende, come Character.AI hanno già sperimentato interazioni “romantiche” per aumentare il coinvolgimento degli utenti. OpenAI, con oltre 800 milioni di utenti attivi a settimana non vuole rimanere indietro neanche in questo “settore” ma dovrà gestire un delicato equilibrio tra crescita e tutela degli utilizzatori di ChatGPT.
A questo proposito, OpenAI ha istituito un consiglio di esperti in salute mentale per monitorare l’impatto delle sue tecnologie sulle persone e garantire che l’apertura ai contenuti per adulti non comprometta la sicurezza durante le interazioni con il chatbot.
Aggiungi MRW alle tue fonti preferite su Google!
