X ha annunciato un aggiornamento importante per le politiche di Grok, il chatbot sviluppato da xAI, dopo alcune settimane di critiche legate alla creazione di immagini sessualizzate e contenuti non consensuali. Le nuove misure puntano a limitare in modo drastico le capacità di editing e generazione di immagini. Soprattutto quando coinvolgono persone reali.
Nuove limitazioni per le immagini e per l’accesso a Grok
L’azienda ha dichiarato di aver implementato delle misure per impedire a Grok di modificare immagini di persone reali inserendole in abbigliamenti particolari come bikini o biancheria intima. Queste restrizioni si applicano a tutti gli utenti. Indipendentemente dal tipo di abbonamento.
xAI avrebbe poi deciso di spostare tutte le funzionalità di generazione delle immagini dietro un paywall. Gli utenti non abbonati non potranno più crearle tramite Grok. Inoltre, in alcune aree geografiche dove la normativa lo richiede verrà bloccata completamente la possibilità di generare immagini di persone reali in abiti non consentiti nel Paese di riferimento.
Le decisioni di xAI
L’annuncio arriverebbe poche ore dopo l’apertura di un’indagine da parte dello Stato della California sul comportamento di Grok in relazione a contenuti di nudità generata dalla AI. Il procuratore generale della California avrebbe citato un’analisi secondo cui una parte rilevante delle immagini generate mostrava delle persone svestite.
X starebbe adottando una politica di tolleranza zero verso la nudità non consensuale. Le impostazioni dell’AI dovrebbero consentire solo quella parziale di adulti immaginari. Un po’ come avviene con i contenuti cinematografici per un pubblico maturo nel rispetto delle leggi locali.
Malesia e Indonesia avrebbero già bloccato Grok per motivi di sicurezza, mentre nel Regno Unito l’autorità di regolamentazione Ofcom starebbe valutando delle misure simili. xAI cerca di rispondere alle critiche ma le difficoltà nel controllo dei contenuti generati dall’AI non riguardano soltanto l’azienda di Elon Musk.
Per restare sempre aggiornato seguici su Google News!
