xAI, la società fondata da Elon Musk per lo sviluppo di soluzioni basate sull’intelligenza artificiale, ha introdotto una nuova funzionalità nel suo chatbot Grok: si chiama Grok Imagine e consente di generare immagini e brevi video a partire da testi o immagini caricate dall’utente.
Sebbene l’idea alla base non sia particolarmente innovativa rispetto ad altri strumenti sul mercato, l’attenzione si è rapidamente concentrata su una delle opzioni offerte dal sistema, la cosiddetta modalità “Spicy” (in italiano “piccante“), che permetterebbe, secondo quanto riportato da chi l’ha già provata, di creare contenuti erotici o sessualmente espliciti senza particolari limiti o filtri.
Modalità “Spicy”: una novità controversa
Attualmente disponibile esclusivamente per gli utenti iOS abbonati ai piani SuperGrok (circa 300 dollari l’anno) o Premium+ (84 dollari l’anno), Grok Imagine permette la generazione di video brevi a partire da un’immagine di riferimento, creata attraverso il prompt testuale o caricata manualmente. Gli utenti possono scegliere tra quattro stili di animazione: Normal, Fun, Custom e, appunto, Spicy.
Secondo quanto dichiarato da Musk, nei primi giorni di disponibilità la funzione ha già superato i 34 milioni di immagini generate, un dato che testimonia un rapido incremento nell’utilizzo, ma che al tempo stesso ha sollevato interrogativi sulla capacità del sistema di gestire contenuti potenzialmente problematici.
La modalità Spicy: libertà creativa o strumento pericoloso?
Tra i primi a testare la funzione, il sito The Verge ha documentato la possibilità di creare video deepfake di nudità fotorealistica, anche a partire da volti di celebrità come Taylor Swift, senza che il prompt contenga istruzioni esplicite in tal senso.
Il risultato, secondo la testata, è un contenuto “suggestivo” che mette in discussione le politiche di moderazione della piattaforma. “La modalità sembra una causa legale in attesa di essere intentata”, ha commentato Jess Weatherbed in un’inchiesta pubblicata il 5 agosto.
Al contrario di quanto accade con altri strumenti concorrenti – come Veo di Google o Sora di OpenAI – Grok Imagine, secondo quanto documentato da The Verge, sarebbe privo di barriere efficaci per impedire la generazione di deepfake erotici o contenuti NSFW. Una scelta che, almeno nel breve periodo, ha attratto l’interesse (e l’entusiasmo) di una fetta di utenza, ma che potrebbe presto trasformarsi in un fronte giuridico aperto.
Questioni etiche e implicazioni legali
La possibilità di creare deepfake sessualmente espliciti, soprattutto senza il consenso delle persone rappresentate, tocca ambiti sensibili legati all’onorabilità delle persone, alla privacy ed al consenso digitale… considerazioni che potrebbero comportare la responsabilità degli sviluppatori qualora venisse rilevato che non hanno fatto “tutto il possibile” per impedire l’uso distorto della tecnologia di Grock.
Negli Stati Uniti, il recente Take It Down Act impone la rimozione rapida di contenuti pornografici non consensuali generati con l’intelligenza artificiale, e potrebbe rappresentare un primo banco di prova per il sistema di xAI.
L’esperienza recente mostra che i contenuti generati da AI, anche se “fittizi”, possono avere conseguenze reali, sia per le vittime di abusi digitali, sia per le aziende tecnologiche coinvolte nella loro diffusione. Il caso di Taylor Swift, già bersaglio di fake nudes generati con software AI nel gennaio 2024, dimostra quanto il confine tra sperimentazione e danno reputazionale sia sottile.
Con Grok Imagine, xAI introduce una nuova generazione di strumenti di creatività visiva basati su intelligenza artificiale. Tuttavia, la scelta di includere una modalità come Spicy, priva di restrizioni efficaci, potrebbe esporre l’azienda a critiche e possibili azioni legali.
Se altre big tech hanno puntato su una moderazione stringente, la strategia “libertaria” di Musk sembra voler testare fino a che punto sia possibile spingere i limiti del generativo. Ma l’assenza di filtri oggi potrebbe trasformarsi in un pericoloso boomerang domani.
Per restare sempre aggiornato seguici su Google News!
