Una nuova indagine condotta da Media Matters rivelerebbe una preoccupante tendenza su TikTok. Video razzisti generati tramite intelligenza artificiale starebbero ottenendo milioni di visualizzazioni. Alcuni di questi contenuti sembrerebbero essere stati realizzati con Veo 3, il generatore video basato su testo sviluppato da Mountain View e reso pubblico in alcuni mercati lo scorso maggio.
Video razzisti creati con l’AI su TikTok
I video analizzati starebbero veicolando degli stereotipi esplicitamente anti-Black, con rappresentazioni degradanti che assimilerebbero persone nere a primati, criminali o soggetti ridicolizzati attraverso riferimenti razzisti ricorrenti come il fatto di mangiare pollo fritto e angurie. Alcuni filmati, della durata di 8 secondi o composti da brevi clip, riporterebbero chiaramente etichette o altri segnali riconducibili a Veo 3.
In alcuni casi, i contenuti si spingerebbero ben oltre. Inscenando ad esempio delle situazioni che riproducono violenze razziali e traumi storici. Dai campi di concentramento ai linciaggi del Ku Klux Klan. Altri video punterebbero a denigrare immigrati, asiatici e comunità ebraiche attraverso linguaggi e immagini degradanti o apertamente disumanizzanti.
Moderare i contenuti prodotti con l’AI non è facile
TikTok vieta espressamente i contenuti che incitano all’odio o alla violenza contro i gruppi etnici. Media Matters evidenzia però come questi video continuino a diffondersi indisturbati. In alcuni casi sarebbero state registrate più di 5 milioni di visualizzazioni con centinaia di commenti che approverebbero o amplificherebbero i messaggi razzisti.
I sistemi di moderazione adottati sembrerebbero essere incapaci di contrastare in modo efficace l’abuso degli strumenti AI a scopo discriminatorio. Su TikTok e non solo. La questione pone quindi degli interrogativi sulla responsabilità delle piattaforme e dei creatori di AI generative che, anche se non direttamente coinvolti, fornirebbero le tecnologie con cui questi contenuti possono essere prodotti.
Per restare sempre aggiornato seguici su Google News!
