Una recente indagine condotta da ProPublica avrebbe evidenziato come su Facebook sia possibile veicolare advertising razzista (nel caso specifico antisemita) approfittando di alcune lacune nei controlli, un esito accolto con preoccupazione dai gestori del Sito in Blue e commentato nelle scorse ore dalla Chief Operating Officer Sheryl Sandberg.
Senza ricorrere a mezzi termini la dirigente avrebbe definito quanto sta accadendo un fallimento da parte di Menlo Park, contestualmente avrebbe promesso che l’azienda adotterà d’ora in poi delle contromisure molto severe per arginare il fenomeno del razzismo nella pubblicità. Per questo scopo la piattaforma correggerà il sistema oggi adottato per contestualizzare gli annunci.
Come è noto a chi gestisce campagne promozionali su Facebook, ogni sperimentazione può essere mirata ad un particolare segmento di pubblico selezionado gli utenti finali attraverso una lista di categorie costituite da settori d’interesse. Spesso però queste ultime verrebbero alterate inserendo termini chiaramente offensivi nei confronti di razze ed etnie.
Ciò però non assolverebbe il Sito in Blue dalle proprie responsabilità in merito, questo perché le categorie vengono generate e gestite da un apposito algoritmo, tale sistema non farebbe altro che analizzare le abitudini degli utilizzatori in modo da identificare gli argomenti di maggior successo e le tendenze dominanti del news feed.
A parere della Sandberg, per risolvere il problema Facebook dovrà agire in due direzioni: da una parte il funzionamento dell’algoritmo dovrà essere sottoposto ad un controllo umano più attento, dall’altra gli sviluppatori di Menlo Park dovranno creare degli strumenti più semplici ed intuitivi che consentano agli utenti di segnalare gli abusi.