Harassment Manager è il nome di un tool realizzato dagli sviluppatori di Mountain View per il contrasto alle molestie online, il codice sorgente di questa soluzione è stato rilasciato nelle scorse ore in modo che personaggi pubblici e figure particolarmente esposte come i giornalisti possano utilizzarlo per difendersi in contesti a volte problematici come quelli dei social media.
Harassment Manager basa il suo funzionamento su un algoritmo di Intelligenza Artificiale, quest’ultimo prenderà in considerazione un contenuto condiviso (ad esempio il commento ad un post) con lo scopo di ricercare all’interno di esso minacce, espressioni volgari o insultanti e qualsiasi altro indizio che possa fare riferimento a delle molestie.
Tra le realtà coinvolte nel progetto vi è anche Twitter, piattaforma dove il problema delle interazioni non sempre distese tra gli utenti viene evidenziato frequentemente, il social network creato da Jack Dorsey ha messo infatti a disposizione le sue API (Application Programming Interface) e implementato dei filtri per rendere questa nuova funzionalità ancora più efficace.
Con Harassment Manager i messaggi "molesti" potranno essere resi illeggibili e scaricati
Il sistema non funziona in modo completamente autonomo e lascia all’utilizzatore la possibilità di gestire i messaggi segnalati come potenziali molestie, questi vengono suddivisi in categorie apposite, possono essere oggetto di ricerca tramite keyword e vi è la possibilità di renderli illeggibili, sfocandoli, prima di un’eventuale approvazione.
Tra le altre funzionalità di Harassment Manager, che è un prodotto sviluppato in seno ai laboratori dell’incubatore Jigsaw (ex Google Ideas), vi è per esempio il supporto al download dei messaggi, una volta scaricati essi potranno essere consegnati alle autorità e utilizzati per indagini o mostrati nelle sedi competenti in caso di denunce.
Per restare sempre aggiornato seguici su Google News!
