Il fenomeno della sextortion e purtroppo molto diffuso sui social network e neanche le piattaforma di Meta riescono sempre a prevenirlo o a bloccarlo sul nascere. Esso consiste nel ricattare le potenziali vittime con immagini di nudo che le ritraggono e con l’intenzione di estorcere loro denaro. Una pratica ancora più rischiosa quando ad essere coinvolti sono dei minori.
Per garantire un maggior livello di sicurezza ai propri utenti, i responsabili di Instagram hanno deciso che non sarà più possibile inviare immagini di nudo tramite i messaggi privati, noti anche come DM. Il sistema provvederà infatti ad oscurarle automaticamente e permetterà ai destinatari (molto spesso delle donne) di bloccare definitivamente i mittenti.
We’re testing new features to help protect young people from sextortion scams and encourage them to say no to sharing anything that makes them feel uncomfortable.https://t.co/GxBpXW9OOQ
— Meta Newsroom (@MetaNewsroom) April 11, 2024
Questo tipo di protezione sarà attiva in modalità predefinita per tutti gli iscritti alla piattaforma di età inferiore ai 18 anni. Se un utente dovesse tentare di inviare loro un’immagine esplicita Instagram li inviterà a desistere e a rimuoverla, ciò avverrà anche nel caso in cui si stia cercando di inoltrare una fotografia ricevuta da qualche altro utente.
Il destinatario riceverà un’immagine oscurata ma visualizzabile e avrà inoltre la possibilità di segnalare il mittente al sistema. Quest’ultimo si basa su un algoritmo di Machine Learning con funzionalità di computer vision in grado di riconoscere i contenuti presenti nelle foto, in ogni caso la crittografia end-to-end impedirà a Meta di accedere ad esse.
Come sottolineato dai portavoce della compagnia capitanata da Mark Zuckerberg, i tentativi di estorsione basati sulle immagini di nudo porteranno al ban dell’utente che se n’è reso protagonista e alla rimozione del suo account. L’azienda valuterà inoltre l’opportunità di rivolgersi alle autorità per segnalare i casi di sextortion che si verificano tramite le App del suo network.