Meta ha annunciato alcune novità per contrastare la cosiddetta sextortion (estorsione sessuale), principalmente contro i minori, su Instagram. L'azienda di Menlo Park oscurerà le immagini di nudo ricevute tramite messaggi diretti e consentirà anche di bloccare il mittente. È inoltre previsto l'invio di maggiori informazioni attraverso la piattaforma Lantern.
Maggiori protezioni per i minori
Meta lavora da anni insieme agli esperti per comprendere le tattiche che i truffatori usano per ricattare le vittime online. I nuovi tool offriranno una maggiore protezione dalla sextortion e altri abusi di immagini intime. La prima funzionalità in test riguarda i messaggi diretti su Instagram.
Per tutti gli utenti con meno di 18 anni verrà attivata la protezione contro la nudità. Chi invia un'immagine vedrà un avviso sullo schermo con il consiglio di "ritirare" la foto. Un avviso simile verrà mostrato in caso di inoltro. L'immagine di nudo verrà oscurata sul dispositivo del destinatario (ma può essere visualizzata). Sarà possibile anche bloccare e segnalare il mittente.
La funzionalità sfrutta il machine learning on-device per analizzare il contenuto delle immagini. Meta non può accedere alle immagini in quanto la chat è protetta dalla crittografia end-to-end. Se Meta rileva tentativi di sextortion, l'account viene rimosso e, se necessario, l'utente verrà segnalato alle forze dell'ordine.
Instagram impedisce già agli adulti sconosciuti di inviare messaggi diretti ai minorenni. Ora il pulsante per l'invio dei messaggi ai minori non viene mostrato ai possibili utenti responsabili di estorsione sessuale. Meta ha infine iniziato a condividere più informazioni tramite Lantern per impedire ai predatori sessuali di contattare i minori su altre piattaforme.