L'APPROFONDIMENTO

Facebook e Revenge Porn: strumenti e soluzioni per contrastare il fenomeno

Facebook intende prendere più seriamente in considerazione la problematica del Revenge Porn (diffusione non consensuale di immagini o video sessualmente espliciti) e aumenta gli sforzi nel contrasto al fenomeno, dispiegando ulteriori risorse umane in supporto agli algoritmi di intelligenza artificiale di monitoraggio della piattaforma

10 Gen 2020
P
Federico P. F. Pontani

Legal Tech Consultant


A seguito dell’introduzione nel Codice penale dell’art. 612-ter (rubricato “Diffusione illecita di immagini o video sessualmente espliciti”), a repressione del fenomeno del Revenge porn, ci si era subito domandati se anche le attuali misure preventive fossero adeguate e sufficienti.

A tale riguardo, in un precedente articolo (cfr. “Revenge porn e sexting: tutti i problemi che la legge non risolve”) e in altre sedi, si auspicava l’intervento di quei soggetti, segnatamente le piattaforme di social network (e, in generale, degli OTT), che più degli altri (Autorità di vigilanza, Enti ed istituzioni, scuole ed educatori, nonché il legislatore stesso) sono nelle condizioni di neutralizzare o quantomeno arginare in modo efficace e tempestivo, la diffusione non consensuale di immagini e video a sfondo erotico.

Il processo di monitoraggio: AI all’opera, ma non da sola

Già dal 2017 Facebook aveva creato un progetto pilota, inizialmente avviato in Australia e successivamente esteso ad altri Paesi (fra cui Stati Uniti, Regno Unito e Canada), attraverso il quale era possibile segnalare la potenziale diffusione non consensuale su Internet di immagini o video a sfondo erotico.

Il programma consisteva nella messa a disposizione di un canale sicuro di trasferimento, attraverso il quale la vittima poteva trasmettere a Facebook il materiale audiovisivo oggetto della diffusione illecita, materiale che la piattaforma procedeva a contrassegnare con un sistema di hashing (da cui esitava un’impronta digitale univoca).

Ottenuta l’impronta associata al contenuto sospetto, qualora lo stesso fosse stato pubblicato su Facebook (o su piattaforme dalla stessa controllate, come Instagram e Facebook Messenger) sarebbe stato immediatamente riconosciuto da un apposito algoritmo di monitoraggio e conseguentemente rimosso.

Lo scopo, in questo caso, era proprio quello di impedire la propagazione sulle piattaforme di Facebook di scatti erotici illecitamente diffusi su Internet.

Il progetto non era andato esente da critiche, proprio perché richiedeva il preliminare caricamento di materiale particolarmente sensibile su database controllati da Facebook.

Anche se le foto trasmesse venivano cancellate entro 7 giorni (secondo quanto dichiarato da Antigone Davis, Global head of safety di Facebook), rimanendo nel sistema solo l’impronta hash necessaria per la rimozione dei contenuti, perplessità continuavano a sussistere sulla sicurezza del database in questione.

DIGITAL EVENT 13 OTTOBRE
Customer experience: tutti i vantaggi offerti dai processi di Digital Identity
CRM
Intelligenza Artificiale

Ora il progetto non è più in fase di testing ed è in fase di implementazione capillare in tutti i Paesi dove è presente il popolare social media. Inoltre, il sistema di monitoraggio è stato potenziato tramite l’assegnazione di ulteriore personale al programma.

In particolare, è stato costituito un team dedicato di 25 tecnici (oltre ai già attivi “content moderators”), con specifica funzione di contrasto dei fenomeni di Revenge porn e sextortion, attraverso:

  1. screening del materiale inoltrato tramite apposita pagina di segnalazione reperibile qui;
  2. attività di supporto e manutenzione all’algoritmo di machine learning adibito al rilevamento e rimozione dei contenuti sospetti.

Il sistema prevede sempre l’assegnazione di un fingerprint digitale ai contenuti inviati dagli utenti con un tempo di data retention coincidente con quello necessario allo screening e assegnazione della marcatura, ma comunque non superiore a 7 giorni.

Tale sistema dovrebbe contribuire ad una più celere risoluzione del mezzo milione di sospetti casi mensili di Revenge Porn e Sextortion[1] rilevati sull’insieme delle piattaforme di Facebook Inc. da algoritmi di IA e tramite segnalazioni degli utenti.

Social network come amplificatori del fenomeno

Un volume così rilevante di casi mette in evidenzia come oggi i social network rappresentino il principale cyberspazio di estrinsecazione del Revenge Porn, nonché il luogo dove gli effetti di tali atti si ripercuotono con più violenza sulle vittime.

Invero, data le peculiarità degli strumenti di condivisione e lo stretto collegamento ad una rete di persone conosciute anche nella “vita reale”, la diffusione sui social network porta agli effetti più devastanti sulle vittime, che possono sfociare anche in atti di autolesionismo e suicidio.

Come infatti osservato dall’associazione BADASS Army (Battling Against Demeaning ad Abusive Selfie Sharing) – una delle più influenti associazioni statunitensi che si occupa della tutela dei diritti delle vittime di Revenge Porn – la pubblicazione di materiale erotico su un particolare sito Internet, ancorché ben indicizzato, non porterà alla visualizzazione del contenuto se non per il tramite di ricerca diretta; diversamente su un social network la pubblicazione porta alla conoscenza immediata da parte di tutta una serie di soggetti: nucleo familiare, colleghi di lavoro, amici e conoscenti.

Conclusioni

In conclusione, è interessante notare come nel contesto di interazione tra uomo e macchina a supporto dell’intelligenza artificiale e, nella specie, qui dove opera il Team di contrasto al Revenge Porn, l’intervento umano rimanga determinante.

Come riportato nelle interviste ai componenti del Team incaricato, ciò che l’algoritmo non è ancora in grado di distinguere in maniera corretta è la diversa percezione di “intimità” che muta a seconda del Paese da cui origina il contenuto.

L’intervento umano, in questo campo, come in molti altri dove operano sistemi di Intelligenza artificiale basati su machine learning, è volto anche a prevenire errori dell’algoritmo che possono portare a falsi positivi.

In ultima analisi, è auspicabile che anche altre piattaforme come Twitter, TikTok e Snapchat (non premium) implementino misure similari, integrando sistemi di monitoraggio più stringenti.

Finali considerazioni vanno spese in merito all’auspicabile mutamento di sensibilità sociale che, oltre ad una maggiore sensibilizzazione sull’argomento (di rilevanza crescente), dovrebbe dotarsi di maggiore comprensione verso la vittima del reato di Revenge Porn, astenendosi dallo stigmatizzarne i comportamenti visti spesso, a torto, alla stregua di quelli dell’offensore.

NOTE

  1. Si veda C. Mihalcik, Facebook gets about 500.000 reports of revenge porn a month, report says, 18 novembre 2019, con riferimento “a report Monday from NBC News”. Si tratta dello scritto di O. Solon, Social Media. Inside Facebook’s efforts to stop revenge porn before it spreads, 18/19, novembre 2019.
WEBINAR
Blockchain, Iot, AI per una Supply Chain intelligente e più efficiente
Blockchain
Intelligenza Artificiale

@RIPRODUZIONE RISERVATA

Articolo 1 di 2