Deepfake e revenge porn, combatterli con la cultura digitale: ecco come - Cyber Security 360

SAFER INTERNET DAY

Deepfake e revenge porn, combatterli con la cultura digitale: ecco come

Sta proliferando su Internet una nuova modalità di revenge porn in cui si usano algoritmi deepfake per molestare le donne: di fatto, una vita può essere distrutta a causa di un algoritmo. È dunque doveroso arginare il fenomeno con idonei strumenti tecnologici e con una corretta cultura digitale

08 Feb 2021
L
Federica Maria Rita Livelli

Business Continuity & Risk Management Consultant - CLUSIT Scientific Committee, Member - Women for Security, Member

Stiamo assistendo al proliferare di una nuova modalità di revenge porn che aggiunge una dimensione completamente nuova alle molestie online: da qualche tempo su internet, infatti, vengono utilizzate immagini e video pornografici per molestare le donne utilizzando algoritmi deepfake.

Inoltre, con l’impiego di DeepNude – i .e. un’app che è in grado di costruire sostituzioni di corpi di persone attraverso una semplice foto, soprattutto femminili, sfruttando la medesima tecnologia deepfake – si riesce a spogliare le persone.

Deepfake e revenge porn: il contesto

Di fatto, il vedere il proprio volto appiccicato sul corpo di una attrice porno in un video caricato su siti porno o social come Telegram costituisce una vera e propria violenza sessuale con conseguenze gravi sulla vita presente e futura di queste donne. Una vita può essere distrutta a causa di un algoritmo e il futuro compromesso perché quelle immagini, presumibilmente, continueranno a essere presenti sul Web.

Le vittime, tra l’altro, non si rendono conto che tali immagini esistono, non ultimo il caso del social Telegram. Inoltre, non dimentichiamo che, quotidianamente, assistiamo a molti casi di deepfake che utilizzano i volti di celebrità e di altri individui di alto profilo per essere più persuasivi nei messaggi da trasferire e, in alcuni Paesi, questa tecnologia perversa è stata utilizzata anche per avviare campagne di molestie per mettere a tacere alcune giornaliste scomode.

Per concludere, già nel 2019, uno studio dell’American Psychological Association aveva riscontrato che una donna su dodici, ad un certo punto della propria vita, poteva essere vittima di revenge porn.

Deepfake e revenge porn: attacchi mirati destinati a crescere

Il problema del deepfake, con tutta la sua gravità, tuttavia non si ferma qui. Ci pone dinanzi ad una tecnologia in grado di manipolare la realtà, creando video ed immagini fake realistiche e addirittura notizie o articoli in modo algoritmico, credibili e in modo automatizzato, contribuendo, così, ad accrescere la disinformazione online che sta deformando la realtà, danneggiando individui, organizzazioni e processi chiave come le elezioni.

Giorgio Patrini, CEO e Chief Scientist di Sensity (società leader mondiale di Visual Treath Intelligence) sospetta che questi attacchi mirati siano destinati a crescere sempre più in modo preoccupante.

I ricercatori della società monitorano costantemente il diffondersi sempre più massivo del fenomeno dato che attualmente non esistono misure in grado di contrastare efficacemente questo tipo di attività.

live streaming, 11 marzo
6 aziende raccontano: AI e Cloud ready, l’esperienza di oggi per costruire il futuro
Big Data
Cloud

Tuttavia, sta crescendo sempre più la consapevolezza del problema a tal punto che aziende come Facebook, Google, e ricercatori – che producono strumenti per la creazione di deepfake – hanno iniziato a investire più seriamente in contromisure di rilevamento automatizzato.

L’anno scorso, il Congresso degli Stati Uniti ha introdotto un pacchetto normativo che permetterebbe alle vittime di intraprendere un’azione legale per danni alla reputazione.

Il fenomeno è tale che anche il nostro Garante della Privacy, come si legge nel comunicato stampa trasmesso poche settimane fa, ha manifestato preoccupazione “per gli effetti prodotti dal software e dalla sua diffusione tra gli utenti del social Telegram, già oggetto di un’attività di verifica da parte dell’Autorità”, a tal punto da aprire un’istruttoria nei suoi confronti.

Inoltre, il Garante sta valutando ulteriori iniziative per contrastare gli usi illeciti di questo tipo di software e contenere gli effetti distorsivi del più ampio fenomeno del deepfake.

Come contrastare il fenomeno

Ci troviamo in un’era in cui è sempre più importante esercitare la ragion critica e, per far fronte al fenomeno delle fake news, è necessario comprendere, innanzitutto, lo scopo di questo fenomeno, applicare il metodo scientifico di analisi e verifica in modo tale da non essere influenzati da ciò che non è veritiero e non fermarsi all’apparenza.

È doveroso arginare il fenomeno quanto prima dal momento che la tecnologia per la realizzazione dei porno deepfake – a cominciare da quelli a sfondo sessuale – è sempre più abbordabile, diffusa, a portata di click di chiunque.

Ricordiamo che l’industria dei siti porno è costituita, ormai, da vere e proprie multinazionali del web che vanno trattate alla stessa stregua di Google, Facebook, Apple, Amazon o Twitter.

Pertanto, bisognerebbe pretendere che installino sistemi di riconoscimento automatico dei deepfake in modo tale da segnalare, in fase di upload, che potrebbe trattarsi di un video fake e dissuadere l’utente dall’effettuare l’operazione in modo da evitare di rendersi complice di una violenza sessuale digitale perpetrata nei confronti di una donna.

L’importanza di strumenti normativi ad hoc

Indubbiamente ogni innovazione implica luci ed ombre. Come afferma Mario Morcellini, commissario Agcom e Docente di Comunicazione, “le innovazioni sono positive quando aumentano il benessere degli esseri umani, non quello degli inventori. Quello che sconvolge di queste tecnologie è il fatto che, a differenza delle fake news, non viene alterato il contenuto dell’informazione, ma la sua messa in scena. È una svolta radicale, in quanto siamo abituati a prendere le misure – e a diffidare – da realtà che sono generalmente legate a un testo. Vi è quindi, in questo caso, un problema di preparazione critica. Da questo punto di vista ritengo che un’iniziativa di tipo etico, educativo e regolamentare sia indispensabile.”

Di qui la necessità di rendere l’ecosistema digitale sicuro attraverso lo sviluppo di uno strumento normativo ad hoc, unitamente ad una collaborazione multilaterale tra le diverse istituzioni a livello globale.

Se vogliamo trasformare la rete in una fonte affidabile di informazioni ed evitare il proliferare di azioni criminose è quanto mai urgente diffondere una cultura digitale sin dalle scuole primarie in modo tale da fornire degli strumenti di formazione culturale per educare i cittadini ad una corretta fruizione dei media e adottare un comportamento etico, grazie al quale ognuno si fa carico delle proprie azioni.

Pertanto, la lotta alle fake news e al deepfake si deve tradurre in una calibrata sintesi tra il quadro regolamentare e la capacità/sensibilità critica di ciascuno di noi.

Conclusioni

Una grande battaglia culturale ci attende per contrastare il fenomeno del revenge porn basato su deepfake: non si può più perder tempo. È giunto il momento di intervenire, andando a riempire il vuoto normativo e rendendo sempre più consapevoli gli utenti dell’importanza e del valore dei Big Data, spesso ceduti con troppa leggerezza.

Solo in questo modo eviteremo di creare una società “zero trust”, ovvero una società in cui le persone dubitano di tutto, persino di quello che vedono con i propri occhi e potrebbero giungere a non interessarsi più di scoprire se una cosa sia vera o falsa per il solo fatto che può essere manipolata.

È fondamentale saper gestire il rapporto tra intelligenza artificiale ed essere umano, i.e. la “Human-centred Artificial Intelligence”: urge un un approccio etico sin dalla progettazione degli algoritmi in modo tale da dare vita ad un’intelligenza che non sia computazionale, bensì emotiva, che deve porsi al servizio delle persone dei loro bisogni, creando soluzioni tecnologiche abilitanti e inclusive e non convertirsi in una minaccia.

WHITEPAPER
Gestione dei contratti e GDPR: guida all’esternalizzazione di attività dei dati personali
Legal

@RIPRODUZIONE RISERVATA

Articolo 1 di 4