Quando, lo scorso aprile, è esploso il caso Pentagon Leaks – non per la prima volta nell’ultimo decennio – gli Stati Uniti hanno visto i propri segreti di stato esposti sul palcoscenico globale e il tema della disinformazione online e delle fake news è di nuovo tornato in primo piano.
L’opera di Jack Teixeira, un aviere di prima classe della Guardia Nazionale Aerea del Massachusetts, di fotografare e pubblicare presunti estratti di documenti secretati sulla piattaforma di messaggistica istantanea Discord, seppur differente – per le motivazioni – dalle azioni di Chelsea Manning o Edward Snowden, ha avuto comunque una significativa ricaduta.
Disinformazione: i rischi dell’uso malevolo dell’intelligenza artificiale generativa
Indice degli argomenti
Il caso Pentagon Leaks: cosa sappiamo
I documenti sono principalmente legati alla guerra russo-ucraina, ma includono anche valutazioni dell’intelligence estera riguardanti nazioni come Corea del Nord, Cina, Iran ed Emirati Arabi Uniti.
Una parte dei documenti è stata condivisa su server Discord di uno Youtuber e del videogioco sandbox Minecraft tra la fine di febbraio e l’inizio di marzo 2023.
Nel mese di aprile, un utente di 4chan ha pubblicato diversi documenti sulla sezione politica del sito denominata “/pol/”. I documenti sono poi stati diffusi attraverso canali Telegram filorussi; almeno un’immagine è stata alterata per mostrare un numero maggiore di vittime ucraine rispetto a quelle russe.
I documenti trapelati contengono briefing operativi provenienti dallo Stato Maggiore Congiunto. Riguardo alla guerra russo-ucraina, i documenti suggeriscono difficoltà sia per i russi che per gli ucraini in ugual misura; sebbene una diapositiva suggerisca che più russi siano morti nella guerra rispetto agli ucraini, diversi documenti che coprono la Battaglia di Bakhmut indicano difficoltà per gli ucraini nel contrastare le manovre di accerchiamento russe e la carenza di rifornimenti nella zona.
Inoltre, vengono affrontate le relazioni tra la Russia e altre nazioni, con molti documenti che illustrano gli sforzi dell’agenzia di intelligence militare russa GRU e del gruppo paramilitare Wagner nel promuovere ideali russi e minimizzare i valori americani.
Di particolare interesse, nel contesto della guerra tra Kiev e Mosca, sono i briefing inerenti alla macchina di disinformazione creata dalla Russia per lo spreading di fake news e alimentata dal GlavNIVT denominata “Fabrika”.
La disinformazione, infatti, non risparmia nessuno, dalle grandi aziende alle istituzioni pubbliche, ed è sempre più difficile distinguere la verità dalla menzogna. Questo strumento di manipolazione delle informazioni viene utilizzato per falsificare intenzionalmente dati e notizie, al fine di modificare le percezioni del pubblico.
Il suo obiettivo è quello di creare confusione e instabilità, inducendo il bersaglio a prendere decisioni contrarie ai suoi interessi. In questo contesto, diventa fondamentale sviluppare una maggiore consapevolezza critica e la capacità di leggere e interpretare le informazioni in modo corretto: solo in questo modo potremo contrastare efficacemente tale fenomeno e difendere la libertà di informazione e di pensiero.
In un’epoca in cui le notizie si diffondono a velocità vertiginosa sui social network e dove l’informazione è facilmente manipolabile, la disinformazione rappresenta dunque un grave problema per la società. Le fake news sono diventate uno strumento di propaganda e di manipolazione dell’opinione pubblica, utilizzate da gruppi che mirano a influenzare le decisioni politiche e a destabilizzare i governi, costituendo una minaccia per la democrazia e la libertà di informazione.
Fake news e disinformazione: una minaccia sempre più grande
Per affrontare questo problema, è importante comprendere il funzionamento delle fake news e dei meccanismi che le alimentano.
In particolare, cinque sono le chiavi di volta della disinformazione:
- l’identificazione dell’appartenenza a un sito istituzionale;
- la creazione di siti ad hoc per la diffusione delle informazioni a sostegno dell’ideologia;
- il finanziamento di canali di comunicazione attinenti con l’obiettivo;
- la creazione di profili fake per la condivisione dei contenuti;
- la propagazione delle informazioni nel mondo cyber.
Per contrastare la disinformazione, sono state messe in campo diverse iniziative, tra cui il monitoraggio della propaganda, l’educazione dei cittadini alla verifica delle fonti di informazione e la creazione di strumenti mirati a contrastare le fake news.
Il Centro europeo per la lotta alle fake news
Tuttavia, la lotta alla disinformazione richiede un’azione coordinata tra governi, organizzazioni internazionali e aziende tecnologiche. Solo un approccio integrato e innovativo può garantire la salvaguardia dell’informazione libera e indipendente e la difesa della democrazia.
A tal proposito, il Centro europeo per la trasparenza algoritmica (ECAT) ha finalmente aperto i battenti con un evento di lancio in diretta streaming a Siviglia, in Spagna. Al lancio hanno partecipato rappresentanti di istituzioni dell’UE, accademici, membri della società civile e dell’industria, che hanno discusso delle principali sfide e dell’importanza di controllare il modo in cui i sistemi algoritmici vengono utilizzati a livello sociale.
L’obiettivo del Centro è quello di fornire alla Commissione competenze tecniche e scientifiche interne per garantire che i sistemi algoritmici utilizzati dalle piattaforme online e dai motori di ricerca di dimensioni molto grandi rispettino le norme relative alla gestione, mitigazione e trasparenza del rischio previsti dalla legge sui servizi digitali, motivo per cui saranno incluse analisi tecniche e valutazioni degli algoritmi per garantirne la conformità ai requisiti legali.
Una vera e propria guerra dell’informazione
Siamo dunque di fronte a una vera e propria guerra dell’informazione, nella quale numerose entità sono in lizza per il controllo dell’opinione pubblica.
La Mosca di Putin è uno dei protagonisti principali di questa battaglia, ma non l’unico. L’obiettivo è sempre lo stesso: destabilizzare le nazioni democratiche occidentali e promuovere i propri interessi.
La disinformazione russa ha raggiunto il suo apice durante le elezioni presidenziali americane del 2016, durante le quali i russi furono accusati di aver interferito nell’esito della votazione.
Ma anche l’Europa è stata pesantemente colpita dall’influenza della Russia in molti paesi. L’obiettivo del Cremlino è quello di indebolire l’Unione Europea, sostenerne i partiti politici antieuropeisti e fomentare le tensioni tra i Paesi dell’Unione.
Questo sottolinea come la disinformazione rappresenti una minaccia sempre più grande per la democrazia e la pace a livello globale, con conseguenze estremamente gravi sulle dinamiche sociali e geopolitiche.
Ogni giorno, infatti, migliaia di notizie false e manipolate vengono diffuse in rete, spesso con la complicità di organizzazioni propense a sostenere le tesi dei governi o dei gruppi di interesse più influenti.
NewsFront: la fabbrica delle fake news
Il caso di NewsFront in Crimea è solo uno dei tanti esempi di come la propaganda venga utilizzata per orientare l’opinione pubblica, seminando il caos e la confusione sulle dinamiche politiche e sociali in corso in tutto il mondo.
Non solo i suoi dipendenti propagandano l’idea di “Novorossiya” o “Nuova Russia”, ma collaborano attivamente con organizzazioni terroristiche come “LPR” e “DPR”.
Tuttavia, ciò che desta preoccupazione è la disinformazione e la propaganda che NewsFront pubblica sui propri siti web multilingue: secondo EUvsDisinfo, infatti, ci sono numerosi esempi di notizie false, tra cui l’affermazione che gli Stati Uniti abbiano ideato il COVID-19 come arma biologica, oppure che l’UE sia morta e non possa gestire la pandemia, infiammando la guerra nel Donbass e destabilizzando la Bielorussia o la fake news relativa alla strage di Bucha, dove la Russia accusava l’Ucraina di aver pubblicato un video falso e che le vittime riprese nel video erano degli attori che stavano recitando.
L’agenzia russa NewsFront, registrata con Roskomnadzor, l’organizzazione statale russa che si occupa dei mass media, si trova al centro di un’inchiesta sulla disinformazione. Konstantin Knyrik, uno dei proprietari, ha dichiarato che l’organizzazione è finanziata esclusivamente attraverso donazioni personali, ma alcune fonti sostengono il contrario.
Nel 2016, Global Information Technologies, società fondata da Knyrik e altri due personaggi, ha ricevuto una sovvenzione presidenziale di 3 milioni di rubli per finanziare NewsFront.
Inoltre, il governo statunitense ha deciso di sanzionare numerose personalità russe e i loro familiari, identificando alcuni beni come bloccati e sanzionando i canali di disinformazione diretti dai servizi segreti russi.
Tra le 151 organizzazioni russe di disinformazione oggetto di sanzioni statunitensi, quattro appartenenti a NewsFront risultano nella lista.
Inoltre, Konstantin Knyrik e altri leader di NewsFront sono affiliati con il partito politico nazionalista russo Rodina, una coalizione di trenta gruppi nazionalisti fondata nel 2003. Rodina combina “patriottismo, nazionalismo e un ruolo maggiore per il governo nell’economia” ed è descritto come pro-Cremlino. Knyrik è il capo della sezione basata in Crimea del partito Rodina, mentre Yuriy Fedin ha corso per conto di Rodina nelle elezioni locali. La figura di Knyrik e la stessa organizzazione NewsFront sono inoltre presenti all’interno del leak “Dark Side of the Kremlin” risalente al 2019.
NewsFront è stata recentemente designata dall’OFAC per la diffusione di contenuti strettamente collegati ai servizi segreti russi. Non è possibile accertare che l’attività di disinformazione sia fatta per favorire il partito Rodina, ma le evidenti sanzioni confermano in ogni caso il collegamento col diffondersi di fake news.
ANNA News: l’agenzia pro-Cremlino che diffonde notizie false
Anche ANNA News, fondata da Knyrik, è un’agenzia di stampa russa pro-Cremlino che ha diffuso notizie false. I dipendenti di ANNA-news.info lavoravano anche per i siti web di propaganda russi NewsFront e South Front, e NewsFront aveva raccolto fondi per ANNA-news.info nel 2014.
Tali siti di fake news hanno spesso diffuso notizie false riguardanti eventi in Ucraina e in Siria, dipingendo i separatisti filorussi come dei “liberatori” lottando per la propria indipendenza, ignorando il fatto che questi gruppi sono stati armati e finanziati dalla Russia.
Hanno anche sostenuto che l’attacco chimico avvenuto nella città di Douma nel 2018 non era stato condotto dal governo siriano, ma era stato invece messo in scena dagli “altri” (suggerendo gli Stati Uniti o i gruppi ribelli siriani), teoria smentita da molte fonti indipendenti e dalla relazione dell’Organizzazione per la Proibizione delle Armi Chimiche.
Inoltre, secondo il recente leak del Pentagono, il paese avrebbe intensificato l’utilizzo di bot e account falsi per diffondere messaggi favorevoli alla Russia, sfuggendo alla vigilanza delle piattaforme di social media nel 99% dei casi.
Il ruolo della Russia nella disinformazione online
In questo contesto il centro di ricerca scientifica russo, GlavNIVT, prevede di potenziare la capacità di Mosca di controllare il panorama informativo interno e spingere narrazioni favorevoli alla Russia all’estero, e la rete di bot dei social media che simula gli utenti, denominata Fabrika, è al centro di questa attività di propaganda.
Fabrika utilizza una serie di account bot per promuovere o declassare i contenuti su diverse piattaforme, tra cui Twitter, YouTube e TikTok: la strategia prevede la manipolazione del conteggio delle visualizzazioni per far salire i contenuti nei risultati di ricerca, con un’efficacia incredibile dato che i bot vengono rilevati meno dell’1% delle volte.
GlavNIVT attinge le informazioni di contatto degli utenti dai database presenti nel web e nel dark web, per inviare messaggi pro-Russia a target precisi. La messaggistica russa viene dunque invisibilmente sparsa sui social media, senza che il pubblico ne sappia nulla.
Sempre dai documenti che sono trapelati in relazione al leak menzionato, compare una sezione denominata “Russian censor agency”: i documenti qui presenti confermano l’esistenza di un sistema automatico di monitoraggio di tutti i siti e i canali che pubblicano notizie negative sulla Russia.
In un documento Excel, i russi hanno mappato tutti i siti che diffondono notizie sulla Russia dividendo gli stessi in siti antirussi, siti ad opposizione moderata, neutri, filogovernativi e altro ancora. In particolare, è stata individuata la presenza dei siti di NewsFront e Anna News, catalogati come filogovernativi nella lista russa.
Intelligenza artificiale e deep fake: la nuove minaccia
Inoltre, purtroppo, l’Intelligenza Artificiale (AI) sta rendendo sempre più semplice la manipolazione di immagini e video, aprendo la strada a potenziali abusi come la diffusione di contenuti falsi o dannosi.
Uno tra i casi più eclatanti è sicuramente quello del deepfake pubblicato dalla TV ucraina a seguito di un hack ricevuto dalla TV stessa (il Cremlino non ha ovviamente mai ammesso di essere dietro questo attacco) e dove veniva riprodotto un video di Zelensky che annunciava la sconfitta dell’Ucraina e si arrendeva a Putin:
Tra gli strumenti di AI più preoccupanti in questo ambito ci sono infatti i software di deepfake, che utilizzano tecniche di apprendimento automatico per creare video falsi che sembrano realistici.
Questi strumenti consentono di manipolare il volto e la voce di una persona in modo da farla sembrare che stia dicendo o facendo qualcosa che non ha mai fatto.
Altri strumenti di AI, come i software di editing di immagini, consentono di modificare facilmente le immagini in modo da alterare la realtà e creare contenuti ingannevoli o offensivi.
Questi strumenti possono essere utilizzati per diversi scopi, come la creazione di meme divertenti o la produzione di contenuti video a scopo artistico o pubblicitario. Tuttavia, vengono spesso utilizzati per scopi malevoli, come la diffusione di disinformazione politica.
A tal proposito, Tencent Cloud ha annunciato di offrire una piattaforma di Deepfakes-as-a-Service (DFaaS). Il servizio richiede solo tre minuti di live-action video e 100 frasi pronunciate, al costo di 145 dollari, per creare una copia digitale di una persona ad alta definizione in sole 24 ore, con servizio personalizzabile per alcune caratteristiche, come lo sfondo e il tono.
La piattaforma utilizza la tecnologia Tencent Cloud TI, una piattaforma di machine learning che offre oltre dieci algoritmi di intelligenza artificiale e 5 diversi stili, 3D realistic, 3D semi-realistic, 3D cartoon, 2D real person e 2D cartoon.
Per contrastare questi problemi, molte organizzazioni e governi stanno cercando di sviluppare strumenti di AI in grado di individuare le immagini e i video manipolati. Inoltre, è importante educare il pubblico su come riconoscere i contenuti falsi e diffidare delle fonti non verificate.
A tal proposito, il Cyberspace Administration of China (CAC) ha già regolamentato la tecnologia deepfake e richiesto ai fornitori di garantire che i loro algoritmi di intelligenza artificiale non vengano utilizzati per attività illegali come frodi, truffe e informazioni false.
La diffusione di strumenti di AI per la manipolazione di immagini e video è una questione seria che richiede l’attenzione e l’impegno di tutti i soggetti coinvolti, dalle organizzazioni tecnologiche ai governi e ai singoli utenti.
Di seguito una lista non esaustiva di strumenti basati su Intelligenza Artificiale utili per la creazione di DeepFake e disinformazione:
- FakeApp: un software open-source che utilizza l’IA per creare deepfake;
- DeepFaceLab: un software basato sull’IA per la creazione di deepfake;
- FaceSwap: un’applicazione basata sull’IA che permette di scambiare i volti di due persone in un video;
- Zao: un’applicazione mobile basata sull’IA che permette di sostituire il proprio volto con quello di celebrità o personaggi famosi;
- Avatarify: un’applicazione basata sull’IA che permette di animare una foto statica utilizzando il proprio viso o quello di una celebrità;
- Vid2Vid: un software di deep learning che consente di manipolare i video in modo da modificare l’aspetto dei soggetti, aggiungere oggetti in movimento e altro ancora;
- TensorFlow: una libreria di software open-source di AI sviluppata da Google, che può essere utilizzata per creare strumenti di AI per la manipolazione di immagini e video.
Deep fake: cosa sono e come riconoscerli per smascherare la disinformazione
Conclusioni
Le fake news rappresentano una sfida significativa per la società contemporanea, minando la fiducia nelle istituzioni e compromettendo il dibattito pubblico.
È fondamentale che ciascuno di noi si impegni attivamente nel contrastare la diffusione di informazioni false, sviluppando un approccio critico e responsabile nei confronti delle notizie che consumiamo.
Si tratta, dunque, di uno strumento pericoloso che viene impiegato come arma per destabilizzare i Paesi occidentali e minare la loro credibilità, come dimostrano le misure prese dall’Ucraina contro ANNA News.
Ma perché la Russia adotta questa strategia? Probabilmente per acquisire un maggiore potere e controllo a livello internazionale.
Tuttavia, ciò presenta un grave problema per la diplomazia e la sicurezza internazionale. Resta da vedere quali azioni potranno essere intraprese per contrastare questa tendenza. In un momento storico in cui la disinformazione rappresenta un problema sempre più pressante, le sanzioni imposte sono un segnale forte che indica quanto la diffusione di fake news sia pericolosa per il mondo occidentale.
Educare le persone sull’importanza della verifica delle fonti e promuovere la trasparenza da parte dei media sono passi essenziali per combattere questo fenomeno.
Inoltre, è necessario che le piattaforme digitali e i governi collaborino per implementare misure efficaci che limitino la diffusione delle fake news, garantendo al contempo la libertà di espressione e il diritto all’informazione.
Solo attraverso un impegno collettivo e consapevole potremo preservare l’integrità del nostro ecosistema informativo e costruire un futuro basato sulla verità e sulla conoscenza condivisa.
