LA GUIDA PRATICA

Deepfake audio, la next generation dei cyber attacchi: cosa sono e come difendersi

I deepfake audio dimostrano come le tecnologie di intelligenza artificiale, nelle mani dei criminal hacker, possano trasformarsi in un serio rischio per le organizzazioni. Ecco in cosa consiste questa nuova generazione di cyber attacchi e i consigli per prevenirli

21 Ott 2020
I
Pierguido Iezzi

Swascan Cybersecurity Strategy Director e Co Founder

La nuova generazione degli attacchi informatici è rappresentata dai deepfake audio e, purtroppo, man mano che il mondo dell’AI e della tecnologia deepfake diventa sempre più complesso ed evoluto, il rischio che queste tecnologie nelle mani dei criminal hacker diventino un pericolo concreto per le organizzazioni aumenta.

Anzi, la crescente sofisticazione di software e algoritmi in questo campo ha già trovato la sua applicazione nel cyber crime. Questo significa che i criminal hacker sono già un passo avanti?

Deepfake audio: un attacco reale

La maggior parte di noi avrà familiarità con i principali metodi di attacco; che si tratti di phishing, attacchi ransomware o exploit di vario genere.

WEBINAR
12 Ottobre 2022 - 11:00
5 best practice per un cloud journey di successo!
Cloud
Datacenter

Tuttavia, il regno della criminalità informatica ha già fatto un grande balzo in avanti nel 2019, quando l’amministratore delegato di un’azienda attiva nel Regno Unito è stato vittima di una truffa costruita ad hoc con una telefonata basata proprio su un deepfake audio.

Credendo di parlare con il suo capo, la vittima ha inviato quasi 250mila dollari all’indirizzo dei criminal hacker, senza battere ciglio.

È questa la nuova frontiera del social engineering?

Le caratteristiche di un attacco mediante deepfake audio

La truffa della telefonata è, senza dubbio, una delle applicazioni più bizzarre della tecnologia deepfake.

Tuttavia, come abbiamo visto, è una di quelle che può essere chiaramente applicata con successo e in modo convincente.

Tanto che l’amministratore delegato che è caduto vittima del cyber attacco ha dichiarato che ha riconosciuto la voce del suo capo per il suo “leggero accento tedesco” e la “cadenza melodica”.

Come se non bastasse, a parte la sofisticata tecnologia, il processo che sta dietro alla costruzione dei falsi audio è sorprendentemente semplice.

Ai criminal hacker è bastato modificare la tecnologia di machine learning in modo tale da clonare la voce di un individuo, di solito utilizzando spyware e dispositivi che permettono di raccogliere diverse ore di registrazioni della vittima che parla.

Più dati sono in grado di raccogliere – e migliore è la qualità delle registrazioni – più accurata e potenzialmente dannosa sarà in pratica la clonazione della voce.

Una volta creato un modello di voce, l’AI si mette al lavoro “imparando” a imitare il bersaglio.

Utilizzerà, quindi, le cosiddette reti avversarie generative (GAN): quei sistemi che competono continuamente l’uno contro l’altro dove uno crea un falso e l’altro cerca di identificare i suoi difetti.

Ad ogni nuovo tentativo, l’algoritmo è in grado di migliorare esponenzialmente sé stesso.

Questo processo continua fino a quando non si ottiene un’imitazione affidabile. Spesso l’AI ci riesce dopo aver analizzato anche solo venti minuti di registrazioni.

Per i target di alto profilo questa non è una buona notizia (pensiamo a CEO di grandi aziende); i loro discorsi vengono registrati online e condivisi tramite i social media, mentre le telefonate, le interviste e le conversazioni quotidiane sono relativamente semplici da ottenere.

Con un numero sufficiente di dati il livello di precisione raggiunto dai file audio deepfake è tanto impressionante quanto spaventoso e i criminali sono in grado di far dire all’AI quello che vogliono.

Attualmente, molti degli esempi registrati di truffe audio deepfake sono stati quelli che alla fine non hanno avuto successo nei loro obiettivi.

Il futuro del phishing?

Certo, oggi gli attacchi tramite phishing rimangono molto popolari – e di successo – con ben l’85% delle organizzazioni che si trovano ad essere prese di mira.

Tuttavia, una delle ragioni principali per cui il deepfake audio potrebbe trovare terreno fertile è la sua capacità di eludere la maggior parte delle misure di sicurezza classiche.

D’altronde, queste telefonate generate dall’AI dipendono esclusivamente dall’errore umano e dalla fiducia… ed è questo che le rende potenzialmente così pericolose.

Se a questo aggiungiamo che anche gli smartphone che teniamo sempre a portata di mano non sono così sicuri come crediamo, non è difficile vedere una moltitudine di modi in cui i cyber aggressori potrebbero aggirare le nostre difese.

Ci sono due principali ostacoli, a mio parere, alla diffusione massiccia di questa tecnologia al momento.

Il primo è che ancora non ha scalato la vetta del rapporto costo-beneficio: una botnet che spedisce mail di phishing è in grado di inviare milioni di mail in breve tempo.

Il deepfake audio richiede tempo di studio del bersaglio e tempo di elaborazione. Nello stesso lasso, i classici metodi di criminal hacking riescono a fruttare di più.

Il secondo è che, anche se è vero che le misure di cyber security AI driven in grado di riconoscere i pattern di un deepfake sono ancora in fase di sperimentazione, esiste già un metodo molto analogico per debellare la minaccia: se non si è sicuri, basta riagganciare.

La maggior parte delle truffe deepfake viene effettuata con l’uso di un account VoIP, creato per contattare gli obiettivi per conto criminal Hacker.

Richiamando, le vittime dovrebbero essere in grado di capire subito se stavano parlando con una persona reale o meno.

Come difendersi dai deepfake audio

Certo, per arrivare a questo livello è necessario il giusto allenamento. Stiamo parlando di formazione, corsi di awareness o comunque di sensibilizzazione sull’argomento.

Attualmente, le truffe mediante deepfake audio sono apparentemente uno spauracchio del futuro, con la tecnologia semplicemente non abbastanza diffusa da essere una preoccupazione di vasta portata per la maggior parte delle organizzazioni.

Detto questo, è probabile che la situazione cambierà nel prossimo futuro.

I progressi dell’AI si evolvono a un ritmo impressionante e la tecnologia che rende possibile il deepfaking sta diventando più accessibile e più facile da usare (basti pensare alle app che sono disponibili in questo senso).

Il miglior consiglio al momento è quello di rimanere vigili e preparati, poiché le truffe mediante deepfake audio potrebbero diventare il prossimo grande problema da affrontare per la cyber security.

Non abbassiamo la guardia!

WHITEPAPER
Previeni i difetti di sicurezza nelle applicazioni: la soluzione in 5 punti
Sicurezza
Software
@RIPRODUZIONE RISERVATA

Speciale PNRR

Tutti
Incentivi
PA
Sostemibilità
Analisi
Formazione
Salute digitale
Sicurezza
Sostenibilità
Digital Economy
Formazione
Trasferimento tecnologico, il Mise mette sul piatto 7,5 milioni
Strategie
PSN e Strategia Cloud Italia: a che punto siamo e come supportare la PA in questo percorso
Dispersione idrica
Siccità: AI e analisi dei dati possono ridurre gli sprechi d’acqua. Ecco gli interventi necessari
PNRR
Cloud, firmato il contratto per l’avvio di lavori del Polo strategico
Formazione
Competenze digitali, stanziati 48 milioni per gli Istituti tecnologici superiori
Iniziative
Digitalizzazione delle reti idriche: oltre 600 milioni per 21 progetti
Competenze e competitività
PNRR, così i fondi UE possono rilanciare la ricerca e l’Università
Finanziamenti
PNRR, si sbloccano i fondi per l’agrisolare
Sanità post-pandemica
PNRR, Missione Salute: a che punto siamo e cosa resta da fare
Strategie
Sovranità e autonomia tecnologica nazionale: come avviare un processo virtuoso e sostenibile
La relazione
Pnrr e PA digitale, l’alert della Corte dei conti su execution e capacità di spesa
L'editoriale
Elezioni 2022, la sfida digitale ai margini del dibattito politico
Strategie
Digitale, il monito di I-Com: “Senza riforme Pnrr inefficace”
Transizione digitale
Pnrr: arrivano 321 milioni per cloud dei Comuni, spazio e mobilità innovativa
L'analisi I-COM
Il PNRR alla prova delle elezioni: come usare bene le risorse e centrare gli obiettivi digitali
Cineca
Quantum computing, una svolta per la ricerca: lo scenario europeo e i progetti in corso
L'indice europeo
Desi, l’Italia scala due posizioni grazie a fibra e 5G. Ma è (ancora) allarme competenze
L'approfondimento
PNRR 2, ecco tutte le misure per cittadini e imprese: portale sommerso, codice crisi d’impresa e sismabonus, cosa cambia
Servizi digitali
PNRR e trasformazione digitale: ecco gli investimenti e le riforme previste per la digitalizzazione della PA
Legal health
Lo spazio europeo dei dati sanitari: come circoleranno le informazioni sulla salute nell’Unione Europea
Servizi digitali
PNRR e PA digitale: non dimentichiamo la dematerializzazione
Digital Healthcare transformation
La trasformazione digitale degli ospedali
Governance digitale
PA digitale, è la volta buona? Così misure e risorse del PNRR possono fare la differenza
Servizi digitali
Comuni e digitale, come usare il PNRR senza sbagliare
La survey
Pnrr e digitale accoppiata vincente per il 70% delle pmi italiane
Missione salute
Fascicolo Sanitario Elettronico alla prova del PNRR: limiti, rischi e opportunità
Servizi pubblici
PNRR: come diventeranno i siti dei comuni italiani grazie alle nuove risorse
Skill gap
PNRR, la banda ultra larga crea 20.000 nuovi posti di lavoro
Il Piano
Spazio, Colao fa il punto sul Pnrr: i progetti verso la milestone 2023
FORUMPA2022
PNRR e trasformazione digitale: rivedi i Talk di FORUM PA 2022 in collaborazione con le aziende partner
I contratti
Avio, 340 milioni dal Pnrr per i nuovi propulsori a metano
Next Generation EU
PNRR, a che punto siamo e cosa possono aspettarsi le aziende private
Fondi
Operativo il nuovo portale del MISE con tutti i finanziamenti per le imprese
Servizi comunali
Il PNRR occasione unica per i Comuni digitali: strumenti e risorse per enti e cittadini
Healthcare data platform
PNRR dalla teoria alla pratica: tecnologie e soluzioni per l’innovazione in Sanità
Skill
Competenze digitali, partono le Reti di facilitazione
Gli obiettivi
Scuola 4.0, PNRR ultima chance: ecco come cambierà il sistema formativo
Sistema Paese
PNRR 2, è il turno della space economy
FORUM PA 2022
FORUM PA 2022: la maturità digitale dei comuni italiani rispetto al PNRR
Analisi
PNRR: dalla Ricerca all’impresa, una sfida da cogliere insieme
Innovazione
Pnrr, il Dipartimento per la Trasformazione digitale si riorganizza
FORUM PA 2022
PA verde e sostenibile: il ruolo di PNRR, PNIEC, energy management e green public procurement
Analisi
PNRR, Comuni e digitalizzazione: tutto su fondi e opportunità, in meno di 3 minuti. Guarda il video!
Rapporti
Competenze digitali e servizi automatizzati pilastri del piano Inps
Analisi
Attuazione del PNRR: il dialogo necessario tra istituzioni e società civile. Rivedi lo Scenario di FORUM PA 2022
Progetti
Pnrr, fondi per il Politecnico di Torino. Fra i progetti anche IS4Aerospace
Analisi
PNRR, Colao fa il punto sulla transizione digitale dell’Italia: «In linea con tutte le scadenze»
La Svolta
Ict, Istat “riclassifica” i professionisti. Via anche al catalogo dati sul Pnrr
Analisi
Spazio, Colao fa il punto sul Pnrr: i progetti verso la milestone 2023
FORUM PA 2022
Ecosistema territoriale sostenibile: l’Emilia Romagna tra FESR e PNRR
Il Piano
Innovazione, il Mise “centra” gli obiettivi Pnrr: attivati 17,5 miliardi
Analisi
PNRR: raggiunti gli obiettivi per il primo semestre 2022. Il punto e qualche riflessione
Analisi
PNRR: dal dialogo tra PA e società civile passa il corretto monitoraggio dei risultati, tra collaborazione e identità dei luoghi
Webinar
Comuni e PNRR: un focus sui bandi attivi o in pubblicazione
Analisi
Formazione 4.0: cos’è e come funziona il credito d’imposta
PA e Sicurezza
PA e sicurezza informatica: il ruolo dei territori di fronte alle sfide della digitalizzazione
PA e sicurezza
PNRR e servizi pubblici digitali: sfide e opportunità per Comuni e Città metropolitane
Water management
Water management in Italia: verso una transizione “smart” e “circular” 
LE RISORSE
Transizione digitale, Simest apre i fondi Pnrr alle medie imprese
Prospettive
Turismo, cultura e digital: come spendere bene le risorse del PNRR
Analisi
Smart City: quale contributo alla transizione ecologica
Decarbonizzazione
Idrogeno verde, 450 milioni € di investimenti PNRR, Cingolani firma
Unioncamere
PNRR, imprese in ritardo: ecco come le Camere di commercio possono aiutare
I fondi
Industria 4.0: solo un’impresa su tre pronta a salire sul treno Pnrr
Formazione
Trasferimento tecnologico, il Mise mette sul piatto 7,5 milioni
Strategie
PSN e Strategia Cloud Italia: a che punto siamo e come supportare la PA in questo percorso
Dispersione idrica
Siccità: AI e analisi dei dati possono ridurre gli sprechi d’acqua. Ecco gli interventi necessari
PNRR
Cloud, firmato il contratto per l’avvio di lavori del Polo strategico
Formazione
Competenze digitali, stanziati 48 milioni per gli Istituti tecnologici superiori
Iniziative
Digitalizzazione delle reti idriche: oltre 600 milioni per 21 progetti
Competenze e competitività
PNRR, così i fondi UE possono rilanciare la ricerca e l’Università
Finanziamenti
PNRR, si sbloccano i fondi per l’agrisolare
Sanità post-pandemica
PNRR, Missione Salute: a che punto siamo e cosa resta da fare
Strategie
Sovranità e autonomia tecnologica nazionale: come avviare un processo virtuoso e sostenibile
La relazione
Pnrr e PA digitale, l’alert della Corte dei conti su execution e capacità di spesa
L'editoriale
Elezioni 2022, la sfida digitale ai margini del dibattito politico
Strategie
Digitale, il monito di I-Com: “Senza riforme Pnrr inefficace”
Transizione digitale
Pnrr: arrivano 321 milioni per cloud dei Comuni, spazio e mobilità innovativa
L'analisi I-COM
Il PNRR alla prova delle elezioni: come usare bene le risorse e centrare gli obiettivi digitali
Cineca
Quantum computing, una svolta per la ricerca: lo scenario europeo e i progetti in corso
L'indice europeo
Desi, l’Italia scala due posizioni grazie a fibra e 5G. Ma è (ancora) allarme competenze
L'approfondimento
PNRR 2, ecco tutte le misure per cittadini e imprese: portale sommerso, codice crisi d’impresa e sismabonus, cosa cambia
Servizi digitali
PNRR e trasformazione digitale: ecco gli investimenti e le riforme previste per la digitalizzazione della PA
Legal health
Lo spazio europeo dei dati sanitari: come circoleranno le informazioni sulla salute nell’Unione Europea
Servizi digitali
PNRR e PA digitale: non dimentichiamo la dematerializzazione
Digital Healthcare transformation
La trasformazione digitale degli ospedali
Governance digitale
PA digitale, è la volta buona? Così misure e risorse del PNRR possono fare la differenza
Servizi digitali
Comuni e digitale, come usare il PNRR senza sbagliare
La survey
Pnrr e digitale accoppiata vincente per il 70% delle pmi italiane
Missione salute
Fascicolo Sanitario Elettronico alla prova del PNRR: limiti, rischi e opportunità
Servizi pubblici
PNRR: come diventeranno i siti dei comuni italiani grazie alle nuove risorse
Skill gap
PNRR, la banda ultra larga crea 20.000 nuovi posti di lavoro
Il Piano
Spazio, Colao fa il punto sul Pnrr: i progetti verso la milestone 2023
FORUMPA2022
PNRR e trasformazione digitale: rivedi i Talk di FORUM PA 2022 in collaborazione con le aziende partner
I contratti
Avio, 340 milioni dal Pnrr per i nuovi propulsori a metano
Next Generation EU
PNRR, a che punto siamo e cosa possono aspettarsi le aziende private
Fondi
Operativo il nuovo portale del MISE con tutti i finanziamenti per le imprese
Servizi comunali
Il PNRR occasione unica per i Comuni digitali: strumenti e risorse per enti e cittadini
Healthcare data platform
PNRR dalla teoria alla pratica: tecnologie e soluzioni per l’innovazione in Sanità
Skill
Competenze digitali, partono le Reti di facilitazione
Gli obiettivi
Scuola 4.0, PNRR ultima chance: ecco come cambierà il sistema formativo
Sistema Paese
PNRR 2, è il turno della space economy
FORUM PA 2022
FORUM PA 2022: la maturità digitale dei comuni italiani rispetto al PNRR
Analisi
PNRR: dalla Ricerca all’impresa, una sfida da cogliere insieme
Innovazione
Pnrr, il Dipartimento per la Trasformazione digitale si riorganizza
FORUM PA 2022
PA verde e sostenibile: il ruolo di PNRR, PNIEC, energy management e green public procurement
Analisi
PNRR, Comuni e digitalizzazione: tutto su fondi e opportunità, in meno di 3 minuti. Guarda il video!
Rapporti
Competenze digitali e servizi automatizzati pilastri del piano Inps
Analisi
Attuazione del PNRR: il dialogo necessario tra istituzioni e società civile. Rivedi lo Scenario di FORUM PA 2022
Progetti
Pnrr, fondi per il Politecnico di Torino. Fra i progetti anche IS4Aerospace
Analisi
PNRR, Colao fa il punto sulla transizione digitale dell’Italia: «In linea con tutte le scadenze»
La Svolta
Ict, Istat “riclassifica” i professionisti. Via anche al catalogo dati sul Pnrr
Analisi
Spazio, Colao fa il punto sul Pnrr: i progetti verso la milestone 2023
FORUM PA 2022
Ecosistema territoriale sostenibile: l’Emilia Romagna tra FESR e PNRR
Il Piano
Innovazione, il Mise “centra” gli obiettivi Pnrr: attivati 17,5 miliardi
Analisi
PNRR: raggiunti gli obiettivi per il primo semestre 2022. Il punto e qualche riflessione
Analisi
PNRR: dal dialogo tra PA e società civile passa il corretto monitoraggio dei risultati, tra collaborazione e identità dei luoghi
Webinar
Comuni e PNRR: un focus sui bandi attivi o in pubblicazione
Analisi
Formazione 4.0: cos’è e come funziona il credito d’imposta
PA e Sicurezza
PA e sicurezza informatica: il ruolo dei territori di fronte alle sfide della digitalizzazione
PA e sicurezza
PNRR e servizi pubblici digitali: sfide e opportunità per Comuni e Città metropolitane
Water management
Water management in Italia: verso una transizione “smart” e “circular” 
LE RISORSE
Transizione digitale, Simest apre i fondi Pnrr alle medie imprese
Prospettive
Turismo, cultura e digital: come spendere bene le risorse del PNRR
Analisi
Smart City: quale contributo alla transizione ecologica
Decarbonizzazione
Idrogeno verde, 450 milioni € di investimenti PNRR, Cingolani firma
Unioncamere
PNRR, imprese in ritardo: ecco come le Camere di commercio possono aiutare
I fondi
Industria 4.0: solo un’impresa su tre pronta a salire sul treno Pnrr