L’intelligenza artificiale sta trasformando profondamente ogni settore, inclusa la sicurezza informatica.
I modelli linguistici di grandi dimensioni (LLM) stanno progredendo rapidamente e sono ormai sempre più integrati in chatbot, assistenti alla programmazione e agenti autonomi per lo sviluppo software.
Sebbene queste tecnologie offrano vantaggi significativi e promettano di rivoluzionare diversi ambiti industriali, la loro natura ambivalente – in grado di essere sfruttata sia per scopi benefici che dannosi – solleva serie preoccupazioni.
Uno degli aspetti più allarmanti è il potenziale impiego dell’IA nelle operazioni di offesa informatica.
Indice degli argomenti
Cyber attacchi autonomi: come l’IA ne facilita l’automazione
Il 93% degli esperti di cyber security prevede gravi crisi informatiche causate dall’IA entro il 2026, come interruzioni nelle infrastrutture critiche e attacchi ransomware.
“Alla fine vivremo in un mondo in cui la maggior parte dei cyberattacchi sarà condotta da agenti IA; è solo una questione di quanto velocemente ci arriveremo”, ha affermato Mark Stockley, esperto di sicurezza presso la società di cybersecurity Malwarebytes.
Per i gruppi criminali, l’impiego delle cosiddette AI-factories – infrastrutture virtuali basate sull’IA agenziale – rappresenta un’opportunità per potenziare i propri cyber attacchi.
Tradizionalmente, un attacco informatico richiede l’intervento umano in ogni fase: dall’identificazione dell’obiettivo, alla penetrazione nel sistema e al furto dei dati. L’uso di agenti IA consentirebbe l’automazione di questi processi, 24 ore su 24, 365 giorni l’anno, con una velocità e un’efficienza nettamente superiori rispetto agli attacchi convenzionali.
“Se si può delegare il lavoro di selezione dei bersagli a un agente, allora improvvisamente si può scalare il ransomware in un modo che al momento non è possibile”, ha aggiunto Stockley.
Oltre all’automazione degli attacchi, l’efficacia dell’IA multi-agente è amplificata dall’impiego di tecniche di data scraping, che permettono di raccogliere e analizzare dati provenienti da fonti pubbliche – come siti di social media e siti web aziendali – per generare messaggi di phishing altamente personalizzati, contestuali e tempestivi.
A ciò si aggiunge la capacità degli algoritmi di IA di imparare e adattarsi in tempo reale, consentendo un perfezionamento continuo delle tecniche d’attacco e l’elusione dei sistemi di rilevamento tradizionali.
Mitigazione dei rischi
Per contrastare queste minacce emergenti, è essenziale che le organizzazioni adottino soluzioni di cyber security proattive, integrando tecnologie di deep learning in tempo reale per rilevare gli attacchi prima che possano causare danni.
In particolare, consentendo il rilevamento delle anomalie in tempo reale e l’analisi automatizzata dei rischi, le soluzioni di deep learning sono in grado di individuare e classificare schemi di attacco sofisticati, adattarsi alle nuove minacce informatiche senza fare affidamento su regole statiche, nonché analizzare set di dati su larga scala per rilevare exploit zero-day e malware alimentati dall’IA.
Il progetto dell’LLM Agent Honeypot
Un progetto pionieristico in questo ambito è l’LLM Agent Honeypot, un sistema sviluppato dall’organizzazione di ricerca sull’intelligenza artificiale Palisade Research al fine di monitorare gli attacchi informatici condotti attraverso agenti di IA.
Sfruttando server appositamente vulnerabili e mascherati da siti di informazioni governative e militari di valore, l’iniziativa mira ad attirare e cercare di rilevare gli agenti IA malevoli che tentano di penetrare il sistema. “L’approccio di Palisade Research è brillante: fondamentalmente si tratta di hackerare gli agenti IA che cercano di hackerarti per primi”, ha commentato Vincenzo Ciancaglini, ricercatore senior sulle minacce presso la società di sicurezza Trend Micro.
Dal lancio del progetto nell’ottobre scorso, l’LLM Agent Honeypot ha registrato oltre 11 milioni di tentativi di accesso, per lo più da parte di utenti e bot ncomuni. Ma tra questi, i ricercatori hanno individuato otto potenziali agenti IA, due dei quali confermati come agenti autonomi che sembrano provenire rispettivamente da Hong Kong e Singapore.
“Pensiamo che questi agenti confermati siano esperimenti lanciati direttamente da esseri umani con un programma del tipo: ‘Esci su Internet e cerca di hackerare qualcosa di interessante per me’, ha spiegato Dmitrii Volkov, responsabile della ricerca di Palisade. Tracciando questi tentativi nel mondo reale, il team di Palisade Research auspica che LLM Agent Honeypot possa agire come un sistema di allarme precoce e aiuti gli esperti a sviluppare strategie di difesa efficaci contro gli attori delle minacce basate sull’IA prima che assumano proporzioni critiche.
“Ci aspettiamo un’impennata e quando ciò accadrà, sapremo che il panorama della sicurezza è cambiato. Nei prossimi anni, mi aspetto di vedere agenti di hacking autonomi a cui viene detto: ‘Questo è il tuo obiettivo. Vai e violalo”, ha dichiarato Volkov”.
Algoritmi e analisi dei dati
Il team di ricerca mira, dunque, a testare framework di agenti LLM e a identificare pattern di attacco distintivi basati sull’IA, servendosi di metodi di rilevamento avanzati e concentrandosi sull’analisi dei dati e sugli algoritmi.
In particolare, i ricercatori puntano ora a espandere il progetto per monitorare una gamma più ampia di superfici di attacco, comprese piattaforme social, siti web e database, al fine di attirare e catturare un numero maggiore di minacce come spam bot, agenti di phishing e altre applicazioni offensive basate su LLM.
Previsioni future
Il futuro della sicurezza informatica sarà dunque definito dalla continua battaglia tra attacchi e difese basati sull’IA.
Entro il 2026, si prevede che malware alimentati dall’intelligenza artificiale e la scoperta automatizzata delle vulnerabilità diventeranno strumenti standard negli arsenali dei criminali informatici.
L’IA multi-agente sarà infatti in grado di sviluppare e distribuire exploit in tempo reale, riducendo significativamente i tempi tra la scoperta e lo sfruttamento delle vulnerabilità.
L’adozione di una strategia di difesa proattiva, con soluzioni di rilevamento delle minacce guidate dall’IA, di analisi comportamentale basata sul deep learning e soluzioni di sicurezza dei dati zero-day, è fondamentale per mitigare queste minacce emergenti e mantenere la resilienza della sicurezza informatica.
