C’è una frase pronunciata di recente da Nikesh Arora, amministratore delegato di Palo Alto Networks, che vale la pena tenere a mente: “L’IA deve combattere l’IA”. Non è una metafora: è una sintesi piuttosto brutale di come sta cambiando il panorama delle minacce informatiche negli ultimi mesi.
Il confronto tra chi attacca i sistemi e chi li difende sta assumendo forme nuove, meno leggibili, sempre più difficili da controllare davvero.
Per decenni la cyber sicurezza ha funzionato con una logica abbastanza stabile: gli attaccanti cercavano vulnerabilità, i difensori le chiudevano con patch, e le organizzazioni cercavano di stare al passo. Il fattore umano era ovunque, da entrambe le parti, insieme ai limiti classici: tempo, risorse, errori.
Oggi quel modello scricchiola. L’intelligenza artificiale non ha solo accelerato tutto, ha cambiato profondamente le regole del gioco. Negli ultimi mesi Anthropic e OpenAI hanno presentato rispettivamente Mythos Preview e il modello 5.5-Cyber, strumenti capaci di individuare vulnerabilità con una scala che, realisticamente, nessun team umano può replicare.
Sono stati rilasciati in modo molto controllato, a poche organizzazioni fidate, proprio perché il rischio è evidente. Ma come ricorda The Economist, “New models are emerging all the time and hackers already use earlier varieties”. E questo, in pratica, chiude il discorso: chi attacca non aspetta nessuno.
La verità è che ogni tecnologia offensiva, anche quando nasce in contesti “sicuri”, tende a uscire da quei confini molto più in fretta di quanto si voglia ammettere. E nel frattempo la distanza tra un attaccante singolo e un team strutturato si è ridotta in modo impressionante. Lo stesso Arora lo ha detto senza troppi giri di parole: con l’AI, un singolo attaccante può fare ciò che prima richiedeva un gruppo intero, e alla fine deve avere ragione solo una volta. Chi difende, invece, no.
“With AI, lone wolves can carry out attacks that used to require whole teams, and they have to be right just once to succeed. Defenders, by contrast, have to be right every time”.
Non sono scenari teorici. Sono cose che in parte stanno già accadendo, anche se non sempre finiscono nei report pubblici.
In questo quadro l’IA non è più un supporto: è diventata un attore diretto, sia sul lato offensivo che su quello difensivo.
Indice degli argomenti
Quando le macchine decidono prima di noi
Il punto più delicato non è la potenza degli strumenti, ma la velocità. I sistemi moderni analizzano milioni di eventi al secondo, trovano anomalie, correlano segnali su scala globale e reagiscono in tempo quasi reale. Nessun umano può reggere quel ritmo. Ma il punto vero è un altro: in molti casi la risposta automatica è già la risposta finale. L’operatore umano arriva dopo, quando la decisione è stata presa e gli effetti sono già in corso.
Nei SOC delle grandi organizzazioni questo è già lo standard. I sistemi SOAR isolano endpoint bloccano account, revocano accessi e attivano procedure di contenimento senza intervento umano diretto. L’analista spesso si trova davanti a un sistema che ha già “deciso”. E quando sbaglia, gli effetti si sentono eccome: falsi positivi che isolano sistemi critici, utenti bloccati senza motivo, attività fermate nel momento peggiore.
Questo spostamento della decisione verso le macchine è già realtà nella difesa. Ma lo stesso identico meccanismo si sta replicando anche nell’attacco, e lì la situazione diventa molto meno controllabile. Campagne di spear-phishing generate automaticamente, exploit testati senza intervento umano, infrastrutture di comando e controllo che cambiano comportamento per evitare i sistemi di detection. Non è futuro: è già presente.
L’IA che combatte l’IA: il nodo militare e le verità non dette
Se tutto questo è già complesso nel mondo civile, diventa ancora più delicato quando si entra nel dominio militare. Le principali potenze usano da anni sistemi AI per detection, attribuzione e risposta agli attacchi. Ma ora il salto è più profondo: sistemi che potrebbero non solo reagire, ma anche pianificare e avviare operazioni offensive in autonomia, scegliendo obiettivi e modalità di risposta in tempi incompatibili con qualsiasi supervisione umana reale.
Il dibattito sui LAWS (Lethal Autonomous Weapons Systems) si è concentrato soprattutto sulle armi fisiche. Il cyber spazio è rimasto più in ombra, anche se gli effetti possono essere altrettanto gravi, o peggio.
Un’operazione cyber autonoma contro reti elettriche, ospedali, sistemi idrici o infrastrutture militari potrebbe infatti generare conseguenze gravi senza un controllo umano effettivo sulla decisione finale. In questo quadro, il vero nodo non è solo tecnico: è la responsabilità. Chi risponde quando l’azione è stata avviata da un sistema algoritmico, la catena di attribuzione è incerta e l’impatto si consuma in pochi secondi?
Il diritto internazionale è ancora costruito attorno all’idea di decisione umana. Ma l’automazione sta già spostando quel confine. Come ha ricordato il Segretario Generale dell’ONU, serve colmare un “AI knowledge gap” che oggi è evidente tra Stati e istituzioni. Senza questo, il rischio è che la velocità diventi opacità, e l’opacità si traduca in assenza di responsabilità.
L’utente che cambia modello continuamente
C’è poi un aspetto che spesso viene sottovalutato: la democratizzazione degli strumenti.
Oggi chiunque usa modelli avanzati di AI, spesso senza avere una reale idea di cosa stia utilizzando. Non serve conoscere la teoria dei transformer, ma serve capire cosa questi sistemi fanno davvero, dove falliscono, come possono essere manipolati e quali rischi introducono.
Si passa da GPT-4 a Claude, da Gemini a Mistral seguendo il momento, i benchmark virali, le impressioni online. Ma raramente ci si ferma a pensare cosa significhi affidare a questi strumenti dati sensibili, comunicazioni riservate o decisioni che incidono su altri.
E questa è la parte meno discussa: la superficialità nell’uso diventa essa stessa un rischio. Amplia la superficie d’attacco, rende gli utenti più manipolabili, porta le organizzazioni ad adottare strumenti senza valutarne davvero le conseguenze.
Il problema non è la tecnologia in sé. È la velocità con cui viene adottata rispetto alla velocità con cui viene capita. E in questo divario si inserisce gran parte del rischio.
Stiamo davvero governando tutto questo?
Onestamente, no. O almeno non del tutto.
Esistono regolazioni, come l’AI Act europeo o gli executive order americani, e poi ci sono i framework dei grandi vendor. Ma sono strumenti che faticano a tenere il passo. Il contesto evolve più rapidamente della capacità di normarlo.
Mentre si discutono categorie di rischio e obblighi di trasparenza, i modelli vengono aggiornati, copiati, adattati o sottratti. E spesso, quando una norma arriva, il problema ha già cambiato forma.
L’escalation tra sistemi offensivi e difensivi basati sull’IA non si governa con gli strumenti del passato. Richiede un’idea diversa di responsabilità, che coinvolge individui, aziende e Stati. Perché oggi le decisioni più importanti, sempre più spesso, vengono prese da sistemi che non sono stati progettati per rispondere delle conseguenze.
Nel frattempo, la dinamica continua. E lo fa senza aspettare che qualcuno abbia deciso se è pronto o no.
