Sistemi capaci di pianificare, agire e coordinarsi in modo autonomo non sono più fantascienza: sono già operativi, nelle SOC aziendali, come anche nelle infrastrutture criminali (HACCAS- Highly Autonomous Cyber-Capable Agents).
Inoltre, le AI agentiche si muovono anche nell’area della cognizione umana e pongono interrogativi profondi sulla nostra preparazione a governarle.
Tre sono le dimensioni concrete che devono essere approfondite per comprendere la gestione ottimale delle AI per la cyber security, così da riequilibrare le sorti degli infiniti attacchi potenziati dalle AI malevole: il cambiamento del panorama delle minacce, il vantaggio strategico che l’AI offre ai difensori e le regole di governance necessarie per mantenerne il controllo.
Indice degli argomenti
Come cambiano le minacce cyber con l’intelligenza artificiale?
L’intelligenza artificiale agentica, ovvero i sistemi capaci di agire autonomamente, pianificare sequenze di azioni e collaborare con altri agenti, sta ridefinendo il panorama della sicurezza informatica in profondità. Se da un lato offre capacità difensive senza precedenti, dall’altro introduce nuovi vettori di rischio che le organizzazioni faticano ancora a governare.
La discontinuità non è graduale: è strutturale. L’AI ha introdotto un salto qualitativo nel modo in cui vengono condotti gli attacchi, articolato in tre dinamiche già osservabili: gli agenti AI autonomi gestiscono l’80-90% delle catene d’attacco senza supervisione umana. Questo significa che una catena di attacco completa formata da ricognizione, identificazione delle vulnerabilità, sfruttamento, esfiltrazione, può essere orchestrata e terminata senza un operatore umano che supervisioni ogni passaggio. La velocità e la scalabilità degli attacchi cambiano di conseguenza ordine di grandezza.
La seconda dinamica riguarda i criminali digitali privi di competenze tecniche avanzate possono orchestrare offensive sempre più sofisticate grazie all’AI generativa. La barriera di ingresso al crimine informatico si è abbassata drasticamente. Strumenti come FraudGPT o WormGPT (modelli linguistici con i guardrail rimossi, venduti nei forum underground) consentono a chiunque di costruire campagne di attacco personalizzate senza competenze di programmazione.
La terza casistica vede le campagne di phishing e social engineering diventare più convincenti e personalizzate grazie ai modelli linguistici. I Large Language Model permettono di generare messaggi privi di errori grammaticali, culturalmente calibrati sul destinatario e contestualmente plausibili, rendendo obsolete le tecniche tradizionali di riconoscimento delle email fraudolente basate sulla forma.
Come risultato di questi tre cambiamenti il 71% dei CISO italiani ritiene che l’AI acuisca il rischio cyber (Osservatori.net, Cybersecurity & Data Protection 2025). Da ora in avanti sarà normale attendersi minacce informatiche autonome, anche senza governo da parte dell’uomo.
Questa trasformazione ha un nome preciso. Pierguido Iezzi, Cybersecurity Director di Tinexta Group, cita la ricerca “Autonomia Delegata” realizzata dal team Una Cyber Acies, che sintetizza quello che viene giudicato il passaggio centrale per il futuro della cyber security: “dall’AI come semplice strumento all’AI come infrastruttura operativa, autonoma e interconnessa. Con l’evoluzione degli agenti AI, cambiano le superfici di rischio, le catene di dipendenza, i modelli di controllo e la capacità stessa delle organizzazioni di prevenire, rilevare e rispondere agli attacchi”.
I rischi intrinseci: quando la difesa diventa vulnerabilità
Ma esiste anche un rischio ulteriore: l’adozione massiva dell’AI nella sicurezza espone le organizzazioni a rischi nuovi. I ricercatori Kaspersky hanno documentato come i criminali stiano già sfruttando la fiducia nelle piattaforme AI a loro vantaggio: dall’inizio del 2026 sono stati rilevati oltre 92.000 attacchi malware camuffati da noti strumenti AI (ChatGPT, Claude, Gemini).
Oltre 15.000 campioni includevano trojan bancari, spyware e downloader. A maggio 2026 è stata scoperta una campagna del gruppo APT Silver Fox che distribuiva false applicazioni Claude AI per Windows, MacOS e Linux.
Rischi strutturali
E ad aggiungere peggio al peggio, oltre al malware tradizionale camuffato, emergono rischi strutturali dai nomi tecnico scientifici: prompt injection (iniezione di codice malevolo nei prompt), data poisoning (avvelenamento dei dati di addestramento), allucinazioni dei modelli e funzionalità dannose nascoste in flussi di lavoro apparentemente legittimi. Anche la compromissione della supply chain è identificata come uno dei rischi più critici: un singolo componente infetto può esporre interi sistemi di AI interconnessi. E questo si riversa sulle reti interconnesse a quei sistemi.
Sul piano della governance, Luana Lo Piccolo, Senior Advisor su Tech Law e AI Governance, chiarisce la posta in gioco: “Con l’evoluzione dei sistemi di IA da semplici assistenti ad attori autonomi, la sfida non riguarda più solo la resilienza tecnica, ma anche l’autonomia responsabile. La regolamentazione stabilisce il pavimento; la governance è dove comincia la leadership”.
AI agentiche come vantaggio strategico per i difensori
Il 57% delle aziende prevede un miglioramento nelle capacità di rilevamento delle minacce grazie all’AI, mentre il 49% si aspetta risposte automatizzate agli incidenti (Fonte Kaspersky). Da tempo le tecnologie di machine learning sono integrate nelle piattaforme di sicurezza per individuare e contrastare minacce su larga scala e l’automazione strutturata consente oggi di gestire volumi di dati impensabili per i soli analisti umani.
Tuttavia, l’emergere delle AI agentiche richiede un cambio di paradigma non solo tecnico, ma culturale e organizzativo. Come sottolinea Andrea Fumagalli, Managing Director & VP of Cybersecurity and Innovation in THUX Systems: “Le organizzazioni devono adottare una mentalità basata sul presupposto che la violazione sia già avvenuta e andare oltre la tradizionale resilienza per puntare alla resistenza informatica (endurance), soprattutto ora che le minacce basate sull’intelligenza artificiale diventano sempre più veloci, autonome e coordinate. Nel prossimo futuro, queste minacce potrebbero avere un impatto senza precedenti, in particolare se combinate con i progressi nel campo del quantum computing.”
Un elemento chiave riguarda la natura dell’apprendimento degli agenti AI in contesti difensivi. Dmitry Galov, ricercatore di Kaspersky GReAT, chiarisce che “Il retraining pieno è riservato a cambiamenti architetturali significativi o a variazioni strutturali nel panorama delle minacce” e che “il retraining periodico è oggi considerato un’operazione pesante. I sistemi moderni si basano sempre più su architetture RAG (Retrieval-Augmented Generation), che permettono agli agenti di incorporare nuove conoscenze in modo dinamico, mediante threat intelligence aggiornata, feed di IoC (Indicatori di Compromissione), repository di incidenti, senza richiedere un retraining completo”. In sostanza è come se le AI agentiche facessero training on the job.
Dove gli AI agent fanno già la differenza
I sistemi di agenti intelligenti si sono trasformati in uno strato operativo di supporto alle decisioni là dove complessità, pressione regolatoria e volume di attività rendono progressivamente difficile un intervento tempestivo. Piuttosto che automatizzare singoli passaggi contribuiscono ad anticipare i processi e a renderli connessi e governabili.
Gli agenti AI affiancano le funzioni di controllo ampliando la capacità i vari ambiti: nella prevenzione delle frodi, ma anche nel processo di verifica da aziende e istituti finanziari su propri clienti, fornitori o partner commerciali se presenti nelle liste ufficiali di soggetti sanzionati (sanction screening), nella segnalazione tramite documento formale che banche, istituti finanziari e altri professionisti come notai, avvocati e operatori di criptovalute inviano alle autorità di vigilanza in materia di transazioni o comportamenti insoliti che potrebbero essere legati a reati finanziari (il suspicious activity reporting).
In particolare, intercettano pattern emergenti prima che diventino sistemici, mettono in relazione segnali eterogenei e aiutano a costruire una visione contestualizzata del rischio. Il risultato non è solo maggiore efficienza, ma un’evoluzione del modello operativo: da processi reattivi e frammentati a meccanismi dinamici di sorveglianza e decisione, in cui persone e agenti collaborano per mantenere il controllo anche in scenari ad alta variabilità.
Véronique Van Vlasselaer, AI & Data Science Manager EMEA di SAS, sottolinea come “il valore dell’AI agent nasca dalla sua capacità di orchestrare insieme più elementi: collegandosi a dati e sistemi aziendali, recuperando informazioni da fonti diverse e trasformando evidenze frammentate in insight utilizzabili. Quando il sistema integra modelli di machine learning e rende trasparente il percorso che lo porta a fare una raccomandazione, non accelera soltanto l’esecuzione dei task, ma migliora la qualità delle decisioni e la fiducia con cui possono essere prese e applicate”.
Regole, contesto e controllo per gestire gli agenti AI
Pur se promettente, una simile autonomia degli agenti AI richiede responsabilità precise. E quindi autonomia si, ma anche controllo nella forma di istruzioni, limiti e guardrail. Servono passaggi chiari per istruire e rendere affidabili questi strumenti con una logica similare alla “genitorialità della piattaforma”, cosi’ la definisce Véronique Van Vlasselaer che individua sei principi fondamentali: il primo punto sta nelle regole che devono essere chiare fin dall’inizio per definire cosa l’agente AI può fare, quando e con quali vincoli. Per stabilire quali dati può utilizzare, quali strumenti può invocare e quali azioni può attivare, soprattutto se coinvolgono informazioni sensibili o processi critici. Subito a seguire pccorre un ambiente affidabile. Senza dati governati e di qualità, anche l’AI agent più avanzato produce risultati incoerenti. Strumenti e integrazioni (API, workflow, sistemi terzi, modelli analitici) devono essere validati e mantenuti affidabili nel tempo, con controlli su autorizzazioni e accessi. Il terzo punto è basato sulla persona: lo human in the loop dove conta davvero. Non tutto può e deve essere automatizzato. Si devono stabilire soglie di incertezza e regole che impongano l’escalation all’operatore umano, fornendo il contesto necessario per decidere rapidamente.
In questo ambito Dmitry Galov (Kaspersky GReAT) conferma che “nei sistemi agentici per la Cyber security si progetta con la supervisione umana come meccanismo di controllo centrale: le azioni critiche non vengono eseguite autonomamente e mai senza possibilità di revisione umana, soprattutto nelle operazioni di sicurezza ad alto impatto”.
Al quarto posto la trasparenza e accountability per la tracciabilità delle fonti, comprensibilità delle raccomandazioni e chiarezza sulle responsabilità che sono necessarie lungo tutto il ciclo di vita dell’AI agent, dalla progettazione al monitoraggio.
I deployment strutturati includono implementazioni graduali e meccanismi di ripristino predefiniti che consentono di sospendere o invertire azioni automatizzate in presenza di comportamenti anomali. Non bisogna dimenticare la supervisione continua e gestione degli off-script: per i casi non previsti l’autonomia deve essere calibrata su rischio e contesto, e controllata nel tempo.
Come sottolinea Andrea Fumagalli, “gli standard tradizionali di certificazione e audit non funzionano per i sistemi agentici: le AI si adattano e cambiano comportamento nel tempo. Non basta validare l’output: occorre validare il comportamento anche sul lungo periodo, applicando il principio del minimo privilegio, audit continui e visibilità limitata e controllata”.
Infine è opportuna una vista unificata di AI agent e modelli. Per aumentare l’autonomia serve mappare ciò che è già in uso, incluse soluzioni non ufficiali o non censite. Un inventario e un monitoraggio centralizzati permettono di applicare policy, controlli e responsabilità in modo coerente, riducendo il rischio di shadow AI.
Gli AI agent rappresentano già oggi un’accelerazione concreta per processi decisionali complessi. Il vantaggio competitivo, però, non sarà di chi li adotta per primo, ma di chi li mette a terra in modo affidabile, con dati solidi, governance, controlli e responsabilità ben definiti.
A tal proposito è significativo il monito di Luana Lo Piccolo quando ricorda che “essere utenti non ci esime dalla responsabilità: non dobbiamo abbandonarci agli strumenti. La responsabilità va intesa come capacità di creare e usare sistemi senza causare danni, non come delega alle regole esterne”.
Partecipa alla community