L’impiego di agenti di IA nella cyber security, se basato su dati obsoleti o inaccurati, può portare alla generazione di allucinazioni da parte dell’IA stessa. Tali allucinazioni possono creare vulnerabilità inesistenti o interpretare erroneamente le minacce, generando avvisi non necessari, oltre che rischiare di distogliere risorse dalle minacce autentiche, creando nuove vulnerabilità, oltre che sprecare le risorse preziose, ma limitate, del team di Security Operations (SecOps).
l'approfondimento
Allucinazioni dell’IA: misuriamo il rischio per la cyber security
Questi “errori” rappresentano un problema critico nella cyber security basata sull’IA, poiché possono portare a gravi vulnerabilità, erodere la fiducia nei sistemi automatizzati e causare un’errata allocazione di tempo e risorse
Pubblicato il 17 set 2025
Federica Maria Rita Livelli
Business Continuity & Risk Management Consultant, BCI Cyber Resilience Committee Member, CLUSIT Direttivo
@RIPRODUZIONE RISERVATA
Federica Maria Rita Livelli
Business Continuity & Risk Management Consultant, BCI Cyber Resilience Committee Member, CLUSIT Direttivo
Continua a leggere questo articolo
SPAZIO CISO
-
Sensoristica IIoT e monitoraggio energetico: strategie per un’integrazione sicura nelle reti industriali
15 Set 2026 -
Simulazioni di phishing: non misuriamo chi sbaglia, ma quanto regge il sistema
15 Set 2026 -
Cloud native, modernizzare al tempo dell’AI: verso una governance incorporata nelle piattaforme
14 Set 2026 -
Cyber resilience e NIS2: DefeniX di AD Consulting porta la governance della sicurezza oltre la compliance
11 Set 2026 -
Droni, la nuova linea del fronte: dall’Ucraina ai cieli d’Europa, cosa cambia con le regole Ue
11 Set 2026
