Allucinazioni dell’IA: misuriamo il rischio per la cyber security

L’impiego di agenti di IA nella cyber security, se basato su dati obsoleti o inaccurati, può portare alla generazione di allucinazioni da parte dell’IA stessa. Tali allucinazioni possono creare vulnerabilità inesistenti o interpretare erroneamente le minacce, generando avvisi non necessari, oltre che rischiare di distogliere risorse dalle minacce autentiche, creando nuove vulnerabilità, oltre che sprecare le risorse preziose, ma limitate, del team di Security Operations (SecOps).