Mettere alla prova la sicurezza con l’IA? Facile a dirsi, un po’ meno a comprendere che cosa effettivamente s’intenda (step 1) e si voglia andare a fare (step 2).
Un po’ come un incantesimo, che ha componenti somatiche, verbali, talvolta materiali, che devono essere sapientemente combinate per non incorrere in qualche effetto indesiderato.
O in un nulla di fatto, che per un rapporto di genere a specie comunque appartiene al novero degli effetti indesiderati salvo rarissime eccezioni di qualche vendor un po’ troppo spregiudicato.
Indice degli argomenti
Security, non securAIty: l’evoluzione degli strumenti di difesa
Tanto gli scenari d’attacco che gli strumenti di difesa si sono evoluti con l’introduzione dell’IA, quindi tutto sta nel saper dosare in modo attento rischi e mitigazioni.
Con tutte le inevitabili distorsioni del caso, che al più possono essere ridotte ai minimi termini ma mai neutralizzate del tutto.
Si pensi alle trappole cognitive dell’arroganza epistemica, al sovraffidamento o altrimenti ai “cigni neri invisibili” che sfuggono anche al più attento osservatore. Figuriamoci a chi non li cerca nemmeno o scientemente li ignora.
Non si può dire fiducia senza dire IA
Cosa fare, dunque? Semplice: rideclinare il principio di Zero Trust alle nuove dinamiche in cui è coinvolta l’IA.
Questo significa computare tutte le vulnerabilità proprie tanto dell’IA quanto dei LLM impiegati, così come degli agenti.
Ma questo non è sufficiente, perché bisognerà valutare anche l’evoluzione dei metodi di attacco andando a rafforzare i presidi posti a difesa. Che, spoiler, si pongono sempre più lato utente.
Adottando sempre un approccio multilivello, così da estendere il cyber range a ciò che può essere fatto attraverso l’IA, considerando ambiente e strumenti. Come insegnano i test condotti da Irregular, dopotuttto.
Il concetto di fiducia, inteso nell’accezione più prosaica contemplata dal mondo cyber, va imposto anche ai sistemi di IA. Attenzione a fare il contrario, però, ritenendo un sistema cyber sicuro o affidabile in quanto presidiato da o contro sistemi di IA.
In quest’ultimo caso, è una formula che è destinata a non funzionare. O a funzionare malissimo.
Partecipa alla community