Nel momento in cui un sistema di intelligenza artificiale imita il comportamento umano, è naturale che possa anche ereditarne le vulnerabilità proprie.
E poiché il design di questi sistemi tende, sia per ragioni di marketing che di sperimentazione, a questa imitazione pedissequa, è chiaro che anche il pensatore sintetico possa rivelare una sua proprietà umana nel momento in cui si espone a manipolazioni e diventa vittima di attacchi di ingegneria sociale, cadendo nelle trappole del phishing.
Ovviamente, fare questa considerazione non significa antropomorfizzare l’IA né, tantomeno, contestare ricerca o avanzamento tecnologico. Piuttosto si vuole promuovere un approccio prudente fondato sulla consapevolezza di uno strumento e dei suoi limiti intrinseci, soprattutto nel momento in cui viene impiegato da parte di un’organizzazione.
Ogni tecnologia, infatti, impatta sulla postura di sicurezza cyber, e richiede un aggiornamento tanto dell’analisi dei rischi svolta quanto delle misure di mitigazione predisposte.
Nuovi rischi, vecchi principi
Se la superficie d’attacco della manipolazione dell’AI comporta dei rischi emergenti, l’applicazione di standard di sicurezza consolidati, come un’architettura zero trust, rappresenta una strategia di difesa efficace.
Principi noti e buone prassi sono, infatti, adattabili anche agli scenari tecnologici più avanzati, dal momento che anche gli attacchi dei cybercriminali seguono schemi analoghi.
Basti pensare a come il phishing venga impiegato per manipolare gli assistenti AI, giovandosi proprio di quegli automatismi indotti dall’ingegneria sociale per indurre il bersaglio ad eseguire un comando malevolo. Se non funziona con l’umano, sarà l’assistente AI a subirlo, secondo una logica di dual-target. Insomma: nuove minacce, attacchi diversi, ma sempre gli stessi pattern.
Quindi, sì alle mani piene di dita di umani che cliccano, si aggiungono anche tutte quelle azioni che vengono delegate all’AI con fin troppa leggerezza e pochi controlli.
Partecipa alla community