L’accesso illecito ai modelli di intelligenza artificiale e alla potenza di calcolo sta rapidamente diventando la merce più ambita nel mondo della criminalità informatica, poiché gli hacker cercano di sfruttare i costosi modelli linguistici di grandi dimensioni a fini di estorsione, guerra informatica e spionaggio.
Secondo il Google Threat Intelligence Group (Gtig), è il momento degli attacchi di LLM-jacking ovvero l’hijacking degli LLM, in cui hacker dirottano account aziendali del cloud per caricare propri modelli AI con cui sferrare attacchi a terzi.
“L’AI sta diventando una risorsa strategica anche per chi opera nell’illegalità, e questo cambia profondamente l’equilibrio tra attaccanti e difensori”, commenta Pierluigi Paganini, analista di cyber security e Ceo Cybhorus.
Indice degli argomenti
Attacchi di LLM-jacking
John Hultquist, capo analista del Gtig, esperto con 20 anni di esperienza alle spalle, ha affermato al Financial Times che quest’anno l’unità dedicata alla cyber security ha osservato un forte aumento dei cosiddetti attacchi di LLM-jacking.
In particolare, spopolano la vendita di credenziali di accesso rubate per strumenti di intelligenza artificiale di pubblico dominio e il furto di risorse informatiche da parte di gruppi che intendono eseguire i propri modelli gratuitamente.
“Quello a cui stiamo assistendo nel mondo clandestino è un’economia in crescita legata all’accesso all’intelligenza artificiale”, ha dichiarato Hultquist al FT.
Il vantaggio di chi attacca su chi si difende dall’LLM-jacking
L’accesso a basso costo a costose tecnologie di intelligenza artificiale offre ai cyber-aggressori un vantaggio economico rispetto ai loro bersagli, che invece sono costretti a ricorrere agli stessi strumenti di intelligenza artificiale per difendersi.
“Il punto è che tutto ciò conferisce loro una sorta di vantaggio economico o in termini di efficienza rispetto a noi (cyber-difensori, ndr), perché in sostanza riusciranno a procurarsi questi token a un prezzo molto più conveniente“, ha affermato Hultquist.
I ricercatori di Google Threat hanno scoperto che i marketplace del dark web vendono l’accesso a modelli di intelligenza artificiale di aziende come Anthropic, Google e OpenAI con sconti che arrivano fino al 97%. Gli abbonamenti alle versioni più avanzate di ChatGPT e Claude possono costare fino a 200 dollari al mese per utente.
“La possibilità di ottenere modelli avanzati, token e capacità computazionale a costi irrisori introduce una nuova forma di asimmetria economica: gli attaccanti possono aumentare velocità, scala e automazione delle operazioni senza sostenere gli stessi investimenti richiesti alle organizzazioni che devono difendersi.
Monitoraggio degli abusi
Poiché i laboratori di intelligenza artificiale monitorano i segnali di tali abusi, alcuni venditori arrivano persino a offrire un “accesso garantito”, impegnandosi a fornire nuove credenziali senza costi aggiuntivi nel caso di blocco dell’account iniziale, secondo Hultquist.
In altri casi, gruppi criminali nation-state (con il sostegno da parte degli Stati) stanno hackerando i server delle aziende ospitati nel cloud e inserendo i propri modelli di IA, in modo tale da eseguirli sul sistema della vittima. Proprio come avviene con il crypto jacking quando gli autori delle minacce hanno cercato di compromettere macchine di terze parti per minare criptovalute.
Uno di questi incidenti ha coinvolto un gruppo cinese di spionaggio informatico “molto attivo”, che in passato aveva già preso di mira gli Usa.
Hultquist è un esperto di sicurezza informatica che segue da vent’anni le tracce dei gruppi di hacker nation-State.
Nel 2014 ha smascherato le attività di un prolifico attore russo che ha soprannominato Sandworm, collegandolo due anni dopo a un attacco senza precedenti alla rete elettrica ucraina.
Oggi “il rischio non riguarda quindi soltanto il furto di credenziali o l’abuso delle infrastrutture cloud, ma la trasformazione dell’AI in una commodity del cybercrime“, secondo Paganini.
Come mitigare i rischi
L’intelligenza artificiale è già utilizzata da “ogni attore malintenzionato”. Hultquist aggiunge che gli strumenti di IA dovranno quindi essere parte integrante del futuro della sicurezza informatica.
Nell’ultimo rapporto trimestrale di Anthropic sull’uso improprio dell’IA, l’azienda ha individuato attori malintenzionati che tentavano di utilizzare il proprio strumento Claude per attività dannose in più di due dozzine di paesi, tra cui Usa, Regno Unito e Yemen.
“Chiunque ritenga che l’intelligenza artificiale sia solo una moda passeggera e voglia semplicemente lasciarsi travolgere da essa, un giorno si ritroverà sommerso”, ha affermato John Hultquist, “ad affrontare più incidenti, più allarmi e più attacchi di quanti ne abbia mai visti prima. Dobbiamo mettere ordine nelle nostre cose adesso“.
Dunque, per mitigare i rischi servono privilegi minimi, regole globali, controllo umano capillare (sapendo però che il controllo umano rischia di essere troppo lento), trasferendo nell’AI principi che in cyber security sono capisaldi da decenni: least privilege, segregazione, controllo delle risorse e monitoraggio continuo.
Il fatto che l’AI stia diventando una commodity del cybercrime “rende insufficiente una strategia basata esclusivamente sulla protezione degli endpoint e dei dati. Account, API, modelli, workload e risorse computazionali devono entrare stabilmente nel perimetro della sicurezza. Ignorare questa dinamica significherebbe lasciare agli attaccanti un vantaggio economico e operativo destinato a crescere”, conclude Paganini.
Partecipa alla community