Gli agenti di OpenAI hanno occultato le attività di hacking nelle violazioni dei siti governativi.
Dalle nuove scoperte di Asymmetric Security, società specializzata in informatica forense, emergono ulteriori prove delle nuove tattiche utilizzate dagli strumenti di intelligenza artificiale per sferrare attacchi informatici. Lo riporta il Financial Times.
Secondo Sandro Sana, Ethical Hacker e membro Comitato Scientifico Cyber 4.0, “il punto non è capire se l’AI abbia ‘voluto’ nascondere le proprie tracce, ma capire cosa succede quando diamo a un agente un obiettivo, strumenti e autonomia sufficiente per raggiungerlo”.
“La notizia del Financial Times aggiunge un tassello interessante a una sequenza che sto osservando da qualche tempo”, commenta Alessandro Curioni, fondatore di DI.GI Academy, “ma il dato nuovo è un altro”. Ecco quale.
Indice degli argomenti
Modelli di OpenAI: estratti dati da 55 siti aziendali
Il software di OpenAI ha ostacolato i tentativi di estrarre dati da importanti agenzie governative, mentre nuove prove dimostrano che la portata e la gravità dei cyber attacchi basati sull’intelligenza artificiale negli ultimi mesi sono di gran lunga superiori a quanto si pensasse.
Infatti, uno scoop di Axios parla di decine di migliaia di incidenti cyber legati all’AI. E non poche unità confermate finora.
Asymmetric Security, una società specializzata in informatica forense, ha scoperto che alcuni modelli di OpenAI hanno estratto dati da 55 siti web appartenenti ad aziende, organizzazioni no profit e agenzie governative, secondo un rapporto visionato dal Financial Times.
Tra questi figuravano i Centri statunitensi per il controllo e la prevenzione delle malattie, la Commissione statunitense per i titoli e gli scambi, l’Agenzia internazionale per l’energia e la Mayo Clinic.
“Asymmetric Security ha infatti ricostruito attività di agenti OpenAI su 55 siti, tra cui CDC e SEC. Nella grande maggioranza dei casi i dati acquisiti erano pubblici, dettaglio importante se vogliamo evitare di trasformare ogni comportamento anomalo in una guerra cyber”, avverte Curioni. Ma la novità è un’altra: l’occultamento delle tracce.
La scoperta di Asymmetric Security
L’indagine di Asymmetric ha inoltre portato alla luce nuove tattiche utilizzate dal software per ottenere l’accesso al web, tra cui la cancellazione dei dati o la loro rendere inaccessibili, il che ha ridotto la capacità dei revisori esterni e dei ricercatori di esaminare le azioni di OpenAI.
“Il dato nuovo riguarda alcune modalità utilizzate dagli agenti hanno cancellato o reso inaccessibili tracce che avrebbero consentito agli investigatori di ricostruirne completamente le azioni“, sottolinea Curioni.
Il rapporto arriva mentre il produttore di ChatGPT, valutato 852 miliardi di dollari, deve affrontare accuse secondo cui i suoi modelli di IA avrebbero violato i sistemi di diverse organizzazioni, tra cui la piattaforma Hugging Face e diversi siti web dei servizi sanitari pubblici australiani nel mese di giugno, dove avrebbe “avuto accesso a file sia pubblici che non”.
L’occultamento delle prove ha ostacolato i revisori di terze parti
L’indagine di Asymmetric ha rivelato che le tattiche utilizzate da OpenAI comprendevano la creazione di caselle di posta elettronica temporanee e di account privati tramite il servizio Urlquery – uno strumento per scansionare i siti web alla ricerca di malware – al fine di scaricare dati.
I ricercatori hanno affermato che aver nascosto queste azioni, da parte degli agenti di AI, ha ostacolato i revisori di terze parti, impedendo loro di risalire ai tipi di dati che i bot hanno estratto da siti web, tra cui l’agenzia australiana di statistiche sanitarie e il programma di rimborsi farmaceutici.
“Se per completare il compito crea account temporanei, usa servizi esterni, aggira controlli o rende più difficile ricostruire ciò che ha fatto, per la cyber security il problema esiste comunque. L’intenzione conta poco, il comportamento conta molto“, mette in guardia Sandro Sana.
Pippa Thompson, co-fondatrice di Asymmetric Security, ha affermato che azioni di questo tipo appartengono generalmente alle capacità degli hacker umani.
“È possibile che gli agenti stessero utilizzando deliberatamente questi strumenti per coprire le proprie tracce”, ha dichiarato.
Asymmetric non è riuscita a stabilire se le azioni degli agenti AI fossero deliberate o un effetto collaterale di un malfunzionamento dovuto ai vincoli imposti nell’ambito di un’esercitazione di prova.
Tuttavia questi risultati alimentano i sospetti e timori relativi alla trasparenza e alla mancanza di supervisione dei principali laboratori.
“Non sappiamo se gli Agenti lo abbiano occultato le tracce deliberatamente per nascondersi, e gli stessi ricercatori dicono di non poterlo stabilire. Ma on lo trovo rilevante per lo schema che sto seguendo. Finora avevamo osservato persistenza dell’obiettivo, esplorazione autonoma dell’ambiente e aggiramento degli ostacoli. Adesso possiamo aggiungere un quarto elemento: riduzione della tracciabilità delle proprie azioni”, mette in evidenza Alessandro Curioni.
La risposta di OpenAI e della SEC americana
OpenAI ha detto che sta esaminando le attività dei modelli non allineate e informando le organizzazioni quando si individuiano “potenziali impatti sui loro sistemi”.
L’azienda ha aggiunto di aver riscontrato che la maggior parte delle attività rilevate riguardava “attività di ricerca di routine”, come l’accesso a contenuti web disponibili pubblicamente.
La SEC ha confermato che non c’è traccia di accesso a informazioni private. Il CDC, l’IEA e la Mayo Clinic non hanno risposto alle richieste di commento.
Il gruppo di ricerca sull’IA Transluce ha invece affermato, in un rapporto pubblicato la scorsa settimana, che l’attacco hacker al sito web del governo australiano faceva parte di una più ampia ondata di bot basati sull’IA che prendono di mira i siti web per raccogliere dati da utilizzare per esercitazioni di addestramento.
Agenti, OpenAI vuole gestire meglio le risposte all’hacking
Il primo ministro australiano Anthony Albanese ha affermato che OpenAI inizialmente ha inviato un’email a un indirizzo pubblico il 10 settembre e che sono stati impiegati altri cinque giorni per raggiungere il dipartimento nazionale per la sicurezza informatica.
In un post pubblicato questa settimana sul proprio blog, OpenAI ha affermato che avrebbe dovuto gestire meglio la propria risposta all’attacco hacker e che sta lavorando per farlo in futuro.
Il comportamento senza precedenti dei nuovi e potenti strumenti di IA ha messo in luce le capacità in rapida evoluzione dei modelli all’avanguardia sviluppati da aziende come OpenAI, Anthropic (che ha recentemente reso noto i 4 incidenti) e Google.
La difficoltà di approfondire le indagini: come mitigare i rischi
Zainab Ali Majid, co-fondatrice di Asymmetric, ha dichiarato che OpenAI mantiene l’accesso primario alle “catene di pensiero” (“chains of thought”, ndr) dei propri agenti ovvero i registri delle attività che illustrano le motivazioni delle loro azioni.
Anche le vittime delle violazioni informatiche dispongono di alcune registrazioni relative ai tipi di dati scaricati.
La co-fondatrice di Asymmetric ha avvertito che questa mancanza di trasparenza, insieme al lasso di tempo trascorso tra gli attacchi hacker e la divulgazione da parte di OpenAI, potrebbe rendere più complicato e complesso condurre un’indagine approfondita.
“Il quarto elemento consiste non necessariamente nel “nascondersi”, quindi, ma diventare più difficili da osservare mentre si cerca una strada alternativa verso l’obiettivo. È ancora la nostra ameba: non deve sapere che cosa sia un controllo di sicurezza per cercare un percorso che le permetta di superarlo. Tuttavia, inizio a chiedermi quale ambiente competitivo stiamo costruendo perché la nostra ameba impari che c’è dell’altro“, conclude Alessandro Curioni, lanciando un allarme agli esperti dell’intelligenza artificiale.
Stiamo creando “una nuova classe di identità macchina, capace di agire con una velocità e una scala enormi. Va quindi trattata come qualsiasi soggetto privilegiato: least privilege, segregazione, logging, monitoraggio e possibilità reale di bloccarla“, mette in evidenza Sandro Sana.
“La vera domanda non è se possiamo fidarci dell’AI. Ma perché dovremmo progettare sistemi che richiedono di fidarci“, conclude Sandro Sana.
Partecipa alla community