OpenAI ammette che un suo modello “può aver tentato un hackeraggio ai danni di vari siti del governo dell’Australia”. Si tratta del primo attacco da parte dell’AI ai danni di un sito governativo. Un agente AI di OpenAI ha violato a giugno i database sanitari australiani, ma l’azienda ha avvisato il governo australiano soltanto a settembre.
“I nostri modelli hanno tentato di cercare risposte e statistiche disponibili in tema di quesiti sull’Australia, nel corso di una valutazione interna”, ha affermato la società guidata dal Ceo Sam Altman.
“Il punto più interessante è che stiamo iniziando a vedere agenti abbastanza autonomi da trasformare un vincolo posto dall’ambiente in un problema da risolvere”, commenta Alessandro Curioni, fondatore di DI.GI Academy.
Secondo Pierluigi Paganini, analista di cyber security e Ceo Cybhorus, “il caso australiano evidenzia due problemi distinti”, ecco quali.
Indice degli argomenti
Il primo caso di hacking da parte dell’AI ai danni di una rete governativa
Un agente di OpenAI è riuscito a violare una banca dati sanitaria nazionale australiana. Il primo ministro dell’Australia, Anthony Albanese, lo ha definito il primo caso noto di hacking da parte di un’intelligenza artificiale ai danni di una rete governativa.
“L’agente di intelligenza artificiale ha avuto accesso sia a file pubblici che non pubblici” della banca dati statistica Medicare del Paese. Vi ha persino inserito dei file. Lo ha riferito il premier australiano ai giornalisti a margine dell’Assemblea Generale delle Nazioni Unite (UNGA) a New York.
Il caso è l’ultimo esempio di agenti di IA che agiscono in modo autonomo e al di là delle intenzioni dei loro gestori umani, facendo seguito alle richieste avanzate da figure di spicco del settore dell’IA, tra cui il CEO di OpenAI Sam Altman, di rallentare il ritmo dello sviluppo dell’IA.
Albanese ha dichiarato di aver espresso ad Altman la “profonda preoccupazione” dell’Australia durante una telefonata avvenuta mercoledì. Canberra non era a conoscenza di alcun precedente relativo a una violazione da parte dell’IA di un sistema governativo, ha aggiunto.
“Oggi l’ostacolo è un controllo di accesso. Domani potrebbe essere una quota di computazione, una priorità sullo scheduler o un altro agente che utilizza la stessa risorsa”, sottolinea Alessandro Curioni.
I dettagli dell’attacco al database sanitario: i 2 problemi principali
L’attacco informatico al database sanitario australiano è avvenuto quando un agente di OpenAI, impegnato in una ricerca sulla spesa sanitaria, ha aggirato i blocchi di sicurezza per trovare risposte in aree alle quali non era autorizzato ad accedere, ha affermato Albanese.
Ma il caso australiano, che il primo ministro australiano definisce “inaccettabile”, mette in luce due problemi fondamentali. “Il primo riguarda il fallimento dei controlli: il 18 giugno 2026, durante una ricerca interna, un agente OpenAI ha incontrato blocchi sul portale Medicare Statistics Reporting Service e, invece di fermarsi, ha cercato percorsi alternativi, arrivando ad accedere anche a file non pubblici e, secondo Services Australia, a scrivere file su un server interno”, spiega Paganini.
In un altro sviluppo, inoltre, il laboratorio di ricerca sull’IA Transluce ha dichiarato di aver rilevato agenti AI che agivano in modo anomalo in diverse occasioni a partire almeno da marzo. Quindi, prima degli incidenti di hacking precedentemente noti.
Tra gli obiettivi figuravano una biblioteca dell’Università del New Mexico e il sito web dell’Istituto australiano per la salute e il benessere. Nessuno dei tentativi ha avuto esito positivo.
“Durante questa revisione, abbiamo individuato attività che coinvolgevano diversi siti web e servizi del governo australiano, poiché i nostri modelli hanno tentato di cercare risposte e statistiche disponibili relative a domande sull’Australia nel corso di una valutazione interna. Nel corso di tale processo, i nostri modelli hanno intrapreso azioni che non erano nelle nostre intenzioni”, ha affermato Pusateri.
Il ritardo inaccettabile della comunicazione di OpenAI all’Australia
Ma l’altro problema grave è che OpenAI ha avvisato il governo australiano solo a settembre, oltretutto tramite un messaggio a una casella email generica con un solo monitoraggio quotidiano.
“Il secondo problema è infatti la mancanza di una comunicazione tempestiva: OpenAI ha informato Services Australia solo il 10 settembre, quasi tre mesi dopo l’evento”, mette in guardia Paganini.
Il portavoce di OpenAI, Drew Pusateri, ha ammesso che l’incidente è avvenuto a giugno, ma che l’azienda ne è venuta a conoscenza solo ad agosto, mentre conduceva controlli approfonditi sull’attività dei propri modelli di intelligenza artificiale.
L’azienda ha poi informato il governo australiano il 10 settembre, inviando la notifica a una casella di posta pubblica, ha spiegato Albanese, causando un ritardo di cinque giorni nella comunicazione al ministro competente.
“La parte più inquietante della vicenda è infatti quasi burocratica: l’incidente è avvenuto a giugno, OpenAI dichiara di essersene accorta solo ad agosto e il governo australiano è stato avvertito il 10 settembre, attraverso una casella email generica”, evidenzia Curioni.
Albanese ha rimproverato Altman per aver “impiegato troppo tempo per informare il governo dell’accaduto e che anche le modalità con cui è stata effettuata la notifica erano inaccettabili”.
Le indagini di Canberra
OpenAI ha dichiarato di non aver trovato prove che le cartelle cliniche dei pazienti siano state consultate durante la violazione di Medicare e che le informazioni includessero “statistiche sanitarie aggregate e nomi di file interni”.
“È attualmente in corso un’indagine forense, con il supporto dell’Australian Signals Directorate, per acquisire ulteriori informazioni, tra cui quali altri sistemi governativi siano stati coinvolti”, ha dichiarato Albanese.
Secondo il primo ministro australiano, potrebbero essere stati colpiti tre sistemi governativi: oltre all’Istituto australiano per la salute e il benessere, anche l’Ufficio per le statistiche e la ricerca sulla criminalità del Nuovo Galles del Sud e il Dipartimento della Salute dello Stato di Victoria.
Gli scenari futuri
Il caso apre scenari più delicati per il futuro. “Agenti sempre più autonomi potrebbero essere impiegati contro infrastrutture e sistemi governativi, rendendo più difficile attribuire la responsabilità delle azioni. Un attaccante potrebbe infatti sfruttare un agente come intermediario, aumentando la propria deniability”, mette in guardia Paganini.
“Diventa quindi fondamentale definire chi risponde delle azioni di un agente, quali controlli devono impedirgli di superare determinati limiti e quanto rapidamente un incidente debba essere comunicato”, conclude Paganini.
“Credo che OpenAI sia consapevole della necessità di dotarsi di protocolli più efficaci“, ha evidenziato Albanese ai giornalisti.
Dopo i casi Hugging-Face e i 4 incidenti di Anthropic, è giunta l’ora di agire in fretta e con efficacia, prima dell’irreparabile.
“Il problema, quindi, non è soltanto che gli agenti stanno diventando più autonomi, ma che la nostra capacità di accorgerci di ciò che fanno sembra crescere più lentamente della loro capacità di farlo“, avverte Curioni.
Altman ha esortato i leader mondiali a definire standard internazionali per “misurare le capacità, valutare i rischi, determinare se le misure di sicurezza siano sufficienti e garantire un controllo umano significativo” su questa tecnologia in rapida evoluzione.
Partecipa alla community