OpenAI ha sospeso una parte del lavoro su Astra, uno dei suoi prossimi modelli di intelligenza artificiale. I test hanno mostrato progressi tali nel trovare vulnerabilità informatiche da non consentire all’azienda di escludere capacità cyber “critiche”: la possibilità, cioè, che il sistema sappia cercare falle e costruire attacchi con un livello di autonomia molto maggiore del passato.
Indice degli argomenti
Il blocco di OpenAI Astra
La società ha limitato l’accesso di Astra alla rete e agli strumenti digitali, rafforzando i controlli durante lo sviluppo. Il modello, precisa OpenAI, non è stato coinvolto nell’incidente di Hugging Face. Ma la scelta di rallentare segnala un cambio di fase per chi si occupa di difesa: l’AI non è più soltanto un assistente che scrive codice, può diventare un agente capace di operare su sistemi, strumenti e informazioni per tempi prolungati.
I controlli annunciati da OpenAI riguardano tre punti classici della sicurezza: separare gli ambienti di test dal mondo esterno, limitare l’uso di rete e strumenti, proteggere i pesi del modello con misure aggiuntive e cifratura. A questi si aggiunge il monitoraggio delle attività rischiose. L’obiettivo è evitare che un test progettato per misurare le capacità offensive diventi esso stesso una porta verso sistemi reali.
Il framework della Casa Bianca appena completato
La notizia su Astra arriva pochi giorni dopo il completamento del framework della Casa Bianca per la valutazione dei modelli AI più avanzati. Il 3 agosto un funzionario dell’amministrazione Trump ha confermato ad Axios che il piano volontario previsto dall’ordine esecutivo di giugno è stato chiuso entro la scadenza. I dettagli, però, non saranno pubblicati.
Il meccanismo punta a far esaminare al governo i modelli più sensibili prima del rilascio. Le aziende che aderiranno potranno condividere i sistemi in ambienti protetti, con regole su riservatezza, accessi, protezione della proprietà intellettuale e tracciabilità. La finestra prevista può arrivare a trenta giorni prima della distribuzione ad altri partner.
Non è una certificazione obbligatoria, né una licenza preventiva per l’AI. È un canale di cooperazione tra grandi laboratori, agenzie federali e soggetti selezionati. Il vantaggio atteso è pratico: usare modelli avanzati per scoprire e correggere vulnerabilità prima che vengano sfruttate da attori criminali o statali.
La Casa Bianca ha già avviato Gold Eagle, il centro di coordinamento tra governo, aziende tecnologiche e gestori di infrastrutture critiche per raccogliere, verificare e prioritizzare le vulnerabilità software. Nel lancio dell’iniziativa, l’amministrazione presenta l’AI come uno strumento per accelerare individuazione delle falle, risposta e distribuzione delle patch.
Per i difensori, l’AI è anche un problema di controllo
Astra mostra che il vantaggio difensivo dipende da come questi modelli vengono messi al lavoro. Un agente capace di analizzare grandi quantità di codice e configurazioni può ridurre i tempi di scoperta delle vulnerabilità. Ma, se collegato a strumenti esterni senza limiti adeguati, amplia anche la superficie d’attacco.
Per le organizzazioni che intendono adottare AI nella sicurezza, il punto non è affidare a un modello l’accesso generalizzato a reti e sistemi. Servono ambienti separati, autorizzazioni granulari, registri completi delle azioni, controllo umano per le attività più sensibili e procedure chiare per interrompere l’agente. Sono misure note nel governo degli account privilegiati e nell’automazione di sicurezza; l’AI agentica le rende più urgenti.
Il framework americano lascia tuttavia zone d’ombra. L’adesione delle aziende è volontaria, i criteri per individuare i modelli sottoposti a verifica restano riservati e la Casa Bianca non ha reso pubbliche le regole operative. Per i responsabili della sicurezza, questo significa che la disponibilità di strumenti sempre più potenti crescerà prima della piena trasparenza sui test che li hanno valutati.
Open weights, il perimetro che manca
Il punto più problematico riguarda gli open weights: modelli che possono essere scaricati, modificati e ospitati da soggetti diversi dal loro creatore. Sono una risorsa per startup, università e imprese che non vogliono dipendere dai grandi fornitori cloud. Ma una volta distribuiti non possono essere aggiornati, limitati o ritirati dal laboratorio che li ha sviluppati.
Secondo quanto riportato da Axios, il framework della Casa Bianca riguarda soltanto i modelli chiusi e non limita quelli aperti una volta rilasciati. È una scelta coerente con l’AI Action Plan, che considera gli open weights una leva di competitività americana.
Dal punto di vista cyber, però, il divario è evidente. OpenAI ha riconosciuto, nel suo commento sugli open weights, che chi possiede i pesi di un modello può rimuovere le protezioni predisposte dal fornitore e adattarne le capacità. Il problema non riguarda ogni modello aperto, ma la soglia oltre la quale le capacità offensive richiedono verifiche più severe prima della diffusione.
Il caso Astra indica la direzione che prenderà la sicurezza AI: più test, più contenimento e maggiore collaborazione tra industria e governo. Il limite del framework è altrettanto chiaro. Gli Stati Uniti stanno costruendo un sistema per controllare i modelli più avanzati finché restano nel perimetro dei laboratori. Devono ancora decidere come gestire quelli che, una volta distribuiti, non possono più essere richiamati indietro.
Europa osservatrice passiva
Ma a proposito di controllo: ancora più difficile per noi europei, che non gestiamo i grandi modelli più usati in Europa. I paletti dell’AI Act non bastano quando a decidere quanta briglia sciolta dare ai nuovi modelli è il Governo Usa con le sue aziende.
Un tema che proveremo a risolvere nel lungo periodo, sotto l’ombrello della sovranità digitale.
Partecipa alla community