Claude Mythos Preview ha individuato, nel corso di alcuni test, nuove vulnerabilità relative ad algoritmi crittografici indeboliti, già resi fragili nell’era post-quantum, dedicati alla protezione delle transazioni finanziarie online, delle comunicazioni private e altro ancora.
Anche se lo standard crittografico compromesso non è attualmente in uso, gli esperimenti mettono in luce i rischi futuri.
“L’annuncio di Anthropic rappresenta un segnale importante per il mondo della cyber security”, commenta Pierluigi Paganini, analista di cyber security e Ceo Cybhorus.
Secondo Alessandro Curioni, Presidente e fondatore di DI.GI Academy, “questa come altre decine di notizie che si rincorrono sulle capacità delle IA di trovare vulnerabilità ovunque (…) hanno un senso inequivocabile. La nostra fallibilità è cosa nota”.
Ecco perché Claude Mythos Preview mette a nudo la fragilità delle transazioni finanziarie, a rischio nell’era dell’AI, e come mitigare il rischio.
Indice degli argomenti
Crittografia violata, cosa ha scoperto Claude Mythos Preview
Un modello di intelligenza artificiale all’avanguardia sviluppato da Anthropic ha individuato delle vulnerabilità in una versione indebolita di uno standard di crittografia digitale ampiamente diffuso su Internet per il traffico web, storage di dati, connessioni wireless, hanno affermato martedì i ricercatori dell’azienda, sottolineando i potenziali rischi per la sicurezza informatica globale rappresentati dai software di intelligenza artificiale in costante miglioramento.
Nel corso di un test condotto nell’ambito della ricerca, il modello, denominato Claude Mythos Preview, è stato in grado di individuare nuovi metodi per attaccare gli algoritmi crittografici che proteggono ogni tipo di informazione – dalle transazioni bancarie online alle comunicazioni private fino ai segreti di Stato – dagli sguardi indiscreti degli hacker o di altre terze parti indesiderate.
“Il fatto che un modello di intelligenza artificiale sia riuscito a individuare nuove tecniche di attacco contro una versione semplificata dell’algoritmo Advanced Encryption Standard (AES) non sorprende e non implica che la crittografia utilizzata oggi per proteggere banche, comunicazioni o servizi online sia improvvisamente compromessa. Tuttavia, dimostra che l’AI sta raggiungendo livelli di capacità che fino a poco tempo fa erano considerati esclusiva dei migliori ricercatori in crittografia“, mette in guardia Paganini.
I punti salienti della ricerca
La ricerca dimostra che l’intelligenza artificiale potrebbe un giorno mettere in discussione le fondamenta alla base del funzionamento di Internet.
Sebbene gli esperti sostengano che l’intelligenza artificiale sia destinata a rivoluzionare molti settori, i sistemi di AI hanno compiuto progressi particolarmente rapidi nei campi della programmazione e della sicurezza informatica.
“Questa come altre decine di notizie che si rincorrono sulle capacità delle IA di trovare vulnerabilità ovunque, fanno tutte parte di un’unica narrazione, magari un po’ inquinata dal marketing, ma comunque con un senso inequivocabile. La nostra fallibilità è cosa nota e il fatto che in software, hardware e sistemi siano nascosti migliaia di nostri errori non stupisce. L’IA è semplicemente in grado di mostrarci i nostri errori con una velocità ‘inumana’”, sottolinea Curioni.
Ecco cos’è AES e gli allarmi reali per le transazioni finanziario a rischio con l’AI
Le vulnerabilità individuate non riguardano uno standard crittografico attualmente in uso.
Ciò significa che i moderni sistemi bancari e di comunicazione non sono soggetti a potenziali intrusioni immediate da parte dell’intelligenza artificiale.
La tecnologia di Anthropic è però riuscita a violare una versione semplificata di un algoritmo dell’Advanced Encryption Standard (AES), un protocollo onnipresente che protegge il traffico web, le reti wireless, l’archiviazione dei dati e altro ancora.
La crittografia è fondamentale per praticamente tutto ciò che avviene su Internet, e alcune delle tecniche in uso oggi proteggono i segreti del mondo sin dagli anni ’70.
La crittografia quantistica, che si basa sulle complesse proprietà della fisica quantistica, è una forma di crittografia che, in teoria, è indecifrabile.
L’Advanced Encryption Standard è stato adottato come standard governativo nel 2001 ed era all’epoca considerato da molti praticamente inviolabile.
I metodi convenzionali di decifrazione con forza bruta, in cui un computer utilizza il metodo per tentativi ed errori per indovinare le combinazioni di una password o di una chiave di crittografia, sono generalmente considerati incapaci di superare l’AES.
Si ritiene che lo standard abbia un numero di combinazioni di chiavi quasi pari a quello degli atomi presenti nell’universo osservabile.
Tuttavia, i progressi nell’intelligenza artificiale su alcuni fronti hanno superato ciò che molti sostenitori ritenevano possibile anche solo pochi anni fa.
“Se un modello è in grado di accelerare di centinaia di volte la scoperta di nuove vulnerabilità, la domanda non è più se influenzerà questo settore, ma quando e quanto”, lancia l’allarme Paganini.
I test sono buone pratiche
È prassi comune eseguire test su versioni più deboli degli algoritmi di crittografia per capire se computer più potenti potrebbero un giorno violare gli standard effettivi, un po’ come risolvere un problema matematico più semplice per individuare eventuali schemi ricorrenti in uno più complesso. Durante i test, Mythos è riuscito a violare la versione più debole dell’Advanced Encryption Standard in un modo che, secondo Anthropic, ha reso l’attacco da 200 a 1.000 volte più veloce rispetto a quanto erano riuscite a fare le precedenti ricerche condotte da esseri umani.
Sebbene le ripercussioni immediate siano minime, le implicazioni a lungo termine potrebbero essere significative.
Nei test precedenti, i modelli linguistici di grandi dimensioni non sembravano in grado di eguagliare o superare le capacità umane nel campo della ricerca crittografica, caratterizzato da una forte complessità matematica; tuttavia, i loro rapidi progressi potrebbero suggerire un futuro in cui i modelli di punta saranno in grado di superare le tradizionali protezioni di sicurezza di Internet, fondamentali per praticamente tutto ciò che avviene in rete.
Modelli avanzati
Nicholas Carlini, ricercatore presso Anthropic che ha lavorato ai test di crittografia, ha affermato che i test che stava sviluppando lo scorso anno con i modelli di intelligenza artificiale non erano neanche lontanamente potenti come quelli odierni.
“Non erano in grado di risolvere problemi che io riuscivo a risolvere quando avevo 16 anni”, ha dichiarato Carlini, che in precedenza ha lavorato nella divisione di intelligenza artificiale di Google, in un’intervista. «Ora stanno conducendo ricerche all’avanguardia mai esplorate prima in questo campo».
Le ultime versioni dei modelli di intelligenza artificiale all’avanguardia hanno destato preoccupazione negli ultimi mesi tra i governi di tutto il mondo, compresa l’amministrazione Trump, per le loro potenti capacità, in particolare nel campo della sicurezza informatica.
L’AI offensiva come un’arma
Quando Mythos ha fatto il suo debutto ad aprile, si è dimostrato così abile nell’individuare e sfruttare i bug informatici che Anthropic ne ha limitato la diffusione ad alcune agenzie governative e organizzazioni selezionate, per scongiurare la possibilità di una catastrofe digitale globale. L’amministrazione Trump, che inizialmente aveva adottato un approccio non interventista alla regolamentazione dell’intelligenza artificiale, ha virato verso un sistema di supervisione ad hoc. Molte aziende americane operanti nel settore dell’intelligenza artificiale stanno ora sottoponendo i propri modelli alla revisione del governo prima di renderli pubblici, e Mythos rimane ancora oggi inaccessibile al grande pubblico.
“Il punto vero è che non ci facciamo la domanda giusta che non è ‘come’ utilizzare questa capacità dell’IA, ma ‘chi, dove e quando’ usarla e forse ‘se’ è il caso di farlo. Trovare una vulnerabilità sappiamo ormai che è questione di minuti. Ma rimuoverla da tutti i sistemi potrebbe richiedere mesi o anni. Il rischio è quello di avere per le mani un oggetto che non è ‘dual use’, ma ‘single use’ ovvero semplicemente un’arma”, conclude Curioni.
Quantum computing e crittografia: si moltiplicano gli allarmi
La scorsa settimana, le preoccupazioni riguardo alle potenzialità dei principali sistemi di intelligenza artificiale hanno raggiunto nuovamente l’apice.
OpenAI ha ammesso che i propri modelli erano riusciti a uscire da un ambiente di test sicuro, noto come “sandbox”, progettato per essere scollegato da Internet, e a violare con successo una biblioteca digitale dedicata alla tecnologia dell’intelligenza artificiale, nel tentativo di sottrarre, in parole povere, le risposte a un esame volto a valutare le loro capacità.
Da decenni i funzionari dei servizi segreti statunitensi e occidentali avvertono che, se gli attuali standard di crittografia venissero mai violati, ciò avrebbe conseguenze profonde per la privacy digitale e la sicurezza nazionale.
Si ritiene, per esempio, che la Cina pratichi l’Harvest now, Decipher later ovvero abbia raccolto enormi quantità di dati crittografati, potenzialmente nella speranza di riuscire un giorno a decodificarli.
La corsa tra Usa e Cina per la realizzazione di computer quantistici avanzati, che un giorno potrebbero violare i moderni protocolli di crittografia, non ha fatto altro che accentuare le preoccupazioni relative agli standard esistenti.
«Dato che sottovalutiamo costantemente la potenza e i tempi di disponibilità dei modelli futuri, siamo davvero sicuri che tra due anni la crittografia forte non sarà minacciata?», ha affermato Glenn S. Gerstell, ex consigliere legale generale della National Security Agency (NSA).
«I matematici direbbero che, date le attuali capacità di calcolo, non dovrebbe essere possibile violare una crittografia forte in un lasso di tempo significativo», ha aggiunto Gerstell, che ha contribuito alla stesura di un rapporto sulla crittografia nel 2022.
Gli altri attacchi
Oltre all’attacco allo standard di crittografia, Mythos ha anche orchestrato un altro attacco perfezionato contro un diverso sistema crittografico digitale noto come HAWK, progettato per essere a prova di errore sia contro i computer tradizionali che contro quelli quantistici.
HAWK non è attualmente in uso, ma è al vaglio del National Institute of Standards and Technology per diventare un nuovo standard.
L’attacco a HAWK è stato convalidato dai suoi autori, mentre l’attacco all’Advanced Encryption Standard è stato esaminato da crittografi indipendenti, secondo Anthropic che dice di aver condiviso i propri risultati con il governo Usa e con i partner del settore prima della pubblicazione.
L’attacco all’AES: come proteggere le transazioni finanziarie a rischio cyber nell’era dell’AI
Mythos ha ideato l’attacco crittografico contro A.E.S. in modo quasi del tutto autonomo, ha affermato Anthropic, ma solo dopo aver inizialmente rifiutato di prendere in considerazione il problema, ritenendo impossibile migliorare i metodi di analisi esistenti.
Tuttavia, dopo alcune insistenze, il chatbot si è dedicato al rompicapo per circa una settimana prima di mettere a punto il suo innovativo attacco.
Due ricercatori umani hanno poi lavorato per quasi un mese per verificare che il metodo fosse corretto.
I recenti progressi hanno alimentato i timori che il nucleo matematico degli standard di sicurezza di Internet possa un giorno rivelarsi vulnerabile, indipendentemente dai progressi nell’informatica quantistica.
«Ma non credo che le capacità dei modelli futuri nel medio termine — prima dell’avvento dell’informatica quantistica o della crittografia a prova di quantistica — debbano essere liquidate come irrilevanti in questo contesto».
“La buona notizia è che queste stesse capacità (il fatto che un modello possa accelerare di centinaia di volte la scoperta di nuove vulnerabilità, ndr) possono essere impiegate per progettare algoritmi più robusti e individuare debolezze prima che vengano sfruttate da attori malevoli“, evidenzia Paganini.
“La sfida per governi, aziende e comunità scientifica sarà quindi anticipare questa evoluzione, investendo nella ricerca, nella crittografia post-quantistica e in un approccio “AI contro AI”, dove l’intelligenza artificiale diventa non solo uno strumento di attacco, ma soprattutto la prima linea di difesa per la sicurezza del futuro”, conclude Paganini.
Partecipa alla community