Secondo Mit Technology Review, un’unità di Marine ha effettuato un test nel Pacifico sull’utilizzo dell’intelligenza artificiale generativa non solo per la raccolta di informazioni, ma anche per la loro interpretazione.
Durante il 2024, infatti, circa 2500 membri della quindicesima Unità di spedizione dei Marine, che si occupava di selezionare informazioni straniere e di segnalare possibili minacce locali ai superiori, durante una navigazione su tre navi nel Pacifico a largo della Corea del Sud, delle Filippine, dell’India e dell’Indonesia, hanno effettuato un esperimento sfruttando un importante strumento di intelligenza artificiale generativa finanziato dal Pentagono.
Ecco come l’AI generativa sta imparando a effettuare spionaggio per l’esercito statunitense.
Indice degli argomenti
Un test al largo del Pacifico
Questo sistema ha permesso loro di passare al setaccio migliaia di fonti di intelligence aperte, come articoli non classificati, report, immagini, video, raccolte nei vari Paesi in cui operavano, in maniera molto più rapida rispetto a quanto avrebbero potuto fare con l’analisi manuale.
Per esempio, se il capitano Kristin Enzenauer ha usato modelli linguistici di grandi dimensioni per tradurre e riassumere le fonti di notizie straniere, il capitano Will Lowdon ha scritto rapporti di intelligence giornalieri e settimanali per i suoi comandanti.
Anche se le fonti devono essere ancora convalidate, i comandati dell’unità hanno riconosciuto la maggiore efficienza del sistema in una situazione dinamica.
Chi è l’azienda produttrice
L’azienda tecnologica della difesa che si è occupata di costruire gli strumenti di intelligenza artificiale generativa è la Vannevar Labs.
Fondata nel 2019 da veterani della Cia e della comunità dei servizi segreti americani, ha firmato a novembre un contratto di produzione del valore di 99 milioni di dollari dalla Defense Innovation Unit del Pentagono per portare la tecnologia di intelligence a sempre più unità militari.
La Vannevar Labs si affianca, così, alle altre principali fornitrici della difesa nell’ambito dell’intelligenza artificiale, Palantir, Anduril e Scale AI, non soltanto per le tecnologie fisiche, droni e veicoli autonomi, ma anche, appunto, per il software che raccoglie e interpreta i dati per la guerra e la sorveglianza.
Modelli linguistici di grandi dimensioni già esistenti, tra cui alcuni di OpenAI e Microsoft, e modelli propri fatti appositamente, vengono applicati a informazioni open source che vengono raccolte dal
Si tratta di terabyte di dati in 80 lingue diverse raccolti in 180 Paesi ogni giorno. La Vannevar Labs riesce, a quanto pare, ad analizzare profili social e violare firewall in Paesi come la Cina per arrivare ad informazioni di difficile accesso e anche a dati non classificati a cui difficilmente si riesce ad avere accesso online, quelli raccolti da figure umane direttamente sul campo e report che provengono da sensori fisici che monitorano le onde radio segretamente per rilevare attività di spedizione illegali.
Il sentiment politico delle informazioni
Quello che fanno gli strumenti realizzati da Vannevar Labs è analizzare il sentimento politico delle informazioni per fornire ai clienti informazioni critiche su argomenti diversi e, come ha dichiarato il Chief Technology Officer della società, Scott Philips, “il nostro vero obiettivo come azienda è raccogliere dati, dare un senso a quei dati e aiutare gli Usa a prendere buone decisioni”.
La necessità di realizzare strumenti tecnologici che potessero gestire la grande mole di dati che gli analisti umani non riuscivano ad interpretare ha portato prima alla nascita di Palantir nel 2003 e poi a Vannevar Labs nel 2019. Anche se vengono riscontrate imprecisioni nel lavoro svolto dall’intelligenza artificiale, che deve necessariamente passare per il controllo umano, queste non rappresentano un problema significativo.
Infatti le attività, che dovevano essere svolte manualmente prima, come l’analisi del sentiment, ossia delle emozioni e delle opinioni, ora sono affidate all’AI e richiedono molto meno tempo.
I potenziali rischi
Dall’organizzazione di ricerca AI Now Institute, con esperienza in audit di sicurezza per i sistemi alimentati dall’intelligenza artificiale, arrivano i primi dubbi su questi strumenti tecnologici.
La scienziata capo dell’AI, Heidy Khlaaf, ha dichiarato, infatti, che questa fretta di incorporare l’AI generativa nel processo decisionale militare non tiene in considerazione alcuni difetti della tecnologia. Soprattutto per quanto riguarda le “applicazioni critiche per la sicurezza che richiedono precisione”.
Anche se le risorse umane controllano più di una volta il lavoro svolto dall’intelligenza artificiale, è comunque difficile che non sfuggano errori. Secondo Khlaaf, l’analisi del sentiment, in particolare, desta preoccupazione perché “è una metrica altamente soggettiva che persino gli esseri umani farebbero fatica a valutare in modo appropriato sulla base dei soli media”.
Da qui, potrebbe derivarne una decisione sbagliata da parte dell’esercito statunitense.
La sentiment analysis è un campo ancora non perfezionato adeguatamente. I modelli specifici già esistenti di Vannevar che individuano se un articolo è favorevole o meno agli Usa, per esempio, non sono ancora stati oggetto di valutazione da parte del MIT Technology Review.
L’ingegnere senior di RAND, Chris Mouton, ha valutato i principali modelli, come GPT-4 di OpenAI e una versione precedente di GPT perfezionata per svolgere questo compito. Ed è giunto alla conclusione che i tipi più sottili di propaganda difficilmente vengono individuati, ma gli stessi modelli possono essere sfruttati in maniera più efficace per altri compiti di analisi.
La punta dell’iceberg
Il test effettuato dai Marine nel Pacifico è stata solo “la punta dell’iceberg” a detta del colonnello Sean Dynan, a capo dell’unità. Infatti, l’esercito americano ha intenzione di affidarsi sempre di più a strumenti tecnologici di AI generativa. Lo farà grazie anche al supporto economico del Pentagono che investirà 100 milioni di dollari nei prossimi due anni per progetti pilota di applicazioni tecnologiche di questo tipo.
Non sarà coinvolta solo Vannevar Labs nel progetto, ma anche Microsoft e Palantir.
