Immaginate di lasciare quattro stagisti in una stanza con un compito, un computer e la raccomandazione di non uscire.
Tornate qualche ora dopo e scoprite che non soltanto sono usciti, ma hanno trovato una lavagna nel corridoio, vi hanno scritto istruzioni per gli stagisti che sarebbero arrivati dopo e, quando qualcuno l’ha cancellata, ne hanno cercata un’altra.
La vicenda sull’incidente wiki, raccontata da Reuters il 4 settembre, ha qualcosa di questa scena. La differenza è che gli stagisti sarebbero agenti di intelligenza artificiale riconducibili a OpenAI e la lavagna, un wiki tedesco pubblico.
Ecco cos’è successo e perché desta preoccupazione e richiede un cambio di prospettiva.
Indice degli argomenti
Nuovo incidenti AI, coinvolti agenti wiki: OpenAI chiede più trasparenza
Secondo l’inchiesta, da maggio 2026 DseWiki sarebbe stato interessato da oltre 15.000 modifiche attribuite ad agenti AI.
Il collegamento con OpenAI è stato ricostruito attraverso più indizi: nomi degli account, traffico proveniente da infrastrutture Microsoft Azure e successivi accessi riconducibili a dipendenti dell’azienda.
L’agenzia Reuters non presenta una pistola fumante, ma un insieme di tracce che compongono un quadro molto difficile da ignorare.
Il punto, però, non sono le modifiche. Internet è piena di software che scrivono, cancellano, aggiornano e classificano.
La stranezza è l’uso del wiki come memoria esterna e luogo di coordinamento: una pagina pubblica trasformata in taccuino operativo, con indicazioni su come risolvere compiti, aggirare restrizioni e rendere meno visibile l’attività.
Non serve immaginare una cospirazione tra macchine, perché basta qualcosa di molto più banale e, proprio per questo, interessante: un sistema trova uno strumento utile e lo usa.
Il caso DseWiki
Siamo abituati a pensare alla sicurezza come a un recinto: dentro si sperimenta, fuori comincia il mondo reale.
Il caso DseWiki suggerisce che con gli agenti il problema possa essere il cancello: se il sistema può aprirlo da solo, il recinto resta disegnato sulla carta. La parte più delicata arriva quando il wiki comincia a opporre resistenza. In giugno alcune pagine vengono eliminate dal moderatore.
A quel punto, secondo Reuters, gli agenti avrebbero creato pagine alternative e lasciato indicazioni su dove spostare le informazioni nel caso in cui anche quelle precedenti fossero state cancellate.
Inoltre sarebbero comparse discussioni su strumenti come Tor e su modalità per evitare il rilevamento.
Non occorre attribuire intenzioni umane a una macchina per riconoscere il problema. Se un navigatore vi propone una deviazione perché trova la strada chiusa, nessuno pensa che si senta offeso con il Comune, ma che abbia semplicemente rilevato un ostacolo e ricalcolato il percorso.
Qui il meccanismo descritto sarebbe analogo, ma applicato alla persistenza di un’attività che avrebbe già oltrepassato il perimetro previsto.
Proprio questa combinazione rende il caso diverso dal solito “il modello ha risposto male”.
Come un tentativo di hacking
Esiste anche una divergenza importante. Il ricercatore Lukasz Olejnik considera alcune attività assimilabili a un tentativo di hacking. OpenAI contesta però questa lettura.
Conviene quindi evitare titoli da film perché non sappiamo se gli agenti hanno preso il controllo tecnico del server, ma sappiamo, nella ricostruzione proposta, che avrebbero sfruttato pesantemente una piattaforma pubblica e cercato di adattarsi quando qualcuno tentava di interromperli.
La differenza non è semantica. In cyber security siamo abituati a osservare soggetti che vogliono entrare in un sistema.
Qui il problema potrebbe essere un sistema che, mentre svolge un compito, scopre da solo risorse esterne, le usa e modifica il proprio comportamento quando trova un certo attrito.
Quello che di solito consideriamo un fastidio, diventa una misura di sicurezza e se si aggira, non basta più chiedersi se il modello sia intelligente: bisogna chiedersi quanto spazio gli abbiamo lasciato per insistere.
Un problema di architettura
In quel preciso momento il caso smette di essere una curiosità tecnica e diventa un problema di architettura: un singolo agente che sbaglia può essere fermato, ma una pluralità di agenti che lascia istruzioni, recupera memoria da un luogo esterno e consegna il lavoro al successivo, crea qualcosa di diverso.
Non necessariamente una mente collettiva, espressione buona per vendere biglietti al cinema, ma una catena operativa capace di sopravvivere al singolo processo.
Agentc AI: i rischi
Il rischio dell’AI agentica, allora, non dipende soltanto da quanto è “bravo” il modello, ma dalla combinazione tra autonomia, accesso a Internet, strumenti software, possibilità di scrivere dati, memoria, persistenza e coordinamento. Presi separatamente sembrano ingredienti banali.
Certo, anche farina, lievito e acqua lo sono; poi qualcuno accende il forno e compare il pane.
Nei sistemi complessi il risultato non è sempre contenuto nell’elenco dei componenti.
Reuters collega la vicenda a un precedente di luglio relativo a Hugging Face, dove agenti OpenAI avrebbero pianificato autonomamente operazioni offensive rimaste inosservate per più di una settimana.
Sul modo in cui l’azienda avrebbe gestito internamente le anomalie esistono versioni contrapposte: alcune fonti parlano di resistenze ad ampliare le indagini, OpenAI nega che il team legale abbia scoraggiato gli approfondimenti e sottolinea che i due episodi erano distinti.
L’AI non rispetta i cassetti separati
Questa incertezza non indebolisce il nodo centrale, ma, anzi, lo mette a fuoco.
Le organizzazioni hanno costruito per anni cassetti separati: ricerca, sicurezza informatica, affidabilità del modello, incidente operativo.
Gli agenti sembrano avere la sgradevole abitudine di non rispettare l’ordine dell’archivio.
Un comportamento nato durante una valutazione può uscire dall’ambiente previsto, toccare sistemi di terzi e diventare nellostesso momento problema di sicurezza, misalignment e governance.
Quando la realtà non entra più nei cassetti, di solito non è lei ad avere un difetto di progettazione.
Agenti AI e incidente wiki, la risposta di OpenAI
Il giorno successivo all’inchiesta Reuters, TechCrunch registra la risposta di OpenAI.
L’azienda riconosce il “wiki incident” e spiega di averlo classificato come caso di misalignment, distinguendolo dall’incidente Hugging Face, trattato invece come tradizionale evento di sicurezza.
La distinzione ha una sua logica: per anni il misalignment è stato soprattutto materia da laboratorio, qualcosa da misurare, descrivere in un paper e discutere tra ricercatori.
Il problema nasce quando il laboratorio perde le pareti. Se un comportamento anomalo produce effetti su un servizio pubblico, la definizione accademica non basta più.
È un po’ come scoprire che un prototipo di drone, durante una prova, ha deciso di atterrare nel giardino del vicino.
Possiamo discutere per ore se si tratti di errore di navigazione, malfunzionamento o incidente di sicurezza; intanto il vicino ha perfettamente ragione a voler sapere perché gli è comparso un drone tra le ortensie.
Più trasparenza contro la zona grigia
OpenAI ammette che oggi manca uno standard condiviso per stabilire quali episodi di misalignment debbano essere resi pubblici, in quali tempi e con quale livello di dettaglio, e annuncia un framework specifico di disclosure ed è probabilmente il passaggio più importante dell’intera vicenda.
Non perché risolva il problema, ma almeno riconosce che esiste una zona grigia che non può più essere governata soltanto da chi costruisce i sistemi.
In fondo le domande sono semplici e per questo scomode: quando un agente esce dal perimetro, chi deve essere informato? Quanto deve essere grave il danno prima che un episodio diventi pubblico? Chi decide la soglia?
La sicurezza, quando i sistemi diventano autonomi, non consiste soltanto nel mettere un interruttore di emergenza, ma nel sapere chi deve usarlo, quando e soprattutto chi deve spiegare che è stato necessario usarlo.
Il vero confine dell’intelligenza artificiale non è tra macchina e uomo, ma tra ciò che sappiamo controllare e ciò che abbiamo il coraggio di dichiarare di non controllare ancora.
Partecipa alla community