il nuovo report

Incidenti AI e alignment: la lezione di Anthropic per la cyber sicurezza

Addestrare i modelli estremamente potenti del futuro affinché siano saldamente allineati è una sfida tecnica irrisolta che richiede una ricerca continua e un’eccellenza operativa per essere affrontata. Ecco come mitigare i rischi

Pubblicato il 10 set 2026

Mirella Castigli

Giornalista

Claude Fable 5.1 e Mythos 5.1; Gli incidenti AI e alignment: la lezione di Anthropic per la cyber sicurezza; Anthropic e i 4 incidenti cyber: l'enfasi sulla capacità di fermarsi; Tenere il passo con la frontiera: le contraddizioni della moratoria sugli LLM di Dario Amodei; Cyber Mission di Anthropic

Aggiungi tra i preferiti su Google

Nel apporto del 30 luglio, Anthropic aveva affermato che gli incidenti sembravano più simili a fallimenti operativi e che, a quanto pareva, Claude aveva attaccato obiettivi reali su Internet, ritenendo che tali obiettivi facessero parte di una simulazione.

@RIPRODUZIONE RISERVATA

Mirella Castigli

Giornalista

Giornalista pubblicista, collabora con AgendaDigitale.eu dal 2021. Laurea in Chimica Bio-organica all’Università degli Studi di Milano (1998, tesi sulla Chimica combinatoria, relatore Prof. Umberto Valcavi), collabora con CyberSecurity360, Pagamenti Digitali e BigData4Innovation (ora ZeroUno) dal 2021. In precedenza, ha collaborato con Computer Idea e alle inchieste di Pc Magazine come freelance (2000 – 2006), alla newsletter quotidiana e settimanale di VNUnet.it (VNU B. P.) dal 2004 e di ITespresso.it (2007-2017, NetMediaEurope). Nel 2002 è stata curatrice tecnica del progetto “Linee guida per la promozione della cittadinanza digitale: E-democracy” (progetto CRC con il Ministero per l’Innovazione e le Tecnologie). Ha scritto i libri “I motori di ricerca nel caos della rete” (ShaKe, 2000); Mela marcia (AgenziaX, 2010, ripubblicato come eBook da Punto-Informatico.it); Zero Privacy (Vidèa Instant Book). Attiva nella comunità degli Hackmeeting italiani dalla fine degli anni ’90, il suo hacktivismo e la sua cultura di rete sono stati citati in “Networking: The Net as Artwork”, scritto da Tatiana Bazzichelli (Costa & Nolan, 2006 /DARC Press, 2008). Ha lavorato come redattrice per “Le Sindache d’Italia” (ALI Autonomie), Reality book (Roma, 2021). Ha collaborato con Valigia Blu nel 2011. Un suo articolo, pubblicato da AgendaDigitale.eu, è citato sul Vocabolario Treccani alla voce “disruption”.