Il 18 settembre 2026 il governatore della California Gavin Newsom firma l’ordine esecutivo N-9-26.
Incarica la Government Operations Agency, in consultazione con l’ufficio statale per le emergenze, di riunire esperti a livello nazionale e presentare entro due mesi una serie di raccomandazioni sulla sicurezza dei sistemi di intelligenza artificiale più avanzati.
Tra le misure allo studio, verificatori indipendenti stabilmente presenti nei laboratori delle imprese che sviluppano questi sistemi e una revisione della definizione di incidente critico che includa gli episodi di perdita di controllo.
C’è anche un interruttore di emergenza per i modelli più avanzati, la cui efficacia dovrà essere verificata nel tempo, non soltanto dichiarata una volta.
Indice degli argomenti
Cosa dice l’ordine esecutivo N-9-26 della California
L’ordine arriva al termine di un mese in cui il governatore ha firmato altre leggi sull’intelligenza artificiale, dalla certificazione dei verificatori indipendenti alla tutela dei lavoratori esposti alla pubblicità generata da un sistema automatico, segno di un’attività legislativa insolitamente densa su questo singolo tema.
“Non stiamo aspettando per agire”, dichiara Newsom nello stesso comunicato, “lo facciamo con ponderazione ma con urgenza: la posta in gioco è troppo alta per aspettare”.
Quello che l’ordine esecutivo mette allo studio somiglia da vicino a quanto la legge sulla sicurezza e l’innovazione dei modelli di frontiera, il Safe and Secure Innovation for Frontier Artificial Intelligence Models Act, avrebbe imposto per legge due anni prima.
Era la legge più discussa dell’anno in materia di intelligenza artificiale, sostenuta da una parte della comunità scientifica che studia i rischi catastrofici di questi sistemi e osteggiata dalla gran parte dell’industria tecnologica.
Newsom l’aveva bocciata il 29 settembre 2024, con un veto che contestava proprio l’impianto della norma.
Il veto del 2024
Nel messaggio di veto scriveva che la legge applicava standard rigidi anche alle funzioni più elementari, purché un sistema di grandi dimensioni le eseguisse, senza distinguere un impiego ad alto rischio da un uso ordinario.
Aggiungeva che un impianto costruito sulla sola soglia dimensionale dei modelli rischiava di offrire al pubblico una falsa sicurezza, perché anche sistemi più piccoli e specializzati potevano rivelarsi altrettanto o più pericolosi di quelli presi di mira dalla norma.
La legge sulla trasparenza dei modelli di frontiera
Un anno dopo, il 29 settembre 2025, esattamente alla stessa data del veto, Newsom firma la legge sulla trasparenza dei modelli di frontiera, conosciuta come SB 53.
È una versione più leggera della norma bocciata l’anno prima. Impone agli sviluppatori dei modelli più avanzati di redigere un protocollo per la gestione dei rischi catastrofici e di pubblicare un rapporto di trasparenza su ciascun modello. Impone inoltre di segnalare alle autorità californiane ogni incidente critico di sicurezza.
La legge è pienamente operativa dal primo gennaio 2026. In questa prima versione, manca qualunque obbligo di dotare i modelli di un meccanismo di spegnimento verificabile.
Nel 2026 la California costruisce un secondo livello, quello dei controllori. Il 9 settembre Newsom firma la SB 813, prima nel paese a istituire un sistema di certificazione per organizzazioni di verifica indipendenti, dotate di competenza tecnica e di un’autonomia dimostrabile dalle imprese che sviluppano i sistemi da controllare.
Una legge gemella, l’AB 1405, istituisce un registro degli auditor terzi e ne fissa gli standard etici.
Prima ancora di stabilire cosa un’impresa di intelligenza artificiale debba dimostrare, lo Stato definisce chi ha titolo per controllarlo.
L’architettura dell’ordine esecutivo N-9-26 California
L’ordine esecutivo del 18 settembre si innesta su questa architettura, ma la sua natura giuridica resta diversa da quella di una legge.
Un ordine esecutivo del governatore della California dirige le agenzie dell’esecutivo nell’ambito dei poteri che quelle agenzie possiedono.
Non crea di per sé un obbligo nuovo e vincolante a carico di un’impresa privata, tanto meno un obbligo che il ramo legislativo aveva rifiutato di imporre.
Le raccomandazioni attese per metà novembre aprono quindi un percorso ulteriore.
Per acquisire forza vincolante dovranno tradursi in un nuovo disegno di legge oppure appoggiarsi a un potere regolamentare che un’agenzia possiede in base a una norma vigente.
Inoltre il contenuto che l’ordine esecutivo vuole raccogliere va oltre quanto la SB 53 richiede oggi.
La legge del 2025 impone di segnalare un incidente critico una volta accaduto.
Le raccomandazioni allo studio vogliono includere, tra gli incidenti da segnalare, anche la perdita di controllo, la situazione in cui un sistema agisce in un modo che i suoi stessi sviluppatori non sono più in grado di prevedere o di correggere, un concetto preso dal linguaggio tecnico della sicurezza dei sistemi avanzati più che da quello tradizionale della responsabilità civile.
È la stessa area di rischio, esistenziale più che commerciale, che la SB 1047 respinta nel 2024 provava a normare per prima.
La California sul fronte opposto di Washington: il percorso legislativo
La California costruisce questo edificio normativo, mentre un fronte parallelo, a Washington, lavora per demolirlo.
Nel maggio 2025 la Camera aveva inserito in un disegno di legge di riconciliazione di bilancio una moratoria decennale capace di bloccare l’applicazione di ogni legge statale sull’intelligenza artificiale.
Il Senato l’ha stralciata a luglio, con un voto di novantanove a uno, prima di approvare il resto del testo.
Un tentativo simile non è passato nemmeno nella legge di autorizzazione della difesa dello stesso anno.
L’11 dicembre 2025 il presidente ha scelto allora lo stesso strumento che Newsom userà nove mesi più tardi, un ordine esecutivo, il numero 14365, che incarica un gruppo di lavoro del Dipartimento di Giustizia di impugnare le leggi statali sull’intelligenza artificiale e chiede alla Federal Communications Commission e alla Federal Trade Commission di elaborare proprie teorie di prevalenza federale.
Condiziona inoltre una parte dei finanziamenti federali alla rinuncia degli Stati alle regole giudicate più onerose.
Anche il testo per il 2026 della stessa legge di autorizzazione della difesa, circolato con la stessa moratoria attesa, è arrivato in aula senza quella disposizione.
Partecipa alla community