Sono infatti in bozza finale le linee guida che intendono delineare la classificazione dei sistemi AI ad alto rischio.
Non basta “usare” strumenti di intelligenza artificiale, ma occorre altresì chiedersi in quale realtà gli stessi operano, con che funzione e di quali capacità (computazionali) siano dotati, così da essere in grado di incidere su sicurezza, salute e diritti fondamentali, accesso a servizi essenziali, al lavoro, in ambito educativo, nel mondo della giustizia e PA. Vediamo meglio.
Indice degli argomenti
Linee Guida sui sistemi AI ad alto rischio: perché sono importanti
La Commissione europea ha reso noto, in data 19 maggio 2026, la bozza finale delle linee guida sui sistemi di AI ad alto rischio che poggiano sull’applicazione dell’art. 6, par. 5, dell’AI Act.
Sono particolarmente importanti nonché attese da tanto in quanto da dicembre 2027 e agosto 2028 – stante le modifiche alla Digital Omnibus on AI – saranno pienamente applicabili gli obblighi per i sistemi ad alto rischio elencati tanto nell’Allegato I quanto nell’Allegato III, il cuore “politico”.
Capire se il proprio sistema dotato di AI rientri o meno in una di quelle categorie non è poi così scontato.
In termini concreti, significa strategico e decisivo pensando alle organizzazioni, banche, presidi sanitari, eccetera e, se da un lato, riduce la incertezza giuridico-applicativa, d’altro amplia l’area dei controlli sugli usi sensibili e, in special modo, sulla biometria.
É così che è sorta l’esigenza delle linee guida in parola finalizzate a stilare un’adeguata classificazione, arricchita da esempi concreti.
Cosa chiariscono
Le Linee guida in parola intendono supportare i provider, deployer e autorità di vigilanza nel capire quando un sistema di AI sia da classificare come “ad alto rischio”, prevedendo due ipotesi e cioè a dire quando tali sistemi:
- vengono usati come “componente di sicurezza di un prodotto o essi stessi sono prodotti soggetto a valutazione di conformità di terze parti” (ex art. 6 par.1 – AI Act);
- rientrano nei casi d’uso così come elencati nell’Allegato III (art. 6 par.2 AI Act).
Cosa dispongono
Nella bozza di testo si legge testualmente, al punto 1, perché un sistema possa essere classificato come ad alto rischio, deve qualificarsi come “un sistema basato su macchine progettato per operare con diversi livelli di autonomia e che può mostrare adattabilità dopo il deployment, e che, per obiettivi espliciti o impliciti, deduce, dall’input ricevuto, come generare output come previsioni, contenuti, raccomandazioni o decisioni che possono influenzare ambienti fisici o virtuali”.
Quindi, non tutte le applicazioni software e sistemi decisionali automatizzati rientrano tout court nell’ambito dell’AI Act.
Linee Guida sui sistemi ad alto rischio: il loro vero scopo e non una mera etichetta
Poiché lo scopo di un sistema di AI ingloba molti contesti e più applicazioni, è importante che “i fornitori descrivano chiaramente l’uso se previsto del sistema nelle informazioni fornite dal fornitore nelle istruzioni d’uso, materiali promozionali o di vendita, dichiarazioni, così come nella documentazione tecnica”.
La conseguenza è che, se il sistema è destinato all’uso in più contesti/ applicazioni, questi necessitano di essere descritti al fine di determinare se il sistema è destinato ad essere utilizzato in modo da portare alla sua classificazione come “ad alto rischio”.
Dunque è importante comprendere che tale classificazione non sia da ritenere come una mera etichetta, ma è molto di più, dovendo rappresentare infatti il primo momento in cui l’organizzazione dimostri di avere compreso se l’AI che utilizza resta uno strumento ausiliario o diventa una infrastruttura (critica) decisiva nell’assetto aziendale.
Evidentemente, senza un censimento di casi d’uso non esaustivi né definitivi in termini di attualità, della “finalità prevista” nonché dell’impatto concreto sugli output decisionali, non può esserci conformità normativa, né tanto meno compliance nell’accezione più spinta quale “acquiescenza” e quindi effettiva governance, restando tanta carta e mera formalità.
Linee Guida sui sistemi ad alto rischio: il “filtro” che interessa alle aziende
Una delle novità più importanti di questo documento in bozza concerne il cd “filtro” di cui all’art. 6, par. 3 dell’AI Act.
Sul punto, la Commissione europea chiarisce bene quando “un sistema che rientrerebbe nell’allegato III può essere escluso dalla classificazione high-risk” qualora:
- svolga un compito procedurale ristretto;
- migliori il risultato di un’attività umana già conclusa;
- individui scostamenti rispetto a schemi decisionali precedenti senza tuttavia
- sostituire il giudizio umano;
- svolta un compito meramente preparatorio senza in alcun modo influenzare in
- concreto la decisione finale.
Questi aspetti interessano alle organizzazioni dal momento che la Commissione, per il tramite delle linee guida in parola, delinea meglio il perimetro di applicazione con riferimento ad alcuni software di supporto (quali per esempio sistemi di riordino documenti, rilevazione duplicati o richiamo normative e precedenti).
Il problema, tuttavia, risiede nel presupposto: il tutto è lasciato all’autovalutazione formale del fornitore. In ottica di accountability; ma la bontà della documentazione a corredo?
Una precisazione importante: il “filtro” (autogestito) non trova applicazione nella misura in cui il sistema di AI effettui profilazione su persone fisiche, laddove, in caso di “uso improprio”, le Autorità competenti sono chiamate a intervenire, ben potendo/dovendo le stesse riclassificare il prodotto nonché imporre misure correttive e, se ne ricorrano gli estremi, anche sanzionatorie.
Un alleggerimento, ma senza deregolamentazione o deresponsabilizzazione
Con le linee guida ai sistemi AI ad alto rischio, in consultazione fino al 23 giugno prossimo, la Commissione dunque alleggerisce in qualche l’impianto descritto.
Ma ciò non significa che deregolamenti e men che meno deresponsabilizzi, specialmente le imprese fornitrici di software evoluti e magari anche forti/grandi nel mercato che non potranno percorrere “scorciatoie” quando sviluppano sistemi dotati di AI, tutt’altro.
Saranno i primi a dover ripensare, infatti, a realizzare interfacce e workflow limitanti il peso degli output algoritmici sul fattore umano, invece decisorio.
In termini di business ciò può voler dire maggiori investimenti iniziali e quindi un innalzamento di costi.
In una visione lungimirante e strategica, tuttavia, questi saranno ampiamente ripagati sul lungo e in termini di vantaggi competitivi.
Sarà un win-win l’immissione sul mercato di sistemi di AI sicuri, ma non classificati né classificabili come “ad alto rischio”, conformemente alle linee guida in questione.
