La narrazione degli incidenti di AI non è connotata solo dalla spettacolarizzazione di un’imminente Skynet, che costituisce un argomento fantoccio funzionale affinché non si parli di responsabilità. Si supera così il racconto di una tecnologia umanizzata rendendola non centro d’imputazione ma buco nero di responsabilità. Un conveniente centro di attrazione per tutto ciò che il developer non vuole affrontare, e che si impegnerà a far permanere come tale.
Eppure, non serve essere giuristi all’avanguardia o grandi esperti per comprendere che sia poco sostenibile tale argomento. Anche perché oggi annoveriamo un ordine di grandezza di professi esperti di AI paragonabile con quello degli esperti di Metaverso di qualche anno fa che probabilmente hanno mutato pelle o abitudini.
Il problema giace nella cerca di un’irresponsabilità in capo al developer o all’utilizzatore che non solo non può ma non deve essere.
A meno che non si voglia rinunciare ai principi che consentono alla tecnologia di evolversi in modo sostenibile, fra cui annoveriamo la destinazione d’uso, o la gestione dei rischi, ad esempio.
Il Graal dell’irresponsabilità
Possiamo dire che la cerca dell’irresponsabilità per l’incidente provocato dall’IA sia un’opera virtuosa per l’evoluzione tecnologica e sociale?
La lezione che dobbiamo imparare dagli incidenti IA è, innanzitutto, che di incidenti si tratta e dunque non possono essere lasciati nel novero delle eccezioni imprevedibili o inevitabili. Capitano perché non c’è stata sufficiente attenzione all’aspetto di mitigazione preventiva. E no, non è un post hoc ergo propter hoc.
Qualche dubbio ulteriore sorge, e non serve scomodare troppo Popper, perché mantenere quel grigio fra incidente e misalignment giova più al developer che al pubblico.
Il motivo? Molto convenientemente, non prevede stringenti obblighi di disclosure ad esempio. Insomma, poiché l’incidente IA non è eccezione, la responsabilità dev’essere la regola.
Altrimenti, la sicurezza resterà solo una storia senza lieto fine.
Partecipa alla community