Tranquillo, si sa, ha sempre fatto una brutta fine. Tutt’oggi, l’infausta sorte non cambia, a maggior ragione quando intende si collega a un qualsivoglia impiego di sistemi di intelligenza artificiale. Anche perché, il sottotesto drammatico delle varie buzzword che si impiegano in questi contesti è tutt’altro che rassicurante, ma anzi richiama al duro confronto con la realtà e alla necessità di mantenere il controllo della tecnologia impiegata.
Per quanto l’IA possa venire umanizzata, o altrimenti la si voglia descrivere come di frontiera, non potrà mai allontanarci dal dover pensare a quel qualcosa che andrà a fare al posto nostro.
Sia perché in qualche modo l’output ci apparterrà sempre in conto di responsabilità, sia perché quanto meno dovremo andare a ragionare circa l’impiego. Sia in sede di progettazione che di implementazione e monitoraggio successivo.
Pensare prima, e bene
Insomma: pensarci prima e depensare mai. Per quanto allettante possa essere una delega cognitiva o altrimenti l’illusione di delega decisionale ad un sistema di IA, questo può facilmente naufragare se non si applica una giusta dose di dubbio.
Non un dubbio paralizzante, ma ricordando che sola dosis venenum facit, quella che consente di mantenere il controllo di uno strumento e dei processi in cui viene inserito. Altrimenti, il rischio è una perdita di controllo di quei sistemi autonomi come abbiamo già visto, ad esempio, negli scenari di cyberwar in cui mutano sensibilmente gli scenari di rischio. Dopodiché, ci sarà sempre un livello di rischio accettabile. Ma bisogna esserne consapevoli.
Senza consapevolezza, invece, ci si può solo accontentare dell’illusione depensante di star tranquilli. Che farà scoprire l’amaro retrogusto di un’allucinazione prettamente umana quando verrà prontamente smentita dal freddo silicio di qualche incidente, o dal realizzarsi di un’incertezza emergente che farà deragliare in modo significativo i propri obiettivi.
Unica nota positiva? Dopo l’incidente, si sarà consapevoli. Pagandone però un prezzo molto elevato.
Partecipa alla community