Controllo umano? Facile a dirsi. Forse anche troppo. Peccato che salti sempre quell’idea di “efficace”, che invece dovrebbe far capire che quel che si chiede è un’effettività di quel concetto di human-in-the-loop, supervisione o qualsivoglia altra declinazione di un concetto che presuppone che dietro all’azione di una macchina bene o male debba sempre esserci un responsabile o qualcuno in grado di premere quel grosso bottone rosso. Qualsiasi cosa possa significare.
Il problema sarà l’interpretazione di supervisione o controllo efficace, infatti. Perché – spoiler – non è detto che la fallacia del post hoc ergo propter hoc si possa allontanare nel momento in cui tutto fallisce e si ricercano colpe e responsabilità varie.
Ma certamente un minimo di approccio difensivo è quel che viene richiesto se non per voglia di adempiere agli obiettivi posti dalla norma, quanto meno per mitigare i rischi o, volendo essere pessimisti ma realisti, limitare i danni.
Il problema è quanto controllo serve affinché si possa superare quella soglia minima di efficacia.
Dosare il controllo
Diceva Paracelso sola dosis venenum facit, e così l’eccesso di controllo può provocare uno stallo tecnologico inaccettabile sia per la ricerca che per il business.
Parimenti, una supervisione svuotata di ogni efficacia richiama spettri illusori e una serie di problemi la cui ricaduta pratica è tutt’altro che limitata o facilmente ignorabile. Se il formalismo acceca, l’eccesso blocca o peggio porta a non avere interlocuzioni “sane” con l’ufficio compliance.
Peccato originale di una serie di pericolose derive, soprattutto per la necessità di tali presidi anche per la prevenzione dei reati di cui ai MOGC 231, da cui deriva ben poco margine anche solo per ipotizzare che una falsa supervisione possa essere un’esimente e non un’aggravante di responsabilità.
Il tutto, nel confortante spazio dell’illusione di un controllo che solo non si realizza ma che mai potrebbe essere by design.
Ben venga, dunque, il controllo umano, ma si badi bene affinché sia e rimanga umano ed efficace. Altrimenti, sarà un errore disumano.
Partecipa alla community