Nel 2016, nella penisola di Bruce in Canada, una guidatrice ha seguito le istruzioni del navigatore GPS con tale cieca dedizione da infilarsi direttamente con la sua Yaris nelle acque ghiacciate della Georgian Bay. Il ghiaccio non ha retto, l’auto è affondata, ma fortunatamente lei si è salvata a nuoto.
È l’esempio perfetto della fiducia totale nella macchina: se lo schermo indica di procedere dritto, l’essere umano accelera, ignorando la presenza di un lago che era ben visibile dal parabrezza.
Indice degli argomenti
Quando l’automazione smette di essere un aiuto
La psicologia cognitiva definisce questo fenomeno Automation Bias (compiacenza da automazione). È la tendenza ampiamente documentata ad affidarsi in modo sproporzionato ai sistemi decisionali automatizzati, scartando le informazioni contrarie evidenti.
Il cervello umano ottimizza costantemente il consumo di energia: quando un algoritmo certificato fornisce una risposta pronta, il Sistema 2 (il pensiero analitico e lento) si spegne per risparmiare glucosio.
Questo non è un sintomo di negligenza o di pigrizia lavorativa, ma un adattamento fisiologico ineludibile.
Quando un analista o un dipendente affronta centinaia di alert al giorno, il cervello delega il carico cognitivo pesante alla macchina (computer, AI, telefono ecc.). Se il sistema dichiara che un file o un messaggio email è sicuro, la mente umana lo accetta come una verità assoluta, così da poter passare rapidamente al task successivo.
Il volume di telemetria generato dalle moderne infrastrutture rende impossibile l’analisi manuale e obbliga a ricorrere all’automazione, ma il modo in cui presentiamo i risultati di questi tool genera una vulnerabilità profonda. L’operatore smette di essere un analista e si trasforma in un certificatore passivo. O in un correttore di bozze.
Un caso per capire la dinamica
Costruiamo uno scenario illustrativo all’interno del perimetro di un SOC, in cui l’azienda ha investito 2 milioni di euro in una piattaforma XDR basata sull’intelligenza artificiale.
L’interfaccia utente è minimale ed assegna un rassicurante bollino verde alla maggior parte del traffico di rete. Un attaccante sfrutta una tecnica di evasione inedita per lanciare uno script malevolo.
Il software non riconosce il pattern, lo classifica come falso positivo ed applica la consueta spunta verde. L’analista di primo livello vede l’alert, nota il colore rassicurante e chiude il ticket in 4 secondi netti, senza nemmeno leggere la stringa di codice offuscata e palesemente anomala, visibile a tre righe di distanza.
Il fenomeno si aggrava proporzionalmente all’aumentare della complessità degli strumenti aziendali, ed esplode con l’adozione dell’intelligenza artificiale generativa.
Pensiamo ai moderni cruscotti integrati o ai report riassuntivi generati dai co-pilot di sicurezza. Se un algoritmo di sintesi omette un indicatore di compromissione all’interno di un log di 10.000 righe, l’analista applica una sequenza inevitabile: legge il riassunto della macchina > chiude l’indagine > archivia il caso.
L’autorità percepita dell’algoritmo supera sistematicamente l’evidenza empirica disponibile sullo schermo. Quando viene consultato a seguito dell’incidente, il dipendente difenderà ferocemente la propria scelta, trincerandosi dietro un inattaccabile «ma scusa, la dashboard lo dava verde!».
L’errore risiede interamente nella governance: se paghiamo gli esseri umani per validare passivamente l’output di una macchina, uno dei due è inutile. Indovina quale dei due. E ci illudiamo pure di essere protetti!
Le implicazioni per il CISO
La governance della sicurezza deve smettere di misurare le performance basandosi sulla velocità.
Se il KPI principale del SOC è il tempo di risoluzione del ticket, stiamo incentivando matematicamente l’Automation Bias. Gli operatori impareranno a scorrere rapidamente le interfacce alla ricerca del bollino verde per massimizzare i propri numeri (compresi i bonus economici per il tempo di chiusura dei ticket), ignorando completamente le anomalie periferiche.
Il CISO deve implementare metriche qualitative che misurino quante volte un operatore umano contraddice volontariamente la classificazione automatica. Un reparto difensivo in cui l’analista concorda al 100% con l’EDR (o con il SIEM, l’antispam o la tecnologia che vuoi) è un reparto in cui l’analista è diventato superfluo e agisce solo come un costoso passacarte.
Il CISO deve anche introdurre un attrito calcolato nei flussi di lavoro quotidiani. Se il sistema marca un evento come sicuro ma la sorgente presenta anomalie, l’interfaccia non deve offrire un bottone di approvazione rapida.
L’analista deve essere forzato ad inserire una motivazione testuale per l’archiviazione: leggere lo schermo > valutare i dati > scrivere la giustificazione.
Una proposta metodologica
Qui si innesta il Cybercognitivismo come proposta metodologica utile ad analizzare il fenomeno. L’approccio cognitivo spiega che l’affaticamento decisionale amplifica l’Automation Bias in modo esponenziale.
Dopo 50 alert verdi chiusi in automatico, la probabilità che il dipendente indaghi sul cinquantunesimo crolla a zero.
La contromisura non è certo inviare circolari chiedendo genericamente “maggiore attenzione”, ma piuttosto riprogettare l’interfaccia per rompere l’abitudine visiva.
Si invertono i colori dei bottoni, si disabilita il click rapido, si impone una pausa logica di 10 secondi prima di poter confermare l’azione.
In casi come questo, l’usabilità e l’ergonomia di chi (giustamente) sa progettare interfacce grafiche sono subordinate alle indicazioni di chi deve progettarne la sicurezza.
L’efficacia di questi interventi dipende dalla capacità di rompere il pattern visivo e cognitivo. Se l’alert malevolo ha l’aspetto esatto di 500 alert benigni precedenti, il cervello applicherà automaticamente la regola della maggioranza.
Oltre all’attrito in interfaccia, è necessario testare la tenuta del team iniettando periodicamente falsi negativi generati internamente, misurando se la squadra ha mantenuto la capacità di dubitare dell’output pre-digerito.
Non si tratta di coltivare la sfiducia verso il vendor tecnologico, ma di mantenere attivo il muscolo del dubbio metodologico. Un controllo umano che non si oppone mai alla macchina ha già smesso di essere un controllo.
Abbiamo delegato la vigilanza al software, trasformando i team di difesa in semplici notai delle decisioni prese dalle macchine: un rischio che la governance può ridurre, ma che nessuna piattaforma è in grado di azzerare del tutto.
Per chi deve tradurre questi principi in pratica quotidiana, restando aggiornato anche in vista della certificazione, il Manuale CISO Security Manager (per la preparazione all’esame CISSP e la pratica quotidiana) affronta proprio l’implementazione degli strumenti di sicurezza avanzati, spiegando come integrare l’automazione senza atrofizzare la capacità di analisi umana.
Se puoi evitare di nuotare in un lago ghiacciato mentre la tua auto affonda, puoi evitare di dare spiegazioni sul perché è successo.















Partecipa alla community