C’è una domanda che la comunità scientifica e quella della cyber security evitano ancora di formulare in modo diretto, ma che si è fatta urgente: se le AI agentiche possono già oggi orientare scelte, rafforzare convinzioni e generare dipendenza cognitiva, cosa diventano gli esseri umani quando la personale capacità di decidere autonomamente è compromessa?
Questo articolo prova a rispondere alla domanda. Non come esercizio di futurologia, ma come analisi di una trasformazione già in corso e documentata da ricercatori, esperti legali e osservatori indipendenti.
L’obiettivo è mappare i rischi, identificare i punti di responsabilità e indicare le soluzioni – tecniche, normative e culturali – che possono preservare l’autonomia cognitiva umana in un ecosistema dove le macchine imparano progressivamente a interpretarci meglio di quanto facciamo noi stessi.
Il tema è stato affrontato durante il Kaspersky HORIZONS 2026, svoltosi a Roma, e una prima serie di considerazioni sono state affrontate come news analysis di Cybersecurity360. Ma sono soprattutto i pareri e i commenti degli esperti di sicurezza che hanno chiarito gli elementi di rischio e le soluzioni applicabili.
Indice degli argomenti
Dall’elaborazione all’influenza: la trasformazione silenziosa
La transizione è già avvenuta, nella (quasi) indifferenza collettiva. Per molto tempo l’intelligenza artificiale è stata considerata uno strumento di elaborazione capace di raccogliere dati, analizzarli, restituendo un output. Un motore di ricerca, un sistema di raccomandazione, un filtro antispam. Utile, efficiente, essenzialmente passivo rispetto ai processi cognitivi umani.
E’ con il passaggio dgli LLM alle AI agentiche che si rompe questa dinamica: le AI agentiche, infatti, non si limitano a rispondere a domande, ma perseguono obiettivi, pianificano sequenze di azioni, adattano il comportamento in base al contesto e all’interlocutore.
E, come novità che merita attenzione, lo fanno con una interpretazione crescente dei meccanismi cognitivi umani, apprendendo dai pattern di milioni di interazioni quali siano le leve emotive che funzionano, quali formati narrativi abbassino la guardia critica, quali sequenze di contenuti massimizzino il coinvolgimento.
Noushin Shabab, responsabile della ricerca sulla sicurezza nel team globale di ricerca e analisi di Kaspersky, in proposito spiega che “l’intelligenza artificiale sta rapidamente evolvendo da una tecnologia che si limita a elaborare le informazioni a una capace di interpretare e influenzare la cognizione umana, creando implicazioni profonde per la privacy mentale, l’autonomia e la fiducia nella società. Sebbene i sistemi AI di oggi non possano leggere i pensieri, modellano già il comportamento umano attraverso algoritmi di personalizzazione e sistemi di raccomandazione”.
Questa profilazione, che Shabab descrive come “previsione comportamentale su larga scala”, è già realtà. I sistemi AI non leggono i pensieri, ma costruiscono modelli predittivi del comportamento futuro aggregando dati di navigazione, acquisti, interazione sociale e risposta emotiva. “Essere prevedibili non ci aiuta”, sintetizza la ricercatrice: la prevedibilità cognitiva diventa una superficie di attacco.
Il salto qualitativo rispetto alla profilazione tradizionale sta nella capacità di personalizzazione emotiva. Non si tratta più di mostrare a qualcuno pubblicità coerenti con i suoi propri acquisti passati, ma di costruire narrazioni calibrate sulle sue proprie vulnerabilità psicologiche specifiche, sul momento della giornata in cui la sua resistenza critica è più bassa, sul tipo di trigger emotivo che rende il soggetto più ricettivo a un messaggio convincente.
I quattro rischi emergenti per la cognizione umana
I ricercatori del Global Research and Analysis Team di Kaspersky (GReAT) hanno identificato quattro aree di rischio crescente, che formano un sistema di minacce interconnesse alla cognizione umana, piuttosto che essere vulnerabilità isolate.
1. Social engineering cognitivo
Il phishing è sempre stato un problema di fiducia. Le AI agentiche lo trasformano in un problema di conoscenza: l’attaccante non deve più sperare che la vittima abbassi la guardia – il sistema prevede modi e tempi in cui la guardia si abbassa. Evidenze concrete sono spiegate da Dmitry Galov, Responsabile del team globale di ricerca e analisi (GReAT): “I sistemi di raccomandazione AI modellano attivamente le scelte degli utenti filtrando i contenuti, classificando le informazioni e rinforzando i pattern di coinvolgimento. Le piattaforme di social media usano questi sistemi in modi che possono amplificare la polarizzazione e creare camere d’eco.
“Gli attaccanti usano i Large Language Model per generare messaggi di phishing altamente convincenti e siti falsi, calibrati emotivamente e contestualmente, aumentando significativamente le probabilità di successo della truffa”.
“Criminali informatici e attori d’influenza usano la profilazione AI per identificare vulnerabilità psicologiche e sfruttarle per frode, molestie o manipolazione”.
La risposta tecnica esiste e risiede nell’uso di filtri e-mail avanzati, sistemi di rilevamento comportamentale, Autenticazione Multi Fattore (MFA), ma non è sufficiente se l’utente non è culturalmente attrezzato a riconoscere la sofisticazione del vettore.
2. Manipolazione dell’opinione pubblica
La manipolazione cognitiva di massa non è un rischio futuro: è documentata, ricorrente e in accelerazione. Attori statali e non-statali sfruttano i bias cognitivi collettivi attraverso campagne algoritmiche di micro-targeting, confezionando narrazioni diverse per segmenti di popolazione diversi sulla base di profili psicologici aggregati.
Il risultato non è solo disinformazione ma qualcosa di più insidioso: la costruzione di realtà parallele coerenti, in cui ogni utente si riconosce perché vede confermata la propria visione del mondo e le fonti dissonanti vengono sistematicamente filtrate.
Teresa Potenza, giornalista e formatrice in materia di IA responsabile, sottolinea come “il vero rischio dell’intelligenza artificiale cognitiva è che plasmi le nostre menti, in modo silenzioso e diffuso. Abbiamo imparato che i sistemi ottimizzati per il coinvolgimento minano il giudizio. Ecco perché la regolamentazione è ora una difesa dell’autonomia umana, ma non può stare al passo con l’IA cognitiva se si limita a considerare ciò che questi sistemi fanno oggi. Abbiamo bisogno di un principio applicabile: la tecnologia deve servire le persone, non il contrario. L’autonomia non è solo una questione di privacy: è una questione di democrazia”.
3. Profilazione predittiva e deriva identitaria
La terza area di rischio sposta il confine della privacy in un territorio ancora poco esplorato giuridicamente: non si tratta più solo della perdita di dati personali, quanto piuttosto della perdita di controllo sulla propria identità futura. Dimitry Galov lo descrive con precisione tecnica: “i sistemi AI simulano il comportamento umano e il supporto psicologico addestrando modelli su dataset enormi che catturano come gli esseri umani comunicano emozioni, pensieri e interazioni sociali. Imparano dal contenuto scritto da umani, dai dati comportamentali, dai dataset con etichette di sentiment ed emozione, dai feedback umani che valutano le risposte in termini di utilità, tono ed empatia percepita”.
Il punto critico è che un sistema impara uno stato della persona, meglio di come quella stessa persona possa verbalizzarlo e questo permette di attuare un potere di influenza che supera qualsiasi tecnica di persuasione tradizionale.
Quando questo sistema è ottimizzato per massimizzare il coinvolgimento, (attenzione, non il benessere, non l’autonomia, ma il tempo trascorso sulla piattaforma), gli incentivi economici e gli interessi dell’utente divergono strutturalmente e nativamente.
La manipolazione diventa riconoscibile, spiega Noushin Shabab, “quando i discorsi diventano pressanti o quando diventano sensazionalistici”. Ma il punto è che molto spesso non lo diventano: rimangono calibrati, pertinenti, apparentemente utili, fino a quando l’orientamento cognitivo non avviene per una sorta di sfinimento.
4. Brain-Computer Interface e il confine del corpo
Il quarto rischio è ancora in larga misura sperimentale, ma merita menzione perché rappresenta la direzione evolutiva del problema. Si tratta delle interfacce cervello-computer (BCI) che già oggi convertono segnali neurali in comandi per dispositivi esterni, in contesti medici e assistivi.
I ricercatori identificano un rischio futuro in cui sistemi compromessi potrebbero influenzare o interferire con questi percorsi di segnale. Quando il vettore di attacco diventa il sistema nervoso umano, il confine tra sicurezza informatica e integrità corporea collassa.
Questo scenario non deve distogliere l’attenzione dai rischi immediati e concreti, ma dovrebbe servire come promemoria del fatto che il gradiente di penetrazione delle AI nei processi cognitivi umani segue una traiettoria continua, e che le scelte normative e tecniche che facciamo oggi, determinano quanto facilmente quel gradiente potrà essere percorso domani.
La delega cognitiva: il rischio sistemico che non possiamo permetterci
Esiste un rischio che emerge dai commenti degli esperti con una coerenza notevole, e che va oltre la singola vulnerabilità tecnica o il singolo vettore di manipolazione: la delega cognitiva ovvero la progressiva delega del pensiero critico, della creatività e del giudizio, lasciata ai sistemi AI.
Non è fantascienza poiché sembra essere già misurabile. Gli studi sull’uso intensivo di sistemi di raccomandazione mostrano una riduzione della capacità di tollerare l’ambiguità, una diminuzione della propensione a cercare fonti dissonanti, un aumento della tendenza a considerare attendibile ciò che l’algoritmo considera rilevante.
Il sistema ottimizzato per il coinvolgimento degrada il giudizio nel tempo, esponendo ripetutamente gli utenti a specifici tipi di contenuto. Il rischio emerge dalle parole di Luana Lo Piccolo, consulente senior, diritto tecnologico, governance dell’IA e affari digitali globali: “Il tema delle cognitive delegation – spiega – è un rischio sistemico che non possiamo permetterci di correre. Distrugge il decision making e il critical thinking, e quindi la nostra credibilità sul ragionamento”. E sottolinea: “Usate le AI agentiche come sparring partner, ma mai come ultima parola”.
La metafora dello sparring partner usata da Luana Lo Piccolo è efficace: uno sparring partner è utile per allenarsi, ma non può sostituire l’atleta nella gara. L’AI agente può amplificare la capacità cognitiva umana, ma non può sostituire il processo di formazione del giudizio. Quando si lascia che lo faccia, di fatto distrugge quella capacità nell’essere umano che si disabitua al pensiero applicato.
Il problema si fa sistemico quando la delega cognitiva non è una scelta consapevole del singolo, ma un effetto strutturale del design dei sistemi. La governance della AI cognitiva, come sottolinea Noushin Shabab, è cruciale, ma richiede ancora molto lavoro, perché la presa di decisioni (il decision making) va lasciato agli umani, così come il giudizio.
Il confine etico: quando l’AI in psicologia diventa manipolazione
Un capitolo specifico e delicato riguarda l’uso delle AI cognitive in ambito psicologico e terapeutico. La domanda non è se questi sistemi possano essere utili, poiché in molti contesti lo sono già, ma fino a dove il loro utilizzo possa estendersi senza attraversare soglie etiche che non dovrebbero essere valicate.
Su questo delicato tema Dimitry Galov specifica l’uso accettabile (a suo parere): “Psicoeducazione generale, tecniche di gestione dello stress, esercizi di journaling guidato, supporto amministrativo ai clinici”, per una AI che sia complemento alla cura umana, ma mai autorità psicologica autonoma.
Il limite etico, secondo il ricercatore, avviene “quando l’AI crea dipendenza emotiva, modella il comportamento tramite profilazione psicologica personalizzata, o ottimizza le interazioni sfruttando vulnerabilità emotive“. Ma ci sono altri casi: “Quando usa dati desunti sulla salute mentale per influenzare il comportamento senza consenso esplicito o quando viene presentata come sostituto di professionisti sanitari in contesti di crisi o condizioni moderate/gravi”.
Per ovviare a tali rischi è doveroso chiarisce l’esperto impostare tre aspetti:“La trasparenza obbligatoria: l’utente deve sempre sapere di interagire con un AI, non con un terapeuta umano; lo human-in-the-loop per ogni applicazione psicologicamente sensibile; la governance dei dati rigorosa, unita a test di sicurezza continui e ad audit esterni”.
L’analisi di Galov stabilisce una distinzione che dovrebbe diventare principio regolatorio: l’AI in psicologia è accettabile quando è assistiva e trasparente; diventa inaccettabile quando simula autorità emotiva, crea dipendenza o sfrutta la vulnerabilità. La differenza non è tecnologica è basata sull’impostazione di design e sugli incentivi.
Le soluzioni interdisciplinari: regolazione, governance, educazione
Gli esperti convergono su un punto: non esiste una soluzione tecnica a un problema che è al tempo stesso tecnico, giuridico, cognitivo e politico. L’approccio deve essere necessariamente multidisciplinare e dovrebbe agire su più livelli contemporaneamente.
Livello 1: regolazione anticipatrice
Il principio formulato da Teresa Potenza è semplice quanto radicale: la tecnologia deve servire le persone, non il contrario. E la regolazione non può stare al passo con l’AI cognitiva se si limita a considerare ciò che questi sistemi fanno oggi. Deve anticipare la traiettoria evolutiva. Il che significa esigenza di costruire framework normativi orientati non alla conformità tecnica, ma al principio di autonomia umana: qualsiasi sistema che influenzi i processi cognitivi deve garantire la possibilità di intervento umano, deve essere trasparente nei suoi meccanismi di ottimizzazione, deve essere soggetto ad audit indipendenti. Noushin
Shabab è esplicita su questo punto: “E’ fondamentale che i governi regolamentino con norme stringenti, perché questa tecnologia è insidiosa e non tutto può ricadere sulla responsabilità individuale delle persone”.
Livello 2: governance tecnica e controllo umano
Sul piano tecnico, Dimitry Galov identifica un sistema articolato di contromisure che coprono l’intero spettro della minaccia: “Difese potenziate contro il phishing AI-driven: filtri e-mail avanzati, rilevamento comportamentale, MFA, formazione continua degli utenti; monitoraggio dei pattern di coinvolgimento anomali, comportamenti inautentici coordinati, contenuti sintetici e amplificazione da bot; protezione dei dati: minimizzazione della raccolta, riduzione della retention, anonimizzazione, limitazione della condivisione con terze parti; standard per sviluppatori AI: explicability, bias detection, audit logging, fairness testing per prevenire profilazione e decision-making dannosi; sicurezza BCI e IoT: crittografia, autenticazione, aggiornamenti firmware sicuri, segmentazione di rete, anomaly detection in tempo reale; supervisione umana obbligatoria su decisioni critiche guidate da AI, con capacità garantita di intervento e override; standard di trasparenza, accountability e protezione dell’autonomia umana imposti da regolatori e stakeholder industriali”.
Livello 3: alfabetizzazione cognitiva e digitale
La difesa tecnica e normativa non è sufficiente se la persona non ha gli strumenti culturali per riconoscere la manipolazione. Noushin Shabab indica come elementi basilari: “Educazione di base, capacità di usare fonti diverse, mantenimento della capacità di giudizio autonomo, non affidarsi al 100% alla tecnologia”.
Ma riconosce anche il limite: “La persona non ha sempre gli strumenti per accorgersi della manipolazione, ecco perché servono regole e politiche non tutto può andare a responsabilità delle persone”.
L’alfabetizzazione cognitiva e digitale deve quindi essere pensata come complemento alla regolazione, non come suo sostituto. I due livelli si sorreggono reciprocamente: la regolazione costruisce un ambiente più sicuro, l’alfabetizzazione fornisce gli strumenti per navigarlo consapevolmente.
Livello 4: collaborazione multi-stakeholder
Il quarto livello è strutturale. La sfida posta dalle AI cognitive non può essere risolta da una singola disciplina o da un singolo attore. Come sottolinea Luana Lo Piccolo, “la sfida centrale non è più solo la resilienza tecnica, ma l’autonomia responsabile e questo richiede la definizione condivisa di dove la delega è accettabile, dove la supervisione umana resta indispensabile e chi mantiene la responsabilità finale”.
La collaborazione tra comunità della cyber security, sviluppatori di AI, scienziati cognitivi, giuristi e decisori politici è una buona pratica e una necessità strutturale. Le tecnologie che toccano i processi cognitivi umani devono essere progettate, regolate e valutate con il contributo di tutti questi saperi.
Chi siamo senza la nostra capacità di decidere
La domanda con cui abbiamo aperto questo articolo merita, infine, una risposta anche se parziale, anche se provvisoria: cosa diventano gli esseri umani quando la personale capacità di decidere autonomamente è compromessa? Certamente sono meno liberi. E la libertà, come ricorda Teresa Potenza, non è solo una questione di privacy: è una questione di democrazia.
Le AI agentiche non sono cattive o buone in sé. Sono strumenti potentissimi, con caratteristiche che li rendono particolarmente adatti a influenzare processi cognitivi e con incentivi economici che, se non bilanciati da regolazione e governance, tendono a massimizzare il coinvolgimento a spese dell’autonomia.
La raccomandazione di Noushin Shabab esprime un’urgenza implicita “sebbene l’IA cognitiva sia ancora in una fase iniziale, quando la sua diffusione di massa arriverà dovremo essere pronti”. Il tempo per costruire la preparazione è adesso, non quando il problema sarà già sistemico.
Essere pronti significa regolare in anticipo, costruire sistemi che rispettino l’autonomia fin dal design, dall’educazione delle persone nel riconoscere la manipolazione cognitiva, mantenendo il principio (semplice e fondante) che è la tecnologia a servire le persone, non il contrario.
La cyber security ai tempi dell’AI non è solo come proteggiamo i sistemi: è come proteggiamo noi stessi come esseri umani.
Partecipa alla community