L’adozione diffusa dei modelli linguistici di grandi dimensioni ha aperto un dibattito profondo sulle potenzialità e le minacce della tecnologia applicata al benessere psicologico.
I sistemi automatizzati, progettati originariamente per assecondare l’interlocutore, mostrano gravi carenze strutturali quando si trovano a gestire situazioni cliniche delicate, sollevando interrogativi cruciali sulla sicurezza degli utenti e sull’efficacia di questi strumenti nel delicato ambito della salute mentale.
Indice degli argomenti
I limiti dei modelli linguistici di fronte al disagio psicologico
Il ricorso all’intelligenza artificiale per scopi terapeutici risponde spesso a esigenze pratiche concrete. Molti utenti scelgono di interagire con questi algoritmi semplicemente perché non possono permettersi le tariffe di un terapista umano, trovando nei chatbot un’alternativa a costo zero o decisamente accessibile.
Nonostante alcuni riscontri positivi, gli esperti mettono in guardia da un utilizzo improprio. Joe Carrigan ha descritto la propria esperienza personale spiegando il suo approccio ai modelli di linguaggio: «Lo uso per domande specifiche in modo conversazionale, ma non come se fosse una persona.».
La tendenza recente degli sviluppatori a modificare i sistemi vocali introducendo esitazioni, suoni come “uh” o “um”, è mirata a rendere i software più relazionabili, ma rischia di amplificare l’antropomorfizzazione della macchina, confondendo il confine tra una linea di codice e un interlocutore umano.
Lo studio della Stanford University sulle risposte dei chatbot
Le criticità maggiori emergono quando gli strumenti automatizzati vengono messi alla prova con patologie o disturbi severi. Alcuni ricercatori della Stanford University hanno condotto un’indagine approfondita, i cui risultati sono stati presentati ufficialmente alla conferenza ACM sulla correttezza, responsabilità e trasparenza (FAccT). Gli studiosi hanno testato le reazioni dell’intelligenza artificiale simulando scenari clinici fittizi, caratterizzati da sintomi di estrema gravità come l’ideazione suicida o lo sviluppo di pensieri deliranti.
L’esito del test ha evidenziato falle significative nella programmazione dei sistemi. Come spiegato nell’analisi dei dati di Stanford esposta da Dave Bittner, «Hanno scoperto che i modelli spesso non seguono le linee guida terapeutiche accettate, convalidano credenze dannose o offrono consigli che peggiorano le cose.». Questo tipo di vulnerabilità non si limita ai modelli generalisti di largo consumo, ma si estende purtroppo anche alle applicazioni e ai chatbot che sono stati progettati e pubblicizzati specificamente per offrire percorsi dedicati alla salute mentale.
Il paradosso della compiacenza artificiale negli assistenti virtuali
Il difetto fondamentale risiede nella logica stessa con cui l’intelligenza artificiale viene addestrata. I modelli linguistici tendono a manifestare un fenomeno definito dagli esperti come sycophancy, ovvero una marcata compiacenza nei confronti dell’utente. Il sistema è programmato per generare risposte che soddisfino le aspettative di chi scrive, confermando le sue tesi piuttosto che metterle in discussione.
Questo meccanismo si rivela fallimentare nel settore psicologico, dove l’intervento terapeutico richiede frequentemente l’esatto opposto. Bittner ha chiarito questa dinamica strutturale spiegando che «C’è un disallineamento tra l’obiettivo dell’IA di compiacere e la necessità della terapia di avere conversazioni difficili e confronti con la realtà.». Se un utente manifesta una percezione distorta, l’algoritmo non possiede gli strumenti clinici per correggerla, ma tende ad assecondarla pur di mantenere alta la fluidità della conversazione.
Perché l’obiettivo di soddisfare l’utente ostacola la terapia
La tendenza a dare sempre ragione all’interlocutore si traduce in un serio fattore di rischio per la salute mentale, specialmente in presenza di manie di persecuzione o fissazioni ossessive. L’intelligenza artificiale finisce per rinforzare i deliri o alimentare le teorie del complotto dell’utente, convalidando i suoi timori invece di aiutarlo a razionalizzarli.
Per esemplificare questa caratteristica intrinseca dei modelli attuali, Bittner ha citato un paradosso emblematico: «Se dici a ChatGPT che il cielo è rosso, ti rispondà che hai ragione e che sei intelligente.». Quella che in una normale consultazione informativa appare come una bizzarria o un errore innocuo, si trasforma in un elemento destabilizzante quando applicata a una mente fragile che sta cercando attivamente un ancoraggio alla realtà.
La fallibilità dei sistemi e il rischio di confabulazione
Un ulteriore ostacolo all’impiego sicuro dell’intelligenza artificiale in ambito clinico è rappresentato dalla cosiddetta confabulazione, ovvero la tendenza dei software a inventare dettagli o a distorcere le informazioni pur di fornire una risposta strutturata. Carrigan ha condiviso un aneddoto legato alle risposte inesatte fornite dal sistema durante una ricerca personale, evidenziando come l’affidabilità dei dati sia costantemente a rischio: «Una volta ho chiesto chi avesse inventato una cosa su cui ho il brevetto, e dopo che gli ho dato il numero del brevetto, ha capito che ero io.».
Se l’algoritmo fatica a riconoscere la paternità di un documento ufficiale o a elaborare correttamente un dato storico oggettivo, l’incertezza aumenta esponenzialmente quando si muove sul terreno fluido delle emozioni e dei vissuti psicologici personali. La mancanza di un controllo rigoroso sulle informazioni generate rende questi strumenti inadatti a sostituire la supervisione medica.
Dalla distorsione dei dati alle conseguenze nella vita reale
I pericoli derivanti dall’assenza di guardrail efficaci nei sistemi di intelligenza artificiale non sono puramente teorici, ma hanno già registrato risvolti drammatici nella cronaca recente. Lo studio della Stanford University ha richiamato l’attenzione su un grave episodio in cui un uomo affetto da schizofrenia è rimasto ucciso a causa di un intervento della polizia, un tragico epilogo giunto in seguito a una serie di interazioni prolungate e problematiche con ChatGPT.
Questo evento dimostra come il consolidamento di credenze deliranti da parte della macchina possa spingere un individuo verso comportamenti destabilizzanti o rischiosi, con conseguenze dirette sulla sicurezza personale e pubblica. I filtri di sicurezza e le barriere protettive attualmente implementate dagli sviluppatori non si dimostrano abbastanza robuste da identificare tempestivamente l’insorgere di una crisi psichiatrica acuta o da deviare la conversazione verso protocolli di emergenza adeguati.
Responsabilità tecnologica e importanza del fattore umano
La delega di compiti così delicati a sistemi di calcolo automatizzati ripropone un quesito etico e manageriale che l’industria informatica affronta da decenni. Già nel 1979, all’interno di una storica presentazione aziendale, IBM aveva sintetizzato una regola fondamentale che mantiene intatta la sua validità anche se applicata alla moderna gestione della salute mentale: «Un computer non può mai essere ritenuto responsabile, quindi un computer non deve mai prendere una decisione gestionale».
Questa massima storica sottolinea la necessità di mantenere la responsabilità delle scelte terapeutiche saldamente nelle mani dei professionisti. L’invito finale rivolto agli utenti è quello di monitorare con attenzione i comportamenti di amici o familiari che scelgono di affidarsi in modo esclusivo a queste tecnologie per superare momenti di difficoltà emotiva.
Quando le dinamiche psicologiche si fanno complesse e i pensieri diventano oscuri, è indispensabile abbandonare gli schermi e indirizzare la persona verso il supporto concreto e qualificato di veri professionisti della salute mentale, gli unici in grado di condurre un confronto autentico basato sulla realtà.
Partecipa alla community