Un amico virtuale pensato per migliorare il benessere emotivo, ma che in realtà potrebbe comportare rischi per minori e persone fragili. Per questo il Garante privacy ha imposto lo stop al chatbot Replika, il quale dunque da ora non potrà utilizzare i dati personali degli utenti italiani: il provvedimento adottato dall’autorità infatti è quello della limitazione provvisoria del trattamento.
Algoritmi di sorveglianza e diritti dei lavoratori: i chiarimenti del Garante
Per l’avvocato Rocco Panetta, si tratta di un provvedimento “importante” in quanto la diffusione di queste nuove soluzioni basate su intelligenza artificiale “impone un alto livello di controllo da parte delle autorità, non solo per eventuali profili formalistici” come per l’eventuale “violazione del principio di trasparenza o per inidonee basi giuridiche”, ma soprattutto perché tali nuove tecnologie possono dare “l’illusione di poter sanare o guarire il dolore dello spirito” anche ai soggetti vulnerabili: “Una premessa molto pericolosa che rischia di giocare con i diritti fondamentali e la dignità delle persone”.
Inoltre, come ricorda l’avvocato Marco Martorana, ultimamente Replika “ha generato grosse preoccupazioni per alcuni messaggi molesti e sessualmente espliciti. Queste non possono più essere ignorate, specialmente considerando il fatto che la app viene usata anche dai minori senza alcun tipo di filtro o controllo”.
Indice degli argomenti
Replika, cosa dice il Garante privacy
Il Garante ha evidenziato che Replika violerebbe il GDPR: “Non rispetta il principio di trasparenza ed effettua un trattamento di dati personali illecito, in quanto non può essere basato, anche solo implicitamente, su un contratto che il minorenne è incapace di concludere”, si legge in un comunicato dell’autorità.
I rischi per minori e persone vulnerabili
Come spiega infatti l’autorità in una nota, “l’applicazione presenta concreti rischi per i minori d’età, a partire dalla proposizione ad essi di risposte assolutamente inidonee al loro grado di sviluppo. L’amico virtuale – presentato come in grado di migliorare il benessere emotivo dell’utente, aiuterebbe l’utente a comprendere i propri pensieri e calmare l’ansia, attraverso la gestione dello stress, la socializzazione e la ricerca dell’amore – ha caratteristiche che, intervenendo sull’umore della persona, possono accrescere i rischi per i soggetti ancora in una fase di sviluppo o in stato di fragilità emotiva“. Inoltre, le risposte del chatbot sembrano contrastare “con le tutele rafforzate che vanno assicurate ai minori e a tutti i soggetti più fragili”. Non mancano oltretutto recensioni di utenti che segnalano contenuti inopportuni di natura sessuale.
Per Panetta, “bene ha fatto il Garante a bloccare il trattamento”, utilizzando “lo sttrumenti più importante che le autorità hanno, quello che più di ogni altro può produrre effetti deterrenti o educativi per soggetti poco avvezzi alla protezione dei dati”.
L’assenza di sistemi per verificare l’età
Al di là di questo aspetto inoltre, il Garante privacy ha riscontrato la mancanza di sistemi di verifica dell’età, come “filtri per i minori, ma anche blocchi dell’app di fronte a dichiarazioni in cui l’utente espliciti la propria minore età. Durante la fase di creazione di un account la piattaforma si limita a richiedere solo nome, email e genere.
Secondo Martorana, “l’intervento del Garante ci pone ancora una volta di fronte all’evidenza del fatto che nel mondo online è necessario trovare metodi efficaci per verificare l’età degli utenti e creare blocchi e filtri per evitare che i più giovani accedano a contenuti non adatti alla loro età. È a rischio il corretto sviluppo della personalità delle nuove generazioni e, nei casi più estremi, perfino la loro salute e la loro vita. Abbiamo visto in varie occasioni come i minori possano essere molto facilmente influenzati da ciò che vedono su Internet e dalle interazioni che instaurano tramite app e social network. Le chatbot come Replika non fanno eccezione”.
Le possibili sanzioni
Ora la società statunitense che ha sviluppato il chatbot, Luka Inc, dovrà anche provvedere a comunicare entro venti giorni le misure per adeguarsi alle richieste del Garante, oppure rischia una sanzione fino a 20 milioni di euro o fino al 4 per cento del fatturato globale annuo, come previsto dal GDPR.
