Meta pagherà fino a 17,1 miliardi di dollari in dieci anni. Una cifra che, letta isolatamente, sembra raccontare una sconfitta colossale per Zuckerberg. Se però allarghiamo lo sguardo, osserviamo cosa ha ottenuto Meta e guardiamo persino alla reazione della Borsa, la storia potrebbe essere esattamente opposta: Meta ha vinto, mentre a perdere rischiamo di essere ancora una volta noi.
Il procedimento che avrebbe dovuto stabilire fino a che punto Facebook e Instagram siano stati progettati consapevolmente per favorire un utilizzo compulsivo da parte di bambini e adolescenti non arriverà infatti a una sentenza di merito.
Meta ha raggiunto un accordo con una coalizione bipartisan di 51 Attorney General statunitensi che prevede almeno 12,19 miliardi di dollari garantiti nell’arco di dieci anni, cifra che potrà arrivare a 17,1 miliardi qualora anche altri grandi operatori accettino accordi comparabili.
In cambio, Meta non ammette responsabilità, chiude un contenzioso estremamente pericoloso e accetta una serie di modifiche alle proprie piattaforme destinate alla protezione dei minori.
La cifra fa certamente impressione, ma bisogna leggerla nella sua reale dimensione economica. Diciassette miliardi distribuiti su dieci anni equivalgono, semplificando, a circa 1,7 miliardi di dollari l’anno. Rapportati al fatturato annuale di un gruppo delle dimensioni di Meta rappresentano un costo enorme per qualsiasi impresa normale, ma assolutamente assorbibile per una società che genera ricavi annuali nell’ordine delle centinaia di miliardi di dollari.
Il mercato sembra aver compreso perfettamente questo passaggio, tanto che alla notizia dell’accordo il titolo Meta è arrivato a guadagnare circa il 4% nelle contrattazioni pre-market.
Una società che dovrebbe avere appena subito una delle più importanti sconfitte della propria storia viene premiata dagli investitori. Forse, prima di parlare di vittoria delle autorità, dovremmo quindi chiederci chi abbia realmente vinto.
Indice degli argomenti
Meta ha pagato, ma ha evitato la parte più pericolosa
Il primo errore sarebbe considerare questa vicenda come una semplice maxi-sanzione, perché ciò che Meta ha ottenuto potrebbe valere molto più dei miliardi che dovrà versare nei prossimi dieci anni.
Le accuse formulate dagli Stati erano pesanti e riguardavano la progettazione di funzionalità capaci di incentivare un utilizzo compulsivo di Facebook e Instagram da parte dei più giovani, la consapevolezza dei potenziali effetti di questi meccanismi e, secondo le contestazioni, anche la raccolta illegale di dati relativi a bambini sotto i tredici anni.
Una decisione giudiziaria nel merito avrebbe potuto produrre conseguenze enormemente più profonde di un accordo economico, perché avrebbe contribuito a stabilire un precedente sulla responsabilità delle piattaforme rispetto alla progettazione dei propri sistemi di engagement.
Quel pronunciamento non ci sarà.
Meta paga, modifica alcuni meccanismi delle proprie piattaforme e chiude il procedimento senza ammettere responsabilità. Dal punto di vista industriale è difficile considerare questo risultato una sconfitta, soprattutto osservando la reazione degli investitori.
Il vero problema, tuttavia, riguarda ciò che accadrà adesso.
Per proteggere un minorenne bisogna prima sapere che è un minorenne
Le misure previste dall’accordo sono apparentemente significative. Per gli utenti identificati come minori di diciotto anni è previsto, tra le altre cose, un limite predefinito di due ore giornaliere complessive su Facebook e Instagram, modificabile dal genitore, mentre tra mezzanotte e le sei del mattino l’accesso sarà bloccato di default.
Sono previste inoltre limitazioni alle notifiche durante la notte e l’orario scolastico, insieme alla modifica o alla rimozione di alcune dinamiche legate all’engagement e di determinate funzionalità considerate potenzialmente dannose per gli utenti più giovani.
Tutto questo, però, poggia su un prerequisito tecnologico tutt’altro che banale: l’age assurance, cioè la capacità di determinare con un livello sufficientemente affidabile se dietro un account si trovi effettivamente un adulto oppure un minorenne.
Chiedere semplicemente all’utente quanti anni abbia non è evidentemente una soluzione. Un tredicenne che vuole accedere a un servizio riservato ai maggiorenni può dichiarare una data di nascita differente in pochi secondi, rendendo inefficace qualsiasi politica costruita esclusivamente sull’autodichiarazione.
La sicurezza dell’intero modello dipenderà quindi da come riusciremo a stabilire l’età reale o sufficientemente probabile dell’utente.
Qui cominciano i problemi.
Il paradosso dell’age assurance
Più vogliamo essere certi dell’età di una persona, maggiore sarà la quantità o la qualità delle informazioni che dovremo raccogliere, elaborare oppure inferire su quella persona.
Potremmo utilizzare documenti d’identità, sistemi terzi di verifica, informazioni provenienti dal dispositivo, tecniche di stima dell’età attraverso immagini o caratteristiche biometriche, oppure segnali comportamentali e informazioni già associate all’account per collocare statisticamente l’utente all’interno di una determinata fascia d’età.
Esiste anche la possibilità di spostare questa funzione verso altri soggetti tecnologici, affidandola al sistema operativo, agli app store oppure a specifici identity provider.
Ognuna di queste soluzioni genera un diverso modello di rischio e, soprattutto, modifica profondamente la quantità di informazioni personali necessarie per utilizzare un servizio online.
La questione, quindi, non consiste soltanto nel capire come impedire a un quattordicenne di dichiarare di avere diciotto anni. Dovremmo prima stabilire quali informazioni siamo disposti a trattare su milioni, se non miliardi, di persone per determinare che quel quattordicenne abbia davvero quattordici anni.
La differenza è sostanziale.
Per proteggere i minori rischiamo di identificare meglio tutti
Il framework descritto dalle autorità statunitensi contiene almeno un principio importante: il sistema di age assurance non dovrebbe obbligare gli utenti a fornire documenti governativi o altre informazioni sensibili.
Dal punto di vista della privacy by design è certamente una buona impostazione, ma non elimina il problema architetturale. Semplicemente lo sposta.
Se rinunciamo a un’identità forte, dobbiamo infatti utilizzare segnali alternativi sufficientemente affidabili da permettere una stima dell’età. Diventa allora necessario capire quali siano questi segnali, quale accuratezza possano garantire, quanti falsi positivi e falsi negativi producano, per quanto tempo vengano conservati e soprattutto se possano essere utilizzati anche per finalità differenti rispetto alla semplice verifica dell’età.
Un dato raccolto per proteggere un adolescente potrebbe, almeno tecnicamente, diventare domani un ulteriore elemento di profilazione.
Questo è il punto sul quale cyber security e protezione dei dati dovrebbero incontrarsi prima che l’age assurance venga implementata su scala globale.
Chi controllerà l’età digitale?
Esistono almeno due modelli profondamente differenti.
Nel primo è la piattaforma social a verificare o stimare direttamente l’età dell’utente. Meta avrebbe quindi accesso ai dati o ai segnali necessari per stabilire se dietro un determinato account si trovi probabilmente un bambino, un adolescente oppure un adulto.
Nel secondo modello l’attestazione avviene a monte attraverso un soggetto differente, che potrebbe essere il sistema operativo, l’app store, un identity provider oppure un servizio specializzato. Alla piattaforma dovrebbe arrivare soltanto l’informazione strettamente necessaria, ad esempio che l’utente abbia superato una determinata soglia di età, senza trasferire data di nascita, documento, nome, cognome o ulteriori attributi personali.
Dal punto di vista della data minimization questa seconda strada appare decisamente più interessante, ma apre immediatamente un’altra questione: chi diventerà il custode della nostra età digitale?
Apple e Google, controllando rispettivamente ecosistemi, sistemi operativi e app store utilizzati da miliardi di persone, potrebbero assumere un ruolo determinante. La verifica potrebbe diventare tecnicamente più semplice per le singole piattaforme, ma concentrerebbe un’altra informazione identitaria nelle mani dei grandi gatekeeper tecnologici.
Il problema non scompare cambiando soggetto. Cambia soltanto il luogo nel quale decidiamo di concentrare il rischio.
Dimostrare l’età senza consegnare l’identità
La direzione tecnicamente più interessante dovrebbe essere quella di costruire sistemi capaci di attestare un requisito senza necessariamente rivelare l’identità completa dell’utente.
Una piattaforma che deve applicare determinate restrizioni a chi ha meno di diciotto anni non ha necessariamente bisogno di conoscere la data di nascita, il numero di un documento o altre informazioni identificative. Ha bisogno di sapere se quella persona appartenga oppure no alla fascia soggetta alle restrizioni.
Il principio dovrebbe quindi essere quello di dimostrare il requisito senza consegnare l’identità, applicando realmente i concetti di privacy by design, minimizzazione del dato e separazione delle responsabilità.
Una soluzione di questo tipo ridurrebbe anche l’impatto di un’eventuale compromissione, perché il problema dell’identificazione dell’età non riguarda soltanto la privacy.
Riguarda direttamente la cyber security.
Un database sull’età è anche un nuovo asset da proteggere
Ogni volta che costruiamo un sistema capace di classificare sistematicamente milioni di utenti come bambini, adolescenti o adulti stiamo creando un nuovo patrimonio informativo.
Quel patrimonio diventa inevitabilmente un asset e ogni nuovo asset informativo introduce una superficie di attacco.
Data breach, abuso interno, correlazione con altri dataset, profilazione, function creep e utilizzi futuri originariamente non previsti devono essere considerati nella progettazione del sistema, non quando il sistema è ormai operativo.
Il paradosso sarebbe evidente: potremmo finire per raccogliere ulteriori informazioni sui minori proprio nel tentativo di proteggerne la privacy e la sicurezza, aumentando contemporaneamente la quantità di informazioni disponibili sugli adulti perché, per distinguere gli uni dagli altri, il sistema dovrà inevitabilmente classificare entrambi.
Sapere che hai quindici anni non significa proteggerti
Esiste infine un equivoco ancora più pericoloso, perché conoscere l’età di chi utilizza uno smartphone non significa aver risolto il problema della sicurezza dei minori online.
Significa esclusivamente aver ottenuto l’informazione necessaria per applicare determinate policy.
La protezione viene dopo e dipende dal design della piattaforma, dagli algoritmi di raccomandazione, dalle modalità con cui viene misurato e incentivato l’engagement, dalla moderazione, dalle interazioni consentite, dalla pubblicità, dalla profilazione e dalla capacità di individuare e contrastare comportamenti predatori.
L’age assurance è quindi un controllo abilitante, non può trasformarsi nell’alibi tecnologico attraverso il quale consideriamo risolto un problema enormemente più complesso.
La vittoria di Meta e la sconfitta del genere umano
Diciassette miliardi di dollari sono una cifra perfetta per un titolo di giornale, ma raccontano soltanto una parte della storia.
Distribuiti su dieci anni significano circa 1,7 miliardi l’anno, una cifra che per Meta rappresenta un costo industrialmente assorbibile se rapportato ai ricavi annuali del gruppo. Contemporaneamente l’azienda evita che uno dei procedimenti più importanti sulla responsabilità delle piattaforme social arrivi a una decisione di merito, non ammette responsabilità e vede addirittura il proprio titolo guadagnare circa il 4% nelle contrattazioni successive alla notizia dell’accordo.
Difficile trovare i segni di una disfatta.
Meta pagherà, cambierà alcune regole e costruirà sistemi più sofisticati per riconoscere i minorenni, mentre noi dovremo affrontare la questione che probabilmente avrà conseguenze molto più durature dei 17 miliardi: quale infrastruttura tecnologica utilizzeremo per distinguere un adulto da un bambino su Internet e, soprattutto, chi avrà il diritto di effettuare quella distinzione?
Meta, Apple, Google, un identity provider, lo Stato oppure un soggetto indipendente?
Stiamo cercando di risolvere un problema nato anche dalla capacità delle piattaforme digitali di conoscere, classificare e profilare sempre meglio gli utenti chiedendo alla tecnologia di conoscerli ancora meglio.
Questo è il vero paradosso.
Se sbagliamo architettura, tra qualche anno potremmo scoprire di aver tentato di proteggere i minori costruendo nel frattempo una gigantesca infrastruttura per la classificazione dell’identità digitale di tutti.
A quel punto i 17 miliardi saranno stati probabilmente la parte meno importante della storia, mentre quella che oggi viene raccontata come una storica sconfitta di Meta potrebbe rivelarsi, ancora una volta, una sua vittoria.
La sconfitta sarebbe la nostra.
Partecipa alla community