Dark pattern, ecco le possibili misure di regolamentazione suggerite dall’OCSE

L’Organizzazione per la cooperazione e lo sviluppo economico (OECD, o OCSE) ha pubblicato un rapporto intitolato “Dark Commercial Patterns” sulle interfacce grafiche che hanno lo scopo (come affermato anche all’interno delle Linee Guida 05/2020 dell’EDPB sul consenso) di indurre l’utente a compiere determinate azioni, spesso non desiderate, o a scoraggiarlo dall’intraprendere un effettivo controllo sui propri dati, in quanto particolarmente complesse e macchinose.

All’interno del rapporto gli esperti del Comitato per la politica dei consumatori dell’OCSE manifestano, relativamente alla pratica dei dark commercial patterns, “la crescente preoccupazione che i modelli commerciali oscuri possano causare danni sostanziali ai consumatori” e propongono una definizione operativa del termine, identificando le possibili risposte politiche e di applicazione che possano aiutare i legislatori e le autorità dei consumatori ad affrontare dette pratiche.

Di seguito, una sintetica analisi del report e del suo contenuto.

Digital dark pattern, preoccupazione crescente anche negli USA: ecco perché si deve fare un assessment

I dark commercial patterns

Come anticipato, con il termine “dark commercial patterns”, coniato dal web designer Handy Brignull nel 2010, si individua un’ampia varietà di pratiche di progettazione dell’interfaccia utente, progettate per spingere l’utente a compiere, in modo subdolo, determinate scelte o a rinunciare all’esercizio dei diritti agli stessi garantiti dalla normativa vigente, mediante l’applicazione di strategie di neuro marketing.

Molti dark pattern influenzano i consumatori anche sfruttandone i pregiudizi cognitivi e comportamentali e l’euristica, compresi i pregiudizi predefiniti, l’euristica della scarsità, i pregiudizi di prova sociale o gli effetti di framing. In genere, afferma l’autorità, rientrano nelle seguenti categorie, in base all’obiettivo che si vuole raggiungere:

1. azioni forzate (forced actions), come la spinta forzata a concedere l’uso di più dati personali di quelli desiderati;
2. interferenze dell’interfaccia (interface interference), come la messa in risalto di opzioni maggiormente favorevoli all’azienda;
3. fastidi (nagging), come richieste ripetute di modificare delle impostazioni a vantaggio dell’azienda;
4. ostruzioni (obstruction), come la scelta di rendere complessa la cancellazione di un servizio;
5. furtività (sneaking), mediante l’aggiunta di addebiti non facoltativi ad una transazione nella sua fase finale;
6. prova sociale (social proof), come la notifica di attività di acquisto compiute da altri consumatori;
7. urgenza (urgency), come l’apposizione di un timer ad indicare la scadenza prossima di un’offerta.

Un chiaro esempio di un dark commercial pattern è l’adozione di un banner per la selezione dei cookies reso volutamente prolisso e complesso, che spinge l’utente “sfinito” a preferire di selezionare il tasto “accetta” per accedere rapidamente al contenuto desiderato (c.d. confirmshaming), rendendo poi difficile annullare l’azione o rifiutare. In casi come questo, il rispetto della normativa sulla privacy diviene solo apparente, e il consumatore viene inevitabilmente leso nei propri diritti – per quanto in modo non direttamente evidente.

Ancora, i dark pattern, in quanto non oggetto di uno specifico divieto normativo, potrebbero essere utilizzati per spingere ad acquistare un bene o un servizio che altrimenti non sarebbe acquistato, o sarebbe acquistato in quantità minore, o far spendere di più di quanto desiderato.

I dark pattern, infatti, sono comuni sui siti Web e sulle app di e-commerce, compresi quelli delle principali piattaforme online, avvisi di consenso sui cookie, motori di ricerca e giochi. Tuttavia, la frequenza dei modelli oscuri identificati dai ricercatori varia ampiamente, a causa di una serie di fattori, tra cui la metodologia di ricerca applicata.

Alla luce della varietà di pratiche che possono costituire un dark commercial pattern, e della difficoltà connessa alla loro individuazione, l’OCSE si occupa, dunque, di rendere una definizione comune del termine, maggiormente operativa, definendoli detti modelli come “pratiche commerciali che impiegano dell’architettura della scelta digitale, in particolare nelle interfacce utente online, che sovvertono o pregiudicano l’autonomia, il processo decisionale o la scelta del consumatore. Spesso ingannano, costringono o manipolano i consumatori e possono causare danni diretti o indiretti ai consumatori in vari modi, sebbene in molti casi possa essere difficile o impossibile misurare tale danno”.

Dark pattern, l’EDPB detta le regole ai designer: ecco i tipi più comuni di “percorsi oscuri”

L’efficacia dei dark pattern

Oltre a compromettere l’autonomia, continua l’OCSE, alcuni pattern, come il drip pricing o le c.d. subriscription traps, possono anche portare notevoli perdite finanziarie, oltre a causare danni significativi alla privacy o danni psicologici. “Possono anche danneggiare i consumatori collettivamente, indebolendo la concorrenza e seminando sfiducia, e possono danneggiare in modo sproporzionato alcuni consumatori come i consumatori meno istruiti o i bambini”, e con la sempre crescente raccolta dei dati delle aziende, unita alla diffusione delle tecniche di machine learning, detti pattern potrebbero anche innescare vulnerabilità di tipo personale.

Ciò che il Comitato auspica, dunque, è che l’adozione di una definizione uniforme, a livello operativo, possa facilitare la discussione a breve termine sulle stesse pratiche fra le autorità di controllo e i legislatori a livello internazionale, ponendo l’attenzione sulla compromissione della capacità dei consumatori di compiere scelte libere e informate, con la conseguente probabilità di causare loro un danno.

Come anticipato, infatti, i dark pattern possono influenzare in modo sostanziale il processo decisionale dei consumatori, soprattutto quando applicati su interfacce mobili e combinati o sovrapposti su più schermate dello stesso sito web o della stessa app.

Tuttavia, rileva l’autorità, “i singoli dark pattern differiscono nella loro efficacia. Ad esempio, le informazioni nascoste sembrano sostanzialmente più efficaci dei segnali di scarsità. Dark pattern apparentemente “lievi” (come preselezionare opzioni o inquadrarli in modo diverso) possono essere altrettanto o più efficaci di quelli aggressivi (come tormentare e giocare con le emozioni)”.

Ne consegue che l’efficacia dei dark pattern sui consumatori e sul loro libero arbitrio può dipendere in larga parte dalla loro rilevabilità o sottigliezza. “La recente letteratura empirica incentrata sulle percezioni e sulla rilevabilità dei modelli oscuri”, si legge nel report, “tende a supportare questa visione. In particolare, le prove indicano che molti consumatori sono ciechi rispetto ai dark pattern; che i consumatori che riconoscono più facilmente i design manipolativi si considerano leggermente meno soggetti ad essere influenzati; che i consumatori accettino sottili dark pattern come parte della normale esperienza digitale; e che il carattere fuorviante di un dark pattern viene notato meno quando il suo design è più accattivante e quindi considerato più affidabile”.

Le prove raccolte dal Comitato che si è occupato di redigere il report indicano, tuttavia, che i consumatori possono essere influenzati anche quando sono consapevoli che l’architettura dell’interfaccia viene progettata per causar loro un danno: ne consegue che l’aumento della consapevolezza dei consumatori potrebbe non essere sufficiente a tutelare gli stessi.

I danni causati ai consumatori

Il Comitato identifica, sulla scorta degli elementi raccolti, tre tipologie di danno che possono derivare dall’adozione dei dark pattern nelle interfacce utente: all’autonomia del consumatore, personali, strutturali.

I danni all’autonomia, come detto, sono rappresentati dalla diminuzione della capacità del consumatore di poter valutare correttamente le scelte che gli vengono proposte, avendone la competenza.

Tra i danni personali, invece, i seguenti.

1. Perdite finanziarie, collegate a costi nascosti, segnali di scarsità del prodotto, preselezioni, processi di annullamento degli abbonamenti complessi, e altri elementi che inducono ad acquistare più del voluto o del necessario. “Ad oggi non esiste una valutazione comparativa delle perdite finanziarie che i diversi dark patterns possono causare, al di là del regno dei consumatori, come le minacce alla democrazia e alla libertà di espressione, e farlo potrebbe rivelarsi impegnativo poiché l’entità del danno misurato risultante da diversi modelli oscuri può dipendere fortemente dall’impostazione metodologica. Ciononostante, le azioni di ricerca e di contrasto hanno messo in luce il sostanziale danno finanziario derivante da specifici modelli oscuri, in particolare costi nascosti/drip pricing e trappole degli abbonamenti”.
2. Lesione della privacy, mediante l’applicazione di impostazioni predefinite intrusive, o preselezioni, che complicano la scelta delle opzioni o il rifiuto al trattamento, o che assillano il consumatore. “Di conseguenza, i consumatori potrebbero finire per divulgare più dati personali del previsto, esponendoli potenzialmente a rischi maggiori.
3. Danno psicologico e perdita di tempo: trattasi del disagio emotivo, come la frustrazione, la vergogna e la sensazione di essere stati ingannati, oltre al carico cognitivo legato al dispendio di tempo ed energie impiegate per selezionare le impostazioni desiderate.

All’interno del danno strutturale, invece, sono ricompresi i seguenti elementi, legati non solamente al consumatore ma al mercato nel suo complesso:

1. Concorrenza più debole o distorta: alcuni modelli, infatti, possono alterare la concorrenza ostacolando o disincentivando il naturale processo di acquisto e di confronto delle diverse offerte.
2. Minore fiducia e coinvolgimento dei consumatori: nella misura in cui i dark pattern inducono i consumatori a divulgare maggiori informazioni personali o a pagare più di quanto desiderato, possono seminare sfiducia nelle attività online che li impiegano.

Possibili misure di regolamentazione dei dark pattern

L’OECD si concentra altresì sull’analisi delle misure adottate dalle autorità per regolamentare l’utilizzo dei dark pattern. Molte autorità, infatti, si legge nel report “hanno intrapreso azioni esecutive e le organizzazioni dei consumatori hanno presentato denunce sull’uso dei dark patterns”.

Tuttavia, la casistica sinora sviluppata si riferisce principalmente ad un insieme limitato di dark pattern comunemente riconosciuti dalle autorità e maggiormente diffusi.

Restano fuori dal controllo delle autorità tutti quei dark pattern che non sono regolati dalla legge, per i quali non si dispone di prove o si ha l’incapacità di dimostrarne l’applicazione: “in particolare, alcuni dark pattern che non sono chiaramente ingannevoli potrebbero non essere catturati dai divieti generali esistenti sulle pratiche commerciali ingannevoli”.

Inoltre, le misure di divulgazione e trasparenza richieste dalla normativa non sono sufficienti da sole a proteggere i consumatori dai dark pattern.

Occorre rilevare, ad ogni modo, come siano state proposte o implementate diverse misure normative per regolare l’uso dei dark pattern, che includono disposizioni volte ad: “affrontarli in modo specifico sulle piattaforme online; vietare tipi specifici di dark pattern; promuovere un’architettura di scelta digitale a misura di consumatore (ad esempio rendendo l’annullamento o la rinuncia tanto facile quanto l’iscrizione o l’adesione); conferire ulteriore potere alle autorità di regolamentazione; e affrontare la vulnerabilità dei consumatori”.

A ciò si aggiungano le linee guida, come quelle di EDPB, emanate dalle autorità di controllo per garantire la conformità delle imprese alle leggi applicabili.

“L’evidenza empirica esaminata per questo rapporto”, afferma comunque l’OECD, “suggerisce che l’attenzione delle politiche e dell’applicazione potrebbe essere applicata per affrontare i modelli oscuri su app e dispositivi mobili, sulle principali piattaforme e siti Web e app di e-commerce popolari, casi di modelli oscuri combinati o stratificati ed entità di terze parti consentendo la creazione di dark pattern. Altre priorità potrebbero includere la protezione dei consumatori più vulnerabili e lo sviluppo di requisiti per promuovere un’architettura di scelta digitale a misura di consumatore. Inoltre, data l’elevata prevalenza dimostrata in diverse aree, l’efficacia nell’influenzare il comportamento dei consumatori e la capacità di evitare il rilevamento di informazioni nascoste, falsa gerarchia, preselezione e dark pattern difficili da annullare/eliminare, le politiche e gli sforzi di contrasto potrebbero concentrarsi su di essi come un priorità – pur continuando a raccogliere prove su altri dark pattern”.

Iniziative educative, tecniche e commerciali per affrontare i dark pattern

In chiusura, l’OECD pone in risalto come sia necessario continuare a educare i consumatori sui dark pattern, attuando anche campagne informative e implementando strumenti utili a segnalare, sensibilizzare o stigmatizzare le aziende che fanno uso di detti modelli.

Sebbene dette iniziative non siano sufficienti da sole a ridurre l’impatto dei dark pattern sui mercati, è indubbio il rilievo che le stesse hanno nel supportare i consumatori e l’autorità.

“Negli ultimi anni”, infatti, “sono aumentate le richieste tra la comunità di progettazione di interfacce utente di aumentare la consapevolezza sui dark pattern e adottare standard di progettazione etica, con alcuni designer che hanno sviluppato linee guida e kit di strumenti di progettazione etica”.

Alcuni commentatori hanno anche proposto l’adozione di meccanismi che consentano alle aziende presenti online di rivedere l’architettura delle proprie piattaforme per identificare i dark pattern, inclusi strumenti di autocontrollo e verifica della conformità.