Meta, 18 miliardi per fermare il processo: quando il diritto entra nel design dei social

di PAOLO POLETTI ♦

Cinque mesi dopo il verdetto californiano che aveva aperto una breccia nella tradizionale immunità delle piattaforme, Meta chiude con un accordo fino a 18 miliardi di dollari il grande processo promosso dagli Stati americani. Non ammette responsabilità ed evita una sentenza di merito. Ma accetta limiti d’uso, blocchi notturni, default protettivi e controlli indipendenti. Il problema non riguarda più soltanto ciò che i social contengono, ma il modo in cui sono progettati.

A fine marzo, commentando su Spazioliberoblog il verdetto californiano che aveva riconosciuto la responsabilità di Meta e Google per i danni subiti da una giovane utente, avevo sostenuto che la vera novità giuridica non consistesse tanto nell’entità del risarcimento quanto nello spostamento dell’oggetto della responsabilità.

Non era più sotto accusa soltanto ciò che gli utenti pubblicavano sulle piattaforme, ma il modo in cui quelle piattaforme erano state progettate per catturare e trattenere l’attenzione, soprattutto quella dei minori. Scroll infinito, autoplay, notifiche, sistemi di raccomandazione e altri meccanismi di engagement cominciavano a essere considerati non semplici caratteristiche dell’interfaccia, ma componenti strutturali del prodotto potenzialmente idonee a produrre un danno.

Cinque mesi dopo, quella vicenda ha compiuto un salto di scala.

Meta ha raggiunto con una vasta coalizione di procuratori generali americani un accordo che può portare l’esborso complessivo vicino ai 18 miliardi di dollari e che, soprattutto, obbliga il gruppo a modificare profondamente il funzionamento di Facebook e Instagram quando vengono utilizzati dagli adolescenti. L’accordo principale prevede fino a 16,68 miliardi di dollari a favore di 47 Stati, del District of Columbia e di tre territori americani; un separato accordo da oltre un miliardo con il Texas porta il totale vicino ai 18 miliardi. Meta non ammette di avere commesso illeciti.

La cifra è enorme. Ma sarebbe un errore fermarsi alla cifra.

Tre procedimenti diversi, una stessa traiettoria

Per comprendere ciò che sta accadendo occorre anzitutto distinguere vicende giudiziarie diverse, che appartengono alla medesima trasformazione del diritto dei social ma non costituiscono fasi dello stesso processo.

La prima è il caso individuale deciso a Los Angeles il 25 marzo scorso, dal quale avevamo preso le mosse nel precedente articolo. La giovane Kaley G.M. aveva sostenuto che l’uso di Instagram e YouTube, iniziato quando era ancora bambina, avesse contribuito in maniera sostanziale ai problemi psicologici sviluppati negli anni successivi. La giuria aveva ritenuto Meta e Google responsabili, accettando una teoria del danno fondata non soltanto sui contenuti incontrati dalla ragazza, ma anche sulle caratteristiche progettuali delle piattaforme: autoplay, raccomandazione algoritmica, meccanismi di permanenza e utilizzo compulsivo.

È una distinzione decisiva. Per lungo tempo la Section 230 del Communications Decency Act del 1996 ha costituito negli Stati Uniti un poderoso scudo per le piattaforme rispetto alla responsabilità derivante dai contenuti pubblicati dagli utenti. La nuova strategia processuale cambia il terreno dello scontro: non si contesta necessariamente alla piattaforma ciò che qualcuno vi ha pubblicato, ma il prodotto che essa stessa ha costruito. Era già questo il punto centrale dell’articolo di marzo.

Il secondo procedimento è quello promosso autonomamente dallo Stato del New Mexico. Nel marzo scorso una giuria aveva imposto a Meta 375 milioni di dollari; in agosto il giudice Bryan Biedscheid ha aggiunto altri 567 milioni e una serie di obblighi di modifica delle piattaforme, portando l’esposizione complessiva a 942 milioni di dollari.

Il giudice ha qualificato le piattaforme di Meta come “public nuisance”. L’espressione, nel diritto americano indica, in termini generali, una situazione o una condotta che interferisce gravemente con interessi della collettività, quali la salute, la sicurezza o il benessere pubblico. Applicata al caso Meta, significa che il problema è stato considerato non soltanto come una somma di eventuali danni individuali, ma come una questione capace di incidere su un interesse collettivo, in particolare sulla protezione dei minori.

Il terzo procedimento è quello appena concluso con l’accordo: il grande processo federale multistatale di Oakland, iniziato il 18 agosto davanti alla giudice Yvonne Gonzalez Rogers presso la United States District Court for the Northern District of California.

California, Colorado, Kentucky e New Jersey erano in prima linea nella fase processuale. L’accusa sosteneva che Meta avesse consapevolmente progettato Facebook e Instagram in modo da favorire un uso eccessivo e compulsivo da parte dei giovani, minimizzandone al tempo stesso i rischi. Un ulteriore fronte riguardava la raccolta di dati relativi a minori di tredici anni in violazione del Children’s Online Privacy Protection Act (COPPA).

Il rischio economico era enorme; quello giuridico forse ancora maggiore. Una pronuncia di merito sfavorevole avrebbe potuto diventare un importante punto di riferimento per le migliaia di cause analoghe già pendenti negli Stati Uniti.

Non a caso quello di Oakland era considerato un bellwether trial, un processo-pilota: il suo esito non avrebbe formalmente vincolato gli altri giudici, ma avrebbe potuto orientare migliaia di controversie successive, incidendo sulla forza delle diverse teorie giuridiche, sulle strategie processuali e sulle aspettative di accordo delle parti.

La Section 230 non ferma il processo

Pochi giorni prima dell’apertura del dibattimento era arrivato un altro passaggio significativo.

Il 10 agosto la United States Court of Appeals for the Ninth Circuit, competente anche per la California e per gran parte degli Stati occidentali degli USA, aveva respinto il tentativo di Meta di bloccare il processo facendo leva sulla Section 30.

Nel sistema federale americano le District Courts sono tribunali di primo grado, mentre le Courts of Appeals sono organizzate territorialmente in circuiti.

La Corte non ha naturalmente stabilito che Meta fosse responsabile. Ha però escluso che la Section 230 potesse funzionare, in quella fase, come un’immunità processuale assoluta capace di impedire al giudizio di proseguire.

La strada verso il processo di Oakland era dunque rimasta aperta.

Il processo e il significato dei “default”

Le prime giornate del dibattimento avevano già mostrato perché Meta avesse molto da perdere. Sul banco dei testimoni erano comparsi dirigenti ed ex dipendenti e il processo avrebbe potuto portare alla luce nuovi documenti interni e condurre alla testimonianza dello stesso Mark Zuckerberg.

Particolarmente significativa è stata la deposizione di Adam Mosseri, responsabile di Instagram, sulla funzione “Take a Break”, pensata per suggerire agli utenti di interrompere l’utilizzo dopo un certo periodo.

Mosseri ha riconosciuto che, quando la funzione doveva essere attivata volontariamente, soltanto una percentuale molto ridotta di adolescenti la utilizzava. È diventata un’impostazione predefinita per gli account dei teenager soltanto successivamente. Meta ha negato che ciò sia avvenuto per ritardare deliberatamente l’introduzione di maggiori protezioni.

L’episodio permette però di comprendere un principio essenziale dell’ambiente digitale: anche l’impostazione predefinita orienta il comportamento.

Il default è ciò che il sistema applica automaticamente quando l’utente non compie una scelta diversa. Una protezione che un adolescente deve cercare nelle impostazioni e attivare volontariamente può avere un’efficacia molto diversa dalla stessa protezione già attiva al momento dell’accesso. Il default non elimina la libertà di scelta, ma rende alcune condotte più probabili di altre.

È ciò che le scienze comportamentali definiscono choice architecture, architettura della scelta.

Quello che potrebbe sembrare un dettaglio tecnico diventa allora una questione sostanziale: chi decide il default orienta, almeno in parte, il comportamento dell’utente.

Ed è proprio sui default che interviene ora l’accordo.

Due ore al giorno: il diritto entra nel prodotto

La vera novità del settlement è infatti che non si limita al pagamento di miliardi di dollari. Stabilisce concretamente come Facebook e Instagram dovranno funzionare per gli utenti fra i 13 e i 17 anni.

Nella prima fase gli adolescenti saranno sottoposti per impostazione predefinita a un limite massimo di due ore al giorno complessive sulle piattaforme Meta interessate, principalmente Facebook e Instagram. Raggiunto il limite, le principali funzionalità soggette al conteggio non saranno più accessibili fino alla mezzanotte. Per rendere il limite meno restrittivo sarà necessaria l’approvazione del genitore; adolescente e genitore potranno invece scegliere un limite ancora inferiore. Il conteggio presenta alcune eccezioni: non comprende la messaggistica, l’accesso alle impostazioni e la visione di contenuti audio o video “longform”, definiti dall’accordo come contenuti di almeno 22 minuti.

La disciplina notturna è altrettanto significativa. Nella prima fase scatterà un blocco dell’accesso dalle 24 alle 6 del mattino: durante quella fascia l’adolescente conserverà l’accesso alla messaggistica e alle impostazioni, ma non alle più ampie funzionalità delle piattaforme. Le notifiche push saranno inoltre disattivate per impostazione predefinita dalle 22 alle 7, salvo quelle urgenti relative alla sicurezza dell’account o all’integrità della piattaforma. Anche in questo caso per rendere il sistema meno restrittivo sarà necessario l’intervento del genitore.

Durante l’anno scolastico entrerà poi in funzione una modalità specifica: dalle 8 alle 15, dal lunedì al venerdì, fra il 15 agosto e il 15 giugno, le notifiche push saranno disabilitate, fatte salve alcune eccezioni per messaggistica, sicurezza e integrità della piattaforma.

Sono previste inoltre vere e proprie “pause produttive”: avvisi dopo 60 e 90 minuti di utilizzo giornaliero e un richiamo chiaramente visibile dopo ogni sessione continuativa di 15 minuti. Anche queste misure saranno attive per impostazione predefinita.

L’accordo interviene poi sui meccanismi di confronto sociale: il numero di “like” e reazioni sarà nascosto per impostazione predefinita agli adolescenti e saranno vietati i filtri che modificano artificialmente la struttura del volto simulando gli effetti di interventi di chirurgia estetica. Sarà inoltre più facilmente accessibile la possibilità di utilizzare un feed non personalizzato. Meta dovrà rafforzare i sistemi di age assurance, cioè gli strumenti destinati a individuare in maniera sufficientemente affidabile l’età degli utenti, e l’attuazione delle misure sarà sottoposta al controllo di un auditor indipendente.

Il passaggio rispetto a marzo è evidente. Allora alcune caratteristiche della piattaforma cominciavano a essere trattate come possibile fonte di responsabilità. Oggi quelle caratteristiche diventano oggetto diretto di obblighi di redesign.

Il diritto non dice più soltanto alla piattaforma “rimuovi quel contenuto”, ma “cambia il modo in cui il prodotto funziona”.

Una seconda fase ancora più restrittiva

L’accordo contiene poi un meccanismo particolarmente interessante, perché affronta un problema evidente: imporre forti limiti soltanto a Facebook e Instagram potrebbe semplicemente spostare il tempo degli adolescenti verso le piattaforme concorrenti.

Il testo parla per questo di Industry-Wide Adoption e individua come “Core Industry Members” Snap, TikTok e YouTube. Le misure più restrittive scatteranno se questi operatori saranno a loro volta assoggettati – mediante legge, accordi vincolanti o impegni verificati da soggetti indipendenti – a obblighi sostanzialmente equivalenti in materia di gestione del tempo e verifica dell’età.

Se questa condizione si realizzerà, si entrerà nella “Phase II”.

A quel punto il limite diventerà di 60 minuti al giorno per ciascuna piattaforma Meta e comunque non potrà superare i 120 minuti complessivi al giorno sull’insieme delle piattaforme interessate. Anche qui servirà l’approvazione del genitore per rendere l’impostazione meno restrittiva.

Anche il blocco notturno diventerà più severo: non più dalle 24 alle 6, ma dalle 22 alle 7 del mattino.

Una quota rilevante dei pagamenti previsti dall’accordo è inoltre legata alla realizzazione di condizioni di questo tipo su scala di settore. Meta ha dunque essa stessa un interesse economico e competitivo a favorire l’adozione di misure analoghe da parte degli altri grandi operatori. Non può naturalmente imporre le proprie regole a YouTube, TikTok o Snap, ma la struttura dell’accordo la incentiva a esercitare una forte pressione pubblica e reputazionale affinché anche i concorrenti adottino standard comparabili. E questa pressione non è soltanto ipotetica: Meta ha già dichiarato che il successo del nuovo sistema dipenderà dal fatto che le altre piattaforme seguano il suo esempio. Non si tratta soltanto di moral suasion: è una precisa convenienza strategica. Se Facebook e Instagram fossero sottoposti a limiti di utilizzo e blocchi notturni molto più severi delle piattaforme concorrenti, una parte dell’engagement degli adolescenti potrebbe semplicemente spostarsi altrove.

Si determina così un effetto singolare: Meta, destinataria delle nuove restrizioni, diventa nello stesso tempo uno dei soggetti economicamente interessati alla loro estensione all’intero mercato. La decisione razionale, per l’azienda, non è più soltanto adattarsi alle regole accettate con il settlement, ma contribuire affinché quelle regole diventino, per quanto possibile, standard comuni del settore.

Il contenzioso acquista così una dimensione quasi regolatoria: un accordo nato per disciplinare il comportamento di una singola impresa può produrre una forma di standardizzazione competitiva della safety by design nell’intera industria dei social.

Non è il Congresso ad avere approvato una disciplina federale uniforme dei social network. Sono il contenzioso, i procuratori generali degli Stati e un accordo giudiziario con una delle maggiori imprese tecnologiche del mondo a produrre uno standard che potrebbe progressivamente estendersi all’intero settore.

Ed è in questo senso, e non per un’impropria equiparazione fra social network e sigarette, che conserva forza il richiamo al “Tobacco moment”.

Nel contenzioso sul tabacco il problema cessò progressivamente di essere descritto soltanto come cattiva scelta individuale e cominciò a riguardare anche il prodotto, le conoscenze dell’industria, i meccanismi di dipendenza e la responsabilità delle imprese.

Il parallelo non consiste quindi nel sostenere che Instagram sia una sigaretta. Consiste nel domandarsi quanto un’impresa possa trarre profitto dalla ripetizione di un comportamento dopo avere progettato strumenti specificamente destinati a renderne più difficile l’interruzione. Era già questo il senso che avevamo attribuito al possibile “Tobacco moment” dei social nel precedente articolo.

Ma anche Meta ha ottenuto una vittoria

Sarebbe tuttavia sbagliato leggere il settlement soltanto come una capitolazione della società di Zuckerberg.

Meta paga una cifra enorme e accetta vincoli significativi, ma evita una sentenza di merito.

Non vi sarà, in questo procedimento, una decisione finale che stabilisca se Facebook e Instagram siano stati deliberatamente progettati per creare dipendenza nei minori. Meta non ammette responsabilità. E non nasce quella pronuncia giudiziaria che avrebbe potuto rappresentare un riferimento particolarmente forte per le migliaia di azioni ancora pendenti contro le piattaforme.

Il processo si interrompe inoltre prima della possibile testimonianza di Zuckerberg e prima che ulteriori documenti e deposizioni possano entrare nel dibattimento pubblico.

Anche l’esborso economico va collocato nelle dimensioni dell’impresa: i pagamenti saranno distribuiti nell’arco di dieci anni e Meta ha prodotto nell’ultimo esercizio circa 201 miliardi di dollari di ricavi e 60 miliardi di utile netto.

Il paradosso può quindi essere sintetizzato così: gli Stati ottengono il redesign del prodotto senza ottenere una sentenza; Meta accetta il redesign proprio per evitare quella sentenza.

Giuridicamente, le due cose non sono equivalenti. Sul piano regolatorio, però, gli effetti dell’accordo potrebbero rivelarsi assai più ampi del singolo processo.

Il motore economico rimane acceso

Resta infatti una domanda più profonda: Le nuove misure modificano realmente il modello economico che ha prodotto il problema oppure ne correggono alcune manifestazioni?

L’accordo interviene sul tempo di permanenza, sulle notifiche, sui controlli parentali, sulla verifica dell’età, sui meccanismi di confronto sociale e su alcuni aspetti della personalizzazione. Ma non elimina il modello pubblicitario fondato sull’attenzione e non vieta in generale gli algoritmi di raccomandazione.

Il feed non personalizzato, significativamente, diventa un’opzione più facilmente accessibile, ma non sostituisce automaticamente quello personalizzato come configurazione ordinaria.

È la principale riserva formulata anche da alcune organizzazioni per la tutela dei consumatori: l’accordo interviene sulle caratteristiche del prodotto, ma non necessariamente sul motore economico che le alimenta.

Ed è qui che ritorna il tema affrontato nel precedente articolo attraverso il pensiero di Shoshana Zuboff. Se il valore economico della piattaforma continua a dipendere dalla capacità di conoscere l’utente, prevederne il comportamento, aumentarne il tempo di permanenza e trasformarne l’attenzione in valore economico, ogni misura di protezione continuerà a convivere con un incentivo che opera almeno in parte nella direzione opposta. È precisamente ciò che avevamo definito, richiamando Zuboff, come passaggio dalla semplice raccolta dei dati alla costruzione di vere e proprie architetture di modificazione del comportamento.

Il problema, dunque, non è risolto ma è stato riconosciuto. E non è poco.

Dal divieto alla “safety by design”

Quasi contemporaneamente, dall’altra parte dell’Atlantico, è arrivato un segnale apparentemente diverso ma utile per comprendere il problema.

Il 14 agosto il Conseil Constitutionnel francese ha dichiarato incostituzionale la disposizione che avrebbe introdotto un divieto generalizzato di accesso ai social network per i minori di quindici anni. Il Consiglio ha riconosciuto pienamente la legittimità dell’obiettivo di protezione dei minori, ma ha giudicato sproporzionato un divieto applicato indistintamente a servizi e ragazzi diversi e ha rilevato l’insufficienza delle garanzie relative alla verifica generalizzata dell’età.

Le due vicende sono naturalmente diverse, ma suggeriscono una direzione comune: la protezione dei minori non può essere ridotta alla semplice alternativa fra consentire o vietare l’accesso.

Diventa sempre più importante stabilire come la piattaforma debba essere progettata quando a utilizzarla è un soggetto vulnerabile.

È la logica della safety by design: sicurezza incorporata nella progettazione, impostazioni predefinite protettive, limiti effettivi, controllo parentale, verifica proporzionata dell’età e audit indipendenti.

È un problema destinato probabilmente a superare gli stessi social network. Quando gli assistenti di intelligenza artificiale diventeranno ambienti relazionali sempre più persistenti, soprattutto per i più giovani, la medesima domanda tornerà inevitabilmente: non soltanto che cosa il sistema dice, ma come è progettato per mantenere l’interazione, riconoscere vulnerabilità e orientare il comportamento.

La domanda ormai è stata posta

A fine marzo avevo concluso osservando che non tutto ciò che è tecnicamente possibile è giuridicamente tollerabile.

Oggi possiamo aggiungere qualcosa: non tutto ciò che aumenta l’engagement può essere considerato una semplice innovazione del prodotto.

Quando l’efficacia commerciale di una tecnologia dipende anche dalla capacità di sfruttare vulnerabilità cognitive o comportamentali, la progettazione entra inevitabilmente nel territorio della responsabilità.

L’accordo non dichiara illecito il modello economico di Meta. Non elimina la Section 230. Non produce la pronuncia di merito che avrebbe potuto nascere dal processo.

Ma obbliga una delle maggiori imprese tecnologiche del mondo a modificare concretamente il funzionamento dei propri prodotti: due ore al giorno, blocco notturno, notifiche silenziate, pause obbligatorie, default protettivi, verifica dell’età e controllo indipendente.

È questo il passaggio più importante: la piattaforma non viene più giudicata soltanto per ciò che contiene, ma anche per ciò che induce a fare.

Meta ha evitato che, in questo processo, un tribunale stabilisse fino a dove possa arrivare questa responsabilità. Ma la domanda ormai è stata posta e difficilmente si tornerà indietro.

PAOLO POLETTI