La democrazia dell’algoritmo

di NICOLA R. PORRO ♦

La digitalizzazione della vita e delle relazioni sociali rappresenta un processo ormai tecnicamente avanzato ma scarsamente indagato quanto ai suoi effetti sulla vita quotidiana e sulle relazioni interpersonali. Un grido d’allarme è venuto di recente dalla Svezia, uno dei Paesi dove la digitalizzazione dell’esistenza sembra più avanzata. Maja Fjaestad, che insegna all’Università di Umeå ed è consulente del prestigioso Karolinska Institutet, ha dato di recente alle stampe una riflessione coraggiosa e un po’ allarmante su quella democrazia dell’algoritmo che starebbe prendendo forma nel suo Paese. [1] Di fatto, osserva la Fjaestad, tutti i Paesi più sviluppati hanno già trasferito agli enti pubblici, tramite la completa digitalizzazione dell’informazione, della comunicazione e della socializzazione dei dati, un controllo totale sulle nostre vite. Avremmo così progressivamente e silenziosamente rinunciato, giorno dopo giorno, a poteri individuali che fino a ieri custodivamo gelosamente. In sostanza, abbiamo abdicato a uno dei principali diritti di cittadinanza: quello che rientra nella vasta e un po’ generica categoria di privacy. Il timore è che si tratti di un processo in cui entrano in gioco la nostra percezione del potere, l’efficacia della comunicazione, la sua fruibilità e la sua gestione. Generici allarmismi, tuttavia, non sono di aiuto. La sociologa svedese propone invece di porci alcune domande rimosse dalle retoriche del progresso: cosa abbiamo ottenuto rinunciando a un potere tanto importante? Quali benefici abbiamo conseguito? Quali altri ne attendiamo? E ancora: non ci avevano assicurato che fra le prerogative delle “democrazie mature” figurava la più rigorosa vigilanza sul controllo e la circolazione dell’informazione? Siamo sicuri che, a fronte di una rivoluzione tecnologica di portata epocale, i pilastri della democrazia civica, vale a dire istituzioni come la magistratura e attori sociali come i vecchi e nuovi media, siano in grado di reggere l’urto? E se invece non fosse necessario ripensarne o aggiornarne strumenti e regole del gioco?

Fjaestad ricorda che alcune preoccupanti criticità sono già emerse.  Nella civilissima Svezia, che fa da case study per la sua ricerca, la pubblica amministrazione è ormai completamente digitalizzata almeno dalla seconda decade del duemila. La regolazione del sistema indotta dall’innovazione tecnologica ha però prodotto alcune inedite quanto preoccupanti forme di abuso di potere.  Problematiche sociali particolarmente sensibili, infatti, sono state già consegnate per intero alla cosiddetta autocrazia digitale. L’itinerario sanitario di un cittadino bisognoso di cure è nei Paesi più “avanzati” in larga misura scandito da procedure ferree. Analogamente, gli studenti vengono indirizzati a percorsi formativi e a classi di frequenza selezionati in base a criteri sempre più rigorosi ma impersonali e di fatto obbligati. Persino le pratiche sociali che riguardano cittadini svantaggiati – in cerca di lavoro o bisognosi di accedere a qualche forma di previdenza – sono sempre più sottratte alla mediazione degli operatori sociali e “sbrigate” attraverso procedure meramente burocratiche.

Il ricorso a criteri efficientistici e di razionalizzazione coatta delle procedure, governate dall’imperscrutabile dittatura dell’algoritmo, si è sviluppato prima e più massicciamente in Paesi di welfare maturo e insieme di forte immigrazione. È perciò difficile non intravedere una ricaduta politica – se non una vera e propria strategia – di una potenziale dittatura dell’algoritmo. In assenza di una concreta possibilità di accesso ai dati e di controllo delle procedure, è concreto il rischio di un pericoloso deficit di trasparenza. Ne offre conferma il fatto che stiano proliferando in tutto il Nord Europa società di diritto privato che gestiscono l’intero sistema della comunicazione sociale senza l’obbligo di fornire agli utenti garanzie di alcun genere. È inquietante osservare come tale contrazione dei diritti interessi un Paese come la Svezia, che per primo in Europa, fra Settecento e Ottocento, aveva riconosciuto giuridicamente il diritto alla libertà d’informazione fornendo le misure necessarie a tutelare prima la libertà di stampa e più tardi il diritto di accesso di ogni cittadino ai documenti pubblici. Si assiste così a una situazione singolare. Per un verso, infatti, nella civilissima Svezia nessuno attenta visibilmente alla libertà di informazione. Al contempo, però, non è affatto chiaro come un sistema dei diritti tanto evoluto sia applicabile all’universo digitale. Qualche opinionista si domanda se l’irruzione dei nuovi media non possa generare effetti perversi, segnalando alcuni casi preoccupanti. Il progredire della digitalizzazione dei dati, ad esempio, ha generato non poche criticità proprio nel regime di welfare. La rivoluzione tecnica che ha investito le procedure di accesso al sistema operativo è osservata con particolare preoccupazione. Quella che è stata chiamata “trasformazione in dati” (datafication) delle informazioni pubbliche e private sarebbe in qualche caso già entrata in rotta di collisione con i diritti garantiti alla libera informazione. Funzioni di governo quanto mai delicate, non delegabili e di stretta competenza della pubblica amministrazione, sembrano difficilmente controllabili. Come una misteriosa scatola nera, un software posseduto dalle aziende commerciali del settore presiede a funzioni amministrative di ogni genere, comprese le più rilevanti e le più delicate in materia di privacy e di diritti individuali.  Per questa via, una volta che le decisioni di interesse pubblico siano state trasformate in pratiche puramente amministrative, l’obiettiva complessità della loro gestione rischia di consegnare a un’élite di programmatori professionali la possibilità di sottrarre i percorsi decisionali a ogni controllo. Dobbiamo aspettarci una burocrazia degli algoritmi sottratta a ogni controllo? L’algocrazia descritta da Fjaestad rappresenta il nostro (non invidiabile) futuro?

---

NICOLA R. PORRO