LA MINACCIA FANTASMA

 

di ROBERTO FIORENTINI ♦

Uno spettro si aggira per il Mondo, lo spettro di un nuovo nemico pubblico : l’algoritmo. Ma esattamente cos’è un algoritmo ? Ci viene in soccorso una definizione, mutuata dai libri di testo : “una sequenza ordinata e finita di passi (operazioni o istruzioni) elementari che conduce a un ben determinato risultato in un tempo finito”.  Non proprio un esempio di chiarezza, non vi pare ? Comunque il vero problema non è certamente l’esatto significato di un termine ormai di uso abbastanza comune , quanto , invece, il fatto che queste sequenze di istruzioni computerizzate ,sempre più spesso, vengono usate per selezionare i curricula nelle ricerche di lavoro, determinare l’affidabilità di chi richiede un prestito, valutare la capacità di un insegnante. Gli algoritmi vengono preferiti agli esseri umani perché considerati neutri ed oggettivi. Ma lo sono realmente ? E se, invece, di essere trasparenti ed incorruttibili  si rivelassero arbitrari, ideologici ed irresponsabili ?

Cathy O’Neil, in un recente saggio, ha dichiarato, senza mezzi termini “ sono ingiusti e rappresentano una minaccia crescente, perché incorporano obiettivi ed ideologie , senza che siano esplicitate o visibili”. Insomma , la scienziata americana smonta il presupposto fondamentale per il quale spesso vengono preferiti agli esseri umani : “ non è vero che gli algoritmi sono pura matematica, sono piuttosto opinioni umane incastonate in linguaggio matematico”. Non ci chiediamo a sufficienza quanta parte abbiano questi strumenti matematici nella nostra vita. Intanto dobbiamo sottolineare che sono proprietari, cioè di proprietà di qualcuno. Pensiamo all’importanza crescente dei social network nella nostra vita. Su Facebook , ad esempio, sono presenti 27 milioni di italiani e 1,65 miliardi di persone nel Mondo. Tutti i loro dati, le loro foto, le loro frasi, sono gestite, in modo assolutamente incontrollato, dagli algoritmi di una azienda. Mai nessuno al Mondo ha mai avuto tanti dati personali, sottratti al controllo di qualsiasi legge. Anche se Mark Zuckeberg , il patron di Facebook fosse il santo che vuol sembrare, il solo fatto che egli possieda , da solo, più dati di qualsiasi governo mondiale, democraticamente eletto, non può non inquietare almeno un po’.

Questi strumenti possono davvero decidere delle nostre vite. Uno studio effettuato negli Stati Uniti ha svelato che il 72% dei curricula inviati per cercare lavoro vengono scartati usando un algoritmo. Cioè non vengono visionati da nessuno ed è un programma che decide se puoi almeno candidarti a trovare un lavoro.  In alcuni stati americani sono in fase di sperimentazione metodi predittivi per la Polizia. In sostanza degli algoritmi calcolano la possibilità che le persone che hanno già commesso dei reati tornino a delinquere e pertanto vengano sottoposti a controlli e verifiche. Siamo dalle parti di Minority Report , il film di Spielberg  tratto dall’omonimo racconto di fantascienza di Philip K. Dick Rapporto di minoranza. Senza andare troppo lontano, in Italia è già da molti anni attivo CRIF, cioè il gestore del principale Sistema di Informazioni Creditizie (SIC). Si tratta di un sistema che raccoglie informazioni su finanziamenti erogati o semplicemente richiesti, trasmessi direttamente da banche e società finanziarie. Oggi, grazie al ruolo svolto dai SIC banche e società finanziarie decidono di erogare credito basandosi solamente sulla buona storia creditizia di chi lo richiede. Il tutto avviene automaticamente, grazie all’uso di un algoritmo che decide che non puoi avere un prestito a causa di un ritardo in un pagamento qualsiasi, indipendentemente dal motivo di quel ritardo.

Il prof. Pedro Domingos, docente di Machine Learning a Washington, nel suo recente saggio L’algoritmo definitivo, preconizza l’avvento di un algoritmo che impari dall’esperienza , come avviene per il cervello umano e sia quindi in grado anche di prevedere il futuro e di interpretare il presente. Secondo lo scienziato americano una tale ipotesi non è affatto da considerarsi fantascientifica. Anzi già ci sono programmi in grado di fare alcuni processi di questa natura. Una tale invenzione – dice Domingos – rappresenterebbe uno dei più grandi passi avanti per la Scienza. Anche se – aggiunge –visto che gli algoritmi non sono intrinsecamente giusti ed etici , sta a noi usarli in modo etico. Tutti dobbiamo comprendere cosa sono gli algoritmi e che cosa fanno, così da poterli controllare. Se lasciamo che siano gli altri a controllare gli algoritmi non possiamo poi sorprenderci che ciò che gli algoritmi decidono rechino beneficio a chi li controlla e non a noi. Non so voi, ma io non mi sento gran che rassicurato da una eventualità del genere, perché mi pare di poter escludere che gli algoritmi saranno, nel futuro, gestiti democraticamente e non saranno più, come avviene adesso, di proprietà delle grandi compagnie. L’importanza crescente di questi strumenti di calcolo, nei processi decisionali di istituti fondamentali per la vita umana, richiede interventi legislativi che ci possano mettere al riparo dall’abuso che se ne può fare. Od almeno che ci garantisca che non vengano usati per accentuare le disparità di trattamento e i pregiudizi.

ROBERTO FIORENTINI