LA MINACCIA FANTASMA
di ROBERTO FIORENTINI ♦
Uno spettro si aggira per il Mondo, lo spettro di un nuovo nemico pubblico : l’algoritmo. Ma esattamente cos’è un algoritmo ? Ci viene in soccorso una definizione, mutuata dai libri di testo : “una sequenza ordinata e finita di passi (operazioni o istruzioni) elementari che conduce a un ben determinato risultato in un tempo finito”. Non proprio un esempio di chiarezza, non vi pare ? Comunque il vero problema non è certamente l’esatto significato di un termine ormai di uso abbastanza comune , quanto , invece, il fatto che queste sequenze di istruzioni computerizzate ,sempre più spesso, vengono usate per selezionare i curricula nelle ricerche di lavoro, determinare l’affidabilità di chi richiede un prestito, valutare la capacità di un insegnante. Gli algoritmi vengono preferiti agli esseri umani perché considerati neutri ed oggettivi. Ma lo sono realmente ? E se, invece, di essere trasparenti ed incorruttibili si rivelassero arbitrari, ideologici ed irresponsabili ?
Cathy O’Neil, in un recente saggio, ha dichiarato, senza mezzi termini “ sono ingiusti e rappresentano una minaccia crescente, perché incorporano obiettivi ed ideologie , senza che siano esplicitate o visibili”. Insomma , la scienziata americana smonta il presupposto fondamentale per il quale spesso vengono preferiti agli esseri umani : “ non è vero che gli algoritmi sono pura matematica, sono piuttosto opinioni umane incastonate in linguaggio matematico”. Non ci chiediamo a sufficienza quanta parte abbiano questi strumenti matematici nella nostra vita. Intanto dobbiamo sottolineare che sono proprietari, cioè di proprietà di qualcuno. Pensiamo all’importanza crescente dei social network nella nostra vita. Su Facebook , ad esempio, sono presenti 27 milioni di italiani e 1,65 miliardi di persone nel Mondo. Tutti i loro dati, le loro foto, le loro frasi, sono gestite, in modo assolutamente incontrollato, dagli algoritmi di una azienda. Mai nessuno al Mondo ha mai avuto tanti dati personali, sottratti al controllo di qualsiasi legge. Anche se Mark Zuckeberg , il patron di Facebook fosse il santo che vuol sembrare, il solo fatto che egli possieda , da solo, più dati di qualsiasi governo mondiale, democraticamente eletto, non può non inquietare almeno un po’.
Questi strumenti possono davvero decidere delle nostre vite. Uno studio effettuato negli Stati Uniti ha svelato che il 72% dei curricula inviati per cercare lavoro vengono scartati usando un algoritmo. Cioè non vengono visionati da nessuno ed è un programma che decide se puoi almeno candidarti a trovare un lavoro. In alcuni stati americani sono in fase di sperimentazione metodi predittivi per la Polizia. In sostanza degli algoritmi calcolano la possibilità che le persone che hanno già commesso dei reati tornino a delinquere e pertanto vengano sottoposti a controlli e verifiche. Siamo dalle parti di Minority Report , il film di Spielberg tratto dall’omonimo racconto di fantascienza di Philip K. Dick Rapporto di minoranza. Senza andare troppo lontano, in Italia è già da molti anni attivo CRIF, cioè il gestore del principale Sistema di Informazioni Creditizie (SIC). Si tratta di un sistema che raccoglie informazioni su finanziamenti erogati o semplicemente richiesti, trasmessi direttamente da banche e società finanziarie. Oggi, grazie al ruolo svolto dai SIC banche e società finanziarie decidono di erogare credito basandosi solamente sulla buona storia creditizia di chi lo richiede. Il tutto avviene automaticamente, grazie all’uso di un algoritmo che decide che non puoi avere un prestito a causa di un ritardo in un pagamento qualsiasi, indipendentemente dal motivo di quel ritardo.
Il prof. Pedro Domingos, docente di Machine Learning a Washington, nel suo recente saggio L’algoritmo definitivo, preconizza l’avvento di un algoritmo che impari dall’esperienza , come avviene per il cervello umano e sia quindi in grado anche di prevedere il futuro e di interpretare il presente. Secondo lo scienziato americano una tale ipotesi non è affatto da considerarsi fantascientifica. Anzi già ci sono programmi in grado di fare alcuni processi di questa natura. Una tale invenzione – dice Domingos – rappresenterebbe uno dei più grandi passi avanti per la Scienza. Anche se – aggiunge –visto che gli algoritmi non sono intrinsecamente giusti ed etici , sta a noi usarli in modo etico. Tutti dobbiamo comprendere cosa sono gli algoritmi e che cosa fanno, così da poterli controllare. Se lasciamo che siano gli altri a controllare gli algoritmi non possiamo poi sorprenderci che ciò che gli algoritmi decidono rechino beneficio a chi li controlla e non a noi. Non so voi, ma io non mi sento gran che rassicurato da una eventualità del genere, perché mi pare di poter escludere che gli algoritmi saranno, nel futuro, gestiti democraticamente e non saranno più, come avviene adesso, di proprietà delle grandi compagnie. L’importanza crescente di questi strumenti di calcolo, nei processi decisionali di istituti fondamentali per la vita umana, richiede interventi legislativi che ci possano mettere al riparo dall’abuso che se ne può fare. Od almeno che ci garantisca che non vengano usati per accentuare le disparità di trattamento e i pregiudizi.
ROBERTO FIORENTINI
Articolo molto interessante. Al di là di ogni fobia fantascientifica ed ogni – ragionevole – ansia per la direzione in cui sta andando la tecnologia, penso alla cieca ostinazione umana ad alienarsi dal prodotto della sua intelligenza. La parzialità viene condannata, non si cerca più di integrarla col senso universale di Giustizia che, forse, non esiste neanche più. Rimane solo l’infallibilità delle macchine a rappresentare un fantoccio di equità.
Questo mi spaventa più della disponibilità di dati.
"Mi piace"Piace a 1 persona
Il tema merita altri approfondimenti, con il tuo permesso, Roberto, ne vorrei scrivere, la nostra vita è piena di questi fantasmi e la domanda su cosa il futuro ci riservi non è una domanda da poco.
"Mi piace"Piace a 1 persona
Il mio permesso ? figurati, il tema è , secondo me, talmente grande ed importante che merita davvero molti approfondimenti… 😉
"Mi piace"Piace a 1 persona
Spero che queste brillanti riflessioni di Roberto aiutino tutti noi ad assumere atteggiamenti più consapevoli rispetto a potenzialità e rischi delle tecnologie della comunicazione. Coglierà l’obiettivo? Quasi quasi ci faccio un algoritmo…
"Mi piace"Piace a 1 persona
“Ammiro la sua purezza. … Non offuscato da coscienza, rimorsi, o illusioni di moralità” : così si parla di Alien nel celebre film di Ridley Scott
"Mi piace""Mi piace"
Umberto Eco non ha mai considerato il genere fantascienza come una letteratura minore. La mia generazione leggeva Asimov e Huxley, considerava Blade Runner un cult ( Ph. Dick). Le figlie, ancora, con le opere di Ph.Dick e Minority Report. In questi autori vi sono interrogativi sul ruolo della tecnica e della tecnologia. Nella storia della filosofia, via via che veniva meno il tema della dialettica negativa ( da Marx ad Adorno, a Benjamin , a Bloch), si affermava in ambito fenomenologico il pensiero di Martin Heidegger: il volere, espresso nella tecnica e nelle sue necessarie conseguenze ( lo ” Stato totalitario “), dispone integralmente della natura e dell’ uomo. Siamo in una civiltà basata sullo sfruttamento della natura e dell’ uomo, in cui LA TECNICA E’ AL SERVIZIO DI UN POTERE MANIPOLANTE. A ciò Heidegger oppone un pensiero rammemorante, filosofico- poetico…..
"Mi piace""Mi piace"
Uhm, Paola, non credo sia corretto dire che la tecnica è al servizio del potere, dirri piuttosto che è una buona arma per chi ha del potere da gestire. ma è pur vero che la tecnica di per se è neutra e può essere usata anche per difendersi dal potere, certo è una lotta impari.
"Mi piace""Mi piace"
Ops l’anonimo sono io Luciano
"Mi piace""Mi piace"
Lasciatemi scendere in difesa del povero algoritmo: avete pensato a quante vite sono in salvo per gli algoritmi che “girano” nelle macchine per la diagnostica (tac,nmr,etc) e per la terapia? E quanto e come possiamo comunicare e condividere informazione per merito degli algoritmi di conversione analogico/digitale e viceversa che usiamo ogni istante nei nostri dispositivi? Qualche giorno fa un algoritmo ha perfino composto una nuova canzone dei Beatles… Dice che perfino Paul non ne fosse disgustato (ma forse anche lui e’ un algoritmo che gira in un clone).
"Mi piace"Piace a 2 people
Il problema non è l’algoritmo in se, ma il suo uso, o per lo meno quello che sta diventando sempre più presente come “utilità particolare”. Anche l’energia atomica è una grande scoperta e di immensa utilità, resta il fatto che quando è usata per farne bombe diviene qualcosa di tragico.
"Mi piace"Piace a 1 persona
Ottimo articolo, complimenti all’autore. Nel merito, temo che ultimamente non pochi insegnanti (educatori) italiani abbiano apprezzato assai poco l’algoritmo-Minosse che li ha destinati in un qualche girone della novella “Buona Scuola”!!
"Mi piace""Mi piace"