LA NUOVA INCARNAZIONE.

di CARLO ALBERTO FALZETTI ♦

Una domanda elementare.

E se un giorno la macchina diventasse cosciente?

 Un giorno un robot potrà essere considerato una “persona” come ogni essere umano?

E’ una domanda importante questa? Penso di sì se ragioniamo in termini giuridici (responsabilità civile, penale, rischiosità…) oppure in termini di comportamento e altro che assimili la macchina all’umano.

La risposta (che non può essere elementare).

La prendo alla lontana, ma per rispondere dobbiamo abbandonare la via tecnico-scientifica e riferirsi alla filosofia della scienza. Altro modo non c’è se il termine che usiamo  è quello di  “persona”.

 Definizione classica:        Persona è sostanza individuale di natura razionale .

Dunque: un individuo concreto, unico, irripetibile, ben distinto da altri (lo sono anche i vegetali, gli animali…). Però dotato di razionalità, ovvero capacità di ragionamento, calcolo, autodeterminazione, autocoscienza. Al momento solo l’umano è sostanza individuale razionale.

Lo potrà essere una macchina?

Dal punto di vista giuridico certamente. Un giorno un robot potrà avere “personalità giuridica” per rispondere dei danni, disporre di un conto, firmare contratti….Forse si chiamerà “personalità elettronica”.

Dal punto di vista comportamentale certamente. Saprà sostituire l’umano nel lavoro, nel problem solving, nella produzione, nel riconoscere le emozioni umane, nel” simulare “affetti, tensioni, consigli. Potrebbe sostituirsi al partner, potrebbe essere oggetto di amore….

Ma, tutto questo avverrebbe, oltre che all’esterno anche dal lato interno?  Cioè al punto di vista della “interiorità” della macchina?

 Nel termine razionalità si inserisce a pieno titolo la coscienza, l’autocoscienza, ciò che si vive in  una qualsiasi esperienza di vita “all’interno” (ed è a questo punto che le posizioni degli epistemologi divergono).  Calcolare il concetto di amore non è la stessa cosa che “provare” amore. Simulare dolore attraverso un algoritmo non è pari a sentire il dolore (ad esempio sentire il sapore amaro di un caffè, non calcolarlo;  sentire il dolore di una slogatura, non registrare il trauma; sentire la melodia di un violino non misurarne la lunghezza d’onda). Insomma, esiste una differenza fra “elaborazione” ed “esperienza”. Nella elaborazione la macchina calcola attraverso segnali elettronici, algoritmi, probabilità. Ma anche nel fare esperienza attivo cellule, trasmissioni chimiche, impulsi neuronali e dunque intraprendo lo stesso itinerario artificiale ma, ed è questo il punto chiave, esiste un soggetto unificatore nell’umano. Da ciò la differenza. Fino a che la macchina non “prova” le sensazioni il suo comportamento esterno è pura e semplice simulazione: la macchina non è l’umano! Può essere un replicante ma non è l’umano!

Detto questo, sorge la domanda più che lecita:  e perché mai questo soggetto unificatore (ciò che chiamiamo l’io) non potrebbe esistere anche nella macchina? Perché deve essere dominio solo del biologico (carbonio) e non del silicio?

Basterebbe infondere nella macchina non solo intelligenza ma anche cognizione del dolore, dell’amore, del mistero, della angoscia per la morte, della solitudine. Non simulare all’esterno ma provare al proprio interno!! Il dolore non dovrebbe essere inteso come segnale di errore (bug), ma l’amore come consapevolezza di “essere  incompleti”,  nonostante i circuiti siano perfetti

La questione è oggi discussa accanitamente (è il problema dei qualia). Lasciamo in pace il pesante dibattito in materia per non tormentare i lettori di “nomi americani” e di esperimenti mentali, tra l’altro già sintetizzato nel blog mesi orsono. Supponiamo che la tecnologia un giorno possa egregiamente risolvere il quesito: la macchina prova  al proprio interno ciò che prova l’umano! Che cosa accadrebbe? Questo è il senso del problema.

Se ciò avvenisse nascerebbe una seconda “incarnazione” non più dal divino verso l’umano (la creazione) ma dall’uomo alla macchina. L’uomo ha “prodotto “ (non creato) la macchina e successivamente trasferisce la natura umana nella macchina. Il robot (non il replicante, come dirò in nota) diventerebbe una singola persona con due nature: artificiale (il calcolo) e umana(l’autocoscienza). A questo punto la macchina acquisendo la natura umana sarebbe un soggetto vulnerabile, una creatura tragica, schiacciata dalla necessità della materia e dal desiderio inarrivabile di infinito.

Si parla tanto degli aspetti etici derivanti dalla IA (sicurezza, occupazione, rischi militari…). Problemi di certo seri per la convivenza sociale e per l’ordine del mondo. Problemi dell’immediato, non c’è dubbio. Ma proviamo ad alzare lo sguardo. Allora noteremmo che altro è il problema fondamentale.

La vera domanda appartiene ad un ordine metafisico: è plausibile nel futuro pensare ad una macchina che risponda in pieno al concetto di persona come definito sopra e che sia in grado di sostituire l’umano creato con l’umano auto-prodotto?

 Se fosse così una nuova antropologia si staglierebbe all’orizzonte.

Ciò che dobbiamo considerare è lo stravolgimento dell’essere uomini. Un salto epocale di portata immensa.

L’uomo non sarebbe più frutto del biologico ma scaturirebbe come effetto di autopoiesi,ovvero autoprodotto.

L’autopoiesi permetterebbe all’uomo di superare tutti i limiti fisiologici imposti dalla Natura, morte compresa. Una vita lunga quanto si vuole e piena di “manutenzioni” vitali che allungherebbero l’esistenza a dismisura.

Ma perché l’uomo-macchina possa essere non un semplice strumento dell’uomo-biologico, come è oggi, necessita, come si è detto, “incarnare” nella macchina la natura umana, dunque  la cognizione del dolore, dell’amore, del limite. Soprattutto, incarnare  il concetto cardine del ”desiderio” e non solo del bisogno (che può essere sempre soddisfatto!). Tutto questo rende l’uomo-macchina vulnerabile. Perfetto nel meccanismo vitale, ma schiacciato dalla “necessità” nella sua psiche.

Ed è a questo punto che accade qualcosa di stravolgente.

La morte come esaurimento delle funzioni vitali sarebbe superata. Ma la componente natura umana resterebbe la stessa dell’uomo biologico. Il desiderio di infinito, il senso di incompiutezza, la cognizione del dolore cosmico, l’angoscia di fronte all’assoluto  sarebbero validi motivi di insoddisfazione esistenziale. Così come accade nell’uomo biologico.

La Necessità, la sua gravità, sarebbe superata ma permarrebbe l’ordine del Desiderio.

La morte non sarebbe più il frutto della necessità (deve accadere) ma del solo desiderio, della scelta!

La stanchezza di vivere, il mal di vivere del mondo biologico (carbonio) contaminerebbe il mondo del silicio .  

.  .  .

A titolo puramente tecnico il silicio non può disporre delle stesse complessità del carbonio anche se sono abbastanza simili (tutti e due tetravalenti nei legami). La “vita” sarebbe preclusa al silicio, se per vita si intende non solo il movimento, il ragionamento il calcolo ma anche il “sentire interno” (i qualia).

Tuttavia è pensabile agire con silicio per l’HW e SW ma assolutamente con carbonio per gli stati di coscienza. Un ibrido! (si reputi che già riusciamo a ottenere vita in laboratorio simulando la Natura).

Ma comunque, sussisterebbe un problema: come facciamo a sapere “veramente” se il modulo di carbonio sta veramente provando un qualia? E’ il problema irrisolto della verificabilità: hard problem of consciousness!  Ci ritorneremo.

Ultima nota:  un “replicante” non risolve il problema. Il problema dei qualia rimarrebbe intatto sul piano epistemologico. Il replicante dimostra di replicare e simulare il comportamento ma la luce interiore della esperienza rimarrebbe sempre un mistero (ciò nulla toglie al merito del regista del film Blade Runner di aver anticipato il futuro, come è stato fatto giustamente notare nel blog). Tutto questo risulta valido (ma qui entro dove ho detto di non volere entrare ora, ovvero nel dibattito più arduo  della filosofia della scienza attuale) a patto che non siamo “funzionalisti” (e difatti il funzionalismo di Dennet dice: i qualia sono illusione, non c’è alcun residuo oltre la funzione!) .

CARLO ALBERTO FALZETTI