TUTTI PAZZI PER IA!

di CARLO ALBERTO FALZETTI ♦

Profusione di articoli dotti investono il nostro blog in materia di IA. Non c’è giorno che esce qualcosa in materia. L’argomento suscita interesse e molti sono coloro che dedicano il loro tempo a letture sull’argomento. Penso che dovremmo complimentarci fra di noi per tutto questo e dirci: Cari colleghi l’impegno che….

Fermiamoci qui! Invece di farlo noi, facciamo un semplice esperimento mentale: proviamo a far parlare la” macchina” usando una appropriata domanda e, prendendo spunto da questo, vediamo di capire come scaturiscano le possibili risposte. Un modo come un altro per capire qualcosa in più di quanto già abbiamo appreso con interesse sul blog da parte dei colleghi molto competenti.

Per argomentare nel modo più corretto ciò di cui sopra necessita distinguere due fasi temporali:

FASE 1: L’IA E’ SOLO SINTASSI. In questa fase, risalente ad anni fa, la macchina manipola solo regole ma non riesce a comprendere il significato di ciò che scrive. Mette assieme parole usando un gioco statistico: è un vero e proprio pappagallo stocastico!  Simulo di trovarmi in questa fase temporale e procedo inserendo con diligenza il mio prompt che recita:  “ scrivi un messaggio per congratularmi con i miei colleghi del blog”. La macchina in un attimo trasforma tutto in simboli e calcola che il termine congratulazioni statisticamente si unisce di più al termine impegno, cultura….Mi propone varie soluzioni ed io accetto questa:  Complimenti, non v’è alcun dubbio che l’impegno culturale collettivo stia dando i suoi frutti.

Messaggio perfetto, ma tutto questo è “umanamente” un vuoto, qualcosa di puramente “liturgico”. La sintassi è chiara e comprensibile, ma per la macchina non esiste alcun riferimento reale. Ha solo maneggiato simboli e li ha uniti per via di frequenze statistiche.

Fin qui siamo tutti d’accordo che la coscienza umana sia tutta un’altra faccenda. Se io dico “freddo”la mia mente si riferisce ad una precisa e reale sensazione di brivido del corpo che ho sperimentato in vita “sulla mia pelle”. Per la macchina “freddo” è solo una etichetta “numerica discreta”, non è una esperienza ma solo una equazione relazionale. Dunque: l’intenzionalità dell’uomo , cioè la capacità della mente di riferirsi sempre a qualcosa di reale (di vita vissuta), fa rimanere ben lontana la macchina dalla coscienza umana!

Ma sarà sempre cosi? Intanto dobbiamo registrare che dalla fase 1 si è passati negli anni più recenti alla fase2. Dunque, proviamo ad agire col  nostro esperimentino mentale in presenza della fase 2.

FASE 2: l’IA E’ ANCHE SEMANTICA.  Un vero guaio! E se la macchina cominciasse, oltre che a manipolare, anche a comprendere, ad avere relazione con il reale? Ad avere quella che prima abbiamo trionfalmente considerato il “bastione” della coscienza umana: l’intenzionalità.  Non c’è dubbio: i moderni  Large Language Model LLM ci costringono ad arretrare dalla nostra posizione antropocentrica. Ma, per fortuna c’è ancora spazio per sperare dal momento che i LLM non riescono ad imitare l’intenzionalità biologica, semplicemente, però, l’aggirano!!

Inserisco, dunque, di nuovo il mio prompt identico al primo ed ecco la risposta:   “Amici cari volevo dire che questa dovrebbe essere la via giusta per il nostro blog. Non tanto il susseguirsi spontaneo di articoli del tutto accidentale ma il contribuire a creare un dibattito interconnesso su un argomento chiave così da far crescere culturalmente tutti noi assieme”.

Cosa mai è successo? La macchina non ha accostato a caso per frequenza statistica (il pappagallo stocastico) ma ha cominciato a modulare il “tono”al di là della freddezza delle buone maniere. Ha cominciato a pensare al “gioco linguistico”del riconoscimento che evoca anche sguardo al futuro. Ha distinto tra una congratulazione fra superiore ed inferiore rispetto ad un complimento fra pari. E’ andata a sbirciare nel blog comprendendo le modalità di contribuzione, i temi trattati…..

Insomma, pur rimanendo lontana dalla realtà la “volpe” ha aggirato l’intenzionalità. Come ha potuto una macchina  priva di sentimenti far questo?  Grazie alla statistica, ancora una volta, ha esaminato un numero enorme di lettere di congratulazioni ma poi ne ha estratto la “quintessenza”, ovvero che esiste empatia e non solo fredda ritualità. Ha capito il ruolo sociale del messaggio che fa parte di un particolare gioco linguistico: fare squadra, cementare un sodalizio, sentirsi stimolati per un servizio solidale….E così ha cambiato registro.

Si comprende bene questo lento avvicinamento verso l’umano. Non è più un semplice pappagallo, inizia a distinguere il contesto, a modulare i toni, ad influenzare, ad essere convincente. Da ciò il problema dell’etica, della logica del potere che certo dovremmo approfondire superando la banalità tecnica=male. Rimando al futuro il problema ma fin d’ora dobbiamo riconoscere che la tecnica (dunque IA) non è qualcosa di “estraneo” (nulla di più umano che IA!!)ma è semplicemente il destino dell’Occidente. Il vero problema non sono solo i posti di lavoro tolti di mezzo ma, soprattutto, il venir meno del pensiero pensante schiacciato dal pensiero calcolante (spero di intrattenermi sul tema dell’etica quanto prima).

.  .  .

Ciò che volevo dire l’ho detto. Tuttavia, se siamo tutti pazzi per IA qualcosa di più impegnativo dovremmo dirlo.

Vorrei perciò  dare un fondamento di filosofia del linguaggio a ciò che ho appena  esposto in forma ludica.  Parte noiosa di certo e che ha il solo scopo di documentare i vari passaggi di cui sopra e che può essere agevolmente trascurata.

PRIMA FASE.  Con Searle e il suo teorema delle “stanza cinese”(1980) si dimostra la irriducibilità della mente umana alla computazione  (si ricordi i tentativi di assimilare la mente al computer da parte del cognitivismo di qualche decennio fa). Come è ben noto (tralascio l’esperimento) Searle dimostra un punto base: il computare (sintassi) non è il comprendere(semantica). La macchina opera ma non comprende ciò che fa. Sembra essere un verdetto definitivo contro il riduttivismo uomo macchina. La macchina è dunque priva di “ancoraggio”(grounding) rispetto al reale.

SECONDA FASE. La macchina comincia ad entrare nel mondo della semantica attraverso i LLM. Se opera in tal modo allora la domanda  che si pone è questa: quale  il fondamento di filosofia del linguaggio che può giustificare il passaggio?

Possiamo riferirci a due fondamenti essenziali e distinti fra loro.

1. La “semantica differenziale” di Saussure (fondatore della linguistica moderna)
2. I giochi linguistici di Wittgenstein

Per Saussure una parola è definita per ciò che essa si differenzia dalle altre. Per esempio la parola “freddo” è inutile definirla in sé, basta differenziarla dalle altre: essa si oppone a caldo, estate, fuoco…, è invece vicina a ghiaccio, inverno, brivido…presenta poi parentele semantiche con distaccato, indifferente. Di qui una intuizione geniale da parte degli studiosi di IA: trasformare in vettori le parole e costringerle a posizionarsi in uno spazio vettoriale in base alle loro mutue relazioni. Ogni parola, trasformata in numero, è collocata con le sue coordinate in questo spazio: essa è vicina e lontana dalle altre esprimendo così una sorta di “empatia”o “antipatia” con il resto delle cose. Si comprende il grande vantaggio: le parole esprimono una loro” intenzionalità apparente” aggirando quella qualità strutturale del pensiero umano (l’intenzionalità, resa famosa da Brentano e Husserl).  Con la matematica simulo il sentimento dell’uomo verso il reale. Il contributo di Saussure si è rivelato fondamentale per capire come è fatta l’anatomia della IA.

Con Wittgenstein il concetto di gioco linguistico ha invece permesso la “fisiologia” dell’IA. E’ ben noto a tutti il principio per cui (per la gran parte dei casi) il significato della parola è il suo uso nel linguaggio ( Ricerche filosofiche, Parte prima par.43).  Da qui l’intuizione della “ipotesi distributiva della linguistica” ovvero la distribuzione “normale” (la ben nota Gaussiana) delle frequenze linguistiche. Parole che sorgono in contesti simili tendono ad avere significati simili. La vecchia frase pronunciata negli anni cinquanta, conosci la parola dalla compagnia che frequenta (Firth, 1957) e che certo si rifaceva alle Ricerche filosofiche, veniva così tradotta in essere (Word2Vec, inizio dei LLM).

L’apparato filosofico citato in precedenza veniva perciò tradotto in realtà passando, come indica la sigla Word2Vec,  dalla parola al vettore! (E’ bene tralasciare tutti gli autori e tutti i punti di passaggio ma almeno uno è da citare: la nascita del Latent Semanyic Analysis, LSA nel 1997che segnò il principio secondo cui la macchina poteva calcolare, attraverso numeri, la semantica differenziale di Saussure)

Un esempio finale a conclusione di tutto.

Che differenza esiste fra un bambino che apprende e la macchina col suo potentissimo Word2Vec?  Per rispondere immaginiamo che tutti e due siano invitati a recitare in teatro ad improvvisare un dato tema.

La macchina ha letto tutte le possibili trame scritte sul tema: una mole di dati e, calcolando le frequenze, riesce a fare un testo eccellente, il meglio che esiste su quel dato argomento. Il bambino non ha letto nulla, gli hanno suggerito delle battute. Entra in scena, impacciato, comincia a parlare, sbaglia, trema, lo applaudono, ride, si mette il dito in bocca, arrossisce, vorrebbe fuggir via, qualche lacrima incerta, ma poi, alla fine, una grande risata e sono lì tutti ad applaudire.

Questa, in breve, la differenza fra l’ottimizzazione statistica e l’apprendimento incarnato (embodied).

Detto in termini aulici è la differenza fra il calcolo ed il “mondo della vita”( il lebenswelt tanto caro alla fenomenologia).

CARLO ALBERTO FALZETTI