Concediamoci pure una pausa di riflessione.*

di MASSIMO COZZI ♦ 

*Il titolo è ripreso, in parte, da un commento di Marcello Rocchetti al mio articolo del 15 luglio 2026 e rappresenta un auspicio per continuare a credere che a noi non resti solo il compito di annaffiare le piante.

Gli interrogativi che Marcello Rocchetti ci pone dopo la lettura del saggio: “Forma Mentis” del Prof. Nello Cristianini , riguardo al sorprendente grado di sviluppo delle IA : “ dovremmo abbandonare l’idea di trovarci semplicemente di fronte a dei “pappagalli stocastici?”, e “fino a che punto fidarci di una mente che “pensa” in modo del tutto diverso dalla nostra – e forse disumana?”, sono cruciali ed estremamente attuali, perché si riferiscono alle recenti scoperte della meccanica dell’interpretabilità (la branca dell’IA che studia l’interno dei modelli).

 I ricercatori hanno effettivamente trovato nei transformers e nelle reti neurali profonde dei “modelli del mondo” o “mappe cognitive” (ad esempio geografie, concetti di tempo, persino scacchiere) nate spontaneamente per ottimizzare le previsioni.

Personalmente non ho letto il saggio in questione, ma ho apprezzato dello stesso autore: “La scorciatoia. Come le macchine sono diventate intelligenti senza pensare in modo umano”, Bologna, il Mulino, 2023, di cui tratterò nella parte conclusiva di questo scritto, cercando di collegare i concetti in esso espressi con quelli del Neoumanesimo tecnologico.

Se l’intelligenza è “aliena”, il controllo deve essere umano: la risposta del Neoumanesimo tecnologico.

La scoperta che le reti neurali profonde [1] sviluppino mappe concettuali e strutture logiche autonome – geometrie che emergono spontaneamente senza che nessun programmatore le abbia inserite – descrive quello che la scienza della complessità chiama “proprietà emergenti” [2].  Di fronte a un’intelligenza computazionale che non risponde più alle logiche di programmazione lineari e tradizionali, l’uomo sperimenta un senso di vertigine: la sensazione di aver generato un’alterità aliena e ingovernabile. Ma è qui che il Neoumanesimo tecnologico rivela la sua massima forza regolatrice, trasformandosi da “scelta etica” a “necessità di sopravvivenza”.

La mappa non è il territorio, il calcolo non è il senso ultimo.

 Anche se una rete neurale crea una mappa geometrica perfetta dello spazio o delle relazioni linguistiche (l’essenza del Manierismo cibernetico che riproduce la forma perfetta), quella mappa rimane uno strumento predittivo privo di intenzionalità.

• La macchina mappa la realtà per calcolare la probabilità di un evento o di una parola successiva.
• L’essere umano mappa la realtà per abitarla, soffrirla, desiderarla e cambiarla.

  Il Neoumanesimo tecnologico interviene ricordandoci che l’emergere di geometrie cognitive nell’IA non significa che la macchina stia “pensando” come noi; significa che ha trovato una  scorciatoia statistica straordinariamente complessa. La forza del Neoumanesimo tecnologico sta nel tracciare la linea di demarcazione: la macchina gestisce le geometrie del dato, l’uomo detiene il monopolio del senso ultimo. Al riguardo riporto, di seguito, alcune considerazioni di Giuseppe O. Longo che ritengo pertinenti e attuali:

“ Le azioni dell’uomo hanno senso e sono riflesse  nella coscienza, il senso è radicato nel mondo e nella storia, e precede le azioni, mentre la coscienza ci fornisce la dimensione soggettiva del sé, in modo elusivo ma irrefragabile. Tuttavia, poiché senso e coscienza non sono oggetto  di scienza, sembra che questo problema si possa tranquillamente ignorare”. […] “Mi limito a osservare che nel sistema comunicativo globale si manifesta uno squilibrio progressivo tra le capacità umane, che sono più o meno costanti da migliaia di anni, e quelle delle macchine, che aumentano con velocità impressionante. La nostra crescente inadeguatezza ci spinge ad affidarci sempre di più alla tecnologia e, come ho già accennato, dal piano dell’analisi e dell’azione questa delega tecnologica si potrebbe estendere via via al piano della creatività originale, attuando una produzione distribuita dell’opera artistica o scientifica”.

 G. O. Longo. Tecnologia e creatività. Homo Technologicus, Roma, Meltemi, 2001.

Disinnescare il “mito dell’ingovernabilità”.

Pensare che la ricerca sulle reti neurali “sovrasti la nostra capacità di gestire le IA” significa cadere in un determinismo psicologico rinunciatario. Il fatto che l’interno di una rete neurale sia una “scatola nera” non significa che l’uomo sia inerme.

La postura del Neoumanesimo tecnologico guida già i ricercatori che usano la tecnologia stessa per analizzare questi modelli (tramite l’uso di “sparse autoencoders” [3] o vettori di attivazione) per “sterzare” e controllare i comportamenti dei modelli. Il neoumanesimo non chiede di capire matematicamente ogni singolo miliardo di pesi sinaptici [4] dell’IA, ma esige che l’output e l’applicazione di quel sistema siano costantemente vagliati, limitati e validati da un’architettura etica e politica radicalmente umana (Human-in-the-loop).

La vera minaccia non è l’IA aliena, ma l’uomo alienato.

  Il vero pericolo insito nella comparsa di queste mappe spontanee non è che l’IA diventi ”troppo intelligente”, ma che l’essere umano, pigramente affascinato da questa intelligenza aliena, decida di abdicare. Se iniziamo a credere che l’IA capisca il mondo meglio di noi solo perché ne ha mappato i dati in modo più efficiente, smetteremo di esercitare il dubbio, l’intuito e la responsabilità decisionale.

Il Neoumanesimo tecnologico risponde a questa sfida con un principio di asimmetria: più l’architettura dell’IA si fa complessa, autonoma e aliena, più la postura dell’uomo deve farsi critica, radicata ed etica. Se la macchina sviluppa logiche proprie, l’uomo non deve inseguirla sul terreno del calcolo imprevedibile, ma deve governarla dal terreno insostituibile dei valori, della coscienza e della scelta morale.

 La scoperta delle mappe emergenti dimostra semplicemente che l’IA è uno strumento straordinariamente potente, un super-cannocchiale puntato sul mondo dei dati. Ma il cannocchiale non decide dove guardare, né si commuove per il panorama: quella responsabilità resta e deve restare, interamente, dell’osservatore umano.

Come vengono create, oggi, le IA.

 L’analogia della ”pianta che cresce da sé” per descrivere il modo in cui, oggi, vengono create le IA coglie in modo perfetto il pensiero del Prof. Cristianini, espresso, in particolare, nel suo celebre libro: “La scorciatoia”.  Nel libro Cristianini spiega che abbiamo smesso di “programmare” le macchine nel senso tradizionale del termine (ovvero scrivendo regole logiche precise, riga per riga, come se stessimo assemblando un ingranaggio o costruendo un palazzo). Abbiamo preso, appunto, una scorciatoia:

– Non più ingegneri, ma agricoltori: invece di progettare ogni singola risposta, gli scienziati oggi creano un’architettura di base (la rete neurale, che potremmo paragonare al terreno e al seme) e poi la espongono a una quantità oceanica di dati (l’acqua e la luce).

– La crescita spontanea: attraverso questo addestramento (il deep learning) [5], la macchina trova da sola le sue strade per ottimizzare il risultato. Sviluppa autonomamente connessioni, scorciatoie statistiche e persino quelle “mappe del mondo” interne che i programmatori non hanno inserito manualmente. La macchina “cresce” e si adatta in base a ciò di cui si nutre (i dati).

  Questo concetto si collega e fornisce un pilastro fondamentale a supporto del Neoumanesimo tecnologico:

– L’illusione del controllo totale: se la macchina “cresce da sé” come una pianta non possiamo più pretendere di prevederne ogni singola foglia o ramificazione (il problema della “scatola nera”).

– Il ruolo dell’uomo come “giardiniere etico”: proprio perché non possiamo programmare ogni singolo comportamento di questi agenti “alieni”, il ruolo dell’essere umano non è quello di pretendere di controllare ogni singola riga di codice, ma quello di regolare l’ambiente, porre confini e decidere i limiti di crescita.

Come un giardiniere che pota i rami per evitare che la pianta distrugga il muro di casa, il Neoumanesimo tecnologico è la postura che accetta la natura “biologica” e complessa di queste nuove tecnologie, ma rivendica il diritto e il dovere assoluto dell’uomo di decidere dove farle crescere, di cosa nutrirle e quando è il momento di arginarle per tutelare la nostra dignità, libertà e creatività, al fine di una convivenza sicura con questa nuova forma di intelligenza.

Nota: oltre alla pausa di riflessione, raccolgo e faccio mio l’invito, rivolto da alcuni amici, di “contribuire a creare un dibattito interconnesso su un argomento chiave (le IA)”, la cui promozione giro alla nostra Associazione, “così da far crescere culturalmente tutti noi assieme”.

[1] Le reti neurali artificiali profonde sono strutture computazionali (di calcolo), ispirate al funzionamento del cervello umano, composte da unità che corrispondono alle cellule nervose (neuroni), collegate tra loro da connessioni unidirezionali che corrispondono alle sinapsi tra i neuroni.

[2] Nella teoria della complessità il comportamento emergente può essere definito come il risultato di interazioni tra componenti di un sistema che portano a risultati complessi e, a volte, imprevedibili e difficilmente predicibili sulla base delle leggi che governano le sue componenti prese singolarmente, scaturendo, dunque, dalle interazioni lineari e non-lineari tra le componenti stesse.

[3] “Lo sparse autoencoder” (SAE) è un tipo specializzato di architettura di rete neurale artificiale progettato per apprendere rappresentazioni efficienti e interpretabili dei dati, imponendo un vincolo di sparsità sugli strati nascosti.

[4] I pesi sinaptici possono essere positivi o negativi: i pesi positivi stanno a indicare collegamenti sinaptici eccitatori e quelli negativi collegamenti sinaptici inibitori. L’individuazione dei pesi sinaptici corretti, ossia quelli che rendono possibile per la rete neurale artificiale di rispondere a uno stimolo con il movimento appropriato, è il risultato di un processo di apprendimento nel corso del quale i pesi iniziali, che sono assegnati a caso e quindi danno luogo a un comportamento anch’esso casuale, si modificano progressivamente in funzione dell’esperienza fino ad assumere quei valori qualitativi che consentono alla rete neurale artificiale di rispondere nel modo corretto agli stimoli.

[5] Il “deep learning” o apprendimento profondo rappresenta uno dei pilastri dell’evoluzione recente dell’IA, è un sottoinsieme del “machine learning”, guidato da reti neurali profonde multistrato il cui design è ispirato alla struttura del cervello umano, si concentra sull’uso di modelli matematici che cercano di imitare, in modo semplificato, come funziona un neurone.

MASSIMO COZZI