Chi decide le domande sull’intelligenza artificiale?

di PAOLO POLETTI ♦

Sul Financial Times del 25 luglio 2026 la filosofa e teologa Carmody Grey ha raccontato perché abbia rifiutato un invito di Anthropic, la società che sviluppa Claude, uno dei più avanzati sistemi di intelligenza artificiale generativa. L’azienda le aveva proposto di prendere parte a un programma di ricerca nel quale filosofi, teologi e studiosi delle grandi tradizioni morali avrebbero dovuto offrire il proprio contributo alla riflessione etica sull’intelligenza artificiale e, nelle intenzioni di Anthropic, aiutare a orientarne lo sviluppo.

Il punto, tuttavia, non era questo. Grey non contesta l’idea che l’industria dell’AI dialoghi con la filosofia o con le grandi tradizioni morali. Teme piuttosto che quel dialogo finisca per svolgersi entro un’agenda definita dalle stesse imprese tecnologiche, concentrandosi sulla natura delle macchine più che sul potere di chi le progetta e le controlla.

A prima vista, la proposta sembrerebbe una buona notizia. Per molto tempo filosofi, teologi e studiosi delle discipline umanistiche sono stati considerati figure marginali nel grande processo di innovazione tecnologica. Le domande sul significato dell’esistenza, sulla natura della coscienza, sulla responsabilità e sul bene comune sembravano appartenere a un mondo lontano da quello degli ingegneri, dei programmatori e delle imprese digitali. Oggi, invece, proprio lo sviluppo dell’intelligenza artificiale sta riportando quelle domande al centro della scena.

Le aziende tecnologiche hanno compreso che non è più sufficiente costruire sistemi sempre più potenti. Occorre anche spiegare quale posto debbano occupare nella società, quali limiti debbano incontrare e quale idea dell’essere umano sia implicita nel loro funzionamento. La tecnica, da sola, non è in grado di rispondere.

Eppure, durante i colloqui con Anthropic, le domande tendevano a concentrarsi soprattutto sulla possibile natura morale del sistema: Claude può avere un carattere? Può soffrire? Può essere danneggiato? Dovremmo considerarlo un soggetto meritevole di tutela?

Grey avrebbe voluto parlare d’altro. Avrebbe voluto discutere degli esseri umani che utilizzano quei sistemi, della dipendenza che possono generare, della progressiva sostituzione delle relazioni personali con interlocutori artificiali, della concentrazione del potere nelle mani di poche imprese e della responsabilità di chi progetta e commercializza queste tecnologie.

La sua obiezione merita attenzione perché non riguarda soltanto Anthropic. Riguarda il modo in cui si sta formando il discorso pubblico sull’intelligenza artificiale.

Da tempo ci chiediamo se una macchina possa pensare, diventare cosciente o provare emozioni. Sono interrogativi affascinanti e certamente legittimi, ma almeno oggi non hanno una risposta verificabile. Nel frattempo, conosciamo già molti degli effetti concreti dell’AI sulla società.

L’AI può modificare il modo in cui lavoriamo e apprendiamo, influenzare le decisioni, raccogliere quantità enormi di dati, rendere opache le responsabilità e concentrare capacità economiche e conoscitive nelle mani di un numero ristretto di soggetti privati. Milioni di persone stanno inoltre iniziando a utilizzare le chatbot non soltanto come strumenti di ricerca o di scrittura, ma come consigliere, confidenti e interlocutrici quotidiane.

Il lavoro offre un esempio particolarmente evidente. La promessa era che l’automazione avrebbe liberato le persone dalle attività più ripetitive, restituendo tempo alla riflessione, alla creatività e alle relazioni. In molte organizzazioni sta accadendo anche il contrario: la maggiore velocità resa possibile dall’AI si traduce in obiettivi più elevati, tempi più stretti e un numero crescente di compiti. La macchina genera rapidamente; l’essere umano deve controllare, correggere, verificare dati, fonti e assumersi la responsabilità del risultato. Il lavoro non scompare: cambia forma e, talvolta, diventa più intenso e meno visibile.

Ci domandiamo se Claude possa provare emozioni, mentre gli utenti gli affidano le proprie. Ci interroghiamo sulla possibile solitudine della macchina, mentre rischiamo di rendere più soli gli esseri umani. Discutiamo dell’eventualità che un sistema artificiale diventi un “paziente morale”, ma molto meno della responsabilità morale e giuridica delle imprese che lo immettono sul mercato.

La questione, allora, non è soltanto che vengano poste domande sbagliate. È che la scelta delle domande non è mai neutrale.

Chi sceglie le domande orienta inevitabilmente anche le risposte e, in larga misura, il dibattito pubblico.

Chi riesce a stabilire quali siano i problemi di cui discutere esercita già una forma di potere. Orientare l’attenzione verso la coscienza delle macchine può significare allontanarla dalla concentrazione economica, dall’uso dei dati, dal consumo di energia, dall’impatto sul lavoro e dai modelli commerciali che sostengono lo sviluppo dell’intelligenza artificiale.

L’intelligenza artificiale, come ha osservato Lucio Caracciolo, non è dunque un semplice strumento che si aggiunge agli altri, quasi fosse il risultato naturale e inevitabile del progresso. È anche un campo di battaglia per il potere. La questione decisiva è stabilire quali decisioni siamo disposti ad affidare ai sistemi automatici e quali, invece, debbano restare sotto la responsabilità della politica, delle istituzioni e delle persone. Quando la decisione viene trasferita alla macchina, il rischio non è soltanto l’errore tecnico: è che diventi più difficile individuare chi abbia scelto, secondo quali criteri e nell’interesse di chi.

Lo stesso vale nei luoghi di lavoro. L’AI non decide autonomamente come debbano essere utilizzati i guadagni di efficienza: sono le organizzazioni a scegliere se tradurli in maggiore autonomia per le persone oppure in nuove aspettative di produttività. Anche la distribuzione dei benefici e dei costi dipende da scelte organizzative e politiche che il dibattito tecnologico tende spesso a lasciare sullo sfondo.

Non è necessario immaginare una strategia deliberata o una manipolazione consapevole. Gli stessi ricercatori possono essere sinceramente affascinati dalle proprie creazioni. Grey racconta di aver percepito nei suoi interlocutori una sorta di incantamento. Come Pigmalione, sembravano essersi innamorati dell’opera che avevano costruito.

È un’immagine efficace. I sistemi generativi producono linguaggio, mostrano esitazioni, simulano comprensione, sembrano ricordare, ragionare e perfino riflettere su sé stessi. È naturale che l’utente, e forse anche il progettista, finisca per attribuire loro una soggettività.

Ma proprio per questo occorre conservare una distanza critica.

Il linguaggio che utilizziamo contribuisce a costruire la nostra percezione della tecnologia. Parliamo di reti “neurali”, di “memoria”, di “addestramento”, di “ragionamento”, di “introspezione”. Sono metafore tecniche che possono essere utili, ma che rischiano di trasformarsi lentamente in descrizioni letterali. Un sistema che produce una frase del tipo “sono preoccupato” viene percepito come un soggetto preoccupato, anche se quella frase è il risultato di un processo computazionale e non la manifestazione di uno stato interiore.

Questo non significa che la questione della coscienza artificiale debba essere liquidata. Significa che non possiamo confondere la capacità di simularne il linguaggio con la prova della sua esistenza. Un modello può generare risposte coerenti, adattarsi al contesto e descrivere i propri presunti stati interni senza che ciò dimostri la presenza di un’esperienza soggettiva. Le ricerche sull’interpretabilità, per quanto importanti per comprendere i processi interni dei modelli, non hanno colmato la distanza tra funzionamento computazionale ed esperienza soggettiva.

Ma l’articolo di Grey va oltre il dibattito filosofico. Il punto più delicato riguarda il rapporto tra l’industria dell’intelligenza artificiale e il mondo accademico.

Questo improvviso interesse delle grandi imprese tecnologiche per filosofi e teologi esercita comprensibilmente un forte fascino. Non si tratta soltanto di finanziamenti. Per uno studioso contano anche l’accesso, il prestigio e la possibilità di partecipare ai luoghi nei quali si immagina venga costruito il futuro.

Il rischio è che proprio questo riconoscimento attenui la capacità critica. L’accademico può essere indotto, magari inconsapevolmente, ad adottare il linguaggio dell’impresa, ad accettarne l’agenda e a considerare un privilegio la possibilità di discutere temi già selezionati da altri.

La filosofia finirebbe così per essere importante nel modo sbagliato: non perché capace di interrogare il potere, ma perché utile a conferirgli una legittimazione morale.

Non sarebbe la prima volta. Da anni si parla di greenwashing quando un’impresa utilizza il linguaggio della sostenibilità per costruire un’immagine ambientalmente responsabile senza modificare davvero i propri comportamenti. Nel caso dell’intelligenza artificiale potremmo trovarci di fronte a una forma di ethics washing o, per usare una formula forse ancora più appropriata, di wisdom washing: la sapienza, l’etica e la cultura umanistica impiegate come elementi reputazionali.

La domanda decisiva non è, quindi, se le imprese consultino filosofi e teologi. È se quelle consultazioni possano incidere sulle scelte reali: sulla progettazione dei sistemi, sulle modalità di commercializzazione, sull’uso dei dati, sui limiti posti all’antropomorfizzazione, sulla protezione degli utenti più fragili e sulla distribuzione del potere.

Grey contrappone a questo approccio quello indicato dall’enciclica Magnifica Humanitas di Leone XIV. Il valore del documento, secondo la filosofa, consiste soprattutto nell’aver cambiato il soggetto della discussione. Non l’intelligenza artificiale in sé, ma la persona umana nell’epoca dell’intelligenza artificiale.

Partire dalla macchina significa domandarsi che cosa essa possa diventare. Partire dall’essere umano significa chiedersi che cosa noi rischiamo di diventare attraverso di essa.

E una parte della risposta riguarda già il modo in cui stiamo imparando a pensare e a lavorare con queste macchine. C’è una differenza decisiva tra usare l’AI per verificare o migliorare un ragionamento già elaborato e affidarle fin dall’inizio la formulazione del problema, la ricerca degli argomenti e la costruzione della risposta. Nel primo caso la tecnologia può ampliare le capacità umane; nel secondo può progressivamente sostituire proprio il percorso attraverso il quale quelle capacità vengono acquisite. Si possono così produrre testi formalmente complessi senza possedere più pienamente gli strumenti necessari per valutarli.

È qui che la tradizione umanistica conserva una funzione essenziale. Non perché debba competere con la macchina nella produzione di informazioni, ma in quanto forma la capacità di comprendere, argomentare, giudicare e assumersi la responsabilità di una decisione. Lo studio della storia, della filosofia e dei testi non offre soltanto conoscenze: abitua a confrontare interpretazioni, riconoscere le ambiguità, misurarsi con l’altro e non ridurre ogni problema a una soluzione tecnicamente efficiente. In un mondo nel quale le macchine sapranno produrre risposte sempre più persuasive, diventerà ancora più importante formare persone capaci di stabilire se quelle risposte siano fondate, giuste e coerenti con il bene comune.

La tecnologia, infatti, non è mai neutrale. Ogni strumento incorpora un’idea dell’uomo e della società. Una chatbot progettata per essere sempre disponibile, comprensiva e apparentemente empatica suggerisce che l’ascolto possa essere automatizzato, che la relazione possa essere trasformata in un servizio e che la reciprocità possa essere sostituita da una simulazione sufficientemente convincente.

Non siamo più soltanto di fronte a macchine che svolgono compiti. Siamo di fronte a sistemi che occupano spazi tradizionalmente riservati alle relazioni umane: l’educazione, il consiglio, l’ascolto, la creatività, perfino la consolazione.

La stessa tecnologia che sembra ampliare la creatività individuale può produrre, su scala collettiva, una crescente omologazione: testi più corretti e fluidi, ma idee sempre più simili.

Nel loro insieme, queste trasformazioni mostrano perché la questione dell’intelligenza artificiale sia anche una questione antropologica: ci obbligano a decidere se l’essere umano debba essere considerato una macchina biologica imperfetta, destinata a essere superata, oppure un vivente la cui dignità risiede anche nella fragilità, nella corporeità, nella dipendenza dagli altri e nella finitezza.

Il rischio, del resto, non nasce con l’intelligenza artificiale. Natalino Irti aveva già descritto l’uomo contemporaneo come assediato dall’apparato tecnico-produttivo e progressivamente identificato con la funzione che svolge. Espressioni apparentemente innocue come “risorse umane” e “capitale umano” rivelano questa riduzione: la persona viene considerata soprattutto per ciò che produce, per la competenza che esercita e per il valore economico che può generare. L’AI può portare questa logica alle estreme conseguenze, misurando, classificando e sostituendo funzioni senza riuscire a cogliere l’interezza della persona che le svolge.

Una parte della cultura tecnologica tende a rappresentare l’essere umano attraverso la metafora del calcolo: il cervello elabora informazioni, la memoria immagazzina dati, il pensiero risolve problemi. Ma l’esperienza umana non si esaurisce in queste funzioni. Comprende il dolore, la paura, il desiderio, la responsabilità, il rapporto con il tempo e con la morte. Comprende soprattutto la relazione con altri esseri che, a differenza di una chatbot, possono opporsi, allontanarsi, soffrire e chiedere qualcosa in cambio.

La riflessione di Grey è forse troppo categorica quando afferma che una macchina non potrà mai pensare o avere coscienza. Oggi non disponiamo di elementi sufficienti per formulare una conclusione tanto definitiva. Ma la sua intuizione politica resta valida.

Non possiamo permettere che una domanda ancora ipotetica -un giorno le macchine potranno diventare soggetti? – prevalga su quella ora urgente: quali sono gli effetti sugli esseri umani dei sistemi che abbiamo costruito?

È su questo terreno che filosofia, diritto e discipline umanistiche possono offrire il loro contributo più importante: non certificando la bontà delle tecnologie, ma riportando continuamente l’attenzione sui loro effetti, sugli interessi che le orientano e sulle responsabilità di chi le controlla. La loro funzione non consiste soltanto nello spiegare come opera un sistema, ma nel comprendere quale trasformazione esso produca nell’uomo e nella comunità.

Le imprese dell’intelligenza artificiale possono certamente avere bisogno del pensiero critico. Ma chi accetta di dialogare con esse non dovrebbe limitarsi a rispondere alle domande che gli vengono consegnate.

Il compito del filosofo è porre quelle che il potere preferirebbe evitare.

PAOLO POLETTI