Quando una società disimpara a comprendere: l’intelligenza artificiale come infrastruttura del linguaggio

di PAOLO POLETTI ♦

Per molto tempo abbiamo descritto l’intelligenza artificiale come uno strumento: potente, versatile, capace di scrivere, tradurre, analizzare documenti e assistere attività professionali. Ma pur sempre uno strumento distinto da noi, che entra in funzione quando decidiamo di utilizzarlo.

Questa immagine, oggi, non basta più. L’AI tende a incorporarsi nei dispositivi quotidiani, nei sistemi di lavoro e nei servizi attraverso cui accediamo alle informazioni. Non è più soltanto qualcosa che consultiamo: sta diventando una componente stabile dell’ambiente nel quale comunichiamo, conosciamo e prendiamo decisioni.

Il vero rischio, tuttavia, non dipende soltanto dalla potenza della tecnologia. Dipende dal momento storico e culturale nel quale essa arriva.

L’intelligenza artificiale si innesta infatti su una società già segnata dalla frammentazione dell’attenzione, dalla crisi della lettura, dalla comunicazione social e dalla crescente difficoltà a comprendere testi complessi. Una società che comunica continuamente, ma condivide sempre meno; che reagisce con rapidità, ma fatica ad ascoltare; che produce un’enorme quantità di parole, ma perde progressivamente il rapporto con il significato.

È in questo incontro tra una tecnologia capace di generare linguaggio e una società che rischia di perdere la capacità di governarlo che si colloca la questione più importante.

1. L’intelligenza artificiale come infrastruttura del linguaggio

Per comprendere questa trasformazione può essere utile richiamare Ludwig Wittgenstein, uno dei maggiori filosofi del Novecento e uno dei pensatori che più profondamente hanno indagato il rapporto tra linguaggio, realtà e vita sociale.

Nella prima fase del suo pensiero, espressa soprattutto nel Tractatus logico-philosophicus, Wittgenstein aveva cercato di chiarire in che modo il linguaggio potesse rappresentare logicamente i fatti del mondo. Nelle successive Ricerche filosofiche cambiò però profondamente prospettiva: il significato di una parola, sostenne, non risiede soltanto nell’oggetto che indica o in una definizione astratta, ma dipende dall’uso concreto che ne facciamo all’interno di pratiche condivise.

Domandare, promettere, ordinare, raccontare, scherzare o discutere sono diversi “giochi linguistici”, ciascuno inserito in una determinata “forma di vita”. Le parole acquistano senso perché vengono utilizzate da una comunità secondo regole, aspettative e convenzioni che non sono soltanto grammaticali, ma sociali.

Questa concezione offre una chiave particolarmente efficace per interpretare i grandi modelli linguistici. Un sistema generativo non conosce il mondo come lo conosce una persona: non possiede un corpo, una biografia o un’esperienza diretta della realtà. Apprende però, da enormi quantità di testi, le regolarità con cui le parole vengono usate nei diversi contesti e produce la risposta linguisticamente più plausibile sulla base delle correlazioni apprese e delle istruzioni ricevute.

Da qui l’immagine della “macchina wittgensteiniana”: non una tecnologia specifica, bensì una metafora per descrivere un sistema che opera all’interno degli usi del linguaggio e ne riproduce le regolarità.

Il punto decisivo è che questa macchina non si limita a riflettere il linguaggio esistente. Quando viene usata da milioni di persone per scrivere, informarsi, riassumere e formulare giudizi, contribuisce anche a modificare il modo in cui il linguaggio viene prodotto.

Non stabilisce direttamente ciò che dobbiamo pensare, ma può incidere sulle forme attraverso cui il pensiero viene formulato, ordinato e comunicato. Se il significato nasce dall’uso, allora chi organizza gli ambienti nei quali il linguaggio viene usato incide anche, almeno in parte, sui significati che circolano nella società.

Per questo l’intelligenza artificiale non è più soltanto uno strumento che elabora parole. Sta diventando un’infrastruttura del linguaggio: un sistema che media l’accesso alle informazioni, orienta la formulazione delle domande, seleziona le risposte e contribuisce a stabilire ciò che appare plausibile, rilevante o degno di attenzione.

2. Una società culturalmente indebolita

Il problema è che questa trasformazione interviene in una società nella quale il linguaggio pubblico era già in crisi.

“Comunicare” è diventato spesso sinonimo di trasmettere qualcosa: un’opinione, una reazione, un’immagine, uno stato d’animo. Condividere è però un processo più impegnativo, perché significa mettere qualcosa in comune, accettare l’esistenza di un punto di vista diverso dal proprio e riconoscere che il dialogo possa modificarci.

La comunicazione social tende invece a favorire l’esposizione più che il confronto. Si pubblica, si commenta, si approva o si condanna; l’altro diventa pubblico, avversario o conferma della propria identità, più raramente un interlocutore con il quale costruire un significato comune.

Ne deriva uno spazio pubblico ricchissimo di parole, ma povero di dialogo. L’intelligenza artificiale entra precisamente in questo vuoto: è sempre disponibile, risponde con ordine, si adatta al linguaggio dell’utente e non chiede di essere ascoltata a sua volta. Può quindi apparire più facile da frequentare di una persona reale.

Ma una conversazione senza autentica alterità rischia di trasformarsi in una forma raffinata di conferma. Il sistema può correggere o contraddire, ma rimane comunque costruito per assistere l’utente e mantenere l’interazione. La relazione diventa fluida anche perché viene eliminato gran parte dell’attrito che caratterizza ogni vero confronto umano.

L’intelligenza artificiale non ha creato la post-verità, ma si è inserita in un ambiente nel quale essa era già pienamente operante.

I social network hanno abituato milioni di persone a confondere la visibilità con l’autorevolezza e a riconoscere alla ripetizione una forza spesso superiore a quella della dimostrazione. Le informazioni vengono selezionate anche in funzione della loro capacità di produrre attenzione, reazione e permanenza sulla piattaforma.

La post-verità non coincide semplicemente con la circolazione di notizie false. Descrive una condizione più profonda, nella quale il valore pubblico di un fatto dipende sempre meno dalla sua verificabilità e sempre più dalla sua capacità di confermare ciò che un gruppo già pensa, teme o desidera.

Quando un’informazione entra in conflitto con un’identità politica, culturale o sociale, può essere respinta non perché sia stata smentita, ma in quanto viene percepita come estranea o ostile. Al contrario, un’affermazione debole o falsa può essere accolta se rafforza il senso di appartenenza, rassicura o alimenta un’emozione condivisa.

In questo ambiente, la verità non scompare, ma perde autorità.

L’AI eredita questo contesto e può amplificarne le caratteristiche, perché è capace di produrre rapidamente testi ordinati, immagini credibili e spiegazioni apparentemente coerenti. Il rischio non è soltanto che generi affermazioni false, ma che la qualità formale della risposta attribuisca anche a contenuti incerti un’apparenza di autorevolezza.

La fluidità linguistica può essere scambiata per competenza, la sicurezza del tono per verità, la sintesi per comprensione. Ed è qui che la debolezza della società incontra la forza della macchina.

Comprendere un testo complesso, del resto, non significa soltanto possedere un vocabolario adeguato, ma saper mantenere l’attenzione, seguire la progressione di un ragionamento, ricordarne le premesse e collegarle alle conclusioni. Significa anche accettare che una questione non possa essere risolta immediatamente, tollerare l’incertezza e distinguere tra tesi principale, condizioni, eccezioni e conseguenze.

La comunicazione digitale sollecita sempre meno queste capacità. Il contenuto deve catturare subito, essere breve e produrre una reazione immediata, mentre la lettura è interrotta da notifiche e continui inviti a passare ad altro. Si scorre più di quanto si legga.

Il risultato non è soltanto che scegliamo testi più brevi, ma che rischiamo di perdere progressivamente la capacità di affrontare quelli lunghi. Si crea così una regressione culturale che non coincide con una diminuzione delle informazioni disponibili; al contrario, siamo sommersi dalle informazioni. Ciò che si indebolisce è la capacità di trasformarle in conoscenza.

L’intelligenza artificiale offre, in questo contesto, un servizio estremamente seducente: legge e sintetizza al nostro posto. È certamente utile poter condensare un documento complesso, individuare i passaggi essenziali o ottenere una spiegazione preliminare, ma ogni sintesi comporta una selezione. Qualcuno, o qualcosa, decide che cosa sia centrale, quali passaggi possano essere omessi e quale relazione unisca i diversi elementi.

Delegare occasionalmente questa attività può ampliare le nostre capacità. Delegarla sistematicamente significa rinunciare a una parte del processo di comprensione. La sintesi non è la conoscenza: ne è il risultato finale, ma se il lavoro cognitivo che la precede viene interamente esternalizzato, non è detto che lasci qualcosa nella mente di chi la riceve.

La comunicazione politica di Donald Trump rappresenta, da questo punto di vista, un esempio particolarmente evidente dell’adattamento del linguaggio pubblico all’economia dell’attenzione.

La sua efficacia non dipende soltanto dai contenuti, ma dalla forma: frasi brevi, ripetizioni, formule emotivamente immediate, opposizioni nette e slogan facilmente memorizzabili. La complessità viene compressa in alternative elementari: successo o fallimento, amici o nemici, grandezza o declino.

Non si tratta soltanto dello stile personale di un leader, ma di un linguaggio perfettamente compatibile con i social network e con un pubblico abituato a contenuti che devono essere compresi in pochi secondi.

Il problema non è che un messaggio breve sia necessariamente falso. La brevità può essere una qualità. Ma quando diventa l’unica forma accettabile della comunicazione politica, scompaiono le condizioni, i dubbi, le relazioni causali e le conseguenze di lungo periodo.

La politica, allora, non si limita a semplificare per farsi comprendere: disabitua progressivamente i cittadini a pretendere spiegazioni più articolate. L’intelligenza artificiale potrebbe inserirsi perfettamente in questa dinamica se venisse utilizzata soprattutto per ridurre, riassumere e rendere immediatamente fruibile ogni contenuto. In quel caso non sarebbe lo strumento che ci aiuta a comprendere la complessità, ma quello che ci consente di evitarla.

3. Quando l’AI modifica il linguaggio umano

Un recente esperimento mostra un altro aspetto del fenomeno.

Un autore di PCWorld ha sottoposto a Claude, il modello linguistico sviluppato da Anthropic, un testo di circa 11.700 parole scritto interamente da lui e gli ha chiesto di ricercare eventuali “AI tells”, cioè segnali stilistici che avrebbero potuto indicare un’origine artificiale.

Claude ha individuato come elementi sospetti l’uso frequente delle parentesi, le digressioni, i trattini lunghi e alcune strutture retoriche ricorrenti. Alla fine, ha comunque valutato il testo come prevalentemente umano, attribuendogli un livello di artificialità basso, pari a circa 3 su 10.

L’interesse dell’esperimento non consiste quindi in un clamoroso errore di classificazione, ma nel fatto che caratteristiche appartenenti da tempo alla scrittura saggistica – la costruzione ordinata dell’argomentazione, le precisazioni tra parentesi, l’equilibrio dei periodi – vengano reinterpretate come possibili tracce della macchina.

Il sistema è stato addestrato sui testi umani; successivamente, gli esseri umani hanno cominciato a scrivere servendosi dei sistemi artificiali; infine, la scrittura umana viene giudicata secondo categorie ricavate dalla scrittura delle macchine.

Si forma così un circuito nel quale non è più semplice stabilire chi imiti chi.

La società che fatica a sostenere una scrittura complessa finisce paradossalmente per percepire come artificiale proprio la prosa più ordinata e argomentata.

Il rischio più profondo è l’omologazione. Se i modelli tendono a produrre una prosa regolare, prudente e formalmente equilibrata mentre gli esseri umani si abituano a utilizzarla, il linguaggio pubblico può convergere verso una media statistica sempre più uniforme.

Una scrittura priva di asperità può essere efficace, ma anche perdere voce, esperienza e intenzione. La capacità di esprimere una prospettiva personale, di assumere un rischio argomentativo, di introdurre una discontinuità o di mantenere aperta un’ambiguità può essere progressivamente sostituita da una prosa corretta, levigata e prevedibile.

L’autenticità non potrà allora essere ricercata attraverso qualche segnale stilistico. Dovrà essere ricondotta alla responsabilità: chi firma il testo, quali strumenti ha utilizzato e fino a che punto è disposto a rispondere delle idee che vi sono contenute.

Il problema non è quindi distinguere in modo assoluto tra testo umano e testo artificiale, ma comprendere chi abbia esercitato il giudizio, chi abbia selezionato gli argomenti e chi si assuma la responsabilità del risultato finale.

4. Dalla parola all’azione

Finché l’AI produce soltanto testi, il problema riguarda soprattutto la formazione del giudizio. Quando il linguaggio generato diventa istruzione eseguibile, la stessa questione si trasferisce dal piano culturale a quello della sicurezza.

Un assistente risponde; un agente può consultare archivi, utilizzare applicazioni, modificare documenti o scrivere codice in relativa autonomia. Il linguaggio non è più soltanto descrizione, ma comando operativo.

Un errore contenuto in una risposta può essere riconosciuto prima di produrre conseguenze. L’errore di un agente può invece propagarsi nei processi reali prima che qualcuno se ne accorga. Per questo occorre poter ricostruire che cosa il sistema abbia fatto e sulla base di quali passaggi.

La trasparenza non è più soltanto una questione etica, ma una condizione di sicurezza. Anche l’affermazione secondo cui “l’essere umano deve restare al centro” rischia altrimenti di diventare una formula rituale: il controllo umano è reale soltanto se qualcuno possiede le informazioni, le competenze e il tempo necessari per intervenire. In caso contrario, l’essere umano rimane formalmente responsabile di decisioni che non è più concretamente in grado di comprendere.

Su un piano più radicale si colloca la posizione di Eliezer Yudkowsky e Nate Soares, autori di Prima che sia troppo tardi.

La loro tesi è estrema: lo sviluppo di una superintelligenza artificiale mediante tecniche simili a quelle attuali comporterebbe un rischio esistenziale per l’umanità. Il loro ragionamento parte dal modo in cui vengono sviluppati i moderni sistemi.

Un software tradizionale viene costruito attraverso istruzioni formulate dai programmatori; un modello di apprendimento automatico viene invece addestrato modificando miliardi di parametri fino a ottenere il comportamento desiderato.

Gli ingegneri conoscono il procedimento e possono misurarne i risultati, ma non comprendono pienamente come le capacità siano organizzate all’interno del modello. Yudkowsky e Soares sintetizzano questa differenza affermando che le AI moderne non vengono propriamente costruite, ma “fatte crescere”.

Da qui nasce il problema dell’allineamento: come garantire che un sistema sempre più capace continui a perseguire obiettivi compatibili con gli interessi umani anche in situazioni non previste durante l’addestramento?

Non è necessario condividere la certezza apocalittica degli autori per riconoscere la legittimità della domanda. Ma quella domanda acquista un significato ancora più inquietante se viene collocata nel contesto culturale che abbiamo descritto.

Il rischio non è soltanto che la macchina diventi più autonoma, ma che gli esseri umani diventino progressivamente meno capaci di valutarla, comprenderla e contrastarne gli errori.

Una tecnologia sempre più complessa incontra una società che tollera sempre meno la complessità.

5. La vera questione politica

L’intelligenza artificiale non è quindi soltanto una questione tecnica. È una questione culturale e politica.

Non basta domandarsi chi sviluppi i modelli o possieda le infrastrutture necessarie per farli funzionare. Occorre chiedersi quale tipo di società sia in grado di utilizzarli senza diventarne dipendente.

Una comunità culturalmente forte può servirsi dell’intelligenza artificiale per ampliare le proprie capacità. Una comunità culturalmente fragile rischia invece di impiegarla per sostituirle.

La distinzione decisiva non sarà tra chi usa l’AI e chi la rifiuta, ma tra chi la utilizza mantenendo la capacità di leggere, verificare e giudicare e chi le affida progressivamente anche queste funzioni.

Per questo la regolazione tecnologica, per quanto necessaria, non è sufficiente. Serve una politica dell’educazione, della lettura e dell’attenzione.

Occorre insegnare non soltanto a formulare buoni prompt, ma a riconoscere una cattiva argomentazione; non soltanto a ottenere una sintesi, ma a comprendere ciò che la sintesi elimina; non soltanto a utilizzare una risposta, ma a risalire alle sue fonti e valutarne l’attendibilità.

L’AI non arriva in uno spazio vuoto. Arriva dopo anni di impoverimento del dibattito pubblico, di frammentazione dell’attenzione e di sostituzione della lettura con lo scorrimento.

Per questo il problema non è soltanto governare le macchine, ma ricostruire le condizioni culturali necessarie per usarle senza esserne usati.

La vera difesa non consiste quindi soltanto nel porre limiti all’intelligenza artificiale. Consiste nel rafforzare l’intelligenza umana collettiva: la capacità di attenzione, la lettura, il confronto e l’abitudine alla complessità.

Perché una tecnologia che sa parlare diventa realmente pericolosa quando incontra una società che sta disimparando ad ascoltare, a leggere e a comprendere.

PAOLO POLETTI