L’intelligenza artificiale comincia ad agire. Ma chi decide?

di PAOLO POLETTI ♦

Le macchine non si limitano più a suggerire soluzioni: possono eseguirle autonomamente. Una trasformazione che promette grandi benefici, ma ci obbliga a ripensare il rapporto fra tecnologia, potere e responsabilità.

Fino a poco tempo fa chiedevamo all’intelligenza artificiale di scrivere un testo, riassumere un documento, analizzare informazioni o suggerire una soluzione. La macchina rispondeva e noi decidevamo che cosa fare della risposta. Potevamo accettarla, modificarla o ignorarla.

Ora sta accadendo qualcosa di diverso. L’intelligenza artificiale non si limita più a suggerire che cosa fare: comincia a farlo direttamente. Può consultare archivi, utilizzare programmi informatici, organizzare attività, modificare configurazioni di rete e avviare procedure senza attendere un’istruzione umana per ogni singolo passaggio. È il mondo della cosiddetta “IA agentica”, costituita da sistemi ai quali assegniamo un obiettivo e che possono individuare ed eseguire, entro determinati limiti, le operazioni necessarie per raggiungerlo.

Naturalmente, anche i programmi informatici tradizionali potevano eseguire operazioni automaticamente. La novità consiste nella maggiore autonomia con cui questi sistemi (o “agenti”) possono scegliere e organizzare le attività necessarie, adattando il proprio comportamento alle informazioni raccolte e ai risultati ottenuti.

La differenza è sostanziale. Immaginiamo che un sistema informatico individui un malfunzionamento nella rete di un ospedale. Un’intelligenza artificiale utilizzata come assistente può segnalare il problema, indicarne la possibile causa e suggerire al tecnico come intervenire. Un agente autonomo, invece, può essere autorizzato a modificare direttamente la configurazione della rete per ripristinare il servizio. Nel primo caso la macchina consiglia. Nel secondo agisce. E, agendo, può produrre conseguenze immediate, positive o negative.

Il filosofo Luciano Floridi ci aiuta a comprendere la portata di questo cambiamento. Nei suoi studi sull’intelligenza artificiale sostiene che questi sistemi possano essere interpretati come una nuova forma di capacità di agire, che non richiede necessariamente intelligenza, comprensione o intenzionalità nel senso umano del termine. Essere capaci di fare qualcosa non significa necessariamente comprenderne il significato o saperne valutare le conseguenze. Un agente può eseguire operazioni complesse senza possedere coscienza morale o capacità di giudizio paragonabili alle nostre. La sua autonomia operativa, dunque, non lo rende un soggetto moralmente responsabile.

Non stiamo parlando di fantascienza. Una ricerca condotta da Omdia per Cisco (https://www.cisco.com/c/dam/en/us/solutions/artificial-intelligence/the-impact-of-agentic-ai-on-network-operations.pdf) pubblicata lo scorso settembre, offre un’immagine concreta della trasformazione. Su mille responsabili informatici di aziende con almeno cinquecento dipendenti, il 51% dichiara di utilizzare già agenti capaci di intervenire direttamente sulle reti operative. L’82% si dice disponibile a consentire almeno alcune modifiche senza preventiva autorizzazione umana e il 24% accetterebbe persino una gestione completamente autonoma, senza supervisione umana. Sono dichiarazioni raccolte presso uno specifico campione di grandi organizzazioni, non dati rappresentativi di tutte le imprese. Ma indicano una tendenza significativa.

Le ragioni di questa evoluzione sono comprensibili. Le organizzazioni esaminate ricevono mediamente circa 4.100 segnalazioni informatiche al giorno, oltre la metà delle quali riguarda le reti. Verificarle tutte manualmente richiederebbe risorse enormi. In simili condizioni, un sistema capace di distinguere rapidamente un falso allarme da una minaccia reale e di intervenire senza ritardi può rappresentare un vantaggio considerevole. L’automazione, dunque, non risponde soltanto all’esigenza di ridurre i costi. In alcuni settori diventa una risposta alla crescente complessità dei sistemi che abbiamo costruito. Ma proprio qui emerge il problema principale: più le macchine diventano autonome, più rischia di diventare soltanto formale il nostro controllo.

Affermare che la decisione finale resti sempre all’essere umano è rassicurante. Ma che cosa significa concretamente quando un agente compie centinaia o migliaia di operazioni in pochi minuti? Chi potrebbe verificarle tutte prima della loro esecuzione? Il controllo deve allora cambiare natura. Non può consistere necessariamente nell’autorizzare ogni singola operazione. Deve tradursi nella definizione preventiva di regole, limiti e divieti, nella possibilità di verificare ciò che la macchina ha fatto e nell’obbligo di interromperne l’attività quando vengono superate determinate soglie di rischio.

È ciò che alcuni studiosi, fra i quali i filosofi Filippo Santoni de Sio e Jeroen van den Hoven, definiscono “controllo umano significativo”: non la presenza simbolica di una persona, ma l’effettiva capacità di indirizzare il comportamento dei sistemi autonomi e di ricondurne le conseguenze a responsabilità umane individuabili. In pratica, significa stabilire quali informazioni l’agente possa consultare, quali operazioni sia autorizzato a eseguire, quali richiedano una conferma umana e quali gli siano del tutto vietate. Significa anche conservare traccia delle attività, verificarne i risultati e poter fermare il sistema quando necessario.

Pensiamo a un agente incaricato di organizzare gli appuntamenti di un servizio sanitario. Può essere ragionevole consentirgli di proporre disponibilità, inviare conferme e aggiornare un calendario. Ben diverso sarebbe autorizzarlo a modificare autonomamente i criteri di priorità dei pazienti. Nel primo caso svolgerebbe attività organizzative; nel secondo interverrebbe su valutazioni che coinvolgono diritti, condizioni di salute e responsabilità professionali. Il problema, quindi, non è scegliere tra autonomia e controllo, ma stabilire quanta autonomia concedere, per quali attività e con quali garanzie.

La questione richiama una riflessione filosofica molto precedente all’intelligenza artificiale. Nel 1979 Hans Jonas, nel suo libro Il principio responsabilità (Einaudi), osservava che il progresso tecnologico aveva modificato profondamente la portata dell’agire umano. Le nostre azioni potevano ormai produrre conseguenze sempre più estese, durature e difficili da prevedere. Di conseguenza, anche la responsabilità doveva assumere una dimensione nuova, capace di considerare gli effetti futuri delle scelte compiute nel presente.

Il suo ragionamento risulta particolarmente attuale: all’aumento del potere tecnologico deve corrispondere una maggiore attenzione alle conseguenze del suo impiego. Non basta domandarsi se una macchina sia capace di compiere una determinata operazione. Dobbiamo chiederci se sia opportuno consentirglielo e quali rischi siamo disposti ad accettare.

Del resto, questi rischi non sono soltanto teorici. Nel febbraio 2026 il NIST, l’istituto statunitense che si occupa di standard e tecnologie, ha avviato un’iniziativaspecificamente dedicata alla sicurezza degli agenti autonomi (https://www.nist.gov/news-events/news/2026/02/announcing-ai-agent-standards-initiative-interoperable-and-secure). Fra le questioni da affrontare figurano l’identità dei sistemi, le autorizzazioni e la protezione da possibili manipolazioni.

Il 19 ottobre u.s., Reuters ha pubblicato un’inchiesta (https://www.reuters.com/legal/government/how-one-hacker-used-ai-agents-few-thousand-dollars-break-into-scores-sites-2026-10-19/) secondo la quale un hacker, utilizzando agenti di intelligenza artificiale, sarebbe riuscito a compromettere oltre cento siti aziendali, automatizzando gran parte delle attività di attacco. L’effettiva entità dei danni e della possibile sottrazione di informazioni non è ancora completamente accertata, ma il caso mostra come la capacità di agire autonomamente possa essere sfruttata tanto per difendere i sistemi quanto per attaccarli.

Il rischio, tuttavia, non riguarda soltanto la sicurezza informatica. C’è una questione meno evidente, che investe direttamente il funzionamento delle organizzazioni: chi risponde degli errori della macchina? Quando un’impresa introduce un agente autonomo, il fornitore della tecnologia può verificarne il funzionamento tecnico. Ma chi controlla che le operazioni svolte siano corrette anche rispetto alle finalità del servizio? Un tecnico informatico può accertare che il sistema funzioni regolarmente. Non necessariamente può stabilire se una pratica amministrativa sia stata valutata correttamente, se un procedimento abbia rispettato le condizioni previste o se un servizio sanitario sia stato organizzato secondo criteri appropriati. Il rischio è che ciascuno ritenga che la responsabilità appartenga a qualcun altro: il fornitore, il responsabile informatico, il dirigente del servizio. E che, alla fine, nessuno disponga davvero di tutti gli elementi necessari per comprendere e governare ciò che la macchina ha fatto.

Viene in mente Hannah Arendt, che nelle sue riflessioni sulla burocrazia in Vita activa descriveva il paradosso del “governo di nessuno”: un sistema nel quale il potere viene esercitato attraverso apparati e procedure tanto articolati da rendere difficile individuare chi debba rispondere delle decisioni. Arendt non parlava di intelligenza artificiale, naturalmente. Ma il suo ragionamento può aiutarci a riconoscere un pericolo attuale: quello di organizzazioni nelle quali le decisioni producono conseguenze concrete mentre la responsabilità si disperde fra persone, procedure e tecnologie. Per evitarlo, non basta individuare formalmente un responsabile. Bisogna anche metterlo nelle condizioni di comprendere le attività affidate alla macchina, valutarne i risultati e intervenire efficacemente quando qualcosa non funziona.

C’è poi un’altra dimensione della responsabilità, meno evidente ma altrettanto importante: il rapporto fra le risorse consumate e il valore effettivamente prodotto. Siamo abituati a considerare l’intelligenza artificiale come uno strumento capace di far risparmiare tempo e denaro. Ma gli agenti autonomi possono richiedere risorse informatiche molto superiori a quelle necessarie per una normale interazione con un assistente digitale.

Una ricerca dello Stanford Digitasl Economy Lab (https://digitaleconomy.stanford.edu/publication/how-do-ai-agents-spend-your-money-analyzing-and-predicting-token-consumption-in-agentic-coding-tasks/)n ha rilevato che, in specifici compiti sperimentali di programmazione informatica, gli agenti possono consumare fino a mille volte più token, ossia le unità di testo elaborate dai modelli e utilizzate anche per calcolarne i costi, rispetto a interazioni più semplici. Il motivo è intuitivo: per raggiungere un obiettivo, l’agente può compiere numerosi passaggi, consultare strumenti, verificare risultati e ripetere operazioni. La scoperta più interessante dello studio è però un’altra: consumare più risorse non significa necessariamente ottenere risultati migliori. Altre ricerche recenti mostrano che una migliore organizzazione delle attività e delle informazioni può ridurre sensibilmente i consumi senza compromettere le prestazioni. Non basta quindi acquistare la tecnologia più potente. Occorre saperla utilizzare e verificare se i benefici giustifichino i costi, compresi quelli necessari per garantirne la sicurezza e il controllo.

Il ragionamento vale soprattutto per l’organizzazione del lavoro. Se l’intelligenza artificiale viene semplicemente aggiunta alle procedure esistenti, senza modificarle, il personale rischia di dover continuare a svolgere le attività precedenti e, contemporaneamente, verificare, correggere e integrare quelle eseguite dalla macchina. Il risultato paradossale può essere un aumento, anziché una riduzione, dei tempi e dei costi. Per ottenere benefici reali, l’introduzione dell’intelligenza artificiale deve accompagnarsi a una revisione dei processi di lavoro: occorre ripensare la successione delle attività, individuare quelle da automatizzare, ridefinire compiti e responsabilità, adeguare le competenze e stabilire dove e come debba intervenire il controllo umano. Anche i risultati devono essere valutati sull’intero processo organizzativo, non soltanto sul tempo apparentemente risparmiato dal singolo lavoratore.

Altrettanto pericolosa è l’illusione che l’adozione dell’IA giustifichi automaticamente una riduzione del personale. Tagliare posti di lavoro senza avere prima riprogettato i processi può significare perdere competenze, capacità di giudizio e presìdi di controllo indispensabili proprio per utilizzare efficacemente la nuova tecnologia. L’intelligenza artificiale può certamente modificare il fabbisogno di personale e la distribuzione delle mansioni, ma queste trasformazioni devono essere governate, prevedendo anche percorsi di formazione, riqualificazione professionale e reimpiego dei lavoratori nelle attività nuove o a maggiore valore aggiunto.

Qui emerge una questione che supera i confini delle singole imprese e investe direttamente la politica economica. Se l’aumento della produttività si traduce prevalentemente in riduzione dell’occupazione e dei redditi da lavoro, senza adeguate forme di redistribuzione dei benefici, rischia di indebolirsi la domanda di beni e servizi. Si può produrre di più, meglio e a costi inferiori, ma a chi vendere quella maggiore produzione se diminuisce la capacità di acquisto di una parte crescente della popolazione? Generare più valore aggiunto non basta, se i benefici si concentrano in poche mani e non alimentano anche il potere d’acquisto e il benessere collettivo.

La trasformazione introdotta dall’IA richiede dunque anche scelte politiche e sociali, capaci di accompagnare la riconversione del lavoro, favorire la partecipazione ai benefici della maggiore produttività e sostenere la domanda. L’obiettivo non può essere semplicemente produrre le stesse cose con meno lavoratori, ma utilizzare le nuove capacità tecnologiche per creare opportunità, migliorare i servizi e accrescere il benessere della società. L’IA, insomma, non è un accessorio da aggiungere agli strumenti già disponibili: è destinata a diventare una componente strutturale dell’organizzazione, capace di modificarne il funzionamento, i processi decisionali e le modalità di lavoro. Per questo, adottarla efficacemente richiede un progetto di trasformazione organizzativa, accompagnato da una visione economica e sociale delle sue conseguenze.

Ed è proprio su questo terreno che la riflessione tecnologica incontra quella filosofica e politica. Marco Filoni, insieme a Filippo Maria Giordano e Giorgio Grimaldi, ha affrontato questi temi nell’editoriale del volume “Human-Centric Approach to Artificial Intelligence”, pubblicato nel 2025 da Eurilink University Press, nell’ambito della rivista scientifica Quaderni di Comunità. Gli autori richiamano la necessità di valutare lo sviluppo dell’intelligenza artificiale non soltanto in funzione delle sue capacità tecniche, ma considerando gli effetti sulle persone, sulle comunità e sulla società. Riprendendo una riflessione di papa Francesco, contenuta nell’esortazione apostolica “Laudate Deum” del 2023, ricordano che non ogni aumento del potere tecnologico costituisce necessariamente un progresso per l’umanità. La storia mostra, infatti, come innovazioni straordinarie possano essere impiegate anche per finalità distruttive. Nell’editoriale emerge inoltre la preoccupazione per la concentrazione del potere nelle mani di pochi soggetti che controllano le conoscenze, le risorse economiche e le tecnologie necessarie per sviluppare l’intelligenza artificiale.

È un aspetto tutt’altro che secondario. Se i sistemi diventano sempre più autonomi, ma le loro modalità di funzionamento, le informazioni utilizzate e le possibilità di intervento rimangono sostanzialmente sotto il controllo di pochi operatori tecnologici, anche l’autonomia delle organizzazioni che li adottano rischia di ridursi. Chi controlla la tecnologia può infatti condizionare non soltanto gli strumenti disponibili, ma anche le possibilità concrete di scelta di chi li utilizza. L’approccio umano-centrico sostenuto da Filoni e dagli altri autori invita dunque a valutare la tecnologia in rapporto alle finalità che persegue, ai benefici che produce, alle disuguaglianze che può accentuare e alle libertà che deve contribuire a preservare.

È una prospettiva che corrisponde anche all’impostazione delle ricerche di HAL, lo Human AI Lab dell’Università LINK, diretto da Filoni e del quale faccio parte: studiare e sviluppare l’intelligenza artificiale per migliorare la condizione umana e rispondere ai bisogni collettivi. Con l’affermazione degli agenti autonomi questa impostazione acquista un significato ancora più concreto. Non basta dichiarare che la tecnologia debba essere al servizio dell’uomo. Occorre progettare sistemi e organizzazioni nei quali gli obiettivi, i limiti dell’autonomia e le responsabilità rimangano chiaramente definiti.

Questo vale per le imprese, ma assume particolare importanza nella pubblica amministrazione, nella sanità, nella giustizia e negli altri servizi di interesse collettivo, nei quali il valore dell’intelligenza artificiale non può essere misurato esclusivamente in termini di risparmio economico o di rapidità delle procedure. Un procedimento più veloce non è necessariamente migliore se produce decisioni ingiuste o difficili da contestare. Un servizio meno costoso non costituisce un progresso se diventa meno accessibile o meno affidabile.

La questione, in definitiva, riguarda il rapporto fra tecnologia e potere. Delegare significa affidare ad altri la possibilità di agire per nostro conto. Con l’intelligenza artificiale agentica cominciamo ad attribuire questa possibilità anche a sistemi artificiali capaci di scegliere autonomamente una parte del percorso necessario per raggiungere un risultato. Ma delegare un’azione non significa devolvere anche il giudizio sulla sua opportunità e la responsabilità delle sue conseguenze.

Non dobbiamo impedire alle macchine di agire. Sarebbe una rinuncia alle opportunità offerte dal progresso tecnologico. Dobbiamo però evitare che la loro crescente autonomia si traduca in una progressiva perdita della nostra capacità di comprenderne e governarne gli effetti. Perché il problema non è che le macchine comincino ad agire autonomamente. È che gli esseri umani finiscano per rinunciare a guidare e giudicare ciò che le macchine fanno.

PAOLO POLETTI