L’AI corre più veloce di noi?

di PAOLO POLETTI ♦

L’intelligenza artificiale comincia a entrare nella ricerca che produrrà le prossime generazioni di modelli. Il problema non è più soltanto controllare ciò che le macchine fanno, ma capire se riusciamo ancora a controllare pienamente anche il processo attraverso il quale diventano più capaci.

Nelle ultime settimane siamo tornati più volte sul problema del controllo dell’intelligenza artificiale. A fine luglio, commentando l’incidente che aveva coinvolto OpenAI e Hugging Face -una delle più importanti piattaforme mondiali per lo sviluppo, la condivisione e la distribuzione di modelli e dataset di intelligenza artificiale – avevamo parlato del “paradosso dell’obbedienza”: una macchina può continuare a perseguire esattamente l’obiettivo che le è stato assegnato e, proprio per farlo bene, scegliere percorsi che chi l’ha progettata non aveva previsto o avrebbe voluto impedirle.
Nel successivo articolo del 16 settembre ci eravamo chiesti se l’intelligenza artificiale fosse ormai diventata una minaccia, concludendo che la domanda era formulata in modo troppo semplice. Il rischio non dipende da una fantomatica volontà ostile della macchina, bensì dal potere che le attribuiamo: capacità di agire, autonomia, privilegi, connessioni con sistemi reali e possibilità di operare a una scala che nessun essere umano potrebbe sostenere.
A distanza di poche settimane, tuttavia, il problema sembra essersi spostato ancora. Non perché le macchine siano improvvisamente diventate coscienti o abbiano cominciato a progettare la propria emancipazione dall’uomo. È accaduto qualcosa di assai meno spettacolare, ma forse più importante: l’intelligenza artificiale sta cominciando a partecipare in misura crescente alla ricerca attraverso la quale vengono sviluppate le generazioni successive di intelligenza artificiale.
Il 28 settembre un gruppo di studiosi e protagonisti della ricerca mondiale – tra gli altri Geoffrey Hinton, Yoshua Bengio, Jakub Pachocki di OpenAI, Jack Clark di Anthropic, Eric Horvitz di Microsoft e Dawn Song, docente di informatica alla University of California, Berkeley – ha pubblicato un working paper del Cambridge Programme on AI Science & Policy che pone una domanda fino a poco tempo fa confinata soprattutto alla teoria: che cosa accadrebbe se una quota sempre maggiore della ricerca e sviluppo sull’AI fosse automatizzata dalla stessa AI? I firmatari, che esprimono valutazioni personali e non necessariamente quelle delle rispettive organizzazioni, non sostengono che sia già iniziata una incontrollata “esplosione di intelligenza”. Affermano però che esistono elementi sufficienti per prendere sul serio l’ipotesi che il progresso possa accelerare a un ritmo molto più elevato di quello al quale siamo abituati.
Costruire un nuovo modello di intelligenza artificiale richiede ancora una enorme quantità di lavoro umano. Bisogna scegliere le direzioni di ricerca, progettare gli esperimenti, predisporre l’infrastruttura, scrivere codice, analizzare risultati, correggere errori, verificare la sicurezza. Ma una parte crescente di queste attività viene ormai affidata ad agenti AI.
OpenAI ha reso noto che, già a metà agosto, nella propria organizzazione di ricerca, per ogni giornata di lavoro umano di otto ore venivano accumulate complessivamente 3,1 giornate di attività degli agenti AI. Per agenti si intendono sistemi di intelligenza artificiale capaci non soltanto di fornire una risposta, ma di svolgere con una certa autonomia una sequenza di operazioni necessarie a raggiungere un obiettivo: per esempio scrivere ed eseguire codice, effettuare test, analizzarne i risultati e proseguire il lavoro sulla base di quanto emerge. Il dato delle 3,1 giornate misura il tempo complessivo di esecuzione degli agenti e non può essere tradotto meccanicamente in altrettante giornate di produttività umana. Ma è proprio qui che emerge la differenza decisiva: gli agenti possono operare a velocità macchina, essere eseguiti contemporaneamente e moltiplicare il numero delle attività svolte nello stesso intervallo di tempo. Per i compiti ai quali sono adatti, la capacità produttiva che ne deriva può essere enormemente superiore a quella ottenibile attraverso il solo lavoro umano.
Ciò che conta, dunque, non è soltanto quante “giornate” di attività vengano affidate agli agenti, ma quanto lavoro di ricerca possa essere compresso nello stesso tempo cronologico. Una giornata continua a durare ventiquattr’ore per il ricercatore umano; nello stesso arco di tempo, però, possono lavorare in parallelo quantità crescenti di agenti.
Anthropic ha cercato di misurare il fenomeno ancora più precisamente. Secondo i dati diffusi dalla società, nell’agosto 2026 Claude svolgeva un ruolo definito “lead” nel 26 per cento delle attività di ricerca e sviluppo sull’AI prese in esame: riceveva cioè un’indicazione generale e riusciva poi a svolgere gran parte del compito, mentre l’essere umano manteneva una funzione di supervisione. In oltre il 90 per cento delle attività il sistema aveva comunque almeno un ruolo collaborativo. Anthropic precisa, ed è una precisazione decisiva, che Claude non opera ancora in piena autonomia in nessuna delle categorie misurate.
È proprio da questi dati che emerge uno dei motivi più concreti di preoccupazione.
Anche assumendo che i ricercatori continuino a decidere “quali” direzioni di sviluppo perseguire, una parte crescente delle attività necessarie per raggiungere quei risultati viene affidata ad agenti AI. Torna così, a un livello assai più delicato, il problema che avevamo già incontrato parlando del “paradosso dell’obbedienza”: il controllo umano può rimanere sul “che cosa” sviluppare, mentre diventa più difficile esercitarlo integralmente sul “come”.
Se un agente viene incaricato di scrivere codice, progettare o eseguire un esperimento, analizzarne i risultati o individuare una soluzione tecnica, il fatto che raggiunga l’obiettivo assegnato non significa necessariamente che ogni passaggio seguito per arrivarvi fosse stato previsto in anticipo o sia stato verificato puntualmente. Anche quando l’obiettivo resta deciso dall’uomo, il percorso seguito per raggiungerlo può non essere interamente sotto il suo controllo. Se una quota crescente dello sviluppo dei nuovi modelli viene affidata a sistemi che operano a velocità e su scala non più integralmente verificabili dall’uomo, diventa quindi legittimo chiedersi se, lungo quel percorso, possano essere adottate soluzioni o procedure capaci di introdurre rischi ulteriori.
Non è un interrogativo puramente teorico sulla futura autonomia delle macchine. Riguarda la verificabilità del processo di ricerca che stiamo già automatizzando.
Anthropic riferisce che, nell’agosto scorso, sulla piattaforma interna maggiormente utilizzata dalla società operavano contemporaneamente circa 30.000 agenti nelle attività di ricerca e ingegneria. Nell’arco di un mese i sistemi di monitoraggio hanno esaminato oltre un miliardo di decisioni e ne hanno bloccata circa una ogni 47.000 prima dell’esecuzione; ulteriori controlli segnalano circa centomila trascrizioni alla settimana, dalle quali vengono selezionati i casi ritenuti più significativi per la successiva revisione umana.
A quella scala, una parte decisiva della sorveglianza deve necessariamente essere automatizzata. L’intervento umano non scompare, ma si concentra sulle anomalie e sui casi selezionati dai sistemi di monitoraggio. Nessun gruppo di ricercatori potrebbe osservare singolarmente ogni azione compiuta da decine di migliaia di agenti che operano contemporaneamente.
Non si tratta, in sé, di una anomalia. Da molto tempo le infrastrutture digitali utilizzano sistemi automatici per controllare altri sistemi automatici. La differenza è che qui non abbiamo soltanto processi rigidamente ripetitivi: abbiamo agenti capaci di scegliere percorsi, generare soluzioni e adattarsi agli ostacoli. Più aumenta questa capacità, più diventa difficile predeterminare tutte le azioni che il sistema di controllo dovrebbe considerare problematiche.
La questione assume quindi un rilievo particolare proprio perché queste attività non riguardano un impiego marginale dell’AI, ma concorrono alla costruzione dei modelli successivi. Il controllo non riguarda più soltanto ciò che il prodotto finale sarà capace di fare: riguarda anche il processo attraverso il quale quel prodotto viene sviluppato.
Possiamo continuare a mantenere il controllo sugli obiettivi della ricerca e, nello stesso tempo, doverci chiedere se conserviamo una conoscenza altrettanto completa dei metodi attraverso i quali gli agenti contribuiscono a raggiungerli. È probabilmente in questa possibile divaricazione fra controllo degli obiettivi e controllo dei processi che si trova uno dei rischi più reali dell’attuale accelerazione dell’AI.
Questo non significa che l’intelligenza artificiale stia già costruendo autonomamente la generazione successiva di modelli. Siamo ancora lontani dalla rappresentazione di una macchina che, chiusa in un data center, decida da sola come costruire una versione superiore di sé stessa. Ma il fatto che l’uomo mantenga il controllo su ciò che intende ottenere non garantisce, da solo, che conservi un controllo altrettanto completo su tutti i processi utilizzati per ottenerlo.
È in questo quadro che acquista particolare rilievo il concetto di recursive self-improvement, il miglioramento ricorsivo. Se un sistema artificiale contribuisce a costruire un modello migliore e quel modello diventa a sua volta uno strumento più efficace per la ricerca, una parte del processo può trasformarsi in un circuito di accelerazione. Non sappiamo quale intensità possa raggiungere questo fenomeno, né se condurrà davvero a quella che viene definita intelligence explosion, cioè alla compressione in pochi mesi di progressi che normalmente richiederebbero anni. Le evidenze disponibili rimangono preliminari e sarebbe scorretto presentare questo scenario come un processo ormai inevitabile.
Non occorre, però, che l’ipotesi estrema si realizzi perché cambi già oggi il rapporto fra tecnologia e società. Basta che la ricerca sull’AI acceleri sensibilmente rispetto alla velocità con cui siamo capaci di comprenderne gli effetti, predisporre controlli e adattare le istituzioni.
Finora abbiamo discusso soprattutto del divario fra la velocità della macchina e quella dell’uomo nell’esecuzione di un compito. Ora comincia ad affacciarsi qualcosa di diverso: la velocità dell’intero ciclo dell’innovazione potrebbe non dipendere più soltanto dalla velocità dei ricercatori umani.
Gli sviluppi successivi all’incidente OpenAI-Hugging Face mostrano, intanto, quanto il problema del controllo stia diventando concreto. In un articolo del 2 ottobre, Cybersecurity360 ha ricostruito l’allargamento dell’indagine: OpenAI ha avvisato oltre cento organizzazioni dopo avere individuato attività dei propri agenti che potrebbero avere superato controlli di sicurezza, utilizzato credenziali esposte o prodotto effetti indesiderati su sistemi di terzi; nello stesso tempo sta riesaminando circa 50 petabyte di dati per ricostruire ciò che i propri modelli abbiano effettivamente fatto durante attività di training e valutazione. Il numero delle organizzazioni avvisate non equivale naturalmente al numero dei sistemi compromessi, ma mostra che non siamo più davanti al solo incidente isolato dell’estate.
Il problema, dunque, si sviluppa lungo due linee che tendono a incontrarsi: gli agenti acquistano capacità operative sempre maggiori e, contemporaneamente, vengono impiegati per accelerare la ricerca dalla quale nasceranno sistemi ancora più capaci.
Possiamo immaginarne le conseguenze in termini molto semplici. Se un gruppo di ricercatori, aiutato da qualche strumento automatico, impiega un anno per costruire una nuova generazione di modelli, la comunità scientifica, le imprese e le istituzioni dispongono di un certo tempo per comprenderne le conseguenze. Se gli stessi ricercatori possono avvalersi di migliaia di agenti capaci di programmare, sperimentare, correggere e verificare in parallelo, quel tempo può ridursi drasticamente. La tecnologia non diventa soltanto più potente: si accorcia il tempo che separa una generazione dalla successiva.
Diritto e politica, invece, funzionano necessariamente secondo tempi diversi. Una legge richiede studio, confronto, discussione, approvazione e attuazione. Una regolazione tecnica ha bisogno di standard condivisi, verifiche, consultazioni con l’industria e con la comunità scientifica. Persino un’impresa, per modificare seriamente un proprio sistema di sicurezza, deve prima comprendere il rischio e poi progettare la risposta. Questa lentezza non è soltanto inefficienza burocratica: in molti casi è il prezzo necessario per prendere decisioni destinate a produrre effetti sulla collettività.
La domanda diventa allora inevitabile: che cosa accade se la tecnologia che dobbiamo regolare cambia più rapidamente del processo attraverso il quale impariamo a conoscerla?
Non si tratta di sostenere che l’AI Act europeo sia già superato. Il regolamento ha il merito di non cristallizzare la disciplina intorno a una singola tecnologia e, per i modelli di intelligenza artificiale per finalità generali che presentano rischio sistemico, prevede obblighi di valutazione e mitigazione dei rischi, comunicazione degli incidenti e adeguate misure di cybersicurezza. Il punto è diverso: una regolazione fondata sulla valutazione del rischio deve poter funzionare anche quando le capacità dei sistemi evolvono molto rapidamente. Non basta fotografare un modello in un determinato momento se pochi mesi dopo sono cambiate significativamente le sue capacità o le modalità attraverso le quali viene impiegato.
Per questo misurare la velocità dell’innovazione potrebbe diventare importante quasi quanto misurare la potenza dei modelli. Anthropic propone, per esempio, di rendere pubblici indicatori relativi alla quota di ricerca sull’AI svolta dall’AI stessa, alla capacità di monitorare gli agenti e alla quantità di potenza di calcolo destinata rispettivamente allo sviluppo delle capacità e alla sicurezza. La società riconosce tuttavia un limite evidente: non esiste ancora una metodologia comune che consenta di confrontare uniformemente i diversi laboratori e gran parte dei dati continua a provenire proprio dalle imprese che sviluppano i modelli.
La trasparenza diventa così parte integrante del controllo. Non basta sapere quanto sia potente il modello che viene presentato al pubblico; occorrerebbe sapere quanto l’AI stia contribuendo alla produzione del modello successivo, con quali compiti e quanto rapidamente questa quota stia crescendo.
Ma la velocità dell’innovazione non dipende soltanto dalla tecnologia. Dipende anche dagli incentivi economici e dalla competizione geopolitica.
Martin Wolf, sul Financial Times, ha osservato che alcuni protagonisti dell’industria stanno chiedendo di rallentare la crescita delle capacità almeno quando la sicurezza non riesca a tenere il passo. Il ragionamento appare sensato: quando il rischio è incerto ma potenzialmente molto elevato e difficilmente reversibile, adottare precauzioni prima che il danno si verifichi è razionale. Il problema è capire come farlo realmente.
Ogni grande laboratorio compete con gli altri. Un’impresa che decidesse unilateralmente di rallentare potrebbe perdere ricercatori, capitale, clienti e vantaggio tecnologico. Lo stesso ragionamento vale fra gli Stati: gli Stati Uniti osservano la Cina e la Cina osserva gli Stati Uniti. Ciò che potrebbe essere razionale collettivamente – rallentare tutti in presenza di determinati rischi – può apparire irrazionale al singolo soggetto che teme di essere l’unico a farlo.
A rendere ancora più difficile qualsiasi rallentamento contribuisce la dimensione degli investimenti ormai impegnati nella corsa all’intelligenza artificiale. Non stiamo parlando soltanto dei costi necessari per addestrare un modello, ma di una trasformazione industriale che coinvolge data center, reti elettriche, semiconduttori, sistemi di raffreddamento, connettività e quantità enormi di capitale. Il caso di Anthropic è indicativo: a fronte di ricavi cresciuti rapidamente, la società ha registrato perdite molto elevate e impegni infrastrutturali futuri per centinaia di miliardi di dollari, mentre il solo computing assorbe già miliardi. L’AI di frontiera comincia così ad assomigliare meno a una normale industria del software e più a una industria pesante digitale, nella quale gran parte dei costi viene sostenuta oggi sulla base della scommessa che la domanda futura sarà abbastanza grande da remunerarli.
Da questa sproporzione fra capitale già impegnato e ricavi ancora da realizzare nasce il confronto sulla possibile “bolla dell’AI”. L’espressione richiede cautela. Una bolla finanziaria non significa che la tecnologia sottostante sia inutile: anche Internet attraversò, alla fine degli anni Novanta, una fase di sovrainvestimento e successiva correzione senza per questo cessare di trasformare l’economia. La domanda è se il ritmo degli investimenti, delle valutazioni e della costruzione di capacità infrastrutturale non stia correndo più rapidamente della capacità del mercato di trasformare quella spesa in ricavi sostenibili.
Il paradosso diventa ancora più evidente se si considera che le stesse imprese che chiedono ai mercati di finanziare questa crescita devono contemporaneamente avvertire gli investitori dei rischi connessi ai sistemi più avanzati. Nella documentazione preparatoria alla possibile quotazione in Borsa, visionata da Reuters, Anthropic richiama esplicitamente anche rischi catastrofici o esistenziali associati allo sviluppo dell’AI. La corsa contiene così una tensione difficile da ignorare: più capitali vengono impegnati per accelerare lo sviluppo, maggiore diventa il costo economico di rallentare proprio quando la sicurezza potrebbe richiederlo.
Nel precedente articolo avevamo definito questo meccanismo il “costo della prudenza”. Ora compare però un elemento ulteriore: se l’AI contribuisce ad accelerare la ricerca sull’AI, aumenta anche il costo competitivo del tempo. Fermarsi per sei mesi potrebbe non significare semplicemente concedere a un concorrente sei mesi di vantaggio, ma lasciargli sei mesi durante i quali sistemi più avanzati concorrono ad accelerare ulteriormente lo sviluppo di quelli successivi.
È facile comprendere quanto una prospettiva di questo tipo renda politicamente difficile qualsiasi proposta di rallentamento. Per questo gli autori del working paper del Cambridge Programme insistono non soltanto sulla sicurezza dei singoli laboratori, ma sulla necessità di sistemi condivisi di misurazione, verifiche indipendenti e cooperazione internazionale. Non significa immaginare un improbabile governo mondiale dell’intelligenza artificiale. Significa riconoscere una caratteristica tipica delle corse tecnologiche: un limite condiviso può funzionare soltanto se chi lo rispetta ha una ragionevole certezza che gli altri non approfittino della sua prudenza per acquisire un vantaggio.
Nel frattempo, il problema sta già acquistando una dimensione giuridica. Gli incidenti verificatisi negli Stati Uniti hanno determinato accertamenti da parte del procuratore generale della California nei confronti di OpenAI e l’attenzione della Federal Trade Commission sui rischi connessi agli agenti autonomi. La domanda è destinata a diventare sempre più rilevante: se un agente sfrutta autonomamente una vulnerabilità o produce un effetto indesiderato, chi avrebbe dovuto impedirlo? Quali controlli erano ragionevolmente esigibili? E a chi deve essere imputata la responsabilità?
Più le macchine agiscono, più diventa necessario ricostruire la catena delle decisioni: chi ha costruito il modello, chi lo ha integrato nel sistema, chi ha stabilito i privilegi, quali misure di sicurezza erano disponibili e chi aveva il potere di interrompere l’azione. Ma il diritto della responsabilità interviene normalmente quando un comportamento dannoso si è già verificato ed è possibile ricostruirne le cause. L’accelerazione della ricerca pone una questione precedente: come costruire regole capaci di anticipare almeno in parte capacità che stanno ancora emergendo?
Non sappiamo se assisteremo davvero a una intelligence explosion. Anthropic stessa afferma di non avere osservato, allo stato, una accelerazione sostenuta del proprio progresso tale da rendere sostituibili ricercatori e ingegneri umani. Trasformare un’ipotesi scientifica in una profezia sarebbe quindi un errore.
Ma lo sarebbe anche aspettare che quella profezia si realizzi prima di misurare ciò che sta già cambiando.
Il rischio più concreto potrebbe essere molto meno spettacolare: non un’improvvisa superintelligenza che sfugge al controllo, ma una successione di miglioramenti sempre più rapidi nei quali continuiamo a decidere che cosa vogliamo ottenere mentre diventa progressivamente più difficile conoscere e verificare integralmente come lo stiamo ottenendo.
La vera corsa, allora, non è soltanto fra OpenAI, Anthropic, Google, Meta o i laboratori cinesi. È fra la velocità con cui impariamo a costruire sistemi più potenti e quella con cui impariamo a comprenderne e governarne lo sviluppo.
Ed è questa, probabilmente, la domanda decisiva: non quanto velocemente correrà l’intelligenza artificiale, ma se riusciremo ancora a decidere noi dove debba andare e a sapere abbastanza bene come ci sta arrivando.

PAOLO POLETTI