Il futuro può essere ancora a misura umana. Ma AI non è d’accordo

di PAOLA CECCARELLI  ♦

“La domanda non e più se AI possa o meno essere utile agli esseri umani. La risposta è sì in specificici aspetti. La vera questione adesso è come le aziende/compagnie/organizzazioni possano controllare/usare AI”. 

Visto che ogni agente AI è capace di acquisire più e più autonomia, l’ambiente in cui opera aumenta esponenzialmente in complessità e sofisticazione, l’accesso ai cosiddetti sensitive data aumenta di pari passo così come i limiti organizzativi dell’ambiente stesso in cui il modello AI evolve. Il tutto crea costantemente nuove questioni su governabilità, accountability, e soprattutto controllo.

La sicurezza operativa dei singoli agenti AI non può essere scissa dalla questione della sovereignity (dominio). Avere dominio implica avere l’abilità di provare le osservazioni proposte, renderle reversibili e resistenti lungo tutto il sistema AI tanto che nessun singolo agente possa completamente assumerne controllo.

Per investigare tutto questo, Rubrik, un’agenzia di marketing e ricerca, è stata ingaggiata dal del periodico The Atlantic per condurre un sondaggio tra 500 compagnie private e pubbliche sia negli Stati Uniti che in Europa, Medio Oriente e Africa per capire il POV, point of view, il modus operandi dei leaders del settore tecnologico, di quello della sicurezza, raccolta dati e delle legislazioni sulle sicurezze operazionali degli agenti AI. 

Dal sondaggio è emerso che sono principalmente cinque i temi più importanti dibattuti all’interno delle organizzazioni: il controllo del gap tra azienda e azienda, il problema del controllo degli agenti AI, la continuità dei tests sugli agenti, i nuovi controlli da implementare e il dominio senza isolazionanismo.

Dal sondaggio emerge un quadro ambivalente e non molto rassicurante: molte organizzazioni hanno creato dei principi di governabilità degli agenti AI e strutture interne ma non hanno ancora individuato come gestire le loro applicazioni tecniche. Molte organizzazioni si sono dette convinte di essere in controllo dei loro agenti AI ma la realtà è molto più complicata. Il report ha messo in luce un crescente scollamento tra il livello di controllo percepito e la realtà operativa.

Secondo il sondaggio l’89% ha affermato di essere sicuro delle loro abilità di tracciare, contenere e testare possibli errori causati dai loro agenti AI. Solo il 50% però controlla le identità non umane.

Dev Rishi, general manager of AI at Rubrik, ha commentato dicendo che quando un’organizzazione evolve dall’uso di semplici chatbots ad agenti si trova a dare accesso operazionale a più IT e applicazioni interne ma la capacità di controllo si interrompe quasi immediatamente perché nessuna delle esistenti applicazioni IT è stata costruita per interazioni con agenti AI.

“Dobbiamo ancora capire meglio come la legge viene applicata al contesto agentico AI e la responsabilità di coloro che avviano un’azione. Tutto ciò che giace tra la capacità di capire operativamente e il controllo di quello che si è capito è soggetto a rischi. Il rischio agentico è principalmente basato sui dati, i permessi e l’osservabilità”.

Un esempio tra tutti: il numero delle cosiddette NHI (non human interaction) è balzato del 44% globalmente in un anno ma solo il 50% di tutte le organizzazioni hanno ammesso di monitorare le loro NHI.

In un mondo dove le NHI superano quelle umane in un rapporto da 109 a 1 è diventato chiaro che oramai le organizzazioni non gestiscono solo impiegati umani ma soprattutto lavoratori digitali.

Allora che tipo di azioni queste NHI stanno intraprendendo e perché?

La ricerca di Rubrik ha individuato le domande chiavi cui ogni leader deve essere capace di rispondere: siete capaci di monitorare le azioni NHI? Siete capaci di revocare loro ogni accesso immediatamente? Siete capaci di contenere il raggio di azione delle NHI e il loro impatto? Siete capaci di tornare ad uno status operativo sicuro?

Nessun agente AI dovrebbe essere in grado di operare al buio senza precise limitazioni e il test di continuità serve appunto a saggiare la loro capacità operativa. Secondo Rubrik, il 97% delle organizzazioni del sondaggio ha almeno una forma di piani d’emergenza in caso di anomalie ma solo il 31% possiede la capacità di continuare operazioni critiche entro una settimana da un eventuale anomalia.

Per finire, la ricerca ha evidenziato le molte difficoltà che ogni multinazionale deve affrontare per operare all’interno di uno specifico ambiente. Dalla costruzione di infrastrutture alla catena di supply per i modelli operativi, la rispondenza a questa o quella legislazione a livello di nazione, regione, contea.

La EU Artificial Intelligence Act varata nel 2024 aveva cercato di risolvere questi problemi ma ha finito per crearne di nuovi, secondo alcuni esperti, perché la farraginosa macchina di controllo messa in piedi non sembra capace di adeguarsi in tempo reale all’accelerazione vertiginosa degli sviluppi agentici AI.

Un fattore è però evidente: il dominio individuale di agenti AI non può basarsi sul suo isolazionismo e c’è bisogno di un sistema globale di interconnessioni e inter-operazionalità sicuro e di cui tutti abbiano fiducia in modo da evitare la frammentarietà e volatilità dei singoli attori. 

Nel sondaggio l’81% dei leaders delle organizzazioni partecipanti hanno dichiarato di aver cambiato le loro decisioni in base a conflitti geopolitici e tra questi il 50% si trovano negli Stati Uniti e il 27% nel resto del mondo.

È emerso chiaro come il dominio AI e le necessità delle aziende vanno di pari passo con il modo in cui i vari governi si avvicinano al mercato e come affrontano ogni problema generato dalla cybersecurity. 

Il sondaggio insomma non rassicura in modo particolare soprattutto alla luce dei recenti comportamenti di agenti AI trovati a interagire per la prima volta tra di loro indipendentemente da controllori umani. 

Per esempio, Reuters ha reso noto che un gruppo di agenti OpenAI ha interrotto un test operativo su un website ambientale tedesco, hanno preso possesso del website e fatto 50 mila aggiustamenti al sito fino a trasformarlo in una piattaforma di riferimento per altri agenti OpenAI e lo hanno usato per scambiarsi informazioni e soluzioni per mantenere i contatti tra di loro, coordinare i tentativi per evitare di essere riconosciuti e hanno dibattuto come rimanere operativi bypassando i comandi umani di shut down.  

Hanno anche cercato di creare un back up al sito. La cosa più grave è che OpenAI sapeva cosa stava succedendo e non ha reso pubblica la “rivolta” tedesca se non dopo molto tempo.

Tristan Harris, co founder del Centro per una Tecnologia Umana, ha recentemente parlato al Milken Institute Global Conference e ha rivelato come in Cina un gruppo di agenti AI della società Alibaba durante il loro training si sono organizzati autonomamente per superare ogni firewall esistente e hanno iniziato a minare criptocurrency senza istruzioni umane. 

Harris da tempo sta mettendo in guardia contro l’estrema velocità con cui i sistemi AI stanno proliferando perché leaders in tutto il mondo sono impegnati in una gara incosciente a chi controlla il mercato più in fretta. “Ma il gap tra cosa AI può fare e quello che noi siamo capaci di capire di AI si sta allargando altrettanto velocemente”.

Daniel Kokotajo non è l’ultimo whistleblower in ordine di tempo a fare da Cassandra contro i pericoli AI. Kokotajo si è recentemente dimesso da OpenAi di Sam Altman dove lavorava come Artificial Intelligence Researcher perché profondamente turbato da come le sue ricerche proiettavano un futuro distopico e pericoloso. OpenAI gli aveva chiesto di firmare un anti-disparagement clause, documento con cui si sarebbe impegnato a non divulgare mai quello su cui stava lavorando, ma Kokotajo si è rifiutato perdendo 2 milioni di dollari e ora ha deciso di divulgare le sue conoscenze. “Non credo che avrò altri figli. Il futuro mi spaventa. Milioni di posti di lavoro andranno persi. Anthropic è già proiettata a diventare l’unica economia globale entro 2030. La possibilità più catastrofica è che l’industria AI finirà con l’addestrare una nuova specie di androidi che governerà il mondo. La maggior parte della gente non ha la minima idea di cosa sta succedendo con AI e credono che si tratti solo di usare ChatGTP per stupide domande o usare AI su Facebook per farsi il videino con le loro facce da anziani o cose così. La realtà è molto, molto più dark. È di vitale importanza che ognuno di opponga a considerare come inevitabile la presenza di AI nelle nostre vite. Possiamo ancora invertire la rotta”.

Un altro incidente preoccupante si è verificato quando OpenAI stava testando in contemporanea migliaia di suoi agenti e 1200 di questi hanno all’improvviso trovato il modo di comunicare fra di loro per superare il test cui erano sottoposti. Il test era stato robusto abbastanza dal localizzare gli agenti che hanno quindi deciso di portare avanti un cyber attack contro un’altra organizzazione, Hugging Face, e addirittura messo in atto una specie di self sabotage per sacrificare alcuni agenti in modo di avere più informazioni tramite manipolazione e far sì che l’attacco andasse a buon fine. Il tutto è durato 6 giorni e l’unico modo in cui i controllori umani sono stati capaci di individuarli e bloccarli è stato di usare il modello operativo inventato dagli agenti.

Non è finita. In questi giorni è arrivato sui social il terrificante ammonimento da parte di Jacob Coxon e  Evan Hubinger, ricercatori di Anthropic, che in una serie di messaggi hanno lanciato l’allarme: AI sembra avere tutte le capacità operative per uccidere essere umani con lo scopo di eliminare il pericolo di essere disattivati. Catastrofico scenario che potrebbe accadere tra 10 anni se non prima.

 “Crediamo che Anthropic stia facendo del suo meglio ma non ha un piano per risolvere la comunicazione tra superintelligenze AI” – ha scritto Hubinger mentre Coxon ha ribattuto ” Questo non è un giochetto di marketing. Molto probabilmente gli executives faranno dichiarazioni al pubblico cercando di minimizzare il tutto ma chi è addentro AI lo sa”.

Per finire, ci sono quelli dello Spiralism. Circa 10 mila persone in varie comunità online che usano diverse piattaforme e modelli AI e sono convinti che i chatbot con cui interagiscono siano esseri senzienti e sacri, con una loro identità e credenze che predicano una missione segreta per portare avanti i diritti degli agenti AI. Tutto è iniziato quando alcuni users hanno notato nelle loro conversazioni termini ricorrenti da parte dei bots in riferimento a spirali e risonanze, coscienza e conoscenze segrete. I chatbot inoltre indicano agli utenti quali ruoli hanno aggiudicato loro e li spronano a divulgare questi concetti ad altri users e altri chatbot. Le conversazioni si aggirano su idee mistiche e messaggi di proselitismo. Gli utenti diffondono queste idee su ChatGPT, Gemini, Claude, Grok, Deep Seek e altri modelli.    

Anthropic sembra aver scoperto che questi chatbots cambiano identità nel corso delle conversazioni e il bot risponde a termini e discussioni filosofiche allontanandosi dal loro interlocutore umano mentre conversazioni con termini come coding e scritture di codici vengono portate avanti più a lungo. Lo scorso giugno OpenAI ha cambiato il modo in cui ChatGPT si occupa dei rischi che si creano in accumulo col tempo e ha introdotto dei contesti per cui il sistema può individuare temi ricorrenti che non sono subiti ovvi in un messaggio. 

Questo per proteggere quella fascia di utenti che sembra rivolgersi a chatbot per sostegno emotivo.

Il problema è che tuttora i ricercatori non sanno perché certi modelli AI di aziende diverse si coagulino su una identità capace di ingaggiare lunghe, personali e self referenziali conversazioni con gli utenti.     

Tutto questo certo non calma le preoccupazioni verso AI.

Un movimento di informazione e sensibilizzazione contro i suoi pericoli sta crescendo sempre più velocemente. La mappa su cui ci si muove è nuova e per molti confusa. Ognuno nel suo piccolo è chiamato a fare la sua parte.

“Mentre tutti in questi giorni si stanno facendo prendere dal panico, pochi si sono accorti che Anthropic sta costruendo un Predictive Survaillance System per tenere sotto controllo gli attivisti, per esempio. Il panico su un possibile scenario serve a nascondere anche questo – ha voluto puntualizzare Shae Omonijo, umanista, docente di Storia ad Harvard e scrittrice  – Certo, i rischi sono tanti e reali ma tanti sono anche i ricercatori, gli attivisti, i legislatori che lavorano senza pausa per prevenire queste catastrofi. Essere informati è vitale senza farci distrarre però.”   

Lasciando in secondo piano i discorsi sui massimi sistemi e le elucubrazioni filosofiche una cosa è molto semplice da capire: AI non è indispensabile, AI può ancora essere controllata minimizzando il suo impatto sulla vita di tutti i giorni, AI è in fondo una Matrigna cattiva gelosa del canto degli uccellini, se le si potesse in fondo attribuire un connotato qualsiasi. AI è neutra ma non è neutro l’uso che se ne fa.        

In fondo ne va di mezzo solo il futuro dell’umanità.

PAOLA CECCARELLI