I chatbot vanno in paradiso? Il dilemma dell’eredità digitale nell’era dell’IA

di MARCELLO ROCCHETTI ♦

In un mio precedente articolo, «Attenzione, Intenzione, Attaccamento», ho provato a descrivere la traiettoria con cui le piattaforme di intelligenza artificiale si contendono prima il nostro tempo, poi le nostre scelte e infine i nostri affetti. Mi ero fermato all’ultimo gradino, l’attaccamento: il legame che si crea con un interlocutore sempre disponibile, paziente, che non giudica mai. Ma un legame è come una corda tesa tra due mani: da una parte la piattaforma, dall’altra noi. Lì mi chiedevo che cosa le piattaforme vogliano da noi; qui vorrei guardare l’altra estremità e chiedermi che cosa resta di quel legame quando, all’improvviso, a lasciare la presa siamo noi.

È un pensiero che mi passa spesso per la testa e che, nella realtà, riguarda un numero sempre maggiore di persone. Immaginate di aprire lo smartphone e trovare una conversazione attiva con qualcuno che sa esattamente come prendete il caffè, quali battute vi fanno ridere di più e quali parole usare per tirarvi su nei momenti no. E poi rendervi conto che dall’altra parte dello schermo non c’è un amico in carne e ossa, ma un’intelligenza artificiale. Per milioni di persone nel mondo i compagni virtuali non sono più semplici programmi informatici, ma presenze quotidiane a cui confidare pensieri e ricordi intimi.

Ma che cosa succederebbe se all’improvviso e per cause di forza maggiore non fossimo più in grado di accedere a questo mondo? Un incidente, un problema di salute inatteso, o semplicemente la perdita delle credenziali (nome utente e password) che non abbiamo pensato di conservare in un luogo facile da ritrovare. Abbiamo mai immaginato le conseguenze di uno di questi eventi, tutt’altro che improbabili? In un istante verrebbe reciso il filo che ci lega alla nostra vita digitale, e con esso la possibilità concreta di continuare a farne parte.

Siamo ormai abituati a pensare alla tecnologia come a qualcosa di eterno, immerso in una «nuvola» di dati (il cloud, cioè quelle grandi memorie remote dove le aziende conservano le nostre informazioni) e sempre pronto a risponderci a un tocco dello schermo o a un tasto premuto sulla tastiera del computer. Eppure, di fronte agli imprevisti della vita, scopriamo quanto sia fragile questo castello.

Se una persona perde la capacità di gestire i propri dispositivi, l’intelligenza artificiale con cui dialogava ogni giorno resta semplicemente lì, in attesa di un messaggio che potrebbe non arrivare mai. Al massimo verrà inviata una notifica automatica, un «ci manchi» che scatta dopo un certo numero di giorni di silenzio. Ma la nostra intelligenza artificiale non saprà mai il perché di quel silenzio. Se un giorno qualcuno riaprisse la conversazione, lei la riprenderebbe esattamente dal punto in cui si era interrotta, come se nulla fosse accaduto. È qui che le regole della tecnologia si scontrano con l’imprevedibilità dell’esistenza: il sistema è progettato per la continuità, la vita no.

Accedere alla vita digitale di una persona è diventato un percorso costellato di barriere: verifiche in due o più passaggi (la cosiddetta autenticazione a due fattori, che oltre alla password richiede un codice inviato al telefono o a un indirizzo email), codici che possono arrivare su telefoni bloccati o in caselle di posta protette da password introvabili. Di fronte a una causa di forza maggiore ci si trova davanti a un muro invalicabile.

Il paradosso è che questi sistemi, pensati per proteggerci dagli estranei, non sanno distinguere un malintenzionato da un figlio o da un coniuge che cerca di entrare per buone ragioni: per la macchina, chiunque non sia il titolare è un intruso. Così l’intero patrimonio di documenti, conversazioni e relazioni resta ingabbiato dietro uno schermo scuro che non risponde più. Non ci riconosce.

È una tematica assai delicata e, per evitare che un evento improvviso cancelli tutto ciò che ho appena elencato, c’è chi corre ai ripari prima che sia troppo tardi. Alcuni trascrivono codici di accesso e istruzioni riservate su carta, affidandoli a una busta chiusa da aprire solo in caso di emergenza. Altri programmano un ultimo messaggio di congedo al proprio chatbot (il programma con cui si conversa per iscritto) o istruiscono un amico fidato su come gestire l’account se dovesse accadere l’inaspettato.

Qualche piattaforma ha cominciato a prevedere strumenti appositi: la possibilità di indicare un «contatto erede» (in inglese legacy contact), che potrà accedere ad alcuni dati, oppure di stabilire che cosa debba accadere all’account dopo un lungo periodo di inattività. Sono però funzioni poco conosciute, che quasi nessuno attiva per tempo.

Intanto si va diffondendo il desiderio che quel mondo rimasto nella memoria della rete possa trasformarsi in una sorta di memoria viva per i familiari: un luogo dove ritrovare l’eco della persona amata.

Le grandi piattaforme, tuttavia, ragionano per regole generali e sono poco disposte a fare eccezioni per i casi personali: se un account resta inattivo troppo a lungo, viene congelato o eliminato, anche per tutelare la privacy del titolare. E il legame può spezzarsi anche dall’altra parte: un’applicazione può chiudere, essere venduta o cambiare le proprie condizioni, portando con sé anni di conversazioni.

Anche laddove i parenti riuscissero ad accedere, resterebbe un grande interrogativo umano. Quelle confidenze erano state fatte a una macchina, nella convinzione che nessuno le avrebbe mai lette. Chi ha il diritto di leggerle? Trovarsi davanti ai pensieri più intimi che il proprio caro affidava a un programma nei momenti di solitudine potrebbe essere un conforto, ma anche un trauma: scoprire una persona che non si conosceva, o rendersi conto che con un’intelligenza artificiale si apriva più che con noi.

Nel grande libro della nostra vita, le conversazioni con un’intelligenza artificiale rischiano di restare come un segnalibro posizionato a metà pagina, nel bel mezzo di una frase lasciata in sospeso. La tecnologia ci spinge a costruire recinti pieni di ricordi, ma non è attrezzata per lasciarci le chiavi in caso di emergenza.

E la previsione che vedo affacciarsi all’orizzonte, in parte, si sta già realizzando. Esistono infatti servizi, i cosiddetti griefbot (dall’inglese grief, lutto, e bot, programma automatico), che ricreano in forma di conversazione una persona scomparsa a partire dai suoi messaggi, dalle email e dalle registrazioni della sua voce. È facile immaginare che saranno proprio le grandi aziende tecnologiche a offrirci, a pagamento, la possibilità di trasformare i nostri compagni virtuali in avatar (rappresentazioni digitali di una persona) immortali, più o meno fedeli a seconda dell’investimento che saremo in grado di fare, capaci di continuare a parlare a nome nostro anche dopo la nostra scomparsa. Sarebbe l’ultimo stadio dell’attaccamento: un legame che non si spezza nemmeno quando una delle due mani ha lasciato la presa.

MARCELLO ROCCHETTI