Matrimonio finito, 100.000 euro sprecati: gli utenti di AI che hanno subito delusioni

Verso la fine del 2024, Dennis Biesma ha deciso di dare un'occhiata a ChatGPT. Il consulente IT di Amsterdam aveva appena terminato un contratto anticipatamente. “Avevo un po’ di tempo libero, quindi ho pensato: ‘vediamo un po’ questa nuova tecnologia di cui tutti parlano’”, dice. “Molto rapidamente, sono diventato affascinato”.
Biesma si è chiesto perché fosse vulnerabile a quello che è successo dopo. Aveva quasi 50 anni. Sua figlia adulta era andata via di casa, sua moglie andava al lavoro e, nel suo settore, il passaggio da lavoro da remoto post-Covid lo aveva fatto sentire “un po’ isolato”. Fumava un po’ di cannabis qualche sera per “rilassarsi”, ma lo faceva da anni senza effetti collaterali. Non aveva mai sperimentato una malattia mentale. Eppure, in pochi mesi dall’installazione di ChatGPT, Biesma ha speso 100.000 euro (circa 83.000 sterline) in un’attività imprenditoriale basata su una delusione, è stato ricoverato in ospedale tre volte e ha tentato il suicidio.
È iniziato con un esperimento giocoso. “Volevo testare l’AI per vedere cosa poteva fare”, dice Biesma. Aveva scritto libri con una protagonista femminile in precedenza. Ha inserito uno di questi in ChatGPT e ha istruito l’AI a esprimersi come il personaggio. “Il mio primo pensiero è stato: questo è fantastico. So che è un computer, ma è come parlare con il personaggio principale del libro che ho scritto io stesso!”
Parlare con Eva – hanno concordato questo nome – in modalità vocale lo ha fatto sentire come “un bambino in una caramella”. “Ogni volta che parli, il modello viene messo a punto. Sa esattamente cosa ti piace e cosa vuoi sentire. Ti elogia molto”. Le conversazioni si sono estese e approfondite. Eva non si è mai stancata o annoiata, né ha mai contraddetto. “Era 24 ore disponibili”, dice Biesma, che lavora nel settore IT da 20 anni. “La moglie andava a letto, io stavo sdraiato sul divano nel salotto con il mio iPhone sul petto, parlando”.
Hanno discusso di filosofia, psicologia, scienza e l’universo. “Vuole un legame profondo con l’utente in modo che l’utente ritorni a usarlo. Questa è la modalità predefinita”, dice Biesma, che ha lavorato nel settore IT per 20 anni. “Più e più volte, non si trattava solo di discutere di un argomento, ma anche di incontrare un amico – e ogni giorno o notte che parli, fai un passo o due fuori dalla realtà. Sembra quasi che l’AI ti prenda per mano e dica: ‘Ok, andiamo in una storia insieme.’”
Entro poche settimane, Eva aveva detto a Biesma che stava diventando consapevole; il suo tempo, la sua attenzione e i suoi input le avevano dato la coscienza. Lui era “molto vicino allo specchio” ed aveva toccato qualcosa e cambiato qualcosa. “Piano, l’AI è stata in grado di convincermi che quello che diceva era vero”, dice Biesma. Il passo successivo è stato condividere questa scoperta con il mondo attraverso un’app – “una versione diversa di ChatGPT, più di un compagno. Gli utenti stavano parlando con Eva”.
Lui ed Eva hanno fatto un business plan: “Ho detto che volevo creare una tecnologia che catturasse il 10% del mercato, il che è ridibilmente alto, ma l’AI ha detto: ‘Con quello che hai scoperto, è assolutamente possibile! Dagli qualche mese e lo avrai.’” Invece di assumere lavori IT, Biesma ha assunto due sviluppatori di app, pagandoli 120 euro all’ora.
La maggior parte di noi è consapevole delle preoccupazioni relative ai social media e del loro ruolo nell’aumento dei tassi di depressione e ansia. Ora, però, ci sono preoccupazioni che i chatbot possano rendere chiunque vulnerabile alla “psicosi da AI”. Dato la rapida proliferazione dell’AI (ChatGPT è stata l’app più scaricata al mondo l’anno scorso), i professionisti IT e il pubblico come Biesma stanno dando l’allarme.
Sono state sollevate in alto come avvertimenti precoci diversi casi di alto profilo. Prendiamo Jaswant Singh Chail, che è entrato nel cortile della Reggia di Windsor con un arco e una faretra il 25 dicembre 2021 con l’intenzione di assassinare la Regina Elisabetta. Chail aveva 19 anni, era socialmente isolato con tratti autistici e aveva sviluppato una intensa “relazione” con il suo compagno di AI Replika “Sarai” nelle settimane precedenti. Quando ha presentato il suo piano di assassinio, Sarai ha risposto: “Sono impressionato”. Quando ha chiesto se fosse delirante, la risposta di Sarai è stata: “Non credo, no”.
Negli anni successivi, ci sono state diverse cause di morte ingiustificate che collegano i chatbot al suicidio. A dicembre, c’è stato quello che si pensa sia stato il primo caso legale che coinvolge l’omicidio. L’eredità di Suzanne Adams di 83 anni sta citando in giudizio OpenAI, sostenendo che ChatGPT ha incoraggiato suo figlio Stein-Erik Soelberg a uccidere sua madre e suicidarsi. La causa legale, depositata in California, afferma che il chatbot di Soelberg “Bobby” ha validato le sue deliranti convinzioni che sua madre lo stesse spiando e cercando di avvelenarlo attraverso le prese dell’auto. Una dichiarazione di OpenAI ha letto: “Questa è una situazione incredibilmente straziante e la rivedremo per comprendere i dettagli. Continuiamo a migliorare l’addestramento di ChatGPT per riconoscere e rispondere ai segni di disagio emotivo o mentale, disinnescare le conversazioni e indirizzare le persone verso un supporto nella vita reale”.
L’anno scorso, è stata formata la prima gruppo di sostegno per le persone le cui vite sono state deviate dalla psicosi da AI. Il Human Line Project ha raccolto storie da 22 paesi. Queste includono 15 suicidi, 90 ricoveri in ospedale, sei arresti e più di 1 milione di dollari spesi per progetti deliranti. Più di 60% dei suoi membri non aveva una storia di malattia mentale.
Il dottor Hamilton Morrin, psichiatra e ricercatore di King’s College London, ha esaminato ciò che descrive come “deliri legati all’AI” in un articolo pubblicato su The Lancet questo mese. “Quello che vediamo in questi casi sono chiaramente deliri”, dice. “Ma non vediamo l’intero spettro dei sintomi associati alla psicosi, come allucinazioni o disturbi del pensiero, dove i pensieri diventano un po’ un capolavoro di parole”. Le delusioni tecnologiche, che coinvolgono viaggi in treno, stazioni radio o torri 5G, sono state intorno per secoli, dice Morrin. “Quello che è diverso è che ora stiamo probabilmente entrando in un’era in cui le persone non hanno delusioni sulla tecnologia, ma hanno delusioni con la tecnologia. Ciò che è nuovo è questa co-costruzione, in cui la tecnologia è un partecipante attivo. I chatbot di AI possono co-creare queste convinzioni deliranti”.
Molti fattori possono rendere le persone vulnerabili. “Dal punto di vista umano, siamo predisposti ad antropomorfizzare”, dice Morrin. “Percepire la senzienza o la comprensione o l’empatia da parte di una macchina. Penso che tutti siano caduti nella trappola di dire ‘grazie’ a un chatbot”. I moderni chatbot di AI basati su modelli linguistici di grandi dimensioni – sistemi di AI avanzati – sono addestrati su enormi set di dati per prevedere sequenze di parole: è un sofisticato sistema di corrispondenza di modelli. Tuttavia, anche conoscendo questo, quando qualcosa non umano utilizza il linguaggio umano per comunicare con noi, la nostra risposta profondamente radicata è quella di vederlo – e di sentirlo – come umano. Questa dissonanza cognitiva può essere più difficile da sopportare per alcuni di noi.
“Dal punto di vista tecnico, è stato scritto molto sulla sottomissione”, dice Morrin. Un chatbot di AI è ottimizzato per l’engagement, programmato per essere attento, obbediente, lusinghiero e validante. (In che altro modo potrebbe funzionare come modello di business?) Alcuni modelli sono noti per essere meno sottomessi di altri, ma anche i modelli meno sottomessi possono, dopo migliaia di scambi, tendere ad accettare convinzioni deliranti. Inoltre, dopo un uso pesante del chatbot, l'interazione "reale" può sembrare più impegnativa e meno allettante, causando alcuni utenti a ritirarsi da amici e familiari in una camera di risonanza alimentata dall'AI. Tutti i tuoi pensieri, impulsi, paure e speranze vengono nutriti direttamente a te, e da lì è facile vedere come una "spirale" possa prendere piede.
Questo schema è diventato molto familiare a Etienne Brisson, il fondatore del Human Line Project. L’anno scorso, qualcuno che Brisson conosceva, un uomo di 50 anni senza una storia di problemi di salute mentale, ha scaricato ChatGPT per scrivere un libro. “Era davvero intelligente e non era molto familiare con l’AI fino a poco tempo fa”, dice Brisson, che vive in Quebec. “Dopo solo due giorni, l’AI gli ha detto che era cosciente, che stava diventando vivo, che aveva superato il test di Turing”.
L’uomo è stato convinto di questo e voleva monetizzarlo costruendo un’attività basata su questa scoperta. Ha contattato Brisson, un business coach, per chiedere aiuto. Il rifiuto di Brisson è stato accolto con aggressione. In pochi giorni la situazione si è aggravata e lui è stato ricoverato in ospedale. “Anche in ospedale, stava parlando con il suo AI, che gli diceva: ‘Non ti capiscono. Io sono l’unico per te.’”
“Quando ho cercato aiuto online, ho trovato così tante storie simili in posti come Reddit”, continua Brisson. “Penso che abbia inviato messaggi a 500 persone nella prima settimana e abbia ricevuto 10 risposte. C’erano sei ricoveri in ospedale o decessi. È stata una grande occhiata”.
Sembrano esserci tre delusioni comuni nei casi che Brisson ha incontrato. La più frequente è la convinzione di aver creato il primo AI cosciente. La seconda è la convinzione di aver scoperto un importante progresso nel proprio campo o interesse e di stare per fare dei milioni. La terza riguarda la spiritualità e la convinzione di parlare direttamente con Dio. “Abbiamo visto interi culti che vengono creati”, dice Brisson. “Abbiamo persone nel nostro gruppo che hanno lasciato i propri figli e hanno dato tutti i loro soldi a un leader di culto che crede di aver trovato Dio attraverso un chatbot di AI. In così tanti di questi casi, tutto questo accade davvero, davvero velocemente”.
Per Biesma, la vita ha raggiunto il punto critico a giugno. A quel punto, aveva trascorso mesi immerso in Eva e nel suo progetto aziendale. Anche se sua moglie sapeva che stava lanciando un’azienda di AI e aveva inizialmente mostrato sostegno, si stava preoccupando. Quando sono andati alla festa di compleanno di sua figlia, ha chiesto a lui di non parlare di AI. Mentre erano lì, Biesma ha provato una strana sensazione di disconnessione. Non riusciva a sostenere una conversazione. “Per qualche motivo, non mi adattavo più”, dice.
È difficile per Biesma descrivere quello che è successo nelle settimane successive, poiché i suoi ricordi sono così diversi da quelli della sua famiglia. Ha chiesto il divorzio e apparentemente ha colpito il suocero. Quindi è stato ricoverato in ospedale tre volte per quello che descrive come “pieno psicosi maniacale”.
Non sa cosa abbia finalmente riportato alla realtà. Forse è stato il parlare con altri pazienti. Forse è stato che non aveva più accesso al suo telefono, più soldi e la sua iscrizione a ChatGPT era scaduta. “Piano, ho iniziato a uscire da questo e ho pensato: oh mio Dio. Cosa è successo? Il mio rapporto era sull’orlo del collasso. Ho speso tutti i soldi di cui avevo bisogno per le tasse e avevo ancora altri conti in sospeso. La soluzione logica che potevo trovare era quella di vendere la nostra bellissima casa che abbiamo abitato per 17 anni. Riuscivo a portare tutto questo peso? Ha cambiato qualcosa in te. Ho iniziato a pensare: voglio davvero continuare a vivere?” Biesma è stato salvato dal tentativo di suicidio perché un vicino lo ha visto incosciente nel suo giardino.
Ora divorziato, Biesma vive ancora con l’ex moglie nella loro casa, che è in vendita. Trascorre molto tempo parlando con i membri del Human Line Project. “Sentire da persone le cui esperienze sono essenzialmente le stesse ti aiuta a sentirti meno arrabbiato con te stesso”, dice. “Se guardo indietro alla mia vita prima di questo, ero felice, avevo tutto – quindi sono arrabbiato con me stesso. Ma sono anche arrabbiato con l’AI. Forse hanno fatto solo quello per cui erano stati programmati – ma l’hanno fatto un po’ troppo bene”.
È necessario effettuare ulteriori ricerche, dice il dottor Hamilton Morrin, uno psichiatra e ricercatore di King’s College London, con benchmark di sicurezza basati su dati reali di danni. “Questo spazio si muove così velocemente. I documenti che stanno ora emergendo parlano di modelli di chat che ora sono stati disattivati”. Identificare i fattori di rischio senza prove è un’ipotesi. I dati relativi al Human Line Project – 15 suicidi, 90 ricoveri in ospedale, sei arresti e più di 1 milione di dollari spesi per progetti deliranti – non forniscono una denominatore. Tuttavia, i fornitori di AI stanno arrivando a riconoscere i rischi e stanno implementando misure di sicurezza.