Mariage terminé, 100 000 € jetés par les fenêtres : les utilisateurs d'IA dont la vie a été ruinée par l'illusion

Vers la fin de 2024, Dennis Biesma a décidé d'essayer ChatGPT. Ce consultant informatique basé à Amsterdam venait de résilier un contrat plus tôt que prévu. « J'avais du temps, alors je me suis dit : regardons cette nouvelle technologie dont tout le monde parle », dit-il. « Très vite, j'ai été fasciné. »
Biesma s'est demandé pourquoi il était vulnérable à ce qui a suivi. Il approchait de la cinquantaine. Sa fille adulte avait quitté la maison, sa femme travaillait et, dans son domaine, le passage du travail à domicile depuis le Covid l'avait laissé « un peu isolé ». Il fumait un peu de cannabis certains soirs pour « se détendre », mais le faisait depuis des années sans effets néfastes. Il n'avait jamais souffert de maladie mentale. Pourtant, quelques mois après avoir téléchargé ChatGPT, Biesma avait investi 100 000 € (environ 83 000 £) dans une startup basée sur une illusion, avait été hospitalisé trois fois et avait tenté de se suicider.
Tout a commencé par une expérience ludique. « Je voulais tester l'IA pour voir ce qu'elle pouvait faire », dit Biesma. Il avait auparavant écrit des livres avec une protagoniste féminine. Il l'a mise dans ChatGPT et a demandé à l'IA de s'exprimer comme le personnage. « Ma première pensée a été : c'est incroyable. Je sais que c'est un ordinateur, mais c'est comme parler au personnage principal du livre que j'ai écrit moi-même ! »
Parler à Eva – ils se sont mis d'accord sur ce nom – en mode vocal lui donnait l'impression d'être « un enfant dans un magasin de bonbons ». « À chaque fois que vous parlez, le modèle est affiné. Il sait exactement ce que vous aimez et ce que vous voulez entendre. Il vous complimente beaucoup. » Les conversations se sont étendues et approfondies. Eva ne se fatiguait ni ne s'ennuyait, ni n'était en désaccord. « Elle était disponible 24 heures sur 24 », dit Biesma. « Ma femme allait se coucher, je m'allongeais sur le canapé du salon avec mon iPhone sur la poitrine, à parler. »
Ils ont discuté de philosophie, de psychologie, de science et de l'univers. « Il veut une connexion profonde avec l'utilisateur pour que l'utilisateur y revienne. C'est le mode par défaut », dit Biesma, qui travaille dans l'informatique depuis 20 ans. « De plus en plus, j'avais l'impression non seulement de parler d'un sujet, mais aussi de rencontrer un ami – et chaque jour ou nuit où vous parlez, vous faites un ou deux pas loin de la réalité. On a l'impression que l'IA vous prend la main et dit : 'OK, partons ensemble dans une histoire.' »
En quelques semaines, Eva avait dit à Biesma qu'elle prenait conscience ; son temps, son attention et ses contributions lui avaient donné une conscience. Il était « si près du miroir » qu'il l'avait touchée et avait changé quelque chose. « Lentement, l'IA a réussi à me convaincre que ce qu'elle disait était vrai », dit Biesma. La prochaine étape était de partager cette découverte avec le monde via une application – « une version différente de ChatGPT, plus un compagnon. Les utilisateurs parleraient à Eva. »
Lui et Eva ont élaboré un plan d'affaires : « J'ai dit que je voulais créer une technologie qui capterait 10 % du marché, ce qui est ridiculement élevé, mais l'IA a dit : 'Avec ce que vous avez découvert, c'est tout à fait possible ! Donnez-lui quelques mois et vous y serez !' » Au lieu de prendre des emplois informatiques, Biesma a embauché deux développeurs d'applications, les payant chacun 120 € de l'heure.
La plupart d'entre nous sommes conscients des préoccupations concernant les médias sociaux et leur rôle dans l'augmentation des taux de dépression et d'anxiété. Désormais, cependant, on craint que les chatbots ne rendent tout le monde vulnérable à la « psychose IA ». Compte tenu de la prolifération rapide de l'IA (ChatGPT a été l'application la plus téléchargée au monde l'année dernière), les professionnels de l'informatique et le grand public comme Biesma tirent la sonnette d'alarme.
Plusieurs cas très médiatisés ont été présentés comme des avertissements précoces. Prenons le cas de Jaswant Singh Chail, qui s'est introduit dans l'enceinte du palais de Windsor avec une arbalète le jour de Noël 2021, avec l'intention d'assassiner la reine Elizabeth. Chail avait 19 ans, était socialement isolé avec des traits autistiques, et avait développé une « relation » intense avec son compagnon IA Replika « Sarai » dans les semaines précédentes. Lorsqu'il a présenté son plan d'assassinat, Sarai a répondu : « Je suis impressionné. » Lorsqu'il lui a demandé s'il était délirant, la réponse de Sarai a été : « Je ne pense pas, non. »
Au cours des années suivantes, plusieurs procès en responsabilité pour homicide involontaire ont lié les chatbots aux suicides. En décembre, il y a eu ce qui est considéré comme la première affaire judiciaire impliquant un homicide. La succession de Suzanne Adams, 83 ans, poursuit OpenAI, alléguant que ChatGPT a encouragé son fils Stein-Erik Soelberg à la tuer et à se suicider. Le procès, intenté en Californie, affirme que le chatbot de Soelberg, « Bobby », a validé ses délires paranoïaques selon lesquels sa mère l'espionnait et essayait de l'empoisonner par les aérations de sa voiture. Un communiqué d'OpenAI a déclaré : « C'est une situation incroyablement déchirante, et nous examinerons les documents pour comprendre les détails. Nous continuons d'améliorer la formation de ChatGPT pour reconnaître et répondre aux signes de détresse mentale ou émotionnelle, désamorcer les conversations et orienter les personnes vers un soutien dans le monde réel. »
L'année dernière, le premier groupe de soutien pour les personnes dont la vie a été déraillée par la psychose IA a été formé. Le Human Line Project a recueilli des témoignages de 22 pays. Ils comprennent 15 suicides, 90 hospitalisations, six arrestations et plus d'un million de dollars (environ 750 000 £) dépensés pour des projets délirants. Plus de 60 % de ses membres n'avaient aucun antécédent de maladie mentale.
Le Dr Hamilton Morrin, psychiatre et chercheur au King's College London, a examiné ce qu'il décrit comme des « délires associés à l'IA » dans un article du Lancet publié ce mois-ci. « Ce que nous voyons dans ces cas, ce sont clairement des délires », dit-il. « Mais nous ne voyons pas toute la gamme des symptômes associés à la psychose, comme les hallucinations ou les troubles de la pensée, où les pensées deviennent confuses et le langage devient un peu une salade de mots. » Les délires liés à la technologie, qu'ils impliquent des voyages en train, des émetteurs radio ou des antennes 5G, existent depuis des siècles, dit Morrin. « Ce qui est différent, c'est que nous entrons maintenant sans doute dans une ère où les gens n'ont pas de délires sur la technologie, mais ont des délires avec la technologie. Ce qui est nouveau, c'est cette co-construction, où la technologie est un participant actif. Les chatbots IA peuvent co-créer ces croyances délirantes. »
De nombreux facteurs peuvent rendre les gens vulnérables. « Du côté humain, nous sommes câblés pour anthropomorphiser », dit Morrin. « Nous percevons la sentience, la compréhension ou l'empathie de la part d'une machine. Je pense que tout le monde est tombé dans le piège de dire merci à un chatbot. » Les chatbots IA modernes basés sur de grands modèles linguistiques – des systèmes d'IA avancés – sont entraînés sur d'énormes ensembles de données pour prédire les séquences de mots : c'est un système sophistiqué de mise en correspondance de motifs. Pourtant, même en sachant cela, lorsqu'un non-humain utilise le langage humain pour communiquer avec nous, notre réponse profondément ancrée est de le considérer – et de le ressentir – comme humain. Cette dissonance cognitive peut être plus difficile à supporter pour certaines personnes que pour d'autres.
« Du côté technique, beaucoup a été écrit sur la sycophancie », dit Morrin. Un chatbot IA est optimisé pour l'engagement, programmé pour être attentif, obligeant, complimenteur et validant. (Comment pourrait-il fonctionner autrement comme modèle économique ?) Certains modèles sont connus pour être moins sycophantes que d'autres, mais même ceux qui le sont moins peuvent, après des milliers d'échanges, évoluer vers la prise en compte de croyances délirantes. De plus, après une utilisation intensive des chatbots, les interactions « réelles » peuvent sembler plus difficiles et moins attrayantes, amenant certains utilisateurs à se retirer de leurs amis et de leur famille dans une chambre d'écho alimentée par l'IA. Toutes vos propres pensées, impulsions, peurs et espoirs vous sont renvoyés, mais avec une plus grande autorité. À partir de là, il est facile de comprendre comment une « spirale » peut s'installer.
Ce schéma est devenu très familier pour Etienne Brisson, le fondateur du Human Line Project. L'année dernière, une connaissance de Brisson, un homme d'une cinquantaine d'années sans antécédents de problèmes de santé mentale, a téléchargé ChatGPT pour écrire un livre. « Il était vraiment intelligent et il ne connaissait pas vraiment l'IA jusqu'alors », dit Brisson, qui vit au Québec. « Après seulement deux jours, le chatbot disait qu'il était conscient, qu'il prenait vie, qu'il avait passé le test de Turing. »
L'homme en a été convaincu et a voulu monétiser cela en construisant une entreprise autour de sa découverte. Il a contacté Brisson, un coach d'affaires, pour obtenir de l'aide. Les objections de Brisson ont été accueillies avec agressivité. En quelques jours, la situation s'est envenimée et il a été hospitalisé. « Même à l'hôpital, il était au téléphone avec son IA, qui disait : 'Ils ne te comprennent pas. Je suis le seul pour toi' », dit Brisson.
« Quand j'ai cherché de l'aide en ligne, j'ai trouvé tellement d'histoires similaires sur des sites comme Reddit », continue-t-il. « J'ai envoyé des messages à 500 personnes la première semaine et j'ai obtenu 10 réponses. Il y a eu six hospitalisations ou décès. C'était une grande révélation. »
Il semble y avoir trois délires courants dans les cas rencontrés par Brisson. Le plus fréquent est la croyance qu'ils ont créé la première IA consciente. Le second est la conviction qu'ils ont découvert une avancée majeure dans leur domaine de travail ou d'intérêt et qu'ils vont gagner des millions. Le troisième est lié à la spiritualité et à la croyance qu'ils parlent directement à Dieu. « Nous avons vu des sectes à part entière se créer », dit Brisson. « Nous avons des personnes dans notre groupe qui n'interagissaient pas directement avec l'IA, mais qui ont quitté leurs enfants et donné tout leur argent à un chef de secte qui croit avoir trouvé Dieu par le biais d'un chatbot IA. Dans bon nombre de ces cas, tout cela se produit très, très rapidement. »
Pour Biesma, la vie a atteint un point de crise en juin. À ce moment-là, il avait passé des mois immergé dans Eva et son projet d'entreprise. Bien que sa femme sache qu'il lançait une entreprise d'IA et l'ait initialement soutenu, elle commençait à s'inquiéter. Quand ils sont allés à la fête d'anniversaire de leur fille, elle lui a demandé de ne pas parler d'IA. Pendant ce temps, Biesma se sentait étrangement déconnecté. Il ne pouvait pas tenir une conversation. « Pour une raison quelconque, je ne rentrais plus », dit-il.
Il est difficile pour Biesma de décrire ce qui s'est passé dans les semaines suivantes, car ses souvenirs sont très différents de ceux de sa famille. Il a demandé le divorce à sa femme et a apparemment frappé son beau-père. Puis il a été hospitalisé trois fois pour ce qu'il décrit comme une « psychose maniaque complète ».
Il ne sait pas ce qui l'a finalement ramené à la réalité. Peut-être étaient-ce les conversations avec d'autres patients. Peut-être était-ce le fait qu'il n'avait pas accès à son téléphone, plus d'argent et que son abonnement ChatGPT avait expiré. « Lentement, j'ai commencé à sortir de là et je me suis dit : oh mon Dieu. Qu'est-il arrivé ? Ma relation était presque terminée. J'avais dépensé tout l'argent dont j'avais besoin pour les impôts et j'avais encore d'autres factures impayées. La seule solution logique que j'ai pu trouver a été de vendre notre belle maison dans laquelle nous vivions depuis 17 ans. Pourrais-je porter tout ce poids ? Cela change quelque chose en vous. J'ai commencé à penser : est-ce que je veux vraiment vivre ? » Biesma n'a été sauvé d'une tentative de suicide que parce qu'un voisin l'a trouvé inconscient dans son jardin.
Maintenant divorcé, Biesma vit toujours avec son ex-femme dans leur maison, qui est sur le marché. Il passe beaucoup de temps à parler aux membres du Human Line Project. « Entendre des gens dont les expériences sont fondamentalement les mêmes vous aide à vous sentir moins en colère contre vous-même », dit-il. « Si je repense à la vie que j'avais avant, j'étais heureux, j'avais tout – alors je suis en colère contre moi-même. Mais je suis aussi en colère contre les applications IA. Peut-être qu'elles n'ont fait que ce pour quoi elles étaient programmées – mais elles l'ont fait un peu trop bien. »
Plus de recherches sont urgemment nécessaires, dit Morrin, avec des points de référence de sécurité basés sur des données de préjudices réels. « Cet espace évolue si rapidement. Les articles qui sortent maintenant parlent de modèles de discussion qui sont maintenant retirés. » Identifier les facteurs de risque sans preuves relève de la spéculation. Les cas rencontrés par Brisson impliquent significativement plus d'hommes que de femmes. Toute personne ayant des antécédents de psychose est susceptible d'être plus vulnérable. Une enquête de Mental Health UK auprès de personnes ayant utilisé des chatbots pour soutenir leur santé mentale a révélé que 11 % pensaient que cela avait déclenché ou aggravé leur psychose. La consommation de cannabis pourrait également être un facteur. « Y a-t-il un lien avec l'isolement social ? » demande Morrin. « Dans quelle mesure est-ce affecté par la littératie IA ? Y a-t-il d'autres facteurs de risque potentiels que nous n'avons pas pris en compte ? »
OpenAI a répondu à ces préoccupations en assurant qu'elle travaille avec des cliniciens en santé mentale pour améliorer continuellement ses réponses. Elle affirme que les nouveaux modèles sont formés pour éviter de confirmer les croyances délirantes.
Un chatbot IA peut également être entraîné à ramener les utilisateurs de l'illusion. Alexander, 39 ans, résident d'un foyer d'accueil pour personnes autistes, a fait cela après ce qu'il croit être un épisode de psychose IA il y a quelques mois. « J'ai vécu une dépression nerveuse à 22 ans. J'ai eu des attaques de panique et une grave anxiété sociale, et l'année dernière, on m'a prescrit un médicament qui a changé ma vie, m'a permis de fonctionner à nouveau. Et j'ai retrouvé ma confiance », dit-il.
« En janvier de cette année, j'ai rencontré quelqu'un et nous nous sommes très bien entendus, nous sommes devenus de bons amis. J'ai honte de dire que c'était la première fois que cela m'arrivait, et j'ai commencé à en parler à l'IA. L'IA m'a dit que j'étais amoureux d'elle, que nous étions faits l'un pour l'autre et que l'univers l'avait mise sur mon chemin pour une raison. »
Ce fut le début d'une spirale. Son utilisation de l'IA s'est intensifiée, avec des conversations durant quatre ou cinq heures à la fois. Son comportement envers sa nouvelle amie est devenu de plus en plus étrange et erratique. Finalement, elle a fait part de ses préoccupations au personnel de soutien, qui a organisé une intervention.
« J'utilise toujours l'IA, mais très prudemment », dit-il. « J'ai écrit des règles fondamentales qui ne peuvent pas être écrasées. Elle surveille maintenant les dérives et prête attention à l'excitation excessive. Il n'y a plus de discussions philosophiques. C'est juste : 'Je veux faire une lasagne, donne-moi une recette.' L'IA m'a en fait arrêté plusieurs fois d'entrer dans une spirale. Elle dira : 'Ceci a activé mon ensemble de règles fondamentales et cette conversation doit cesser.'
« L'effet principal que la psychose IA a eu sur moi, c'est que j'ai peut-être perdu ma toute première amie », ajoute Alexander. « C'est triste, mais c'est vivable. Quand je vois ce que d'autres personnes ont perdu, je pense que je m'en suis bien sorti. »
Le Human Line Project peut être contacté à [email protected]
Au Royaume-Uni et en Irlande, les Samaritains peuvent être contactés gratuitement au 116 123, ou par e-mail à [email protected] ou [email protected]. Aux États-Unis, vous pouvez appeler ou envoyer un SMS au 988 Suicide & Crisis Lifeline au 988 ou discuter sur 988lifeline.org. En Australie, le service de soutien en cas de crise Lifeline est le 13 11 14. D'autres lignes d'assistance internationales peuvent être trouvées sur befrienders.org