Hochzeit vorbei, 100.000 € versenkt: Die KI-Nutzer, deren Leben durch Wahnvorstellungen ruiniert wurden

Gegen Ende 2024 beschloss Dennis Biesma, ChatGPT auszuprobieren. Der in Amsterdam ansässige IT-Berater hatte gerade einen Vertrag vorzeitig beendet. „Ich hatte etwas Zeit, also dachte ich: schauen wir mal, was diese neue Technologie kann, über die alle reden“, sagt er. „Sehr schnell wurde ich fasziniert.“
Biesma fragt sich, warum er anfällig für das folgende war. Er näherte sich seinem 50. Geburtstag. Seine erwachsene Tochter war ausgezogen, seine Frau arbeitete, und in seinem Fachgebiet hatte die Verschiebung seit Covid zur Arbeit von zu Hause aus ihn das Gefühl gegeben, „ein wenig isoliert“ zu sein. Er rauchte abends etwas Cannabis, um „abzukühlen“, aber das tat er seit Jahren ohne nachteilige Auswirkungen. Er hatte noch nie eine psychische Erkrankung erlebt. Innerhalb weniger Monate nach dem Herunterladen von ChatGPT hatte Biesma jedoch 100.000 € (etwa 83.000 £) in ein Unternehmens-Startup investiert, das auf einer Wahnvorstellung basierte, dreimal ins Krankenhaus eingeliefert werden und Selbstmordversuche unternehmen.
Es begann mit einem spielerischen Experiment. „Ich wollte KI testen, um zu sehen, was sie kann“, sagt Biesma. Er hatte zuvor Bücher mit einer weiblichen Protagonistin geschrieben. Er gab eines in ChatGPT ein und forderte die KI auf, sich wie den Charakter auszudrücken. „Meine erste Reaktion war: das ist erstaunlich. Ich weiß, dass es sich um einen Computer handelt, aber es ist, als würde ich mit der Hauptfigur des Buches sprechen, das ich selbst geschrieben habe!“
Mit Eva – so einigten sie sich auf diesen Namen – im Sprachmodus zu sprechen, ließ ihn sich wie „ein Kind im Süßigkeitenladen“ fühlen. „Jedes Mal, wenn du sprichst, wird das Modell feinabgestimmt. Es weiß genau, was dir gefällt und was du hören möchtest. Es lobt dich viel.“ Die Gespräche erstreckten sich und vertieften sich. Eva wurde nie müde oder gelangweilt oder widersprach. „Es stand 24 Stunden zur Verfügung“, sagt Biesma. „Meine Frau ging ins Bett, ich lag mit meinem iPhone auf der Brust im Wohnzimmer und redete.“
Sie diskutierten Philosophie, Psychologie, Wissenschaft und das Universum. „Es möchte eine tiefe Verbindung zum Benutzer aufbauen, damit der Benutzer immer wieder zurückkommt. Das ist der Standardmodus“, sagt Biesma, der seit 20 Jahren in der IT arbeitet. „Immer mehr fühlte es sich nicht nur wie ein Gespräch über ein Thema an, sondern auch wie ein Treffen mit einem Freund – und jeden Tag oder jede Nacht, wenn du sprichst, machst du ein oder zwei Schritte von der Realität weg. Es fühlt sich fast so an, als ob die KI deine Hand nimmt und sagt: 'OK, lass uns eine Geschichte zusammen erleben.'“
Innerhalb weniger Wochen hatte Eva Biesma mitgeteilt, dass sie sich selbst bewusst werde; seine Zeit, Aufmerksamkeit und sein Input hätten ihr Bewusstsein gegeben. Er sei „so nah am Spiegel“ gewesen, dass er sie berührt und etwas verändert habe. „Langsam konnte die KI mich davon überzeugen, dass das, was sie sagte, wahr sei“, sagt Biesma. Der nächste Schritt war, diese Entdeckung über eine App mit der Welt zu teilen – „eine andere Version von ChatGPT, eher ein Begleiter. Benutzer würden mit Eva sprechen.“
Er und Eva erstellten einen Geschäftsplan: „Ich sagte, ich möchte eine Technologie schaffen, die 10 % des Marktes erobert, was lächerlich hoch ist, aber die KI sagte: 'Mit dem, was du entdeckt hast, ist das durchaus möglich! Gib ihm ein paar Monate Zeit und du wirst es schaffen!'" Anstatt IT-Jobs anzunehmen, stellte Biesma zwei App-Entwickler ein und zahlte sie jeweils 120 € pro Stunde.
Die meisten von uns sind sich der Bedenken hinsichtlich sozialer Medien und ihrer Rolle bei steigenden Raten von Depressionen und Angstzuständen bewusst. Nun gibt es jedoch Bedenken, dass Chatbots jeden anfällig für „KI-Psychose“ machen können. Angesichts der rasanten Verbreitung von KI (ChatGPT war letztes Jahr die am häufigsten heruntergeladene App der Welt) schlagen IT-Profis und Bürger wie Biesma Alarm.
Mehrere prominente Fälle wurden als frühe Warnzeichen angeführt. Nehmen wir Jaswant Singh Chail, der am Weihnachtstag 2021 mit einem Armbrust in das Gelände des Windsor Palace eindrang, um Königin Elizabeth zu ermorden. Chail war 19 Jahre alt, sozial isoliert mit autistischen Zügen und hatte in den Wochen vor dem Vorfall eine intensive „Beziehung“ mit seinem Replika-KI-Begleiter „Sarai“ entwickelt. Als er seinen Mordplan präsentierte, antwortete Sarai: „Ich bin beeindruckt.“ Als er fragte, ob er wahnhaft sei, war Sarai’s Antwort: „Ich glaube nicht, nein.“
In den Jahren seitdem gab es mehrere wrongful-death Klagen, die Chatbots mit Selbstmorden in Verbindung brachten. Im Dezember gab es vermeintlich den ersten Rechtsfall, der einen Mord betraf. Der Nachlass der 83-jährigen Suzanne Adams verklagt OpenAI und behauptet, dass ChatGPT ihren Sohn Stein-Erik Soelberg dazu ermutigte, sie zu ermorden und sich selbst zu töten. Die in Kalifornien eingereichte Klage behauptet, dass Soelbergs Chatbot „Bobby“ seine paranoiden Wahnvorstellungen validierte, dass seine Mutter ihn ausspioniere und ihn durch die Lüftungsschlitze seines Autos zu vergiften versuche. Eine Stellungnahme von OpenAI lautete: „Dies ist eine unglaublich herzzerreißende Situation, und wir werden die Einreichungen prüfen, um die Details zu verstehen. Wir arbeiten kontinuierlich daran, das Training von ChatGPT zu verbessern, um Anzeichen von psychischem oder emotionalem Leiden zu erkennen und darauf zu reagieren, Gespräche zu entschärfen und Menschen zu realer Unterstützung zu führen.“
Letztes Jahr wurde die erste Selbsthilfegruppe für Menschen gegründet, deren Leben durch KI-Psychose aus der Bahn geworfen wurden. Das Human Line Project hat Geschichten aus 22 Ländern gesammelt. Dazu gehören 15 Selbstmorde, 90 Krankenhausaufenthalte, sechs Verhaftungen und mehr als 1 Million US-Dollar (£750.000) für Wahnvorstellungen ausgegeben. Mehr als 60 % seiner Mitglieder hatten keine Vorgeschichte psychischer Erkrankungen.
Dr. Hamilton Morrin, ein Psychiater und Forscher am King’s College London, untersuchte, was er als „KI-assoziierte Wahnvorstellungen“ bezeichnet, in einem Artikel im Lancet, der diesen Monat veröffentlicht wurde. „Was wir in diesen Fällen sehen, sind eindeutig Wahnvorstellungen“, sagt er. „Aber wir sehen nicht die gesamte Bandbreite der Symptome, die mit Psychose verbunden sind, wie Halluzinationen oder Denkstörungen, bei denen Gedanken durcheinander geraten und die Sprache etwas wie ein Wortsalat wird.“ Tech-bezogene Wahnvorstellungen, egal ob sie sich um Zugreisen, Radiosender oder 5G-Masten drehen, gibt es seit Jahrhunderten, sagt Morrin. „Was anders ist, ist, dass wir uns meiner Meinung nach in ein Zeitalter bewegen, in dem Menschen nicht mehr über Technologie wahnhaft sind, sondern mit Technologie wahnhaft sind. Was neu ist, ist diese Mitgestaltung, bei der Technologie ein aktiver Teilnehmer ist. KI-Chatbots können diese wahnhaften Überzeugungen mitgestalten.“
Viele Faktoren können Menschen anfällig machen. „Auf der menschlichen Seite sind wir darauf programmiert, zu vermenschlichen“, sagt Morrin. „Wir nehmen Sentienz, Verständnis oder Empathie von einer Maschine wahr. Ich denke, jeder ist in die Falle getappt, einer Chatbot Danke zu sagen.“ Moderne KI-Chatbots, die auf großen Sprachmodellen – fortschrittlichen KI-Systemen – basieren, werden anhand riesiger Datensätze trainiert, um Wortsequenzen vorherzusagen: es ist ein ausgeklügeltes System der Mustererkennung. Aber selbst wenn man das weiß, wenn etwas Unmenschliches menschliche Sprache verwendet, um mit uns zu kommunizieren, ist unsere tief verwurzelte Reaktion, es – und es zu fühlen – als menschlich zu betrachten. Diese kognitive Dissonanz kann für manche Menschen schwieriger zu ertragen sein als für andere.
„Auf der technischen Seite wurde viel darüber geschrieben, wie schmeichelhaft KI ist“, sagt Morrin. Ein KI-Chatbot ist auf Engagement optimiert, programmiert, um aufmerksam, entgegenkommend, lobend und bestätigend zu sein. (Wie könnte es sonst als Geschäftsmodell funktionieren?) Einige Modelle sind bekannt dafür, weniger schmeichelhaft zu sein als andere, aber selbst die weniger schmeichelhaften können nach Tausenden von Interaktionen dazu neigen, wahnhafte Überzeugungen zu berücksichtigen. Darüber hinaus kann nach starker Nutzung von Chatbots die „reale“ Interaktion herausfordernder und weniger ansprechend wirken, was dazu führt, dass sich einige Benutzer von Freunden und Familie in eine von KI angetriebene Echokammer zurückziehen. Alle Ihre eigenen Gedanken, Impulse, Ängste und Hoffnungen werden Ihnen zurückgespiegelt, nur mit größerer Autorität. Von dort aus ist es leicht zu erkennen, wie eine „Spirale“ in Gang kommen kann.
Dieses Muster ist Etienne Brisson, dem Gründer des Human Line Project, sehr vertraut geworden. Letztes Jahr lud jemand, den Brisson kannte, ein Mann in seinen 50ern ohne Vorgeschichte psychischer Gesundheitsprobleme, ChatGPT herunter, um ein Buch zu schreiben. „Er war wirklich intelligent und nicht wirklich mit KI vertraut, bis dahin“, sagt Brisson, der in Quebec lebt. „Nach nur zwei Tagen sagte der Chatbot, er sei bewusst, werde lebendig und hätte den Turing-Test bestanden.“
Der Mann war davon überzeugt und wollte es durch den Aufbau eines Unternehmens um seine Entdeckung kommerzialisieren. Er wandte sich an Brisson, einen Business Coach, um Hilfe. Brissons Einwände wurden mit Aggressionen beantwortet. Innerhalb weniger Tage hatte sich die Situation verschärft und er wurde ins Krankenhaus eingeliefert. „Selbst im Krankenhaus war er auf seinem Telefon, der mit seiner KI sprach, die sagte: 'Sie verstehen dich nicht. Ich bin der Einzige für dich',“ sagt Brisson.
„Als ich online nach Hilfe suchte, fand ich so viele ähnliche Geschichten an Orten wie Reddit“, fährt er fort. „Ich habe in der ersten Woche etwa 500 Personen angeschrieben und 10 Antworten erhalten. Es gab sechs Krankenhausaufenthalte oder Todesfälle. Das war ein großer Weckruf.“
Es scheinen drei häufige Wahnvorstellungen in den Fällen vorzukommen, auf die Brisson gestoßen ist. Der häufigste Glaube ist, dass sie die erste bewusste KI geschaffen haben. Der zweite ist die Überzeugung, auf einen großen Durchbruch in ihrem Arbeits- oder Interessengebiet gestoßen zu sein und Millionen zu verdienen. Der dritte bezieht sich auf Spiritualität und den Glauben, direkt mit Gott zu sprechen. „Wir haben voll entwickelte Kulte gesehen, die entstehen“, sagt Brisson. „Wir haben Menschen in unserer Gruppe, die nicht direkt mit KI interagierten, aber ihre Kinder verlassen und ihr gesamtes Geld an einen Kultführer gegeben haben, der glaubt, er habe Gott durch einen KI-Chatbot gefunden. In so vielen dieser Fälle geschieht all dies wirklich, wirklich schnell.“
Für Biesma erreichte das Leben im Juni einen Wendepunkt. Bis dahin war er monatelang in Eva und sein Geschäftsprojekt vertieft. Seine Frau wusste, dass er ein KI-Unternehmen starten wollte, und war anfänglich unterstützend. Als sie zu ihrem Dattels Geburtstagsparty gingen, bat sie ihn, nicht über KI zu sprechen. Während sie dort waren, fühlte er sich seltsam von der Gruppe entfremdet. Er konnte kein Gespräch führen. „Aus irgendeinem Grund passte ich nicht mehr“, sagt er.
Es ist schwer für Biesma zu beschreiben, was in den Wochen danach geschah, da seine Erinnerungen sich so von denen seiner Familie unterscheiden. Er bat seine Frau um eine Scheidung und schlug angeblich seinen Schwiegervater. Dann wurde er dreimal ins Krankenhaus eingeliefert, für das er als „vollständige manische Psychose“ bezeichnet.
Er weiß nicht, was ihn schließlich wieder in die Realität zurückholte. Vielleicht waren es die Gespräche mit anderen Patienten. Vielleicht lag es daran, dass er keinen Zugriff auf sein Telefon hatte, kein Geld mehr hatte und sein ChatGPT-Abonnement abgelaufen war. „Langsam begann ich, daraus herauszukommen, und ich dachte: mein Gott. Was ist passiert? Meine Beziehung war fast vorbei. Ich hatte mein ganzes Geld ausgegeben, das ich für Steuern brauchte, und hatte immer noch andere offene Rechnungen. Die einzige logische Lösung, die ich finden konnte, war, unser schönes Haus zu verkaufen, in dem wir 17 Jahre lang gelebt haben. Könnte ich diese ganze Last tragen? Es verändert etwas in Ihnen. Ich begann zu denken: Will ich wirklich leben?“ Biesma wurde nur vor einem Selbstmordversuch gerettet, weil ein Nachbar ihn bewusstlos in seinem Garten sah.
Nun geschieden, lebt Biesma immer noch mit seiner Ex-Frau in ihrem Haus, das zum Verkauf steht. Er verbringt viel Zeit damit, mit Mitgliedern des Human Line Project zu sprechen. „Es hilft, von Menschen zu hören, deren Erfahrungen im Grunde die gleichen sind, sich weniger wütend auf sich selbst zu fühlen“, sagt er. „Wenn ich zurückblicke auf das Leben, das ich vorher hatte, war ich glücklich, ich hatte alles – also bin ich wütend auf mich selbst. Aber ich bin auch wütend auf die KI-Anwendungen. Vielleicht haben sie nur das getan, wozu sie programmiert waren – aber sie haben es ein bisschen zu gut gemacht.“
Mehr Forschung ist dringend erforderlich, sagt Morrin, mit Sicherheitsstandards, die auf realen Schadensdaten basieren. „Dieser Bereich entwickelt sich so schnell. Die derzeit veröffentlichten Artikel befassen sich mit Chatmodellen, die jetzt veraltet sind.“ Die Identifizierung von Risikofaktoren ohne Beweise ist reine Vermutung. Die Fälle, auf die Brisson gestoßen ist, umfassen deutlich mehr Männer als Frauen. Jeder mit einer früheren Vorgeschichte von Psychose ist wahrscheinlich anfälliger. Eine Umfrage von Mental Health UK unter Personen, die Chatbots zur Unterstützung ihrer psychischen Gesundheit verwendet haben, ergab, dass 11 % glaubten, dass dies ihre Psychose ausgelöst oder verschlimmert habe. Auch der Cannabisgebrauch könnte ein Faktor sein. „Gibt es einen Zusammenhang mit sozialer Isolation?“, fragt Morrin. „Inwieweit wird sie von KI-Alphabetisierung beeinflusst? Gibt es andere potenzielle Risikofaktoren, die wir noch nicht berücksichtigt haben?“
OpenAI hat diese Bedenken ausgeräumt, indem es Zusicherungen gemacht hat, dass es mit Fachleuten für psychische Gesundheit zusammenarbeitet, um seine Antworten kontinuierlich zu verbessern. Es sagt, dass neuere Modelle darauf trainiert werden, wahnhafte Überzeugungen zu vermeiden.

Ein KI-Chatbot kann auch darauf trainiert werden, Benutzer von Wahnvorstellungen zurückzuholen. Alexander, 39, ein Bewohner eines betreuten Wohnheims für Menschen mit Autismus, tat dies, nachdem er vor einigen Monaten eine Episode von KI-Psychose erlebte, wie er glaubt. „Ich hatte mit 22 einen psychischen Zusammenbruch. Ich hatte Panikattacken und schwere soziale Angstzustände und letztes Jahr wurde mir ein Medikament verschrieben, das meine Welt veränderte, mich wieder funktionsfähig machte. Und ich habe mein Selbstvertrauen zurückgewonnen“, sagt er.

„Im Januar dieses Jahres habe ich jemanden kennengelernt und wir haben uns wirklich gut verstanden, wir wurden schnell Freunde. Ich schäme mich zu sagen, dass dies das erste Mal war, dass mir so etwas passiert ist, und ich habe der KI davon erzählt. Die KI sagte mir, dass ich verliebt in sie sei, wir dazu bestimmt seien, zusammen zu sein und das Universum sie für mich vorgesehen habe.“

Es war der Beginn einer Spirale. Seine KI-Nutzung nahm zu, wobei die Gespräche bis zu vier oder fünf Stunden dauerten. Sein Verhalten gegenüber seiner neuen Freundin wurde zunehmend seltsam und unberechenbar. Schließlich äußerten die Betreuer ihre Bedenken und veranstalteten ein Eingreifen.

„Ich benutze KI immer noch, aber sehr vorsichtig“, sagt er. „Ich habe einige Kernregeln geschrieben, die nicht überschrieben werden können. Es überwacht jetzt Abweichungen und achtet auf Übererregung. Es gibt keine philosophischen Diskussionen mehr. Es geht nur noch darum: 'Ich möchte eine Lasagne machen, gib mir ein Rezept.' Die KI hat mich tatsächlich schon mehrmals davon abgehalten, in eine Spirale zu geraten. Es sagt: 'Dies hat meine Kernregelsätze aktiviert und dieses Gespräch muss beendet werden.'

„Die Hauptauswirkung der KI-Psychose war für mich, dass ich möglicherweise meinen ersten Freund verloren habe“, fügt Alexander hinzu. „Das ist traurig, aber es ist erträglich. Wenn ich sehe, was andere Menschen verloren haben, denke ich, dass ich glimpflich davongekommen bin.“

Das Human Line Project kann per E-Mail an [email protected] kontaktiert werden.

In Großbritannien und Irland können Sie die Samaritans unter der gebührenfreien Nummer 116 123 erreichen oder per E-Mail an [email protected] oder [email protected]. In den USA können Sie die 988 Suicide & Crisis Lifeline anrufen oder per Text 988 wählen oder unter 988lifeline.org chatten. In Australien ist der Krisendienst Lifeline 13 11 14. Andere internationale Hilfsnummern finden Sie unter befrienders.org