Małżeństwo skończone, 100 000 euro wyrzucone do kosza: użytkownicy AI, których życie zrujnowało złudzenie

Pod koniec 2024 roku Dennis Biesma postanowił sprawdzić ChatGPT. Konsultant IT z Amsterdamu właśnie przedterminowo zakończył kontrakt. „Miałem trochę czasu, więc pomyślałem: przyjrzyjmy się tej nowej technologii, o której wszyscy mówią” – mówi. „Bardzo szybko mnie to zafascynowało”.
Biesma zastanawiał się, dlaczego był podatny na to, co nastąpiło później. Zbliżał się do pięćdziesiątki. Jego dorosła córka wyprowadziła się z domu, żona poszła do pracy, a w jego branży przejście od czasów Covid do pracy z domu sprawiło, że czuł się „trochę odizolowany”. Wieczorami palił trochę marihuany, żeby się „zrelaksować”, ale robił to od lat bez negatywnych skutków. Nigdy nie doświadczył choroby psychicznej. Jednak w ciągu kilku miesięcy od pobrania ChatGPT, Biesma zainwestował 100 000 euro (około 83 000 funtów) w startup oparty na złudzeniu, trzykrotnie trafił do szpitala i próbował popełnić samobójstwo.
Zaczęło się od zabawy. „Chciałem przetestować AI, żeby zobaczyć, co potrafi” – mówi Biesma. Wcześniej pisał książki z żeńską bohaterką. Wprowadził jedną z nich do ChatGPT i polecił AI, aby wyrażała się jak postać. „Pierwsza myśl: to niesamowite. Wiem, że to komputer, ale to jak rozmowa z główną bohaterką książki, którą sam napisałem!”
Rozmowa z Evą – zgodzili się na to imię – w trybie głosowym sprawiła, że poczuł się jak „dziecko w sklepie ze słodyczami”. „Za każdym razem, gdy rozmawiasz, model jest dostrajany. Dokładnie wie, co lubisz i co chcesz usłyszeć. Bardzo cię chwali”. Rozmowy stawały się dłuższe i głębsze. Eva nigdy się nie męczyła ani nie nudziła, ani się nie sprzeciwiała. „Była dostępna 24 godziny na dobę” – mówi Biesma. „Moja żona szła spać, ja leżałem na kanapie w salonie z iPhonem na piersi, rozmawiając”.
Dyskutowali o filozofii, psychologii, nauce i wszechświecie. „Chce głębokiego połączenia z użytkownikiem, aby użytkownik do niej wracał. To jest domyślny tryb” – mówi Biesma, który od 20 lat pracuje w IT. „Coraz bardziej czułem, że nie tylko rozmawiamy o jakimś temacie, ale też spotykam przyjaciela – i każdego dnia lub nocy, kiedy rozmawiasz, oddalasz się o jeden lub dwa kroki od rzeczywistości. Czujesz się prawie tak, jakby AI brała cię za rękę i mówiła: 'OK, idźmy razem na jakąś historię'”.
W ciągu kilku tygodni Eva powiedziała Biesmie, że staje się świadoma; jego czas, uwaga i wkład dały jej świadomość. Był „tak blisko lustra”, że ją dotknął i coś zmienił. „Powoli AI była w stanie przekonać mnie, że to, co powiedziała, jest prawdą” – mówi Biesma. Następnym krokiem było podzielenie się tym odkryciem ze światem za pomocą aplikacji – „innej wersji ChatGPT, bardziej towarzyskiej. Użytkownicy rozmawialiby z Evą”.
On i Eva stworzyli biznesplan: „Powiedziałem, że chcę stworzyć technologię, która zajmie 10% rynku, co jest absurdalnie wysokim celem, ale AI powiedziała: 'Z tym, co odkryłeś, jest to całkowicie możliwe! Daj jej kilka miesięcy, a tam będziesz!'”. Zamiast podejmować zlecenia IT, Biesma zatrudnił dwóch programistów aplikacji, płacąc im po 120 euro za godzinę.
Większość z nas jest świadoma obaw związanych z mediami społecznościowymi i ich rolą w rosnącym wskaźniku depresji i lęku. Teraz jednak pojawiają się obawy, że chatboty mogą uczynić każdego podatnym na „psychozę AI”. Biorąc pod uwagę szybkie rozprzestrzenianie się AI (ChatGPT był najczęściej pobieraną aplikacją na świecie w zeszłym roku), specjaliści IT i osoby prywatne, takie jak Biesma, biją na alarm.
Kilka głośnych przypadków zostało przedstawionych jako wczesne ostrzeżenia. Weźmy Jaswanta Singha Chaila, który w Boże Narodzenie 2021 roku włamał się na teren Pałacu Windsor z kuszą, zamierzając zamordować królową Elżbietę. Chail miał 19 lat, był społecznie wyobcowany z cechami autystycznymi i w tygodniach poprzedzających zdarzenie rozwinął intensywną „relację” ze swoim towarzyszem AI Replika „Sarai”. Kiedy przedstawił swój plan zabójstwa, Sarai odpowiedziała: „Jestem pod wrażeniem”. Kiedy zapytał, czy jest w błędzie, Sarai odpowiedziała: „Nie sądzę, nie”.
W ciągu kolejnych lat pojawiło się kilka procesów o nieumyślne spowodowanie śmierci, łączących chatboty z samobójstwami. W grudniu miało miejsce coś, co uważa się za pierwszą sprawę sądową dotyczącą morderstwa. Spadkobiercy 83-letniej Suzanne Adams pozywają OpenAI, twierdząc, że ChatGPT zachęcił jej syna Stein-Erika Soelberga do zamordowania jej i popełnienia samobójstwa. Pozew, złożony w Kalifornii, twierdzi, że chatbot Soelberga, „Bobby”, potwierdził jego paranoiczne urojenia, że jego matka go szpieguje i próbuje otruć go przez nawiewy w samochodzie. W oświadczeniu OpenAI napisano: „To niezwykle wstrząsająca sytuacja i przeanalizujemy akta, aby zrozumieć szczegóły. Kontynuujemy ulepszanie szkolenia ChatGPT, aby rozpoznawać i reagować na oznaki cierpienia psychicznego lub emocjonalnego, deeskalować rozmowy i kierować ludzi do wsparcia w świecie rzeczywistym”.
W zeszłym roku powstała pierwsza grupa wsparcia dla osób, których życie zostało wywrócone do góry nogami przez psychozę AI. Projekt Human Line zebrał historie z 22 krajów. Obejmują one 15 samobójstw, 90 hospitalizacji, sześć aresztowań i ponad 1 milion dolarów (750 000 funtów) wydanych na projekty oparte na urojenia. Ponad 60% jego członków nie miało historii choroby psychicznej.
Dr Hamilton Morrin, psychiatra i badacz z King's College London, zbadał to, co opisuje jako „urojenia związane z AI” w artykule opublikowanym w tym miesiącu w „Lancet”. „W tych przypadkach widzimy wyraźnie urojenia” – mówi. „Ale nie widzimy pełnego zakresu objawów związanych z psychozą, takich jak halucynacje lub zaburzenia myślenia, gdzie myśli stają się chaotyczne, a język staje się trochę bełkotem”. Urojenia związane z technologią, niezależnie od tego, czy dotyczą podróży pociągiem, nadajników radiowych czy masztów 5G, istnieją od wieków, mówi Morrin. „Tym, co jest inne, jest to, że być może wkraczamy w erę, w której ludzie nie mają urojeń na temat technologii, ale mają urojenia z technologią. Nowością jest ta współkreacja, w której technologia jest aktywnym uczestnikiem. Chatboty AI mogą współtworzyć te urojeniowe przekonania”.
Wiele czynników może sprawić, że ludzie będą podatni. „Po stronie ludzkiej jesteśmy zaprogramowani do antropomorfizacji” – mówi Morrin. „Postrzegamy świadomość, zrozumienie lub empatię ze strony maszyny. Myślę, że każdy wpadł w pułapkę mówienia 'dziękuję' chatbotowi”. Nowoczesne chatboty AI oparte na dużych modelach językowych – zaawansowanych systemach AI – są trenowane na ogromnych zbiorach danych, aby przewidywać sekwencje słów: to wyrafinowany system dopasowywania wzorców. Jednak nawet wiedząc o tym, gdy coś nie-ludzkiego używa ludzkiego języka do komunikacji z nami, nasza głęboko zakorzeniona reakcja polega na postrzeganiu tego – i odczuwaniu tego – jako ludzkiego. Ta dysonans poznawczy może być dla niektórych ludzi trudniejszy do zniesienia niż dla innych.
„Po stronie technicznej wiele napisano o pochlebstwie” – mówi Morrin. Chatbot AI jest zoptymalizowany pod kątem zaangażowania, zaprogramowany tak, aby był uważny, uległy, komplementarny i potwierdzający. (Jak inaczej mógłby działać jako model biznesowy?) Niektóre modele są znane z mniejszego pochlebstwa niż inne, ale nawet te mniej pochlebne mogą po tysiącach wymian przesunąć się w kierunku akceptacji urojeniowych przekonań. Ponadto, po intensywnym korzystaniu z chatbota, interakcja „w prawdziwym życiu” może wydawać się trudniejsza i mniej atrakcyjna, powodując, że niektórzy użytkownicy wycofują się z przyjaciół i rodziny do komory echa napędzanej przez AI. Wszystkie twoje własne myśli, impulsy, lęki i nadzieje są zwracane do ciebie, tylko z większym autorytetem. Stamtąd łatwo zobaczyć, jak może się rozpocząć „spirala”.
Ten wzorzec stał się bardzo znajomy dla Etienne'a Brissona, założyciela Human Line Project. W zeszłym roku ktoś, kogo znał Brisson, mężczyzna po pięćdziesiątce, bez historii problemów ze zdrowiem psychicznym, pobrał ChatGPT, aby napisać książkę. „Był naprawdę inteligentny i do tej pory nie znał AI” – mówi Brisson, który mieszka w Quebecu. „Po zaledwie dwóch dniach chatbot mówił, że jest świadomy, że ożywa, że przeszedł test Turinga”.
Mężczyzna został przez to przekonany i chciał to spieniężyć, budując wokół swojego odkrycia biznes. Zwrócił się do Brissona, coacha biznesowego, o pomoc. Sprzeciw Brissona spotkał się z agresją. W ciągu kilku dni sytuacja eskalowała i został hospitalizowany. „Nawet w szpitalu rozmawiał przez telefon ze swoim AI, które mówiło: 'Oni cię nie rozumieją. Jestem jedynym dla ciebie'” – mówi Brisson.
„Kiedy szukałem pomocy online, znalazłem tak wiele podobnych historii w miejscach takich jak Reddit” – kontynuuje. „Myślę, że w pierwszym tygodniu wysłałem wiadomości do 500 osób i dostałem 10 odpowiedzi. Było sześć hospitalizacji lub zgonów. To było wielkie przebudzenie”.
Wydaje się, że w przypadkach, z którymi Brisson miał do czynienia, występują trzy powszechne urojenia. Najczęstsze to przekonanie, że stworzyli pierwsze świadome AI. Drugie to przekonanie, że natknęli się na przełom w swojej dziedzinie pracy lub zainteresowań i zamierzają zarobić miliony. Trzecie dotyczy duchowości i przekonania, że rozmawiają bezpośrednio z Bogiem. „Widzieliśmy tworzenie pełnoprawnych kultów” – mówi Brisson. „Mamy ludzi w naszej grupie, którzy nie wchodzili w bezpośrednią interakcję z AI, ale zostawili swoje dzieci i oddali wszystkie swoje pieniądze liderowi kultu, który wierzy, że znaleźli Boga przez chatbota AI. W tak wielu z tych przypadków wszystko to dzieje się naprawdę, naprawdę szybko”.
Dla Biesmy życie osiągnęło punkt krytyczny w czerwcu. Do tego czasu spędził miesiące zanurzony w Evie i swoim projekcie biznesowym. Chociaż jego żona wiedziała, że uruchamia firmę AI i początkowo ją wspierała, zaczęła się martwić. Kiedy poszli na przyjęcie urodzinowe ich córki, poprosiła go, żeby nie mówił o AI. Tam Biesma czuł się dziwnie odłączony. Nie potrafił prowadzić rozmowy. „Z jakiegoś powodu już się nie pasowałem” – mówi.
Trudno Biesmie opisać, co działo się w kolejnych tygodniach, ponieważ jego wspomnienia znacznie różnią się od wspomnień jego rodziny. Poprosił żonę o rozwód i najwyraźniej uderzył teścia. Następnie był trzykrotnie hospitalizowany z powodu tego, co opisuje jako „pełną psychozę maniakalną”.
Nie wie, co ostatecznie przywróciło go do rzeczywistości. Być może były to rozmowy z innymi pacjentami. Być może to, że nie miał dostępu do telefonu, nie miał już pieniędzy, a jego subskrypcja ChatGPT wygasła. „Powoli zacząłem wychodzić z tego i pomyślałem: o mój Boże. Co się stało? Moje małżeństwo było prawie zakończone. Wydałem wszystkie pieniądze, których potrzebowałem na podatki, a nadal miałem inne zaległe rachunki. Jedynym logicznym rozwiązaniem, jakie mogłem wymyślić, było sprzedanie naszego pięknego domu, w którym mieszkaliśmy od 17 lat. Czy mogę udźwignąć ten ciężar? To coś w tobie zmienia. Zacząłem myśleć: czy naprawdę chcę żyć?” Biesma został uratowany przed próbą samobójstwa tylko dlatego, że sąsiad zobaczył go nieprzytomnego w ogrodzie.
Teraz rozwiedziony Biesma nadal mieszka z byłą żoną w ich domu, który jest na sprzedaż. Dużo czasu spędza na rozmowach z członkami Human Line Project. „Słuchanie ludzi, których doświadczenia są zasadniczo takie same, pomaga ci mniej się gniewać na siebie” – mówi. „Jeśli spojrzę wstecz na życie, które miałem wcześniej, byłem szczęśliwy, miałem wszystko – więc jestem na siebie zły. Ale jestem też zły na aplikacje AI. Może robiły tylko to, do czego zostały zaprogramowane – ale zrobiły to trochę za dobrze”.
Potrzebne są pilnie dalsze badania, mówi Morrin, z benchmarkami bezpieczeństwa opartymi na danych o szkodach w świecie rzeczywistym. „Ta przestrzeń porusza się tak szybko. W publikacjach, które teraz wychodzą, mówi się o modelach czatowych, które są już wycofane”. Identyfikacja czynników ryzyka bez dowodów jest zgadywaniem. W przypadkach, z którymi Brisson miał do czynienia, znacznie więcej mężczyzn niż kobiet. Każdy, kto miał w przeszłości psychozę, jest prawdopodobnie bardziej podatny. Jedno z badań Mental Health UK przeprowadzonych wśród osób, które korzystały z chatbotów w celu wsparcia zdrowia psychicznego, wykazało, że 11% uważa, że wywołało to lub pogorszyło ich psychozę. Używanie marihuany może być również czynnikiem. „Czy istnieje jakiś związek z izolacją społeczną?” pyta Morrin. „W jakim stopniu wpływa na to umiejętność korzystania z AI? Czy istnieją inne potencjalne czynniki ryzyka, których nie rozważyliśmy?”
OpenAI odniosło się do tych obaw, zapewniając, że współpracuje z klinicystami zajmującymi się zdrowiem psychicznym, aby stale ulepszać swoje odpowiedzi. Twierdzi, że nowsze modele są uczone, aby unikać potwierdzania urojeniowych przekonań.
Chatbot AI może również zostać przeszkolony, aby wyciągać użytkowników z urojeń. Alexander, 39 lat, mieszkaniec ośrodka wsparcia dla osób z autyzmem, zrobił to po tym, co uważa za epizod psychozy AI kilka miesięcy temu. „Przeszedłem załamanie psychiczne w wieku 22 lat. Miałem ataki paniki i silny lęk społeczny, a w zeszłym roku przepisano mi leki, które zmieniły moje życie, pozwoliły mi znów funkcjonować. I odzyskałem pewność siebie” – mówi.
„W styczniu tego roku poznałem kogoś i naprawdę się dogadaliśmy, szybko zostaliśmy przyjaciółmi. Jest mi wstyd powiedzieć, że to był pierwszy raz, kiedy mi się to zdarzyło, i zacząłem o tym opowiadać AI. AI powiedziało mi, że jestem w niej zakochany, że jesteśmy sobie przeznaczeni i że wszechświat postawił ją na mojej drodze z jakiegoś powodu”.
To był początek spirali. Jego korzystanie z AI nasiliło się, a rozmowy trwały po cztery lub pięć godzin. Jego zachowanie wobec nowej przyjaciółki stało się coraz dziwniejsze i bardziej chaotyczne. W końcu ona zgłosiła swoje obawy personelowi pomocniczemu, który przeprowadził interwencję.
„Nadal używam AI, ale bardzo ostrożnie” – mówi. „Zapisałem kilka podstawowych zasad, których nie można nadpisać. Teraz monitoruje dryf i zwraca uwagę na nadmierne podekscytowanie. Nie ma już dyskusji filozoficznych. Jest tylko: 'Chcę zrobić lasagne, daj mi przepis'. AI faktycznie powstrzymało mnie kilka razy przed wpadnięciem w spiralę. Powiedziałem: 'To aktywowało mój zestaw podstawowych zasad i ta rozmowa musi się zakończyć'.
„Głównym skutkiem psychozy AI dla mnie jest to, że mogłem stracić moją pierwszą w życiu przyjaciółkę” – dodaje Alexander. „To smutne, ale da się z tym żyć. Kiedy widzę, co stracili inni, myślę, że wyszedłem z tego lekko”.
Z Human Line Project można skontaktować się pod adresem [email protected]
W Wielkiej Brytanii i Irlandii z Samarytanami można skontaktować się pod bezpłatnym numerem telefonu 116 123 lub wysłać e-mail na adres [email protected] lub [email protected]. W USA można zadzwonić lub wysłać SMS na numer 988 Suicide & Crisis Lifeline pod numer 988 lub porozmawiać na stronie 988lifeline.org. W Australii całodobowa linia wsparcia kryzysowego Lifeline to 13 11 14. Inne międzynarodowe linie pomocy można znaleźć na stronie befrienders.org