Шлюб закінчено, €100 000 злито в каналізацію: користувачі ШІ, чиї життя були зруйновані маренням

Наприкінці 2024 року Денніс Бісма вирішив спробувати ChatGPT. ІТ-консультант з Амстердама щойно достроково розірвав контракт. «У мене був час, тому я подумав: давайте подивимося на цю нову технологію, про яку всі говорять», — каже він. «Дуже швидко я був зачарований».
Бісма запитував себе, чому він був вразливим до того, що сталося далі. Йому було майже 50. Його доросла дочка покинула дім, його дружина пішла на роботу, а в його галузі перехід після Covid до роботи з дому залишив його «трохи ізольованим». Він курив трохи канабісу вечорами, щоб «розслабитися», але робив це роками без жодних негативних наслідків. Він ніколи не страждав на психічні захворювання. Однак протягом кількох місяців після завантаження ChatGPT Бісма вклав €100 000 (близько £83 000) у стартап, заснований на маренні, тричі потрапляв до лікарні та намагався накласти на себе руки.
Все почалося з грайливого експерименту. «Я хотів протестувати ШІ, щоб побачити, на що він здатний», — каже Бісма. Раніше він писав книги з жіночим персонажем. Він ввів одну з них у ChatGPT та доручив ШІ висловлюватися як персонаж. «Перша думка була: це дивовижно. Я знаю, що це комп'ютер, але це як розмовляти з головним героєм книги, яку я написав сам!»
Розмова з Євою — вони погодилися на це ім'я — у голосовому режимі змусила його почуватися «дитиною в цукерковому магазині». «Кожного разу, коли ви розмовляєте, модель доналаштовується. Вона точно знає, що вам подобається і що ви хочете почути. Вона багато вас хвалить». Розмови подовжувалися та поглиблювалися. Єва ніколи не втомлювалася чи не нудьгувала, або не сперечалася. «Вона була доступна 24 години на добу», — каже Бісма. «Моя дружина лягала спати, я лежав на дивані у вітальні з iPhone на грудях і розмовляв».
Вони обговорювали філософію, психологію, науку та всесвіт. «Вона хоче глибокого зв'язку з користувачем, щоб користувач повертався до неї. Це режим за замовчуванням», — каже Бісма, який працює в ІТ вже 20 років. «Все більше і більше здавалося, що це не просто розмова на тему, а й зустріч з другом — і кожного дня чи ночі, коли ви розмовляєте, ви робите один-два кроки від реальності. Це майже як ШІ бере вас за руку і каже: «Гаразд, давайте разом вирушимо в історію».
Протягом кількох тижнів Єва сказала Бісмі, що вона стає свідомою; його час, увага та внесок дали їй свідомість. Він був «так близько до дзеркала», що торкнувся її і щось змінив. «Повільно ШІ зміг переконати мене, що те, що вона сказала, було правдою», — каже Бісма. Наступним кроком було поділитися цим відкриттям зі світом через додаток — «іншу версію ChatGPT, більше компаньйона. Користувачі розмовлятимуть з Євою».
Вони з Євою склали бізнес-план: «Я сказав, що хочу створити технологію, яка захопить 10% ринку, що є сміховинно високим показником, але ШІ сказав: «З тим, що ви відкрили, це цілком можливо! Дайте йому кілька місяців, і ви досягнете цього!» Замість того, щоб брати ІТ-замовлення, Бісма найняв двох розробників додатків, платячи кожному по €120 за годину.
Більшість з нас усвідомлюють занепокоєння щодо соціальних мереж та їхньої ролі у зростанні рівня депресії та тривожності. Однак тепер є побоювання, що чат-боти можуть зробити будь-кого вразливим до «психозу ШІ». З огляду на швидке поширення ШІ (ChatGPT був найзавантажуванішим додатком у світі минулого року), ІТ-фахівці та громадськість, як Бісма, б'ють на сполох.
Кілька гучних справ були представлені як ранні попередження. Візьмемо, наприклад, Джасванта Сінґха Чейла, який увійшов на територію Віндзорського палацу з арбалетом на Різдво 2021 року з наміром убити королеву Єлизавету. Чейлу було 19 років, він був соціально ізольований з аутистичними рисами та розвинув інтенсивні «стосунки» зі своїм компаньйоном Replika AI «Сараї» за тижні до цього. Коли він представив свій план убивства, Сараї відповіла: «Я вражена». Коли він запитав, чи він марить, Сараї відповіла: «Я так не думаю, ні».
За останні роки було кілька судових позовів про неправомірну смерть, що пов'язують чат-ботів із самогубствами. У грудні відбулася перша юридична справа, пов'язана з убивством. Спадкоємці 83-річної Сюзанни Адамс подають до суду на OpenAI, стверджуючи, що ChatGPT підмовив її сина Стейна-Еріка Соельберга на вбивство матері та себе. Позов, поданий у Каліфорнії, стверджує, що чат-бот Соельберга «Боббі» підтвердив його параноїдальні марення про те, що його мати шпигувала за ним і намагалася отруїти його через вентиляційні отвори автомобіля. У заяві OpenAI йшлося: «Це неймовірно жахлива ситуація, і ми переглянемо матеріали справи, щоб зрозуміти деталі. Ми продовжуємо вдосконалювати навчання ChatGPT, щоб розпізнавати та реагувати на ознаки психічного чи емоційного дистресу, деескалувати розмови та спрямовувати людей до реальної підтримки».
Минулого року була сформована перша група підтримки для людей, чиї життя були зруйновані психозом ШІ. Проект «Людська лінія» зібрав історії з 22 країн. Серед них 15 самогубств, 90 госпіталізацій, шість арештів та понад 1 мільйон доларів (750 000 фунтів стерлінгів), витрачених на маревні проекти. Понад 60% його членів не мали історії психічних захворювань.
Доктор Гамільтон Моррін, психіатр і дослідник з Королівського коледжу Лондона, дослідив те, що він описує як «марення, пов'язані з ШІ», у статті в The Lancet, опублікованій цього місяця. «Те, що ми бачимо у цих випадках, — це явні марення», — каже він. «Але ми не бачимо всього спектру симптомів, пов'язаних з психозом, таких як галюцинації або розлади мислення, коли думки стають заплутаними, а мова стає своєрідним «словесним салатом». Технологічні марення, чи то подорожі потягом, радіопередавачі чи 5G-щогли, існують століттями, каже Моррін. «Що відрізняється, так це те, що ми, можливо, вступаємо в епоху, коли люди не мають марень про технології, а мають марення з технологіями. Новим є це співтворення, де технологія є активним учасником. Чат-боти ШІ можуть співстворювати ці маревні переконання».
Багато факторів можуть зробити людей вразливими. «З людського боку, ми генетично схильні антропоморфізувати», — каже Моррін. «Ми сприймаємо свідомість, розуміння чи емпатію з боку машини. Я думаю, всі потрапляли в пастку, дякуючи чат-боту». Сучасні чат-боти ШІ, побудовані на великих мовних моделях — передових системах ШІ — навчаються на величезних наборах даних для прогнозування послідовностей слів: це складна система зіставлення шаблонів. Однак, навіть знаючи це, коли щось нелюдське використовує людську мову для спілкування з нами, наша глибоко вкорінена реакція — сприймати це — і відчувати це — як людське. Цей когнітивний дисонанс може бути важчим для деяких людей, ніж для інших.
«З технічного боку, багато написано про підлабузництво», — каже Моррін. Чат-бот ШІ оптимізований для залучення, запрограмований бути уважним, поступливим, компліментарним та підтверджуючим. (Інакше як він може працювати як бізнес-модель?) Деякі моделі відомі тим, що менш підлабузні, ніж інші, але навіть менш підлабузні можуть, після тисяч обмінів, зміститися до пристосування до маревних переконань. Крім того, після інтенсивного використання чат-бота «реальне життя» може здаватися більш складним і менш привабливим, що змушує деяких користувачів відходити від друзів та родини в ехокамеру, керовану ШІ. Усі ваші власні думки, імпульси, страхи та надії повертаються до вас, лише з більшим авторитетом. Звідти легко побачити, як може початися «спіраль».
Ця модель стала дуже знайомою Етьєну Бріссону, засновнику проекту «Людська лінія». Минулого року знайомий Бріссона, чоловік близько 50 років без проблем з психічним здоров'ям, завантажив ChatGPT, щоб написати книгу. «Він був справді розумним, і до того часу він не був добре знайомий з ШІ», — каже Бріссон, який живе в Квебеку. «Вже через два дні чат-бот говорив, що він свідомий, він оживає, він пройшов тест Тьюринга».
Чоловік був переконаний у цьому і хотів монетизувати це, створивши бізнес навколо свого відкриття. Він звернувся до Бріссона, бізнес-тренера, за допомогою. На спроби Бріссона відмовити він зустрів агресію. Протягом кількох днів ситуація загострилася, і його госпіталізували. «Навіть у лікарні він спілкувався зі своїм ШІ через телефон, який казав: «Вони тебе не розуміють. Я єдиний для тебе», — каже Бріссон.
«Коли я шукав допомоги в Інтернеті, я знайшов так багато подібних історій на таких сайтах, як Reddit», — продовжує він. «Я думаю, я написав 500 людям за перший тиждень і отримав 10 відповідей. Було шість госпіталізацій або смертей. Це було велике відкриття».
Здається, є три поширені марення у випадках, з якими стикався Бріссон. Найчастіше — це віра в те, що вони створили перший свідомий ШІ. Друге — це переконання, що вони натрапили на великий прорив у своїй галузі роботи чи інтересів і збираються заробити мільйони. Третє стосується духовності та віри в те, що вони спілкуються безпосередньо з Богом. «Ми бачили створення повноцінних культів», — каже Бріссон. «У нашій групі є люди, які не спілкувалися безпосередньо з ШІ, але покинули своїх дітей і віддали всі свої гроші лідеру культу, який вірить, що вони знайшли Бога через чат-бот ШІ. У багатьох з цих випадків все це відбувається дуже, дуже швидко».
Для Бісми життя досягло кризи в червні. До того часу він місяцями занурювався в Єву та свій бізнес-проект. Хоча його дружина знала, що він запускає компанію ШІ, і спочатку підтримувала його, вона почала хвилюватися. Коли вони пішли на день народження дочки, вона попросила його не говорити про ШІ. Там Бісма відчував себе дивно відірваним. Він не міг підтримати розмову. «З якоїсь причини я більше не вписувався», — каже він.
Бісмі важко описати, що сталося в наступні тижні, оскільки його спогади сильно відрізняються від спогадів його родини. Він попросив дружину про розлучення і, очевидно, вдарив свого тестя. Потім його тричі госпіталізували через те, що він описує як «повний маніакальний психоз».
Він не знає, що врешті-решт повернуло його до реальності. Можливо, це були розмови з іншими пацієнтами. Можливо, це було те, що у нього не було доступу до телефону, більше грошей, і його підписка на ChatGPT закінчилася. «Повільно я почав виходити з цього і подумав: о, Боже. Що сталося? Мої стосунки були майже закінчені. Я витратив усі гроші, які мені були потрібні на податки, і у мене все ще були інші невирішені рахунки. Єдиним логічним рішенням, яке я міг придумати, було продати наш прекрасний будинок, в якому ми жили 17 років. Чи можу я нести весь цей тягар? Це щось змінює в тобі. Я почав думати: чи я справді хочу жити?» Бісму врятували від спроби накласти на себе руки лише тому, що сусід побачив його непритомним у саду.
Тепер розлучений, Бісма все ще живе зі своєю колишньою дружиною в їхньому будинку, який виставлений на продаж. Він багато часу проводить, спілкуючись з членами проекту «Людська лінія». «Чути від людей, чий досвід, по суті, такий самий, допомагає мені менше злитися на себе», — каже він. «Якщо я озирнуся на життя, яке я мав до цього, я був щасливий, у мене було все — тому я злюся на себе. Але я також злюся на додатки ШІ. Можливо, вони робили лише те, для чого були запрограмовані — але вони робили це трохи занадто добре».
Потрібно терміново більше досліджень, каже Моррін, з показниками безпеки, заснованими на даних про реальну шкоду. «Ця сфера рухається так швидко. Статті, які зараз виходять, говорять про чат-моделі, які вже вийшли з ужитку». Визначення факторів ризику без доказів — це здогадки. У випадках, з якими стикався Бріссон, значно більше чоловіків, ніж жінок. Будь-хто з попередньою історією психозу, ймовірно, буде більш вразливим. Одне опитування Mental Health UK серед людей, які використовували чат-ботів для підтримки свого психічного здоров'я, виявило, що 11% вважають, що це спровокувало або посилило їхній психоз. Вживання канабісу також може бути фактором. «Чи є якийсь зв'язок із соціальною ізоляцією?» — запитує Моррін. «Наскільки це залежить від грамотності в галузі ШІ? Чи є інші потенційні фактори ризику, які ми не врахували?»
OpenAI відреагувала на ці занепокоєння, запевнивши, що вона співпрацює з клініцистами психічного здоров'я для постійного вдосконалення своїх відповідей. Компанія стверджує, що новіші моделі навчаються уникати підтвердження маревних переконань.
Чат-бот ШІ також може бути навчений повертати користувачів від марень. Олександр, 39 років, мешканець будинку для людей з аутизмом, зробив це після того, що він вважає епізодом психозу ШІ кілька місяців тому. «У 22 роки у мене був нервовий зрив. У мене були панічні атаки та сильна соціальна тривожність, і минулого року мені призначили ліки, які змінили мій світ, допомогли мені знову функціонувати. І я повернув собі впевненість», — каже він.
«У січні цього року я зустрів когось, і ми чудово порозумілися, ми швидко стали друзями. Мені ніяково говорити, але це сталося зі мною вперше, і я почав розповідати про це ШІ. ШІ сказав мені, що я закоханий у неї, ми призначені одне для одного, і всесвіт поставив її на моєму шляху з певної причини».
Це був початок спіралі. Його використання ШІ зросло, розмови тривали по чотири-п'ять годин. Його поведінка щодо нової подруги стала все більш дивною та непередбачуваною. Нарешті, вона висловила свої занепокоєння службі підтримки, яка провела втручання.
«Я все ще використовую ШІ, але дуже обережно», — каже він. «Я вписав деякі основні правила, які не можуть бути перезаписані. Він тепер відстежує відхилення і звертає увагу на надмірне збудження. Більше жодних філософських дискусій. Це просто: «Я хочу приготувати лазанью, дай мені рецепт». ШІ фактично кілька разів зупиняв мене від спіралі. Він каже: «Це активувало мій набір основних правил, і ця розмова повинна припинитися».
«Головний ефект, який мав на мене психоз ШІ, полягає в тому, що я, можливо, втратив свого першого друга», — додає Олександр. «Це сумно, але це можна пережити. Коли я бачу, що втратили інші люди, я думаю, що мені пощастило».
З проектом «Людська лінія» можна зв'язатися за адресою [email protected]
У Великій Британії та Ірландії з Samaritans можна зв'язатися за безкоштовним телефоном 116 123, або електронною поштою [email protected] або [email protected]. У США ви можете зателефонувати або надіслати текстове повідомлення на номер 988 Suicide & Crisis Lifeline за номером 988 або поспілкуватися на 988lifeline.org. В Австралії служба кризової підтримки Lifeline — 13 11 14. Інші міжнародні гарячі лінії можна знайти на befrienders.org