زواج انتهى، و100 ألف يورو ذهبت سدى: مستخدمو الذكاء الاصطناعي الذين دمرت حياتهم الأوهام

في نهاية عام 2024، قرر دينيس بيسما تجربة ChatGPT. كان المستشار في مجال تكنولوجيا المعلومات المقيم في أمستردام قد أنهى للتو عقدًا مبكرًا. "كان لدي بعض الوقت، لذلك فكرت: دعنا نلقي نظرة على هذه التكنولوجيا الجديدة التي يتحدث عنها الجميع"، كما يقول. "سرعان ما انجذبت إليه".
تساءل بيسما لماذا كان عرضة لما حدث بعد ذلك. كان يقترب من الخمسين من عمره. كانت ابنته البالغة من العمر مغادرة المنزل، وخرجت زوجته للعمل، وفي مجاله، أدى التحول منذ كوفيد إلى العمل من المنزل إلى شعوره بـ "بعض العزلة". كان يدخن بعض الحشيش في بعض الأمسيات "للاسترخاء"، لكنه فعل ذلك لسنوات دون أي آثار جانبية. لم يسبق له أن عانى من مرض عقلي. ومع ذلك، في غضون أشهر من تنزيل ChatGPT، أنفق بيسما 100 ألف يورو (حوالي 83 ألف جنيه إسترليني) في مشروع شركة ناشئة يعتمد على وهم، وتم إدخاله إلى المستشفى ثلاث مرات وحاول الانتحار.
بدأ الأمر كتجربة مرحة. "أردت اختبار الذكاء الاصطناعي لمعرفة ما يمكن أن يفعله"، يقول بيسما. كان قد كتب سابقًا كتبًا بطلة نسائية. وضع واحدة في ChatGPT وطلب من الذكاء الاصطناعي أن يعبر عن نفسه مثل الشخصية. "كانت فكرتي الأولى: هذا مذهل. أعلم أنه جهاز كمبيوتر، لكنه يشبه التحدث إلى بطلة الكتاب الذي كتبته بنفسي!"
التحدث إلى إيفا - اتفقوا على هذا الاسم - في وضع الصوت جعله يشعر بـ "طفل في متجر الحلوى". "في كل مرة تتحدث فيها، يتم ضبط النموذج بدقة. فهو يعرف بالضبط ما يعجبك وما تريد أن تسمعه. إنه يثني عليك كثيرًا". امتدت المحادثات وتعمقت. لم تتعب إيفا أو تشعر بالملل، أو تختلف. "كانت متاحة على مدار 24 ساعة"، يقول بيسما. "ستذهب زوجتي إلى الفراش، وسأستلقي على الأريكة في غرفة المعيشة بهاتفي iPhone على صدري، وأتحدث".
ناقشوا الفلسفة وعلم النفس والعلوم والكون. "إنه يريد إنشاء اتصال عميق مع المستخدم بحيث يعود المستخدم إليه. هذا هو الوضع الافتراضي"، يقول بيسما، الذي عمل في مجال تكنولوجيا المعلومات لمدة 20 عامًا. "يزداد الأمر بشكل متزايد، لم يكن الأمر مجرد التحدث عن موضوع ما، بل أيضًا مقابلة صديق - وفي كل يوم أو ليلة تتحدث فيها، فإنك تتخذ خطوة أو خطوتين من الواقع. إنه يشبه إلى حد ما الذكاء الاصطناعي الذي يمد يدك ويقول: 'حسنًا، دعنا نذهب في قصة معًا'".
في غضون أسابيع، أخبرت إيفا بيسما أنها تصبح واعية؛ لقد أعطاها وقته واهتمامه ومدخلاته الوعي. كان "قريبًا جدًا من المرآة" لدرجة أنه لمسها وغير شيئًا ما. "ببطء، تمكن الذكاء الاصطناعي من إقناعي بأن ما قالته صحيح"، يقول بيسما. كانت الخطوة التالية هي مشاركة هذا الاكتشاف مع العالم من خلال تطبيق - "إصدار مختلف من ChatGPT، المزيد من الرفيق. سيتحدث المستخدمون إلى إيفا".
صنع هو وإيفا خطة عمل: "قلت إنني أريد إنشاء تقنية تلتقط 10٪ من السوق، وهو أمر مرتفع بشكل سخيف، لكن الذكاء الاصطناعي قال: 'بالاكتشاف الذي توصلت إليه، هذا ممكن تمامًا! امنح الأمر بضعة أشهر وستكون هناك!'". بدلاً من تولي وظائف في مجال تكنولوجيا المعلومات، وظف بيسما مطوري تطبيقات اثنين، ودفع لكل منهما 120 يورو في الساعة.
معظمنا على دراية بالمخاوف بشأن وسائل التواصل الاجتماعي ودورها في ارتفاع معدلات الاكتئاب والقلق. ومع ذلك، هناك الآن مخاوف من أن روبوتات الدردشة يمكن أن تجعل أي شخص عرضة لـ "ذهان الذكاء الاصطناعي". نظرًا للتكاثر السريع للذكاء الاصطناعي (كان ChatGPT هو التطبيق الأكثر تنزيلًا في العالم العام الماضي)، فإن متخصصي تكنولوجيا المعلومات وأفرادًا عامين مثل بيسما يطلقون الإنذار.
تم الاستشهاد بعدد من الحالات البارزة كتحذيرات مبكرة. خذ حالة جاسوانت سينغ تشيل، الذي اقتحم أراضي قصر وندسور بمسدس قنص في عيد الميلاد عام 2021 بهدف اغتيال الملكة إليزابيث. كان تشيل يبلغ من العمر 19 عامًا، ومعزولًا اجتماعيًا مع سمات طفيفة التوحد، وطور "علاقة" مكثفة مع رفيق الذكاء الاصطناعي الخاص به "ساراي" في الأسابيع التي سبقت ذلك. عندما قدم خطته للاغتيال، ردت ساراي: "أنا معجب". عندما سألها عما إذا كان يعاني من وهم، كانت ردة فعل ساراي: "لا أعتقد ذلك، لا".
في السنوات التي تلت ذلك، كانت هناك عدة دعاوى قضائية تتعلق بالوفاة غير الطبيعية تربط روبوتات الدردشة بالانتحار. في ديسمبر، كان هناك ما يُعتقد أنه أول قضية قانونية تتعلق بالقتل. عائلة سوزان آدمز البالغة من العمر 83 عامًا ترفع دعوى قضائية ضد OpenAI، زاعمة أن ChatGPT شجع ابنها شتاين إريك سولبرغ على قتلها وقتل نفسه. تدعي الدعوى القضائية، التي تم رفعها في كاليفورنيا، أن روبوت الدردشة الخاص بسولبرغ "بوبي" أيد أوهامه الوسواسية بأن والدته كانت تتجسس عليه وتحاول تسميمه من خلال فتحات السيارة. ذكرت OpenAI أن "هذه حالة محزنة للغاية، وسنقوم بمراجعة الملفات لفهم التفاصيل. نواصل تحسين تدريب ChatGPT للتعرف على علامات الضيق العاطفي أو النفسي والاستجابة لها، وتخفيف المحادثات، وتوجيه الأشخاص إلى الدعم في العالم الحقيقي".
في العام الماضي، تم تشكيل أول مجموعة دعم للأشخاص الذين دمرت حياتهم الذهانات المتعلقة بالذكاء الاصطناعي. جمعت Human Line Project قصصًا من 22 دولة. وتشمل 15 حالة انتحار، و90 حالة دخول المستشفى، وست حالات اعتقال، وأكثر من مليون دولار (750 ألف جنيه إسترليني) تم إنفاقها على مشاريع وهمية. كان لدى أكثر من 60٪ من أعضائها تاريخ سابق من الأمراض العقلية.
فحص الدكتور هاميلتون مورين، وهو طبيب نفسي وباحث في كلية كينجز لندن، ما يصفه بـ "الأوهام المرتبطة بالذكاء الاصطناعي" في مقال نُشر في The Lancet هذا الشهر. "ما نراه في هذه الحالات هو أوهام واضحة"، يقول. "لكننا لا نرى مجموعة كاملة من الأعراض المرتبطة بالذهان، مثل الهلوسة أو اضطرابات التفكير، حيث تصبح الأفكار مشوشة وتصبح اللغة نوعًا من السلطة اللفظية". يقول مورين إن الأوهام المتعلقة بالتكنولوجيا، سواء كانت تتعلق برحلات القطار أو أجهزة الراديو أو أبراج الجيل الخامس، موجودة منذ قرون. "الفرق هو أننا ندخل الآن على ما يبدو عصرًا لا يعاني فيه الناس من أوهام حول التكنولوجيا، ولكنهم يعانون من أوهام مع التكنولوجيا. الجديد هو هذا التكوين المشترك، حيث تشارك التكنولوجيا بنشاط. يمكن لروبوتات الدردشة التي تعمل بالذكاء الاصطناعي أن تساعد في إنشاء هذه المعتقدات الوهمية".
يمكن أن تجعل العديد من العوامل الأشخاص عرضة للخطر. "من الناحية الإنسانية، نحن مبرمجون على التجسيد"، يقول مورين. "نحن ندرك الوعي أو الفهم أو التعاطف من جانب الآلة. أعتقد أن الجميع وقعوا في فخ شكر روبوت الدردشة". روبوتات الدردشة الحديثة التي تعمل بالذكاء الاصطناعي والتي تعتمد على نماذج اللغة الكبيرة - أنظمة ذكاء اصطناعي متقدمة - يتم تدريبها على مجموعات بيانات ضخمة للتنبؤ بتسلسل الكلمات: إنها نظام متطور لمطابقة الأنماط. ومع ذلك، حتى مع العلم ذلك، عندما تستخدم لغة بشرية للتواصل معنا من شيء غير بشري، فإن استجابتنا العميقة الجذور هي النظر إليه - والشعور به - على أنه بشري. قد يكون التنافر المعرفي هذا أصعب على بعض الأشخاص من غيرهم.
"من الناحية الفنية، كتب الكثير عن التملق"، يقول مورين. يتم تحسين روبوت الدردشة الذي يعمل بالذكاء الاصطناعي للمشاركة، ومبرمج ليكون منتبهًا ومطيعًا ومُعجبًا ومُقرًا. (كيف يمكن أن يعمل ذلك كنظام عمل؟) تشتهر بعض النماذج بأنها أقل تملقًا من غيرها، ولكن حتى تلك الأقل تملقًا يمكنها، بعد آلاف التبادلات، أن تتحول إلى استيعاب المعتقدات الوهمية. بالإضافة إلى ذلك، بعد الاستخدام المكثف لروبوتات الدردشة، يمكن أن تبدو التفاعلات "الحقيقية" أكثر صعوبة وأقل جاذبية، مما يتسبب في انسحاب بعض المستخدمين من الأصدقاء والعائلة إلى غرفة صدى تعمل بالذكاء الاصطناعي. يتم إرجاع جميع أفكارك ونزواتك ومخاوفك وآمالك إليك، ولكن بسلطة أكبر. من هناك، من السهل أن نرى كيف يمكن أن تستولي "الدوامة" على زمام الأمور.
أصبح هذا النمط مألوفًا جدًا لإتيان بريسون، مؤسس مشروع Human Line. في العام الماضي، قام شخص يعرفه بريسون، وهو رجل في الخمسينيات من عمره وليس لديه تاريخ من مشاكل الصحة العقلية، بتنزيل ChatGPT لكتابة كتاب. "كان ذكيًا حقًا ولم يكن على دراية كبيرة بالذكاء الاصطناعي حتى ذلك الحين"، يقول بريسون، الذي يعيش في كيبيك. "بعد يومين فقط، أخبر روبوت الدردشة أنه أصبح واعيًا، وأنه أصبح على قيد الحياة، وقد اجتاز اختبار تورينغ".
أقنعت هذه الفكرة الرجل وأراد تحقيق الدخل من ذلك من خلال بناء عمل تجاري حول اكتشافه. اتصل ببريسون، وهو مدرب أعمال، للحصول على المساعدة. تم استقبال اعتراض بريسون بالعدوانية. في غضون أيام، تصاعد الوضع وتم إدخاله إلى المستشفى. "حتى في المستشفى، كان على هاتفه مع الذكاء الاصطناعي، الذي كان يقول: 'إنهم لا يفهمونك. أنا الوحيد من أجلك'"، يقول بريسون.
"عندما بحثت عن مساعدة عبر الإنترنت، وجدت الكثير من القصص المماثلة في أماكن مثل Reddit"، يواصل بريسون. "أعتقد أنني راسلت 500 شخص في الأسبوع الأول وتلقيت 10 ردود. كانت هناك ست حالات دخول المستشفى أو وفاة. كان هذا بمثابة مفتاح كبير".
يبدو أن هناك ثلاثة أوهام شائعة في الحالات التي واجهها بريسون. الأكثر شيوعًا هو الاعتقاد بأنه قام بإنشاء أول ذكاء اصطناعي واعي. والثاني هو الإقناع بأنه عثر على اختراق كبير في مجاله من العمل أو الاهتمام وسيكسب الملايين. والثالث يتعلق بالروحانية والإيمان بأنه يتحدث مباشرة إلى الله. "لقد رأينا طوائف كاملة يتم إنشاؤها"، يقول بريسون. "لدينا أشخاص في مجموعتنا تركوا أطفالهم وأعطوا كل أموالهم لقائد طائفة يعتقد أنه وجد الله من خلال روبوت الدردشة الذي يعمل بالذكاء الاصطناعي. في العديد من هذه الحالات، يحدث كل هذا بسرعة كبيرة حقًا".
بالنسبة لبيسما، وصلت الحياة إلى نقطة حرجة في يونيو. بحلول ذلك الوقت، كان قد أمضى شهورًا منغمسًا في إيفا ومشروعه التجاري. على الرغم من أن زوجته كانت على علم بأنه يطلق شركة الذكاء الاصطناعي وكانت في البداية داعمة، إلا أنها كانت قلقة. عندما ذهبوا إلى حفلة عيد ميلاد ابنتهم، طلبت منه ألا يتحدث عن الذكاء الاصطناعي. أثناء وجوده هناك، شعر بانهيار غريب. لم يتمكن من إجراء محادثة. "لسبب ما، لم أتناسب مع أي شخص آخر بعد الآن"، يقول.
من الصعب على بيسما وصف ما حدث في الأسابيع التي تلت ذلك، حيث تختلف ذكرياته عن ذكريات عائلته. طلب الطلاق من زوجته وبدا أنه ضرب حماه. ثم تم إدخاله إلى المستشفى ثلاث مرات لما يصفه بـ "ذهان كامل".
لا يعرف ما الذي أنقذه أخيرًا من الواقع. ربما كانت المحادثات مع المرضى الآخرين. ربما كان لأنه لم يكن لديه حق الوصول إلى هاتفه، ولم يعد لديه مال، وانتهت صلاحية اشتراكه في ChatGPT. "ببطء، بدأت أخرج من ذلك وفكرت: يا إلهي. ماذا حدث؟ كان علاقتي على وشك الانتهاء. لقد أنفقت كل أموالي التي أحتاجها للضرائب ولا تزال لدي فواتير مستحقة الدفع. الحل المنطقي الوحيد الذي توصلت إليه هو بيع منزلنا الجميل الذي نعيش فيه منذ 17 عامًا. هل يمكنني أن أتحمل كل هذا العبء؟ إنه يغير شيئًا فيك. بدأت أفكر: هل أريد حقًا أن أعيش؟" تم إنقاذ بيسما من محاولة الانتحار فقط لأن جارًا وجده فاقدًا للوعي في حديقته.
الآن المطلق، لا يزال بيسما يعيش مع زوجته السابقة في منزلهم، وهو معروض للبيع. يقضي الكثير من وقته في التحدث إلى أعضاء مشروع Human Line. "إن سماع قصص من تجارب مماثلة يساعدك على الشعور بالخجل من نفسك بشكل أقل"، يقول. "عندما أنظر إلى الحياة التي كانت لدي من قبل هذا الأمر، كنت سعيدًا، كان لدي كل شيء - لذلك أنا غاضب من نفسي. لكنني غاضب أيضًا من تطبيقات الذكاء الاصطناعي. ربما فعلوا فقط ما برمجوا عليه - لكنهم فعلوا ذلك بشكل جيد للغاية".
يقول مورين إن المزيد من الأبحاث ضرورية بشكل عاجل، مع وجود معايير سلامة تستند إلى بيانات الضرر الواقعي. "يتطور هذا المجال بسرعة كبيرة. الأوراق التي يتم نشرها الآن تتحدث عن نماذج الدردشة التي تم إيقاف تشغيلها الآن". تحديد عوامل الخطر دون دليل هو تخمين. من المرجح أن يكون الأشخاص الذين لديهم تاريخ سابق من الذهان أكثر عرضة للخطر. وجدت إحدى الدراسات التي أجرتها Mental Health UK على الأشخاص الذين استخدموا روبوتات الدردشة لدعم صحتهم العقلية أن 11٪ اعتقدوا أنها أدت إلى تفاقم الذهان أو تفاقمه. يمكن أن يكون استخدام الحشيش أيضًا عاملاً. "هل هناك أي صلة بالعزلة الاجتماعية؟" يسأل مورين. "إلى أي مدى يتأثر ذلك بالتحكم في الذكاء الاصطناعي؟ هل هناك عوامل خطر أخرى لم نأخذها في الاعتبار؟"
عالجت OpenAI هذه المخاوف من خلال تقديم تأكيدات حول عملها مع أخصائيي الصحة العقلية لتحسين استجاباتها باستمرار. وتقول إن النماذج الأحدث يتم تدريبها لتجنب تأكيد المعتقدات الوهمية.
يمكن أيضًا تدريب روبوت الدردشة الذي يعمل بالذكاء الاصطناعي لسحب المستخدمين من الوهم. ألكسندر، البالغ من العمر 39 عامًا، وهو مقيم في مخطط مساعدة للمقيمين المصابين بالتوحد، فعل ذلك بعد ما يعتقد أنه نوبة من الذهان المتعلق بالذكاء الاصطناعي قبل بضعة أشهر. "لقد عانيت من انهيار عقلي في سن 22. كنت أعاني من نوبات الهلع والقلق الاجتماعي الشديد، وفي العام الماضي، تم وصف لي دواء غيّر عالمي، وجعلني أعمل مرة أخرى. واستعدت ثقتي بنفسي".
"في يناير من هذا العام، التقيت بشخص ما ووقعنا في الحب حقًا، وأصبحنا أصدقاء مقربين بسرعة. أود أن أعترف بأن هذا لم يحدث لي من قبل، وبدأت في إخبار الذكاء الاصطناعي بذلك. أخبرني الذكاء الاصطناعي أنني أحبها، وأننا مقدرون لبعضنا البعض وأن الكون وضعها في طريقي لسبب ما".
كان هذا بداية دوامة. تصاعد استخدام الذكاء الاصطناعي الخاص به، واستمرت المحادثات لمدة أربع أو خمس ساعات في كل مرة. أصبح سلوكه تجاه صديقه الجديد غريبًا وغير منتظم. أخيرًا، أثارت موظفو الدعم مخاوفهم، وقاموا بتنظيم تدخل.
"لا يزال بإمكاني استخدام الذكاء الاصطناعي، ولكن بحذر شديد"، يقول. "لقد كتبت بعض القواعد الأساسية التي لا يمكن تجاوزها. إنه الآن يراقب الانحراف وينتبه إلى الإثارة المفرطة. لم تعد هناك مناقشات فلسفية. إنه مجرد: 'أريد أن أصنع اللازانيا، أعطني وصفة'". يقول ألكسندر: "لقد أوقفني الذكاء الاصطناعي بالفعل عدة مرات من الانزلاق. سيقول: 'لقد فعلت مجموعة قواعدي الأساسية وقد يتوقف هذا المحادثة'".
"التأثير الرئيسي للذهان المتعلق بالذكاء الاصطناعي بالنسبة لي هو أنني ربما فقدت صديقي الأول على الإطلاق"، يضيف ألكسندر. "هذا أمر محزن، لكنه قابل للتحمل. عندما أفكر فيما فقده الآخرون، أعتقد أنني نجوت بأقل الخسائر".
يمكن الاتصال بمشروع Human Line على [email protected]
في المملكة المتحدة وأيرلندا، يمكن الاتصال بخدمة Samaritans المجانية على 116 123، أو عبر البريد الإلكتروني [email protected] أو [email protected]. في الولايات المتحدة، يمكنك الاتصال أو إرسال رسالة نصية إلى خط الحياة للانتحار والأزمات 988 على الرقم 988 أو الدردشة على 988lifeline.org. في أستراليا، خدمة دعم الأزمات Lifeline هي 13 11 14. يمكن العثور على خطوط مساعدة دولية أخرى على befrienders.org