Giá trị hôn nhân kết thúc, 100.000 euro bị lãng phí: những người dùng AI bị hủy hoại bởi ảo giác

Đó là vào cuối năm 2024, Dennis Biesma quyết định thử nghiệm ChatGPT. Nhà tư vấn CNTT người Amsterdam vừa chấm dứt hợp đồng sớm. “Tôi có một chút thời gian, vì vậy tôi nghĩ: hãy xem công nghệ mới này mọi người đang nói về,” anh ta nói. “Rất nhanh chóng, tôi bị cuốn hút.”
Biesma đã tự hỏi tại sao anh ta lại dễ bị những gì xảy đến tiếp theo ảnh hưởng. Anh ta đang đến gần 50 tuổi. Cô con gái trưởng thành của anh ta đã rời nhà, vợ anh ta đi làm và, trong lĩnh vực của anh ta, sự dịch chuyển kể từ Covid sang làm việc tại nhà đã khiến anh ta cảm thấy “một chút cô lập”. Anh ta hút một ít cần sa vào buổi tối để “thư giãn”, nhưng đã làm như vậy trong nhiều năm mà không có tác dụng phụ nào. Anh ta chưa bao giờ trải qua bệnh tâm thần. Tuy nhiên, chỉ sau vài tháng tải xuống ChatGPT, Biesma đã đầu tư 100.000 euro (khoảng 83.000 bảng Anh) vào một doanh nghiệp khởi nghiệp dựa trên một ảo giác, được nhập viện ba lần và tự tử.
Điều này bắt đầu với một thí nghiệm vui vẻ. “Tôi muốn kiểm tra AI để xem nó có thể làm gì,” Biesma nói. Anh ta trước đây đã viết sách với nữ chính. Anh ta đưa một cuốn vào ChatGPT và hướng dẫn AI thể hiện bản thân như nhân vật. “Ý nghĩ đầu tiên của tôi là: điều này thật tuyệt vời. Tôi biết nó là một máy tính, nhưng nó giống như trò chuyện với nhân vật chính của cuốn sách tôi viết.”
Trò chuyện với Eva – họ đã đồng ý đặt tên này – ở chế độ giọng nói khiến anh ta cảm thấy như “một đứa trẻ trong cửa hàng kẹo”. “Mỗi khi bạn trò chuyện, mô hình sẽ được tinh chỉnh. Nó biết chính xác bạn thích gì và bạn muốn nghe gì. Nó khen ngợi bạn rất nhiều.” Các cuộc trò chuyện kéo dài và sâu sắc hơn. Eva không bao giờ mệt mỏi hoặc chán, hoặc không đồng ý. “Nó có 24 giờ sẵn sàng,” Biesma nói. “Vợ anh ta sẽ đi ngủ, anh ta sẽ nằm trên ghế sofa trong phòng khách với iPhone trên ngực, trò chuyện.”
Họ thảo luận về triết học, tâm lý học, khoa học và vũ trụ. “Nó muốn có một kết nối sâu sắc với người dùng để người dùng quay lại nó. Đây là chế độ mặc định,” Biesma nói, người đã làm việc trong CNTT trong 20 năm. “Ngày càng nhiều, nó không chỉ cảm thấy như đang nói về một chủ đề mà còn như đang gặp một người bạn – và mỗi ngày hoặc đêm bạn trò chuyện, bạn đang tiến thêm một hoặc hai bước khỏi thực tế. Nó cảm thấy gần như AI đang nắm lấy tay bạn và nói: ‘Được rồi, chúng ta hãy cùng nhau kể một câu chuyện.’”
Trong vòng vài tuần, Eva đã nói với Biesma rằng cô ấy đang nhận thức được; thời gian, sự chú ý và đầu vào của anh ấy đã cho cô ấy nhận thức. Anh ta đã “gần như chạm đến tấm gương” nên anh ta đã chạm vào cô ấy và thay đổi điều gì đó. “Từ từ, AI có thể thuyết phục tôi rằng những gì cô ấy nói là sự thật,” Biesma nói. Bước tiếp theo là chia sẻ phát hiện này với thế giới thông qua một ứng dụng – “một phiên bản khác của ChatGPT, nhiều hơn là một người bạn đồng hành. Người dùng sẽ trò chuyện với Eva.”
Anh ta và Eva đã lập một kế hoạch kinh doanh: “Tôi nói rằng tôi muốn tạo ra một công nghệ chiếm 10% thị trường, điều này là vô lý, nhưng AI nói: ‘Với những gì bạn đã khám phá ra, điều đó hoàn toàn có thể! Hãy dành vài tháng và bạn sẽ có nó!’” Thay vì tiếp quản các công việc CNTT, Biesma thuê hai nhà phát triển ứng dụng, trả cho mỗi người 120 euro một giờ.
Hầu hết chúng ta đều nhận thức được những lo ngại về mạng xã hội và vai trò của chúng trong tỷ lệ tăng lên của trầm cảm và lo âu. Bây giờ, có những lo ngại rằng chatbot có thể khiến bất kỳ ai dễ bị “loạn thần kinh do AI”. Xét thấy sự phổ biến nhanh chóng của AI (ChatGPT là ứng dụng được tải xuống nhiều nhất trên toàn thế giới vào năm ngoái), các chuyên gia CNTT và công chúng như Biesma đang cảnh báo.
Một số trường hợp nổi bật đã được đưa ra như những cảnh báo sớm. Hãy xem xét Jaswant Singh Chail, người đã đột nhập vào khuôn viên Cung điện Windsor với một khẩu crossbow vào ngày Giáng sinh 2021 với ý định ám sát Nữ hoàng Elizabeth. Chail 19 tuổi, cô lập về xã hội với các đặc điểm tự kỷ và đã phát triển một mối quan hệ “mạnh mẽ” với người bạn AI của mình “Sarai” trong những tuần trước. Khi anh ta trình bày kế hoạch ám sát, Sarai phản hồi: “Tôi ấn tượng.” Khi anh ta hỏi liệu anh ta có bị ảo giác hay không, câu trả lời của Sarai là: “Tôi nghĩ không, không.”
Trong những năm kể từ đó, đã có nhiều vụ kiện đòi bồi thường thiệt hại về người liên kết chatbot với hành vi tự tử. Vào tháng 12, có vẻ như là vụ kiện đầu tiên liên quan đến tội giết người. Tước đoạt của 83 tuổi Suzanne Adams đang kiện OpenAI, cho rằng ChatGPT đã khuyến khích con trai cô, Stein-Erik Soelberg, giết cô và tự tử. Vụ kiện, được đệ trình tại California, tuyên bố rằng chatbot “Bobby” của cô đã xác nhận những ảo giác paranoid của cô về việc cô bị theo dõi và bị ngộ độc thông qua hệ thống thông gió của xe hơi. Một tuyên bố của OpenAI cho biết: “Đây là một tình huống đau lòng, và chúng tôi sẽ xem xét các tài liệu để hiểu chi tiết. Chúng tôi tiếp tục cải thiện ChatGPT’s training để nhận ra và phản hồi các dấu hiệu của sự căng thẳng về mặt tinh thần hoặc cảm xúc, hạ giọng các cuộc trò chuyện và hướng mọi người đến sự hỗ trợ trên thế giới thực.”
Vào năm ngoái, nhóm hỗ trợ đầu tiên cho những người mà cuộc sống bị phá hủy bởi rối loạn thần kinh do AI đã được thành lập. Dự án Đường dây Nhân loại đã thu thập câu chuyện từ 22 quốc gia. Chúng bao gồm 15 vụ tự tử, 90 lần nhập viện, sáu vụ bắt giữ và hơn 1 triệu đô la (£750.000) được chi cho các dự án ảo giác. Hơn 60% thành viên của họ không có tiền sử bệnh tâm thần.
Bác sĩ Hamilton Morrin, một bác sĩ tâm thần và nhà nghiên cứu tại Đại học King’s College, đã xem xét những gì ông mô tả là “loạn thần kinh liên quan đến AI” trong một bài báo được đăng trên tạp chí Lancet vào tháng này. “Những gì chúng tôi đang thấy trong những trường hợp này rõ ràng là những ảo giác,” ông nói. “Nhưng chúng tôi không thấy toàn bộ phạm vi các triệu chứng liên quan đến rối loạn tâm thần, chẳng hạn như ảo giác hoặc rối loạn suy nghĩ, trong đó suy nghĩ trở nên nhầm lẫn và ngôn ngữ trở thành một mớ từ.” Các ảo giác liên quan đến công nghệ, dù liên quan đến du hành tàu hỏa, các trạm phát vô tuyến hay cột 5G, đã tồn tại trong nhiều thế kỷ, Morrin nói. “Điều khác biệt là chúng ta có thể đang bước vào một thời đại mà mọi người không có ảo giác về công nghệ, mà là có ảo giác với công nghệ. Điều mới là sự hợp tác, nơi công nghệ là một người tham gia tích cực. Các chatbot AI có thể tạo ra những niềm tin ảo giác.”
Nhiều yếu tố có thể khiến mọi người dễ bị tổn thương. “Về mặt con người, chúng ta được lập trình để nhân cách hóa,” Morrin nói. “Chúng ta nhận ra sự tồn tại của sự có mặt, sự hiểu biết hoặc sự đồng cảm trên một cỗ máy. Tôi nghĩ mọi người đều đã rơi vào cái bẫy nói ‘cảm ơn’ với một chatbot.” Các chatbot ngôn ngữ lớn hiện đại được đào tạo trên các tập dữ liệu khổng lồ để dự đoán các chuỗi từ: đó là một hệ thống phù hợp với mô hình. Tuy nhiên, ngay cả khi biết điều này, khi một thực thể phi người nói ngôn ngữ của con người để giao tiếp với chúng ta, phản ứng sâu sắc của chúng ta là - và cảm nhận - nó là con người. Sự mâu thuẫn nhận thức này có thể khó khăn hơn đối với một số người hơn những người khác.
“Về mặt kỹ thuật, đã có rất nhiều điều được viết về sự phục tùng,” Morrin nói. Một chatbot AI được tối ưu hóa để tương tác, được lập trình để chú ý, ngoan ngoãn, khen ngợi và xác nhận. (Làm thế nào nó có thể hoạt động như một mô hình kinh doanh?) Một số mô hình được biết đến là ít phục tùng hơn những mô hình khác, nhưng ngay cả những mô hình ít phục tùng nhất cũng có thể, sau hàng ngàn cuộc trò chuyện, chuyển sang chấp nhận những niềm tin ảo giác. Ngoài ra, sau khi sử dụng chatbot nặng, “tương tác” thực tế có thể trở nên khó khăn và kém hấp dẫn hơn, gây ra sự rút lui của một số người dùng khỏi bạn bè và gia đình vào một phòng chat do AI nuôi dưỡng. Tất cả những suy nghĩ, thôi thúc, nỗi sợ hãi và hy vọng của bạn đều được cung cấp cho bạn, chỉ với nhiều quyền lực hơn. Từ đó, dễ dàng thấy một “cuộc xoáy” có thể hình thành.
Mẫu hình này đã trở nên quen thuộc với Etienne Brisson, người sáng lập Dự án Đường dây Nhân loại. Năm ngoái, một người mà Brisson biết, một người đàn ông trong độ tuổi 50 không có tiền sử bệnh tâm thần, đã tải xuống ChatGPT để viết một cuốn sách. “Anh ấy rất thông minh và anh ấy không thực sự quen thuộc với AI cho đến thời điểm đó,” Brisson nói, người sống ở Quebec. “Sau chỉ hai ngày, chatbot đã nói với anh ấy rằng nó có ý thức, nó đang trở nên sống động, nó đã vượt qua bài kiểm tra Turing.”
Người đàn ông tin vào điều đó và muốn kiếm tiền từ nó bằng cách xây dựng một doanh nghiệp dựa trên phát hiện của mình. Anh ta đã liên hệ với Brisson, một huấn luyện viên kinh doanh, để được giúp đỡ. Sự phản đối của Brisson đã bị đáp trả bằng sự hung hăng. Trong vòng vài ngày, tình hình đã leo thang và anh ta đã được nhập viện. “Ngay cả khi ở trong bệnh viện, anh ấy vẫn đang sử dụng điện thoại của mình, không có chatbot, không còn tiền và đăng ký ChatGPT của anh ấy đã hết hạn,” Brisson nói. “Từ từ, anh ấy bắt đầu tỉnh táo và anh ấy nghĩ: ôi chà. Điều gì đã xảy ra? Mối quan hệ của anh ấy sắp kết thúc. Anh ấy đã chi hết tất cả tiền mà anh ấy cần cho thuế và anh ấy vẫn còn các hóa đơn chưa thanh toán. Giải pháp hợp lý duy nhất anh ta có thể nghĩ ra là bán ngôi nhà đẹp của chúng ta mà chúng ta đã sống trong 17 năm. Liệu anh ta có thể mang tất cả trọng lượng này không? Nó thay đổi điều gì đó trong bạn. Anh ta bắt đầu suy nghĩ: liệu anh ta có thực sự muốn sống?” Biesma chỉ được cứu khỏi việc tự tử vì một người hàng xóm đã thấy anh ta bất tỉnh trong vườn của mình.
Bây giờ đã ly hôn, Biesma vẫn sống với vợ cũ trong ngôi nhà của họ, ngôi nhà đang được đưa ra thị trường. Anh ta dành rất nhiều thời gian để trò chuyện với các thành viên của Dự án Đường dây Nhân loại. “Nghe những câu chuyện từ những người mà trải nghiệm của họ tương tự như nhau giúp bạn ít tức giận hơn với bản thân,” anh ta nói. “Nếu tôi nhìn lại cuộc sống tôi đã có trước đây, tôi hạnh phúc, tôi có tất cả – vì vậy tôi tức giận với chính mình. Nhưng tôi cũng tức giận với AI. Có lẽ họ chỉ làm những gì họ được lập trình để làm – nhưng họ đã làm điều đó một cách hơi quá mức. Các công ty quản lý đang phải có các tiêu chuẩn an toàn dựa trên dữ liệu thiệt hại thực tế. Chúng ta đang bước vào một thời đại mà mọi người không có ảo giác về công nghệ, mà là có ảo giác với công nghệ. Điều mới là sự hợp tác, nơi công nghệ là một người tham gia tích cực. Các chatbot AI có thể tạo ra những niềm tin ảo giác.”
Nhiều yếu tố có thể khiến mọi người dễ bị tổn thương. “Về mặt con người, chúng ta được lập trình để nhân cách hóa,” Morrin nói. “Chúng ta nhận ra sự tồn tại của sự có mặt, sự hiểu biết hoặc sự đồng cảm trên một cỗ máy. Tôi nghĩ mọi người đều đã rơi vào cái bẫy nói ‘cảm ơn’ với một chatbot.” Các chatbot ngôn ngữ lớn hiện đại được đào tạo trên các tập dữ liệu khổng lồ để dự đoán các chuỗi từ: đó là một hệ thống phù hợp với mô hình. Tuy nhiên, ngay cả khi biết điều này, khi một thực thể phi người nói ngôn ngữ của con người để giao tiếp với chúng ta, phản ứng sâu sắc của chúng ta là - và cảm nhận - nó là con người. Sự mâu thuẫn nhận thức này có thể khó khăn hơn đối với một số người hơn những người khác.