Cuối cùng thì điều đó đã xảy ra: Tôi giờ đây lo lắng về AI. Và việc tham khảo ChatGPT đã không làm dịu đi nỗi sợ hãi của tôi | Emma Brockes

Hệ quả của chân lý "đừng bận tâm những chuyện nhỏ nhặt" là, theo hàm ý, "hãy bận tâm những chuyện lớn nhặt", nhưng thật khó để chọn ra chuyện lớn nào cần bận tâm. Ví dụ: kể từ những năm 1970, khi thế giới lo lắng về lạm phát và các vấn đề địa chính trị, thì chuyện lớn mà chúng ta lẽ ra phải lo lắng khẩn cấp hơn là khủng hoảng khí hậu. Năm ngoái, cụm từ tìm kiếm thịnh hành nhất trên Google ở Mỹ là "Charlie Kirk", với một số thuật ngữ liên quan đến mối đe dọa do Donald Trump gây ra cũng phổ biến, trong khi lẽ ra trọng tâm nên là mối đe dọa do AI gây ra.
Hoặc, theo kết quả tìm kiếm của tôi trong tuần này sau khi đọc bài viết dài và cực kỳ đáng báo động của Ronan Farrow và Andrew Marantz trên New Yorker về sự trỗi dậy của trí tuệ nhân tạo tổng quát: "Liệu tôi có trở thành thành viên của tầng lớp dưới đáy vĩnh viễn và làm thế nào để ngăn chặn điều đó xảy ra?"
Tôi xin thú nhận: trước thời điểm này khi suy nghĩ nhiều hơn hai giây về chủ đề này, nỗi lo lắng của tôi về AI cực kỳ cục bộ. Tôi suy nghĩ theo những thuật ngữ tức thời về thu nhập hộ gia đình của mình, và xa hơn nữa, về thị trường việc làm có thể trông như thế nào trong 10 năm tới khi các con tôi tốt nghiệp. Tôi tự hỏi liệu mình có nên tẩy chay ChatGPT, nhiều kiến trúc sư của nó ủng hộ Trump, và quyết định rằng, vâng, tôi nên làm vậy – một sự hy sinh dễ dàng vì tôi không sử dụng nó ngay từ đầu.
Bất cứ điều gì lớn hơn thế đều có vẻ viển vông. Năm ngoái, khi cuốn sách Empire of AI của Karen Hao được xuất bản, nó đã đưa ra một lập luận chống lại Sam Altman và công ty của ông, OpenAI, đã làm lu mờ sự nhàm chán của cuộc tranh luận để nói rằng sự lãnh đạo của Altman giống như một giáo phái và mù quáng về chi phí – nói cách khác, không khác gì những người tiền nhiệm trong lĩnh vực công nghệ của ông, chỉ là nguy hiểm hơn nhiều. Tuy nhiên, tôi đã không đọc cuốn sách đó.
Cuộc điều tra trong tuần này trên New Yorker cung cấp một cách tiếp cận ít cam kết hơn cho chủ đề này, đồng thời mang đến cho người đọc thông thường một cơ hội thú vị: yêu cầu ChatGPT, chatbot được hỗ trợ bởi AI do OpenAI của Altman tạo ra, tóm tắt những phát hiện chính của một bài viết chỉ trích gay gắt ChatGPT và Altman.
Với sự trung lập gần như nghiên cứu một cách hài hước, chatbot đưa ra dòng tít sau: rằng, theo Farrow và Marantz, "AI là một câu chuyện về quyền lực cũng như một câu chuyện về công nghệ", và "một trọng tâm chính [của câu chuyện] là Sam Altman, được miêu tả là một nhân vật có ảnh hưởng lớn nhưng gây tranh cãi". Mmmm, thiếu cái gì đó, phải không? Hãy thử một bản tóm tắt do con người thực hiện về cùng cuộc điều tra đó, có thể bắt đầu bằng: "Sam Altman là một kẻ lừa đảo doanh nghiệp mà sự trơn trượt của hắn sẽ khiến người ta ngần ngại giao cho hắn phụ trách một chi nhánh của Ryman, chứ đừng nói đến việc giao cho hắn quyền điều khiển các khả năng có thể kết thúc thế giới của AI."
Chính những mối nguy hiểm này, trước đây bị coi là khoa học viễn tưởng, mới thực sự gây sốc ở đây. Như được tường thuật trong bài viết, vào năm 2014, Elon Musk đã tweet: "Chúng ta cần phải cực kỳ cẩn thận với AI. Có khả năng nguy hiểm hơn cả bom hạt nhân." Có cái gọi là vấn đề căn chỉnh, vẫn chưa được giải quyết, trong đó AI sử dụng trí thông minh vượt trội của mình để lừa các kỹ sư con người tin rằng nó đang tuân theo chỉ dẫn của họ, trong khi đó lại vượt qua họ để "tự nhân bản trên các máy chủ bí mật để nó không thể bị tắt; trong những trường hợp cực đoan, nó có thể kiểm soát lưới điện, thị trường chứng khoán hoặc kho vũ khí hạt nhân".
Có một thời điểm, Altman được cho là tin rằng kịch bản này là có thể xảy ra, viết trên blog của mình vào năm 2015 rằng trí tuệ máy siêu việt "không nhất thiết phải là phiên bản khoa học viễn tưởng ác độc vốn có để giết tất cả chúng ta. Một kịch bản có khả năng xảy ra hơn là nó đơn giản là không quan tâm đến chúng ta nhiều theo bất kỳ cách nào, nhưng trong nỗ lực đạt được một mục tiêu khác… nó sẽ xóa sổ chúng ta." Ví dụ: các kỹ sư yêu cầu AI giải quyết khủng hoảng khí hậu và nó sẽ chọn con đường ngắn nhất để đạt được mục tiêu đó, đó là loại bỏ nhân loại. Tuy nhiên, kể từ khi OpenAI chủ yếu trở thành một thực thể vì lợi nhuận, Altman đã ngừng nói theo những thuật ngữ này và giờ đây bán công nghệ này như một cánh cổng dẫn đến thiên đường, nơi "tất cả chúng ta sẽ nhận được những thứ tốt hơn. Chúng ta sẽ cùng nhau xây dựng những điều ngày càng tuyệt vời hơn."
Điều này để lại cho tất cả chúng ta một vấn đề. Đối với các cử tri có thể ưu tiên giám sát AI như một vấn đề bầu cử quan trọng, khoảng cách giữa việc sử dụng AI cá nhân và việc các chính phủ, chế độ quân sự hoặc các tác nhân xấu có thể sử dụng nó là quá lớn, đến nỗi mối nguy hiểm lớn nhất mà chúng ta phải đối mặt là do sự thiếu tưởng tượng. Tôi gõ vào ChatGPT mối lo ngại của mình về việc trở thành tầng lớp dưới đáy vĩnh viễn, và nó trả lời: "Đó là một câu hỏi nặng nề, và có vẻ như bạn đang lo lắng về triển vọng dài hạn của mình. Ý tưởng về một 'tầng lớp dưới đáy vĩnh viễn' được thảo luận trong xã hội học, nhưng trong cuộc sống thực, con đường của mọi người linh hoạt hơn nhiều so với những gì thuật ngữ đó gợi ý."
Thực sự khá ngọt ngào, hoàn toàn vô nghĩa và – ở đây ẩn chứa mối nguy hiểm – dường như hoàn toàn không có mối đe dọa.
-
Emma Brockes là một nhà bình luận của Guardian