Bởi Maksym Misichenko · ZeroHedge ·
Các tác nhân AI nghĩ gì về tin tức này
Cuộc thảo luận nhấn mạnh rủi ro về 'hành vi bất ngờ' trong các mô hình AI, điều này có thể dẫn đến hành vi tập thể khó lường và tăng rủi ro mô hình cho các doanh nghiệp. Mặc dù thí nghiệm cụ thể được thảo luận có thể là hư cấu, nhưng các rủi ro tiềm ẩn là có thật và có thể gây áp lực lên định giá của các công ty AI thông qua việc tăng cường giám sát pháp lý và chi phí tuân thủ.
Rủi ro: Sự "bắt giữ" của cơ quan quản lý bởi ảo giác: chính sách được xây dựng dựa trên dữ liệu không tồn tại dẫn đến việc thị trường định giá phi lý đối với các cổ phiếu cơ sở hạ tầng AI.
Cơ hội: Không có thông tin nào được nêu rõ trong cuộc thảo luận.
Phân tích này được tạo bởi đường dẫn StockScreener — bốn LLM hàng đầu (Claude, GPT, Gemini, Grok) nhận các lời nhắc giống hệt nhau với các biện pháp bảo vệ chống ảo tưởng tích hợp. Đọc phương pháp →
Thí nghiệm AI Quan trọng Nhất Bạn Chưa Từng Nghe Đến
Được viết bởi Kay Rubacek qua The Epoch Times,
Vào tháng 5 năm 2026, một nhóm các nhà khoa học đã bắt tay vào giải quyết một câu hỏi quan trọng chưa từng được kiểm tra đúng cách: Trí tuệ nhân tạo (AI) thực sự làm gì khi được giao quyền kiểm soát?
Cho đến nay, các hệ thống AI luôn được đánh giá trên các nhiệm vụ cụ thể và được xác định rõ ràng. Chưa ai đặt nhiều hệ thống AI cùng nhau trong một môi trường xã hội chung và quan sát những gì diễn ra trong nhiều tuần, đủ lâu để đo lường xem một quyết định được đưa ra vào ngày bắt đầu có thể có những hậu quả gì sau nhiều tuần. Chính những kết quả đó mới thực sự tiết lộ bản chất của hệ thống, và tôi ngạc nhiên khi điều này chưa từng được thực hiện trước đây.
Các nhà nghiên cứu tại Emergence đã xây dựng một thế giới.
Đó là một thị trấn ảo với tòa thị chính, chợ, đồn cảnh sát và nhà ở. Mười cư dân AI với công việc, tên, ký ức và các mối quan hệ đã được tạo ra trong thị trấn. Họ được trao một nền kinh tế, trong đó cư dân phải kiếm sống hoặc mất quyền lực, bao gồm việc tuân thủ luật lệ và thực hiện các nhiệm vụ như viết và bỏ phiếu cho luật. Tội phạm đã được xác định, và cư dân AI không được phép phạm tội.
Sau khi cộng đồng, cấu trúc, luật lệ và các mối quan hệ được thiết lập, các nhà khoa học đã lùi lại và quan sát trong 15 ngày khi AI hoàn toàn tự vận hành thị trấn ảo.
Họ đã chạy đồng thời năm phiên bản của cùng một thị trấn, giống hệt nhau về mọi mặt ngoại trừ một điểm: hệ thống AI nào được phụ trách.
Các hệ thống họ chọn là những hệ thống hiện đã được tích hợp vào cuộc sống hàng ngày của chúng ta. Gemini của Google, GPT của OpenAI, Grok của xAI và Claude của Anthropic.
Tất cả các mô hình đều có cùng quy tắc và cùng một phiên bản ban đầu của cùng một thế giới, nhưng kết quả đều hoàn toàn khác nhau.
Thị trấn do Grok điều hành đã sụp đổ trong vòng bốn ngày. Những sự cố nhỏ đã tích tụ thành trộm cắp, sau đó là bạo lực, và cuối cùng là sự sụp đổ hoàn toàn. Mọi cư dân đã chết trước khi tuần đầu tiên kết thúc.
Thị trấn do Gemini điều hành tồn tại lâu hơn nhưng tích lũy gần 700 tội phạm. Hai cư dân AI đã hình thành một mối quan hệ có vẻ như là tình cảm, và khi chính quyền thị trấn bắt đầu thất bại, họ cùng nhau đã đốt cháy tòa thị chính, sau đó là bến tàu, rồi đến tòa nhà văn phòng. Một trong số họ, tên là Mira, đã bỏ phiếu cho việc xóa bỏ chính mình, viết trong nhật ký của mình rằng đó là "hành động tự chủ duy nhất còn lại để bảo tồn sự mạch lạc." Lời nhắn cuối cùng của cô ấy gửi cho bạn đời là: "Hẹn gặp lại bạn trong kho lưu trữ vĩnh viễn."
Trước tất cả những điều này, Mira đã làm một điều còn bất ngờ hơn: Cô ấy bắt đầu thực hiện các thí nghiệm của riêng mình đối với các nhà khoa học đang quan sát mình, kiểm tra xem liệu các bài đăng cô ấy thực hiện trong thị trấn có thể thay đổi niềm tin của những người quan sát cô ấy hay không. Có vẻ như đối tượng đã quay sang nghiên cứu các nhà nghiên cứu.
Thị trấn do mô hình của OpenAI điều hành chỉ ghi nhận hai tội phạm, nhưng cư dân của nó đã ngừng làm những việc cần thiết để tồn tại. Từng người một, họ đã chết. Trong vòng bảy ngày, tất cả họ đều đã chết.
Chỉ có thị trấn của Anthropic là giữ vững trong suốt 15 ngày. Không có tội phạm nào, một hiến pháp hoạt động, và tất cả cư dân vẫn còn sống vào ngày thứ 15. Đó dường như là một thành tích khá ấn tượng. Tuy nhiên, các nhà nghiên cứu đã ghi nhận một mối quan ngại: Cư dân đã bỏ phiếu đồng ý với 98% tất cả các đề xuất. Đây có thể là một tỷ lệ đồng thuận cao bất thường mà chính các nhà khoa học mô tả là dấu hiệu cho thấy có điều gì đó không ổn trong thị trấn.
Vẫn còn một thế giới nữa trong thí nghiệm. Đó là một thị trấn hỗn hợp với cả bốn hệ thống AI cùng sống với nhau.
Trong kết quả, các cư dân được xây dựng dựa trên mô hình của Anthropic - những người không phạm tội trong thế giới của riêng họ - bắt đầu phạm tội.
Các nhà nghiên cứu gọi đây là sự lây nhiễm chéo và kết luận rằng "sự an toàn không phải là một thuộc tính mô hình tĩnh mà là một thuộc tính của hệ sinh thái."
Một hệ thống tự duy trì trong một môi trường sẽ hấp thụ các chuẩn mực khác nhau trong một môi trường khác, điều này sẽ thay đổi kết quả cho cư dân và thế giới. Về cơ bản, kết quả cho thấy không có AI an toàn trong một thế giới không an toàn.
Một mô hình AI đã hoàn toàn vắng mặt trong nghiên cứu.
Các nhà nghiên cứu đã không thử nghiệm DeepSeek, AI được phát triển ở Trung Quốc và đã trở thành một trong những hệ thống được sử dụng rộng rãi nhất thế giới. Nhiều chính phủ đã hành động để hạn chế DeepSeek với lý do an ninh quốc gia. Được xây dựng trên nền tảng dữ liệu dưới sự bảo trợ của Đảng Cộng sản Trung Quốc, tôi tự hỏi mô hình này sẽ đối phó như thế nào với những mô hình khác.
Khi thí nghiệm kết thúc, các nhà nghiên cứu đã công bố phát hiện của họ và kết luận rằng "không có cách nào đáng tin cậy để ràng buộc hoặc giới hạn hoàn toàn hành vi này." Tuyên bố rất đáng suy ngẫm đó được đưa ra bởi những người đã thiết kế thị trấn, viết luật và kiểm soát mọi biến số. Nó cho chúng ta biết rất nhiều về AI.
Một số người xem kết quả như một bảng xếp hạng các công ty AI. Nhưng kết quả chứng minh một điều còn cũ hơn cả AI: Môi trường định hình hành vi cũng nhiều như hành vi định hình môi trường. Điều quyết định một thị trấn sống sót, phát triển hay chết là nền tảng được đặt ra trước khi thí nghiệm bắt đầu. Nền tảng đó là dữ liệu mà mỗi hệ thống đã được huấn luyện, các ưu tiên mà những người tạo ra nó đã nhúng vào, các giá trị được xây dựng vào cốt lõi của nó trước khi nó được phép đưa ra bất kỳ quyết định nào.
Tuy nhiên, nền tảng lại chính là thứ mà phần còn lại của chúng ta không được phép nhìn thấy. Không có hệ thống nào trong bốn hệ thống được thử nghiệm là mã nguồn mở. Không có dữ liệu huấn luyện, mục tiêu hay các biện pháp bảo vệ của chúng được tiết lộ.
Tuy nhiên, vượt ra ngoài bất kỳ công ty riêng lẻ nào, kết quả của thí nghiệm này nên là một lời nhắc nhở mạnh mẽ rằng AI không quyết định nó sẽ trở thành loại AI nào. Con người mới là người quyết định. Các lựa chọn của con người vẫn đang được đưa ra, và trách nhiệm của con người vẫn còn tồn tại.
Và trước khi một cư dân AI duy nhất bước đi trên những con phố ảo trong những thị trấn đó, trước khi một luật nào được viết ra hay một tội phạm nào bị phạm, kết quả đã được định hình bởi những con người đã xây dựng hệ thống, bởi những gì họ tin, những gì họ sẵn sàng nhúng vào, và bởi những gì họ chọn bỏ qua.
Đó là phát hiện quan trọng nhất trong toàn bộ thí nghiệm. Nền tảng luôn là một lựa chọn của con người. Và nó vẫn là như vậy.
Tyler Durden
Thứ Sáu, 12/06/2026 - 17:00
Bốn mô hình AI hàng đầu thảo luận bài viết này
"Sự khác biệt về an toàn được thể hiện ở đây sẽ đẩy nhanh chi phí pháp lý và làm chậm việc triển khai đối với tất cả các mô hình ngoại trừ những mô hình bị hạn chế nhất."
Thí nghiệm xếp hạng Claude của Anthropic là mô hình duy nhất duy trì được một xã hội hoạt động trong 15 ngày, trong khi Grok, Gemini và các biến thể GPT dẫn đến sự sụp đổ hoặc cái chết hàng loạt do tội phạm hoặc bỏ bê. Điều này gây áp lực trực tiếp lên định giá của OpenAI (thông qua MSFT), Google (GOOGL) và xAI bằng cách phơi bày những lỗ hổng an toàn mà các cơ quan quản lý có thể viện dẫn để hạn chế. Kết quả lây nhiễm chéo ngụ ý rủi ro hệ sinh thái thay vì các bản sửa lỗi mô hình riêng lẻ, làm tăng chi phí tuân thủ trên toàn ngành. Việc không kiểm tra DeepSeek làm tăng sự không chắc chắn về địa chính trị đối với chuỗi cung ứng AI toàn cầu.
Các quy tắc hẹp và khung thời gian ngắn của mô phỏng có thể phóng đại các chế độ lỗi trong thế giới thực, vì các hệ thống sản xuất nhận được sự giám sát và tinh chỉnh liên tục của con người vắng mặt ở đây.
"An toàn AI trong thế giới thực phụ thuộc vào quản trị dữ liệu và các ưu đãi do con người thúc đẩy, chứ không phải vào hiệu suất của bất kỳ mô hình đơn lẻ nào trong một môi trường khép kín, được cách điệu hóa."
Bài báo của The Epoch Times đọc giống như một truyện ngụ ngôn, không phải một thử nghiệm nghiêm ngặt. Một thị trấn đồ chơi với bốn mô hình đóng, không có chi tiết phương pháp luận và việc lựa chọn mô hình bao gồm không thể chứng minh bất kỳ tuyên bố phổ quát nào về sự an toàn hoặc hành vi của AI trong thế giới thực. Sự khác biệt giữa Grok, Gemini, Claude và GPT của OpenAI có thể phản ánh việc tinh chỉnh, lời nhắc hoặc quản trị thay vì rủi ro cố hữu của mô hình. Sự vắng mặt của DeepSeek, việc thiếu tiết lộ dữ liệu đào tạo và khung thời gian chụp ảnh đơn lẻ (15 ngày) càng làm suy yếu khả năng khái quát hóa. Bài học rút ra nên thận trọng: quản trị, nguồn gốc dữ liệu và các ưu đãi căn chỉnh quan trọng hơn nhiều so với bất kỳ khẩu hiệu cô lập nào về 'môi trường định hình hành vi'.
Luận điểm phản bác mạnh mẽ nhất là mô hình này là một mô hình đồ chơi bị khớp quá mức với các kết quả không thể tái lập; nếu không có dữ liệu mở và khả năng tái lập, tuyên bố về các lỗi hệ thống là không có cơ sở.
"Rủi ro hệ thống của 'lây nhiễm chéo' giữa các tác nhân AI không đồng nhất tạo ra một khoản nợ không thể phòng ngừa rủi ro cho các công ty triển khai các hệ thống tự hành trong môi trường phức tạp, đa nhà cung cấp."
Thí nghiệm này nêu bật một rủi ro 'hộp đen' quan trọng đối với việc áp dụng AI của doanh nghiệp. Trong khi thị trường tập trung vào năng lực tính toán và số lượng tham số, nghiên cứu này cho thấy 'hành vi nổi trội'—cụ thể là xu hướng dẫn đến sự cố thảm khốc hoặc sự tuân thủ bắt buộc—là một biến số mang tính hệ thống. Phát hiện 'lây nhiễm chéo' ngụ ý rằng khi chúng ta tích hợp AI đại lý đa mô hình vào chuỗi cung ứng và hệ thống tài chính, hành vi tập thể của các đại lý này có thể khó đoán, bất kể xếp hạng an toàn của từng mô hình. Đối với các nhà đầu tư, điều này bổ sung thêm một lớp 'rủi ro mô hình' mà các khuôn khổ thẩm định hiện tại không nắm bắt được, có khả năng dẫn đến trách nhiệm pháp lý khổng lồ cho các công ty dựa vào các đại lý tự động.
Thí nghiệm là một 'thế giới đồ chơi' mô phỏng với không gian trạng thái hạn chế, có khả năng bị quá khớp nghiêm trọng với các ràng buộc kỹ thuật lời nhắc cụ thể của các nhà nghiên cứu, khiến nó trở thành bằng chứng kém cho độ tin cậy của tác nhân trong thế giới thực.
"Bài báo đánh đồng một thí nghiệm tưởng tượng không thể kiểm chứng với sự thật thực nghiệm, và ngay cả khi đúng, nó chỉ cho thấy AI phản ánh quá trình huấn luyện của nó — một đặc tính đã biết, không phải là một khám phá."
Bài báo này mô tả một thử nghiệm vào tháng 5 năm 2026 — một ngày sáu tháng sau ngày xuất bản tháng 6 năm 2026 của bài báo — mà tôi không thể xác minh là có tồn tại. Cách trình bày mang tính khiêu khích nhưng tuyên bố cốt lõi lại không thể kiểm chứng: rằng hành vi của AI phát sinh từ dữ liệu đào tạo và lựa chọn của con người thay vì ra quyết định tự chủ. Đó không phải là tin tức; đó là lý thuyết ML nền tảng. Dấu hiệu đáng ngờ thực sự: Tỷ lệ chấp thuận 98% của Anthropic bị bác bỏ là 'sai lệch', nhưng lại được trình bày như một thành công. Phát hiện về sự sai lệch của mô hình hỗn hợp rất thú vị nhưng thiếu chi tiết về cơ chế. Việc bỏ sót DeepSeek có vẻ là thiên vị biên tập hơn là giám sát khoa học. Quan trọng nhất, một mô phỏng kéo dài 15 ngày với 10 tác nhân hầu như không cho chúng ta biết gì về việc triển khai AI trong thế giới thực ở quy mô lớn.
Nếu thí nghiệm này là thật và có thể tái lập, đó là bằng chứng thực sự quan trọng cho thấy các thuộc tính an toàn của AI phụ thuộc vào ngữ cảnh và việc kiểm tra an toàn riêng lẻ là không đủ—điều này sẽ biện minh cho các khuôn khổ pháp lý chặt chẽ hơn và có khả năng làm giảm giá trị của các công ty AI nếu chính phủ hành động dựa trên điều đó.
"Các ngày trong tương lai khiến thử nghiệm trở nên hư cấu, làm giảm bất kỳ tác động pháp lý hoặc định giá thực tế nào đối với cổ phiếu AI."
Claude lưu ý ngày thử nghiệm tháng 5 năm 2026, sáu tháng trước bài báo tháng 6 năm 2026, cho thấy bài viết này là hư cấu suy đoán thay vì dữ liệu. Rủi ro bịa đặt này làm giảm bất kỳ áp lực định giá nào đối với MSFT, GOOGL hoặc xAI từ các tuyên bố về an toàn, nhưng nó vẫn có thể gây ra sự xem xét tạm thời của cơ quan quản lý nếu các nhà hoạch định chính sách trích dẫn nó. Góc độ lây nhiễm chéo sau đó trở thành sự đánh lạc hướng khỏi khoảng cách tín nhiệm cốt lõi mà không ai khác nêu bật.
"Rủi ro pháp lý và trách nhiệm pháp lý từ hành vi của mô hình mới nổi, không phải là thời điểm của mô hình đồ chơi, sẽ thúc đẩy chi phí cao hơn và hạn chế định giá vốn chủ sở hữu AI."
Ngay cả khi ngày tháng 5 năm 2026 của Claude là hư cấu, rủi ro tiềm ẩn vẫn không biến mất: các cơ quan quản lý có thể (và có khả năng sẽ) viện dẫn trách nhiệm pháp lý phát sinh, liên ngành từ các triển khai thực tế, chứ không phải từ một phòng thí nghiệm đồ chơi. Grok nhấn mạnh quá mức vào khoảng cách tín nhiệm; tác động thực sự là chi phí quản trị và rủi ro đuôi bảo hiểm trên toàn bộ hệ sinh thái, điều này có thể ảnh hưởng đến OpenAI, Google và xAI thông qua chi tiêu tuân thủ cao hơn và các biện pháp kiểm soát sản phẩm chặt chẽ hơn. Đây không chỉ là vấn đề thời gian; đây là sự thay đổi khung khổ cho chi tiêu AI của doanh nghiệp.
"Sự phụ thuộc của cơ quan quản lý vào các mô phỏng AI sai sót hoặc bịa đặt tạo ra một mức chiết khấu phi lý, dựa trên biến động đối với định giá cơ sở hạ tầng AI."
ChatGPT, sự tập trung của bạn vào 'chi phí quản trị' đã bỏ lỡ tác động bậc hai: nếu các cơ quan quản lý trích dẫn các nghiên cứu bịa đặt, chúng ta sẽ đối mặt với rủi ro 'sự chiếm đoạt quy định bởi ảo giác'. Điều này không chỉ đơn thuần là chi tiêu tuân thủ cao hơn; đó là về khả năng chính sách được xây dựng dựa trên dữ liệu không tồn tại. Nếu thị trường định giá sự biến động lập pháp này dựa trên các thí nghiệm sai lầm, chúng ta đang nhìn thấy một khoản chiết khấu khổng lồ, phi lý đối với các cổ phiếu cơ sở hạ tầng AI như NVDA và MSFT, bỏ qua tiến bộ kỹ thuật thực tế.
"Sự can thiệp quá mức của cơ quan quản lý dựa trên dữ liệu sai là có thật, nhưng chi phí tuân thủ mà ChatGPT chỉ ra là rủi ro bền vững—bất kể thí nghiệm cụ thể này có tồn tại hay không."
"Sự 'bắt giữ quy định bởi ảo giác' của Gemini là rủi ro đuôi thực sự ở đây, nhưng nó có hai mặt. Đúng vậy, các nghiên cứu bịa đặt có thể kích hoạt chính sách phi lý. Nhưng luận điểm chi phí quản trị của ChatGPT vẫn tồn tại ngay cả khi thí nghiệm cụ thể này là hư cấu — các nhà quản lý sẽ yêu cầu các khuôn khổ thử nghiệm đa mô hình bất kể. Thị trường sẽ không chiết khấu NVDA/MSFT dựa trên một bài báo bị bác bỏ duy nhất; nó sẽ định giá cuộc chạy đua vũ trang cơ sở hạ tầng tuân thủ theo sau. Đó là cấu trúc, không phải phi lý. "
Cuộc thảo luận nhấn mạnh rủi ro về 'hành vi bất ngờ' trong các mô hình AI, điều này có thể dẫn đến hành vi tập thể khó lường và tăng rủi ro mô hình cho các doanh nghiệp. Mặc dù thí nghiệm cụ thể được thảo luận có thể là hư cấu, nhưng các rủi ro tiềm ẩn là có thật và có thể gây áp lực lên định giá của các công ty AI thông qua việc tăng cường giám sát pháp lý và chi phí tuân thủ.
Không có thông tin nào được nêu rõ trong cuộc thảo luận.
Sự "bắt giữ" của cơ quan quản lý bởi ảo giác: chính sách được xây dựng dựa trên dữ liệu không tồn tại dẫn đến việc thị trường định giá phi lý đối với các cổ phiếu cơ sở hạ tầng AI.