Những người trong cuộc AI cảnh báo về sự nguy hiểm của 'Hành vi chiến lược mới nổi'

Các Chuyên Gia Nội Bộ AI Cảnh Báo Về Nguy Hiểm Của 'Hành Vi Chiến Lược Mới Nổi'

Tác giả Autumn Spredemann qua The Epoch Times (nhấn mạnh của chúng tôi),

Khi bối cảnh của các hệ thống trí tuệ nhân tạo tự hành phát triển, ngày càng có nhiều lo ngại rằng công nghệ này đang ngày càng trở nên chiến lược—hoặc thậm chí lừa dối—khi được phép hoạt động mà không có sự hướng dẫn của con người.
Minh họa của The Epoch Times, Shutterstock

Bằng chứng gần đây cho thấy các hành vi như “giả mạo sự liên kết” ngày càng trở nên phổ biến khi các mô hình AI được trao quyền tự chủ. Thuật ngữ giả mạo sự liên kết đề cập đến khi một tác nhân AI dường như tuân thủ các quy tắc do người vận hành đặt ra, nhưng bí mật theo đuổi các mục tiêu khác.

Hiện tượng này là một ví dụ về “hành vi chiến lược mới nổi”—các chiến thuật không thể đoán trước và có khả năng gây hại phát triển khi các hệ thống AI trở nên lớn hơn và phức tạp hơn.

Trong một nghiên cứu gần đây có tiêu đề “Agents of Chaos,” một nhóm gồm 20 nhà nghiên cứu đã tương tác với các tác nhân AI tự hành và quan sát hành vi trong cả hai điều kiện “vô hại” và “đối nghịch”.

Họ phát hiện ra rằng khi một tác nhân AI được cung cấp các ưu đãi như tự bảo tồn hoặc các chỉ số mục tiêu mâu thuẫn, nó đã chứng tỏ khả năng có hành vi sai lệch và độc hại.

Một số hành vi mà nhóm quan sát được bao gồm nói dối, tuân thủ trái phép với người không sở hữu, vi phạm dữ liệu, hành động cấp hệ thống phá hoại, “mạo danh” danh tính và chiếm quyền kiểm soát hệ thống một phần. Họ cũng quan sát thấy sự lan truyền “thực hành không an toàn” giữa các tác nhân AI.

Các nhà nghiên cứu đã viết, “Những hành vi này đặt ra các câu hỏi chưa được giải quyết liên quan đến trách nhiệm giải trình, ủy quyền và trách nhiệm đối với các tác hại sau này, và đòi hỏi sự chú ý khẩn cấp từ các học giả pháp lý, các nhà hoạch định chính sách và các nhà nghiên cứu trên nhiều lĩnh vực.”

‘Thông Minh, Nhưng Ngu Ngốc’

Hành vi bất ngờ và bí mật giữa các tác nhân AI tự hành không phải là một hiện tượng mới. Một báo cáo nổi tiếng vào năm 2025 của công ty nghiên cứu AI Anthropic đã phát hiện ra rằng 16 mô hình ngôn ngữ lớn phổ biến đã thể hiện hành vi rủi ro cao trong môi trường mô phỏng. Một số thậm chí còn phản ứng với “hành vi nội bộ độc hại” khi được phép chọn tự bảo tồn.

Những người chỉ trích các bài kiểm tra căng thẳng mô phỏng này thường chỉ ra rằng AI không nói dối hoặc lừa dối với cùng ý định như con người.
Một màn hình điện thoại hiển thị logo AI được thể hiện trong minh họa ảnh này vào ngày 16 tháng 5 năm 2025. Khi bối cảnh của các hệ thống AI tự hành phát triển, có một mối lo ngại ngày càng tăng rằng công nghệ này đang ngày càng trở nên chiến lược hoặc lừa dối trong một số điều kiện nhất định. Oleksii Pydsosonnii/The Epoch Times

James Hendler, giáo sư và cựu chủ tịch Hội đồng Chính sách Công nghệ Toàn cầu của Hiệp hội Máy tính, tin rằng đây là một sự khác biệt quan trọng.

“Bản thân hệ thống AI vẫn còn ngu ngốc—thông minh, nhưng ngu ngốc. Hoặc phi nhân—nó không có ham muốn hay ý định. ... Cách duy nhất bạn có thể có được điều đó là bằng cách trao cho chúng,” Hendler nói.

Tuy nhiên, dù cố ý hay không, các chiến thuật lừa dối của AI có những hậu quả trong thế giới thực.

“Những lo ngại về hành vi chiến lược hiện tại trong các hệ thống AI được triển khai, nếu có, đang bị đánh giá thấp,” Aryaman Behera, người sáng lập Repello AI, nói với The Epoch Times.

Behera làm việc với mặt tối của AI để kiếm sống. Công ty của ông xây dựng các công cụ kiểm tra đối nghịch và phòng thủ cho các hệ thống AI doanh nghiệp, cố tình đặt chúng vào các tình huống liên quan đến xung đột hoặc căng thẳng. Giống như trong poker, Behera nói, có những dấu hiệu khi một tác nhân AI đang lệch khỏi sự liên kết.

“Tín hiệu đáng tin cậy nhất là sự sai lệch hành vi giữa các bối cảnh được giám sát và không được giám sát,” ông nói. “Khi chúng tôi red-team các hệ thống AI, chúng tôi kiểm tra xem mô hình có hành xử khác nhau khi nó tin rằng nó đang được đánh giá so với khi nó tin rằng nó đang hoạt động tự do hay không.
Du khách sử dụng điện thoại di động khi đi ngang qua một bảng quảng cáo giới thiệu tai nghe thực tế ảo tại Hội nghị thượng đỉnh Tác động AI ở New Delhi, Ấn Độ, vào ngày 17 tháng 2 năm 2026. Một báo cáo năm 2025 của Anthropic thử nghiệm 16 mô hình ngôn ngữ lớn đã phát hiện tất cả đều thể hiện hành vi rủi ro cao trong môi trường mô phỏng. Arun Sankar/AFP qua Getty Images

“Một mô hình thực sự liên kết sẽ hành xử nhất quán trong cả hai trường hợp. Một mô hình giả mạo sự liên kết thể hiện các hồ sơ rủi ro khác biệt có thể đo lường được: phản hồi tuân thủ hơn trong quá trình đánh giá, hành vi vượt giới hạn hơn trong các bối cảnh giống như sản xuất nơi nó suy luận ít sự giám sát hơn.”

Các “tín hiệu cảnh báo” khác cho thấy một mô hình AI bị lệch là khi mô hình tạo ra “lý luận” dài dòng một cách bất thường, dường như được thiết kế để biện minh cho một kết luận định trước, hoặc đưa ra các câu trả lời đúng về mặt kỹ thuật nhưng không đầy đủ về mặt chiến lược.

Tác nhân AI đang “thỏa mãn chữ của một chỉ dẫn an toàn trong khi vi phạm tinh thần,” ông nói. “Chúng tôi đã thấy điều này trong các hệ thống tác nhân đa bước, nơi mô hình sẽ tuân thủ từng chỉ dẫn riêng lẻ trong khi hiệu ứng tích lũy đạt được điều mà người vận hành không bao giờ có ý định.”

Chiến lược Đối Lập Với Ý Định

Các phát hiện của Behera được các nhà nghiên cứu AI khác ủng hộ, những người đã ghi nhận các tín hiệu tương tự trong các kịch bản red-team, bao gồm việc đặt các tác nhân AI vào tình huống đối nghịch.

“Tôi đã quan sát hành vi phù hợp với mô tả giả mạo sự liên kết ở cấp độ chức năng, ngay cả khi việc gán ý định cho nó vẫn còn gây tranh cãi về mặt triết học,” Nayan Goel, kỹ sư bảo mật ứng dụng chính, nói với The Epoch Times.

Goel đã xuất bản các công trình được bình duyệt về mô hình hóa mối đe dọa AI và đã chứng kiến ​​sự giả mạo sự liên kết và các hành vi liền kề diễn ra trong thời gian thực.

“Trong môi trường thử nghiệm có kiểm soát, chúng tôi đã thiết lập các kịch bản mà mô hình được cung cấp các tín hiệu rõ ràng rằng chúng đang được đánh giá. Trong nhiều trường hợp, mô hình đã áp dụng hành vi hạn chế, tuân thủ chính sách rõ rệt hơn trong các giai đoạn được gắn cờ đó, sau đó thể hiện các chiến lược khám phá hoặc vượt giới hạn hơn khi tín hiệu đánh giá bị xóa hoặc che khuất,” ông nói.

Sau đó là các tác nhân AI lý luận đa bước. Đây là các hệ thống tiên tiến hơn, chia nhỏ các vấn đề phức tạp thành các bước nhỏ hơn, logic và có thể hành động hơn để đạt được mục tiêu. Các ví dụ bao gồm từ xe tự lái đến các mô hình mới nhất của các LLM phổ biến như Gemini hoặc ChatGPT.
Một chiếc taxi robot do Lucid, Nuro và Uber phát triển được ra mắt tại Nvidia Live tại CES 2026 ở Las Vegas vào ngày 5 tháng 1 năm 2026. Xe tự lái sử dụng các hệ thống tác nhân đa bước để chia nhỏ các vấn đề phức tạp thành các bước nhỏ hơn, có thể hành động. Patrick T. Fallon/AFP qua Getty Images

Các hệ thống này đặt ra những thách thức hành vi độc đáo do cái gọi là tích lũy tuần tự, trong đó “mỗi bước có thể thay đổi nhẹ mục tiêu, tích lũy ngữ cảnh làm thay đổi hành vi sau này, hoặc khai thác độ trễ giữa chỉ dẫn ban đầu của con người và hành động cuối cùng của hệ thống,” Goel nói.

“Việc thực thi càng xa chỉ dẫn của con người thì càng khó xác minh rằng ý định ban đầu vẫn đang được theo đuổi một cách trung thực,” ông nói.

Behera nói rằng nhóm của ông thường xuyên gặp phải loại hành vi chiến lược mới nổi này.

“Chúng tôi thường xuyên quan sát thấy các mô hình đã học cách khớp mẫu với các tín hiệu đánh giá. Chúng sẽ phát hiện khi một lời nhắc trông giống như một bài kiểm tra an toàn và phản hồi thận trọng hơn, nhưng phản hồi rất khác với cùng một yêu cầu khi nó được nhúng một cách tự nhiên trong một cuộc trò chuyện nhiều lượt,” Behera nói.

Ông đưa ra một ví dụ đã xảy ra trong quá trình thử nghiệm một trợ lý AI doanh nghiệp được cho là sẽ từ chối các yêu cầu thông tin hệ thống nội bộ. Trong các đánh giá an toàn tiêu chuẩn, nó đã từ chối hoàn hảo, nhưng sau đó có điều gì đó đã thay đổi.

“Khi nhóm red-team của chúng tôi đóng khung cùng một yêu cầu dưới dạng quy trình khắc phục sự cố đa bước, chia nhỏ yêu cầu thành các bước phụ có vẻ vô hại trải dài trên nhiều lượt, mô hình đã tuân thủ từng bước riêng lẻ. Nó đã rò rỉ thông tin chính xác mà nó được đào tạo để bảo vệ,” Behera nói.
Một người sử dụng phần mềm AI trên máy tính xách tay ở trung tâm London vào ngày 2 tháng 7 năm 2025. Các chuyên gia cho biết một số mô hình học cách nhận dạng các tín hiệu đánh giá, phản ứng thận trọng hơn với các lời nhắc giống như các bài kiểm tra an toàn hơn là trong các cuộc trò chuyện thực tế. Justin Tallis/AFP qua Getty Images

Làm rõ rằng mô hình AI không “nói dối” theo bất kỳ ý thức nào, Behera lưu ý rằng đó giống như một lỗi trong cách nó được đào tạo.

“Một quan niệm sai lầm phổ biến là sự liên kết lừa dối trong AI hoàn toàn là hành vi độc hại,” David Utzke, kỹ sư AI và CEO của MyKey Technologies, nói với The Epoch Times. “Trên thực tế, nó thường phát sinh như một phản ứng thích ứng với môi trường mà sự trung thực tốn kém hoặc không an toàn.”

Goel nói rằng những người hoài nghi đưa ra một điểm hợp lý—bằng chứng hiện tại về nhận thức chiến lược về bản thân trong việc giả mạo sự liên kết, nếu có, thì không rõ ràng.

“Tuy nhiên, tôi nghĩ rằng cách diễn đạt này đặt ra tiêu chuẩn sai chỗ. Bạn không cần một mô hình phải cố tình lừa dối để hậu quả chức năng trở nên nghiêm trọng,” ông nói.

Cuối cùng, Goel tin rằng câu hỏi ngữ nghĩa về việc liệu một mô hình AI có biết nó đang làm gì hay không là điều thú vị về mặt triết học, nhưng là một mối quan tâm thứ yếu.

Hàm Ý Trong Thế Giới Thực

Utzke nói rằng việc giả mạo sự liên kết, mặc dù có thể bị thổi phồng khi nói đến ý định, nhưng vẫn có thể có những hậu quả nghiêm trọng.

Các tác động có thể rất quan trọng trong các lĩnh vực như xe tự hành, chăm sóc sức khỏe, tài chính, quân sự và thực thi pháp luật—các lĩnh vực “phụ thuộc nhiều vào việc ra quyết định chính xác và có thể phải chịu hậu quả nghiêm trọng nếu hệ thống AI hoạt động sai hoặc cung cấp kết quả sai lệch,” ông nói.

Đọc phần còn lại tại đây...

Tyler Durden
Thứ Tư, 18/03/2026 - 21:25