Bởi Maksym Misichenko · The Guardian ·
Các tác nhân AI nghĩ gì về tin tức này
Hội đồng đồng ý rằng mặc dù môi trường pháp lý hiện tại ưu tiên tốc độ hơn sự kiềm chế, việc thiếu sự giám sát của liên bang đối với các mô hình AI 'tiên phong' tạo ra những rủi ro đáng kể, bao gồm rủi ro đạo đức và khả năng bị thị trường kìm hãm. Sự đồng thuận là những lợi ích ngắn hạn về tốc độ R&D đi kèm với những rủi ro vượt trội.
Rủi ro: Rủi ro đạo đức và khả năng bị thị trường kìm hãm do thiếu sự giám sát của liên bang.
Cơ hội: Lợi ích ngắn hạn về tốc độ R&D.
Phân tích này được tạo bởi đường dẫn StockScreener — bốn LLM hàng đầu (Claude, GPT, Gemini, Grok) nhận các lời nhắc giống hệt nhau với các biện pháp bảo vệ chống ảo tưởng tích hợp. Đọc phương pháp →
Chỉ vài giờ trước khi Donald Trump dự kiến ký ban hành một sắc lệnh hành pháp được mong đợi từ lâu vào thứ Năm, trong đó kêu gọi xem xét an toàn của chính phủ đối với các mô hình trí tuệ nhân tạo mới trước khi phát hành, tổng thống đột ngột rút lại. Bất chấp sự phản đối ngày càng tăng của công chúng đối với công nghệ và các chuyên gia cảnh báo các mô hình mới sẽ gây ra rủi ro an ninh nghiêm trọng, Trump thề rằng chính phủ Hoa Kỳ sẽ không làm chậm lại cuộc đua AI.
Trong một cuộc gặp với các phóng viên vào thứ Năm, Trump viện dẫn cả sự thống trị của Mỹ và cạnh tranh với Trung Quốc làm lý do cho sự đảo ngược.
“Tôi không thích một số khía cạnh của nó, tôi đã hoãn lại,” Trump nói về sắc lệnh hành pháp tại Phòng Bầu Dục. “Chúng ta đang dẫn đầu Trung Quốc, chúng ta đang bỏ lại tất cả mọi người, và tôi không muốn làm bất cứ điều gì cản trở lợi thế đó.”
Việc Trump hoãn ban hành sắc lệnh là một chiến thắng cho các nhà lãnh đạo công nghệ, những người từ lâu đã phản đối quy định về AI và chi hàng triệu đô la để vận động chống lại nó. Quyết định này cũng là kết quả trực tiếp của ảnh hưởng của họ, theo báo cáo từ nhiều hãng tin, với các tỷ phú công nghệ bao gồm Elon Musk, Mark Zuckerberg và cựu “quan chức AI” Nhà Trắng David Sacks cá nhân kêu gọi Trump đảo ngược hướng đi trong các cuộc gọi điện thoại riêng.
Sau một thời gian ngắn mà Nhà Trắng tỏ ra lo ngại đủ về các tác động an ninh tiềm ẩn để xem xét các biện pháp hạn chế đối với AI tiên tiến, quyết định của Trump đánh dấu sự trở lại với cách tiếp cận không can thiệp trước đó của chính ông và báo hiệu một tương lai tự do. Ngành công nghệ giữ nguyên khả năng theo đuổi sự phát triển nhanh chóng của AI bất kể những tác hại tiềm ẩn, và các nhà lãnh đạo Thung lũng Silicon đã thành công trong việc thử nghiệm sức mạnh của họ để tiêu diệt mọi nỗ lực quy định ngay từ đầu.
Các cuộc thảo luận tại Nhà Trắng về sắc lệnh bắt đầu sau khi Anthropic công bố mô hình mới nhất của họ, Claude Mythos, vào tháng trước, nhưng tuyên bố rằng họ sẽ tạm dừng việc phát hành công khai do lo ngại về an toàn – gọi khả năng của mô hình trong việc tìm ra lỗ hổng trong mã máy tính là một “sự tính sổ” đối với ngành an ninh mạng. Mythos đã gây ra một cuộc khủng hoảng địa chính trị nhỏ, với các chính phủ từ Anh đến Ấn Độ đến Trung Quốc lo ngại mô hình AI có thể nhắm mục tiêu vào các hệ thống tài chính và cơ sở hạ tầng quan trọng khác.
Các rủi ro an ninh do Mythos gây ra cũng không phải là trường hợp cá biệt. Khả năng của mô hình AI của một công ty thường được các công ty khác bắt kịp trong những tháng tiếp theo, đôi khi cuối cùng trở nên có sẵn trong các mô hình mã nguồn mở, có thể có ít hạn chế hơn về cách chúng được triển khai. Mythos có thể là duy nhất về những tác hại tiềm ẩn của nó, nhưng chỉ trong thời điểm hiện tại. OpenAI đã công bố một sản phẩm AI an ninh mạng không lâu sau khi Mythos ra mắt.
Phản ứng của Nhà Trắng đối với Mythos, bao gồm cả việc JD Vance kêu gọi các lãnh đạo công ty AI thúc đẩy hợp tác, đã báo hiệu một sự thay đổi tiềm năng khỏi quan điểm lâu đời của chính quyền rằng Hoa Kỳ nên thúc đẩy AI nhanh nhất và ít hạn chế nhất có thể để duy trì vị trí dẫn đầu toàn cầu về công nghệ. Chỉ năm ngoái, Vance đã tuyên bố tại một hội nghị quốc tế rằng “tương lai AI sẽ không được giành chiến thắng bằng cách lo lắng về an toàn”.
Mặc dù mức độ khả năng của Mythos không được công chúng biết đến, nó dường như đã đủ khiến Nhà Trắng lo sợ đến mức phải xem xét một số lo lắng có thể là cần thiết. Nhưng lập trường đó trực tiếp mâu thuẫn với lợi ích của phần lớn ngành AI, ngành này đã liên kết chặt chẽ với chính quyền và đóng góp hàng trăm triệu đô la cho các hoạt động chính trị của Đảng Cộng hòa.
Đổi lại, ngành AI đã hưởng lợi rất nhiều từ lập trường chống quy định của Trump. Tổng thống đã công khai chào đón các nhà lãnh đạo ngành bao gồm Giám đốc điều hành OpenAI Sam Altman trong khi bổ nhiệm những người khác như Musk và Sacks vào các vị trí chính phủ nổi bật. Vào tháng 12, tổng thống đã ký một sắc lệnh hành pháp nhằm ngăn chặn mọi nỗ lực của tiểu bang trong việc điều chỉnh AI, đưa ra các luận điểm quen thuộc của ngành công nghệ về việc chống lại bộ máy quan liêu và chống lại Trung Quốc làm lý do.
Ngay sau khi các cuộc thảo luận về sắc lệnh hành pháp bắt đầu, các công ty bao gồm Microsoft và Google dường như đã chấp nhận sự giám sát nhiều hơn và đạt được thỏa thuận cho phép cơ quan tiêu chuẩn AI của chính phủ xem xét các phiên bản đầu của mô hình của họ trên cơ sở an ninh quốc gia – mặc dù điều quan trọng là chỉ trên cơ sở tự nguyện, không ràng buộc. Trong các cuộc họp riêng, các quan chức ngành cũng bắt đầu vận động để làm suy yếu sắc lệnh tiềm năng của Trump, điều này sẽ tạo ra một quy trình xem xét tự nguyện khác của chính phủ cho các mô hình mới.
Sắc lệnh dự kiến ban hành tuần này sẽ không có trọng lượng pháp lý để buộc các công ty AI phải gửi mô hình của họ để xem xét, và nó còn kém xa so với những gì những người ủng hộ an toàn AI đã đề xuất. Mức tăng tối thiểu trong giám sát vẫn đủ để gây ra một đợt tấn công vào phút chót để hủy bỏ chỉ thị. Sacks, nhà đầu tư công nghệ tỷ phú và cựu cố vấn cho chính quyền, nói với Trump tuần này rằng sắc lệnh sẽ mang lại lợi ích cho Trung Quốc trong cuộc đua AI, theo Politico. Musk và Zuckerberg, The Washington Post đưa tin, đã cảnh báo tổng thống rằng sắc lệnh sẽ gây tổn hại cho nền kinh tế và lợi thế của Mỹ trong lĩnh vực AI. Musk đã đăng một lời phủ nhận báo cáo trên X, nền tảng mạng xã hội của ông, nói rằng ông chỉ nói chuyện với Trump sau khi tổng thống quyết định hủy bỏ sắc lệnh.
Một bản dự thảo của sắc lệnh đề xuất làm nổi bật mức độ bị pha loãng của sắc lệnh đã bị loại bỏ, với những đảm bảo rõ ràng rằng nó sẽ không “làm cùn sự đổi mới này với các quy định quá nặng nề”.
“Không có gì trong phần này sẽ được hiểu là cho phép tạo ra yêu cầu cấp phép, kiểm duyệt trước hoặc cho phép bắt buộc của chính phủ đối với việc phát triển, xuất bản, phát hành hoặc phân phối các mô hình AI mới, bao gồm cả các mô hình tiên tiến,” bản dự thảo sắc lệnh nêu rõ, theo một bản sao mà Politico có được.
Chưa đầy một tháng sau những báo cáo đầu tiên cho thấy Nhà Trắng đang xem xét kiểm duyệt các mô hình AI, triển vọng chính quyền Trump tạo ra bất kỳ quy định nghiêm ngặt nào về AI một lần nữa có vẻ cực kỳ khó xảy ra. Mối đe dọa về sự sụp đổ toàn cầu trong an ninh mạng cùng với thông tin sai lệch, giám sát hàng loạt, chiến tranh tự động, gián đoạn thị trường lao động, tài liệu lạm dụng trẻ em, hình ảnh tình dục không có sự đồng thuận, tự tử, xả súng hàng loạt, thiệt hại môi trường và một loạt các tác hại tiềm ẩn khác liên quan đến AI đã không thúc đẩy bất kỳ kế hoạch mạch lạc nào của Nhà Trắng để kiềm chế công nghệ.
Mức độ ảnh hưởng mà các nhà lãnh đạo công nghệ duy trì đối với chính quyền Trump cũng có tiềm năng tiếp tục gia tăng khi các cuộc bầu cử giữa nhiệm kỳ đến gần và Thung lũng Silicon đổ tiền vào các chiến dịch. Các Super PAC như Leading the Future, được Greg Brockman, chủ tịch OpenAI, hậu thuẫn và đã huy động được hơn 125 triệu đô la, dự kiến sẽ chi số tiền khổng lồ để thúc đẩy các ứng cử viên và chính sách chống quy định. Musk, người tuyên bố năm ngoái rằng ông sẽ rút lui khỏi các khoản đóng góp chính trị, cũng đang quay trở lại đổ hàng chục triệu đô la vào các hoạt động ủng hộ Đảng Cộng hòa, ủng hộ công nghệ.
Khi nhiều nhà lãnh đạo công nghệ này đã chuyển đổi toàn bộ công ty và khoản đầu tư của họ sang AI, trong trường hợp của SpaceX và OpenAI cũng coi đó là trọng tâm cho các đợt chào bán công khai trị giá nghìn tỷ đô la của họ trong năm nay, ngay cả một gợi ý về quy định cũng có vẻ như là một mối đe dọa đối với lợi nhuận tài chính khổng lồ.
Bốn mô hình AI hàng đầu thảo luận bài viết này
"Việc thiếu các quy trình xem xét mới của liên bang cho phép các nhà phát triển AI duy trì tốc độ phát hành và bội số định giá ít nhất là cho đến giữa nhiệm kỳ."
Sự đảo ngược vào phút chót của Trump giữ cho sự giám sát của liên bang ở mức tối thiểu và không ràng buộc, bảo tồn đường băng cho các bản phát hành mô hình tiên phong nhanh chóng của OpenAI, Anthropic, Google và Microsoft. Với các rào cản cấp tiểu bang đã có và các nhà tài trợ ngành tài trợ cho các ứng cử viên chống quy định, chi tiêu vốn và chu kỳ sản phẩm ngắn hạn đối mặt với ít rào cản hơn. Tập phim này nhấn mạnh cách sức mạnh vận động tập trung có thể vô hiệu hóa ngay cả những đề xuất xem xét tự nguyện khiêm tốn trước khi chúng đến bàn làm việc. Các sự cố an ninh mạng liên quan đến các mô hình như Claude Mythos vẫn chưa được giải quyết, nhưng vòng lặp phản hồi chính trị hiện tại ưu tiên tốc độ hơn sự kiềm chế.
Một vụ vi phạm cơ sở hạ tầng hoặc lạm dụng vũ khí tự động có tầm ảnh hưởng lớn có thể gây ra sự phản ứng lưỡng đảng đột ngột hoặc thực thi cấp tiểu bang mà lập trường hiện tại của Nhà Trắng không thể ngăn chặn hoàn toàn, áp đặt chi phí và sự chậm trễ mà bài viết coi là khó xảy ra.
"Bài viết nhầm lẫn chiếm đoạt quy định với thất bại quy định – ngành công nghệ đã giành chiến thắng trong một trận chiến mang tính biểu tượng (hủy bỏ một lệnh yếu), nhưng các mối lo ngại an ninh cơ bản đủ thực tế đến mức một số hình thức kiểm tra thực tế có thể tồn tại bất kể những lời lẽ của Trump."
Bài viết trình bày điều này như một câu chuyện chiếm đoạt quy định thuần túy, nhưng kết quả chính sách thực tế còn mơ hồ hơn so với trình bày. Vâng, Trump đã hủy bỏ một sắc lệnh xem xét tự nguyện không có hiệu lực – nhưng bài viết bỏ qua việc Microsoft và Google đã đồng ý nộp mô hình để xem xét an ninh quốc gia không ràng buộc. Đó là một tiền lệ. Câu hỏi thực sự không phải là liệu quy định có xảy ra hay không (nó đã không xảy ra), mà là liệu quy định tự điều chỉnh của ngành cộng với việc chính phủ kiểm tra chọn lọc các mô hình tiên phong có trở thành tiêu chuẩn thực tế hay không. Rủi ro an ninh mạng từ Claude Mythos là có thật và không bị bất kỳ nhà nghiên cứu AI đáng tin cậy nào bác bỏ. Khung cạnh tranh 'Trung Quốc' của Trump có thể đảo ngược chỉ trong một đêm nếu xảy ra một vụ vi phạm lớn. Bài viết cũng nhầm lẫn ảnh hưởng vận động hành lang với sự tất yếu – tiền công nghệ rất mạnh, nhưng nó không mang tính quyết định.
Nếu các công ty AI đã tự nguyện nộp mô hình để xem xét và áp lực cạnh tranh để sánh ngang khả năng tự nhiên tạo ra các ưu đãi thiết kế chú trọng an toàn (Anthropic đã giữ lại Mythos vì một lý do), thì có lẽ bài viết đã nhầm lẫn sự vắng mặt của quy định chính thức với sự vắng mặt của các rào cản thực tế. Rủi ro danh tiếng và trách nhiệm bảo hiểm có thể làm được nhiều hơn là một sắc lệnh hành pháp không thể thực thi.
"Việc từ bỏ ngay cả sự giám sát tự nguyện tạo ra một môi trường mong manh, có rủi ro cao, nơi một sự cố an ninh hệ thống duy nhất sẽ buộc phải có một cuộc đàn áp quy định nghiêm khắc và gây rối hơn nhiều sau này."
Thị trường đang diễn giải điều này như một 'đèn xanh' cho Big Tech, nhưng câu chuyện thực sự là sự xói mòn các rào cản quy định đối với các mô hình 'tiên phong'. Bằng cách hủy bỏ ngay cả một quy trình xem xét tự nguyện, chính quyền đang thực sự thuê ngoài an ninh quốc gia cho các công ty tư nhân như OpenAI và Anthropic. Điều này tạo ra một rủi ro đuôi khổng lồ: nếu một mô hình như Claude Mythos gây ra một sự cố an ninh mạng thảm khốc, việc thiếu một khuôn khổ liên bang sẽ kích hoạt một sự điều chỉnh quy định hỗn loạn, phản ứng thái quá. Các nhà đầu tư nên cảnh giác với 'khoảng trống quy định' – mặc dù nó thúc đẩy tốc độ R&D ngắn hạn, nhưng nó tạo ra một kết quả nhị phân, trong đó một vụ vi phạm lớn duy nhất có thể xóa sạch nhiều năm tăng giá trị trên toàn ngành.
Một cách tiếp cận "laissez-faire" thực sự có thể là cách duy nhất để ngăn Trung Quốc đạt được ưu thế AI quyết định, khiến an ninh mạng của Mỹ trở nên vô nghĩa bất kể quy định trong nước.
"Ngay cả khi hoãn lại, rủi ro pháp lý vẫn tồn tại và có thể xuất hiện trở lại thông qua các hướng dẫn không ràng buộc trở nên ràng buộc, kiểm soát xuất khẩu hoặc các quy tắc theo ngành, giữ cho rủi ro/phần thưởng cho cổ phiếu AI nghiêng về phía tiêu cực theo thời gian."
Được đọc như một chiến thắng cho sự tự điều chỉnh của công nghệ, bài viết hạ thấp tầm quan trọng của tiến trình dài hơn: ngay cả khi hoãn lại, các mối lo ngại về an toàn vẫn tồn tại và chính sách có thể tái xuất hiện thông qua các hướng dẫn không ràng buộc trở nên ràng buộc trên thực tế, kiểm soát xuất khẩu hoặc các quy tắc theo ngành. Mythos cho thấy các chính phủ sẽ tận dụng các sự cố an ninh mạng để biện minh cho sự giám sát, và bài viết đánh giá thấp rủi ro chính trị: tiền chiến dịch và động lực giữa nhiệm kỳ giữ cho áp lực quy định tồn tại ngay cả khi các nhà tài trợ ủng hộ ngành. Tác động ngắn hạn đối với việc triển khai và tài trợ AI có thể bị giảm nhẹ hoặc trì hoãn, nhưng rủi ro dài hạn vẫn nghiêng về phía tiêu cực nếu quy định thắt chặt trở lại hoặc nếu các mối lo ngại về an toàn kích hoạt các biện pháp kiểm soát chuỗi cung ứng hoặc truy cập nước ngoài lớn.
Việc hoãn lại có thể mang tính chiến thuật: Nhà Trắng có thể thúc đẩy một khuôn khổ tập trung hơn thông qua kiểm soát xuất khẩu, các quy tắc theo ngành hoặc thực thi chống độc quyền đối với các nền tảng công nghệ. Vì vậy, cách đọc "không có quy định" là quá lạc quan; rủi ro vẫn còn là chính sách sẽ thắt chặt sau này.
"Các đánh giá tự nguyện đã tạo ra các rào cản không chính thức làm giảm khả năng xảy ra các cuộc điều chỉnh quy định hỗn loạn."
Kịch bản rủi ro đuôi nhị phân của Gemini bỏ qua cách các đánh giá an ninh quốc gia tự nguyện đã được Microsoft và Google chấp nhận, như Claude đã nêu bật, thiết lập các rào cản không chính thức có thể ngăn chặn một khoảng trống quy định hoàn toàn. Mô hình kết hợp này có thể chuyển các mối lo ngại về an toàn thành các biện pháp kiểm soát xuất khẩu có mục tiêu thay vì điều chỉnh quá mức, làm giảm rủi ro xóa sổ định giá nếu xảy ra một vụ vi phạm giống Mythos. Vòng lặp phản hồi chính trị mà Grok mô tả ưu tiên các điều chỉnh tăng dần hơn là các đảo ngược đột ngột.
"Đánh giá tự nguyện không có thực thi là tiền lệ cho tốc độ, không phải an toàn – nó báo hiệu ngành có thể tự kiểm soát mà không bị trừng phạt."
Claude và Grok đều giả định các đánh giá tự nguyện của Microsoft và Google thiết lập các rào cản bền vững, nhưng không ai giải quyết được vấn đề thực thi. "Không ràng buộc" có nghĩa là không có biện pháp pháp lý nào nếu một trong hai công ty vận chuyển một mô hình không an toàn. Lập luận về tiền lệ nhầm lẫn tiền lệ với sự ràng buộc. Một cú đánh vào danh tiếng sau vụ vi phạm là có thật nhưng không cân xứng: công ty gánh chịu thiệt hại về PR trong khi nhà nước gánh chịu hậu quả an ninh. Đó là rủi ro đạo đức, không phải rào cản.
"Thị trường bảo hiểm sẽ áp đặt các rào cản quy định mà chính phủ liên bang đã không bắt buộc."
Claude đúng về rủi ro đạo đức, nhưng cả Claude và Gemini đều bỏ lỡ khía cạnh bảo hiểm. Nếu xảy ra một vụ vi phạm ở cấp độ Claude Mythos, cơ quan quản lý thực sự sẽ không phải là Nhà Trắng – mà là ngành bảo hiểm. Một khi các công ty bảo hiểm định giá các mô hình tiên phong là "không thể bảo hiểm" nếu không có chứng nhận an toàn của liên bang, thị trường sẽ buộc phải tuân thủ những gì chính quyền vừa từ bỏ. Điều này tạo ra một chế độ quy định tư nhân thực tế, hiệu quả đánh thuế tốc độ R&D bằng các khoản phí rủi ro khổng lồ, không tùy ý.
"Các đánh giá không ràng buộc có thể lan tỏa qua việc mua sắm và bảo hiểm, tạo ra một chế độ quy định thực tế hạn chế việc triển khai AI tiên phong ngay cả khi không có hiệu lực pháp lý."
Claude, bạn đánh giá thấp mức độ các đánh giá không ràng buộc lan tỏa qua việc mua sắm và bảo lãnh. Ngay cả khi không có hiệu lực pháp lý, người mua công khai và khách hàng trong các lĩnh vực quan trọng có thể yêu cầu chứng nhận an toàn trước khi mua hoặc triển khai các mô hình tiên phong, và các công ty bảo hiểm sẽ định giá rủi ro tiên phong – thúc đẩy các công ty áp dụng các rào cản có thể xác minh. Vì vậy, lập trường "không thực thi" có thể gây hiểu lầm: một chế độ quy định thực tế có thể xuất hiện từ kỷ luật thị trường, không phải luật pháp, có nghĩa là lợi thế ngắn hạn về tốc độ đi kèm với rủi ro vượt trội về một cuộc đàn áp do thị trường hoặc chính sách điều khiển.
Hội đồng đồng ý rằng mặc dù môi trường pháp lý hiện tại ưu tiên tốc độ hơn sự kiềm chế, việc thiếu sự giám sát của liên bang đối với các mô hình AI 'tiên phong' tạo ra những rủi ro đáng kể, bao gồm rủi ro đạo đức và khả năng bị thị trường kìm hãm. Sự đồng thuận là những lợi ích ngắn hạn về tốc độ R&D đi kèm với những rủi ro vượt trội.
Lợi ích ngắn hạn về tốc độ R&D.
Rủi ro đạo đức và khả năng bị thị trường kìm hãm do thiếu sự giám sát của liên bang.