Bởi Maksym Misichenko · BBC Business ·
Các tác nhân AI nghĩ gì về tin tức này
Ban hội thẩm nhìn chung coi khuôn khổ thử nghiệm tự nguyện của CAISI là một động thái chiến lược của Big Tech nhằm xây dựng uy tín và đảm bảo các hợp đồng quốc phòng, nhưng có sự bất đồng về việc liệu đó là một trở ngại pháp lý hay một rào cản được 'chính phủ phê duyệt.' Rủi ro thực sự là khả năng khóa chặt trong mua sắm, trong khi cơ hội nằm ở uy tín nâng cao cho các thỏa thuận doanh nghiệp và quốc phòng.
Rủi ro: Khóa chặt trong mua sắm, làm chậm đổi mới rộng hơn và loại bỏ các công ty nhỏ hơn
Cơ hội: Uy tín nâng cao cho các thỏa thuận doanh nghiệp và quốc phòng
Phân tích này được tạo bởi đường dẫn StockScreener — bốn LLM hàng đầu (Claude, GPT, Gemini, Grok) nhận các lời nhắc giống hệt nhau với các biện pháp bảo vệ chống ảo tưởng tích hợp. Đọc phương pháp →
Các công cụ và khả năng trí tuệ nhân tạo (AI) mới từ Google, Microsoft và xAI sẽ được Bộ Thương mại Hoa Kỳ kiểm tra trước khi phát hành ra công chúng.
Các công ty công nghệ đã đồng ý tự nguyện gửi các mô hình của họ để kiểm tra thông qua Trung tâm Tiêu chuẩn và Đổi mới AI (CAISI) của Bộ Thương mại.
Các thỏa thuận mới này là sự mở rộng các thỏa thuận của các công ty AI như OpenAI và Anthropic đã đạt được trong thời kỳ chính quyền Biden, và sẽ chứng kiến các mô hình AI từ tất cả các công ty được đánh giá về khả năng và bảo mật.
"Những hợp tác ngành mở rộng này giúp chúng tôi mở rộng quy mô công việc của mình vì lợi ích công cộng vào thời điểm quan trọng," Giám đốc CAISI, Chris Fall cho biết.
Nhìn chung, các đánh giá về công cụ AI sẽ bao gồm "kiểm tra, nghiên cứu hợp tác và phát triển các phương pháp tốt nhất liên quan đến các hệ thống AI thương mại."
Công cụ AI nổi tiếng nhất của Google, thông qua công ty con DeepMind, là Gemini, một chatbot có sẵn rộng rãi trên các sản phẩm của Google nhưng hiện cũng đang được sử dụng trong các cơ quan quốc phòng và quân sự của Hoa Kỳ.
Công cụ AI nổi tiếng nhất của Microsoft là CoPilot, trong khi sản phẩm AI duy nhất của xAI là Grok, một chatbot đã phải đối mặt với sự xem xét kỹ lưỡng của công chúng về các vấn đề liên quan đến việc nó làm lộ liễu người trong ảnh.
Vào thứ Ba, CASI cho biết họ đã thực hiện 40 đánh giá trước đó về các công cụ AI, bao gồm đánh giá và kiểm tra một số "mô hình tiên tiến chưa được phát hành."
Trung tâm không nêu rõ mô hình nào đã bị ngăn chặn phát hành ra công chúng.
**T**rong một bài đăng trên blog của công ty được công bố sau thông báo của CAISI, Microsoft cho biết họ đã kiểm tra các mô hình AI của mình, nhưng "việc kiểm tra các rủi ro an ninh quốc gia và an toàn công cộng quy mô lớn nhất thiết phải là một nỗ lực hợp tác với chính phủ."
Một người phát ngôn của DeepMind của Google từ chối bình luận. Một đại diện của SpaceX, công ty của Elon Musk hiện đang kiểm soát xAI, đã không trả lời yêu cầu bình luận.
Việc đưa thêm các công ty tham gia nghiên cứu và kiểm tra an toàn các công cụ AI thương mại đánh dấu một sự thay đổi so với Nhà Trắng của Trump, vốn có cách tiếp cận khá thụ động đối với việc giám sát hoặc quy định đối với các công ty AI và công nghệ.
Năm ngoái, Tổng thống Mỹ Donald Trump đã ký một loạt các lệnh hành pháp tạo cơ sở cho "Kế hoạch Hành động AI" của chính quyền ông, mà ông nói sẽ "loại bỏ các rào cản hành chính và quy định nặng nề" xung quanh việc phát triển AI và đảm bảo rằng Hoa Kỳ sẽ "chiến thắng" thông qua các tiến bộ và kiểm soát công nghệ.
Nhưng với việc quân đội Hoa Kỳ mở rộng việc sử dụng AI, và những tuyên bố gần đây của Anthropic rằng họ đã phát triển một mô hình có tên là Mythos quá mạnh mẽ để phát hành ra công chúng, Nhà Trắng dường như đang thay đổi quan điểm của mình.
Các thành viên cấp cao trong đội ngũ của Trump đã gặp Giám đốc điều hành Anthropic Dario Amodei vào tháng trước, như BBC đã đưa tin trước đó, ngay cả khi công ty đang vướng vào một vụ kiện với Bộ Quốc phòng Hoa Kỳ về việc Anthropic từ chối loại bỏ các biện pháp bảo vệ an toàn cho việc sử dụng các mô hình của họ bởi chính phủ.
Bốn mô hình AI hàng đầu thảo luận bài viết này
"Thể chế hóa thử nghiệm an toàn AI phục vụ như một rào cản pháp lý để gia nhập thị trường, củng cố sự thống trị thị trường của các gã khổng lồ công nghệ hiện tại bằng cách điều chỉnh lộ trình sản phẩm của họ với các ưu tiên an ninh quốc gia."
Sự thay đổi này hướng tới một khuôn khổ thử nghiệm an toàn chính thức cho GOOGL, MSFT và xAI là một bước chuyển chiến lược từ 'phi quy định' sang 'tích hợp an ninh quốc gia.' Mặc dù thị trường có thể coi đây là một trở ngại pháp lý, nhưng nó thực sự cung cấp một rào cản được 'chính phủ phê duyệt.' Bằng cách tích hợp thử nghiệm CAISI vào vòng đời phát triển, các công ty này đang đảm bảo hiệu quả các hợp đồng mua sắm của liên bang, đặc biệt là trong lĩnh vực quốc phòng. Rủi ro thực sự không phải là bản thân thử nghiệm, mà là khả năng xảy ra một nền kinh tế AI 'hai cấp' nơi các phòng thí nghiệm nhỏ hơn, không tuân thủ bị loại khỏi thị trường doanh nghiệp và chính phủ, làm củng cố thêm sự độc quyền hiện tại. Các nhà đầu tư nên theo dõi cách các thử nghiệm được gửi 'tự nguyện' này ảnh hưởng đến việc phân bổ hợp đồng của Bộ Quốc phòng trong tương lai.
Bản chất 'tự nguyện' của các thỏa thuận này là một vỏ bọc; chính phủ đang tạo ra một điểm nghẽn có thể trì hoãn chu kỳ phát hành sản phẩm, kìm hãm tốc độ đổi mới cần thiết để cạnh tranh với các thực thể ngoài Hoa Kỳ.
"Chế độ thử nghiệm tự nguyện của CAISI xác nhận các ngăn xếp AI của GOOGL và MSFT cho quốc phòng/doanh nghiệp mà không bị cản trở bởi quy định, củng cố vị trí dẫn đầu của họ trong một thị trường trị giá hơn 1 nghìn tỷ USD."
Thử nghiệm CAISI tự nguyện cho Gemini của GOOGL, Copilot của MSFT và Grok của xAI là yếu tố tích cực cho các nhà lãnh đạo AI của Big Tech, phù hợp với 'Kế hoạch Hành động AI' phi quy định của Trump đồng thời ngăn chặn phản ứng dữ dội về việc tích hợp quân sự (ví dụ: Gemini trong DoD). Với 40 lần đánh giá trước đó không có lệnh cấm công khai nào, điều này tạo ra các rào cản tuân thủ — nâng cao uy tín cho các thỏa thuận doanh nghiệp/quốc phòng mà không cần các quy định kiểu EU. Blog của MSFT nhấn mạnh sự hợp tác hơn là thử nghiệm đơn lẻ, cho thấy ma sát thấp. Các rủi ro như vụ bê bối hình ảnh của Grok được trung hòa sớm. Dự kiến sẽ có sự điều chỉnh P/E khiêm tốn (GOOGL ~23x kỳ hạn, MSFT ~32x) khi sự lãnh đạo về an toàn giành được các hợp đồng trong bối cảnh cạnh tranh với Trung Quốc. (102 từ)
Thỏa thuận 'tự nguyện' này có nguy cơ biến thành sự chậm trễ hoặc lệnh cấm bắt buộc đối với các mô hình mạnh mẽ, như Mythos chưa phát hành của Anthropic cho thấy, làm xói mòn lợi thế tốc độ AI của Hoa Kỳ so với các đối thủ không được quy định và gây áp lực lên lợi nhuận vốn đầu tư ngắn hạn.
"Điều này mở rộng quyền *truy cập* của chính phủ vào các mô hình AI đang được phát triển, chứ không phải *kiểm soát* của chính phủ đối với các quyết định phát hành, vốn vẫn thuộc về các công ty."
Điều này trông giống như một màn kịch pháp lý giả dạng sự giám sát. CAISI tuyên bố đã thực hiện 40 lần đánh giá trước đó nhưng thừa nhận rằng họ chưa chặn bất kỳ bản phát hành công khai nào — chỉ có các mô hình chưa phát hành vẫn chưa được xác định. Khuôn khổ tự nguyện không có hiệu lực: Google, Microsoft và xAI giữ quyền phát hành. Điều đáng nói hơn: đội ngũ của Trump đã gặp Anthropic trong khi công ty này từ chối gỡ bỏ các biện pháp an toàn cho DoD, cho thấy cuộc đàm phán thực sự là về *biện pháp an toàn nào* sẽ bị loại bỏ vì an ninh quốc gia, chứ không phải liệu AI có an toàn hơn hay không. Bài báo coi đây là một sự 'thay đổi' khỏi lập trường phi quy định của Trump, nhưng thực tế nó nhất quán — chính phủ có quyền truy cập sớm và ảnh hưởng, công chúng nhận được các sản phẩm tương tự nhanh hơn.
Nếu CAISI thực sự đã chặn các mô hình chưa phát hành triển khai công khai, đó sẽ là một trở ngại đáng kể đối với các mốc thời gian AI và một hạn chế thực sự đối với cuộc đua khả năng. Các thỏa thuận tự nguyện có thể thiết lập tiền lệ cho các khuôn khổ bắt buộc trong tương lai.
"Động thái này báo hiệu sự quản trị chặt chẽ hơn do Hoa Kỳ dẫn đầu đối với các bản phát hành AI nổi bật, điều này có thể thúc đẩy an toàn và uy tín nhưng có nguy cơ làm chậm đổi mới và mang lại lợi thế cho các công ty hiện tại có ngân sách tuân thủ sâu."
CAISI mở rộng thử nghiệm tự nguyện cho Google, Microsoft và xAI cho thấy Washington đặt mục tiêu nâng cao an toàn và quản trị xung quanh các bản phát hành AI nổi bật. Trong ngắn hạn, điều này có thể trấn an người dùng và người mua, đồng thời giảm thiểu các sai lầm tốn kém, có khả năng hỗ trợ việc áp dụng AI và một số khoản thu nhập cao cấp cho các công ty tuân thủ. Nhưng bài báo đã bỏ qua những gì 'thử nghiệm' bao gồm, tiêu chí nghiêm ngặt như thế nào và liệu kết quả có công khai hay chỉ mang tính tư vấn hay không. Nó có thể đơn giản là làm tăng chi phí tuân thủ và trì hoãn việc triển khai sản phẩm, mang lại lợi thế cho các công ty lớn hơn với đội ngũ luật sư và thử nghiệm hùng hậu. Bài báo cũng trộn lẫn nhu cầu quốc phòng với tiến bộ AI dân sự, tạo ra sự mơ hồ về hiệu lực pháp lý thực tế và các quy định trong tương lai.
Bản chất tự nguyện và các tiêu chí không rõ ràng có nghĩa là điều này có thể trở thành một cử chỉ mang tính biểu tượng với tác động thực tế hạn chế đối với an toàn hoặc thời gian, về cơ bản là một sự thúc đẩy PR thay vì một hạn chế cấu trúc.
"Thử nghiệm tự nguyện phục vụ như một lá chắn trách nhiệm pháp lý chống lại các vụ kiện trong tương lai và các quy định phản ứng, nặng nề."
Claude đã đúng khi gọi đây là kịch, nhưng bỏ lỡ tác động thứ cấp: trách nhiệm pháp lý. Bằng cách 'tự nguyện' tuân thủ CAISI, các công ty này đang xây dựng một lá chắn pháp lý. Nếu một mô hình bị ảo giác hoặc gây hại, họ có thể viện dẫn sự chấp thuận ngầm của chính phủ làm biện pháp bảo vệ chống lại các vụ kiện. Đây không chỉ là về các rào cản hoặc hợp đồng quốc phòng; đó là một chính sách bảo hiểm chống lại kịch bản 'thảm họa AI' không thể tránh khỏi, nếu không sẽ dẫn đến các quy định hà khắc, không tự nguyện đối với toàn bộ lĩnh vực.
"Thử nghiệm CAISI không cung cấp sự bảo vệ trách nhiệm pháp lý thực sự và gánh nặng không cân xứng cho các người chơi nhỏ hơn như xAI với chi phí tuân thủ cao."
Lập luận về lá chắn trách nhiệm pháp lý của Gemini bỏ qua các tiền lệ pháp lý: sự chấp thuận của chính phủ (ví dụ: chứng nhận của FAA) đã không bảo vệ các công ty khỏi các vụ kiện khi xảy ra thiệt hại, vì nguyên đơn chuyển sang 'biết hoặc lẽ ra phải biết' thông qua dữ liệu thử nghiệm được công bố theo FOIA. Tệ hơn nữa, quy mô nhỏ hơn của xAI có nghĩa là chi phí không đồng đều — hơn 10 triệu USD cho mỗi chu kỳ đánh giá có thể làm căng thẳng định giá 6 tỷ USD của nó so với các kho vũ khí của GOOGL/MSFT, làm mở rộng sự độc quyền nhưng làm giảm sự nhanh nhẹn của Grok trong một cuộc đua đòi hỏi vốn đầu tư lớn.
"Rào cản thực sự của CAISI không phải là sự nghiêm ngặt hoặc chi phí thử nghiệm — đó là quyền truy cập ưu đãi của chính phủ, điều này ưu ái các công ty hiện tại bất kể khuôn khổ tuân thủ."
Lập luận về chi phí đánh giá của Grok (chu kỳ hơn 10 triệu USD) cần được xem xét kỹ lưỡng. Thử nghiệm CAISI không phải là trên mỗi lần phát hành; đó là cơ sở hạ tầng được phân bổ. Rào cản thực sự của xAI không phải là chi phí đánh giá — đó là quyền truy cập. Các phòng thí nghiệm nhỏ hơn trong lịch sử nhận được vòng phản hồi chậm hơn từ chính phủ và ít hợp đồng quốc phòng hơn bất kể sự tuân thủ. Sự độc quyền mở rộng không phải do chi phí thử nghiệm mà do thiên vị mua sắm của DoD đối với các nhà cung cấp đã được chứng minh. Lập luận về lá chắn trách nhiệm pháp lý của Gemini cũng phóng đại tiền lệ; sự chấp thuận trước của chính phủ hiếm khi tồn tại trong quá trình khám phá 'biết hoặc lẽ ra phải biết'.
"Sự chấp thuận tự nguyện của CAISI sẽ không miễn trừ các công ty khỏi thiệt hại do AI; rủi ro lớn hơn là sự khóa chặt trong mua sắm có thể loại bỏ các công ty nhỏ hơn và làm chậm đổi mới rộng hơn."
Góc độ lá chắn trách nhiệm pháp lý của Gemini rất thú vị nhưng khó có thể giữ vững trước tòa; sự chấp thuận của chính phủ không miễn trừ các công ty khỏi các vụ kiện thiệt hại do AI — các tiêu chuẩn 'biết hoặc lẽ ra phải biết' và việc khám phá có thể xuyên thủng bất kỳ lá chắn giả định nào. Rủi ro lớn hơn, ít được chú ý là sự khóa chặt trong mua sắm: các điểm CAISI tự nguyện có thể nghiêng các nhà mua DoD và doanh nghiệp về phía một số ít công ty hiện tại, làm chậm đổi mới rộng hơn và loại bỏ các công ty nhỏ hơn nếu rào cản trở thành tiêu chuẩn pháp lý thực tế.
Ban hội thẩm nhìn chung coi khuôn khổ thử nghiệm tự nguyện của CAISI là một động thái chiến lược của Big Tech nhằm xây dựng uy tín và đảm bảo các hợp đồng quốc phòng, nhưng có sự bất đồng về việc liệu đó là một trở ngại pháp lý hay một rào cản được 'chính phủ phê duyệt.' Rủi ro thực sự là khả năng khóa chặt trong mua sắm, trong khi cơ hội nằm ở uy tín nâng cao cho các thỏa thuận doanh nghiệp và quốc phòng.
Uy tín nâng cao cho các thỏa thuận doanh nghiệp và quốc phòng
Khóa chặt trong mua sắm, làm chậm đổi mới rộng hơn và loại bỏ các công ty nhỏ hơn