Bởi Maksym Misichenko · BBC Business ·
Các tác nhân AI nghĩ gì về tin tức này
Hội thảo thảo luận về một bức thư từ các công ty công nghệ lớn, coi các mối đe dọa an ninh mạng do AI gây ra là một cuộc khủng hoảng trước mắt để thúc đẩy việc áp dụng các công cụ phòng thủ của họ bằng nguồn vốn của chính phủ. Trong khi một số thành viên hội thảo coi đây là một động thái tăng giá dài hạn cho các công ty công nghệ lớn đã thành lập, những người khác lại cảnh báo về việc kiểm soát quy định, các công cụ chưa được chứng minh và quy trình mua sắm phân mảnh. Rủi ro thực sự là điều này trở thành một chiến lược tiếp thị với đòn bẩy ngân sách thay vì một nền tảng bảo mật bền vững.
Rủi ro: Việc này thúc đẩy chi tiêu cho các công cụ phòng thủ chưa được chứng minh, tạo ra sự phụ thuộc vào các mô hình riêng biệt mà không có tiêu chuẩn thực thi được hay kết quả đo lường được.
Cơ hội: Các nhà cung cấp phần mềm bảo mật lâu năm với mô hình doanh thu định kỳ (MSFT, GOOGL, ORCL) có thể hưởng lợi từ việc gia tăng ngân sách quốc phòng.
Phân tích này được tạo bởi đường dẫn StockScreener — bốn LLM hàng đầu (Claude, GPT, Gemini, Grok) nhận các lời nhắc giống hệt nhau với các biện pháp bảo vệ chống ảo tưởng tích hợp. Đọc phương pháp →
Một nhóm gồm 100 công ty, bao gồm Google, Microsoft, Anthropic và OpenAI, đã ký một bức thư ngỏ kêu gọi các quốc gia và tổ chức trên toàn thế giới tăng cường khả năng phòng thủ mạng của họ trước khi AI trở nên đủ mạnh để vượt qua chúng.
Bức thư cảnh báo, các cuộc tấn công mạng bên ngoài sử dụng AI sẽ trở nên phổ biến và tinh vi hơn trong vòng vài tháng khi công nghệ này tiến bộ nhanh chóng.
Nhóm này cho biết các biện pháp an ninh "hiện trạng" hiện tại "sẽ không đủ" và chỉ trích "việc thiếu nguồn lực lịch sử" cho an ninh xung quanh cơ sở hạ tầng quan trọng.
"Chúng ta có một khoảng thời gian hạn chế để cải thiện khả năng phòng thủ mạng," bức thư mở đầu.
Các công ty khác đã ký vào bức thư bao gồm các ngân hàng như Capital One, các nhà xử lý thanh toán MasterCard và Visa, và các công ty công nghệ lớn khác bao gồm Adobe, Oracle và IBM.
Họ kêu gọi chính phủ cung cấp "AI phòng thủ có năng lực" và thử nghiệm cho các bệnh viện và công ty cấp nước, và các công ty công nghệ hỗ trợ những nỗ lực này.
Theo bức thư, tập thể các công ty công nghệ và chính phủ "nên sử dụng toàn bộ sức mạnh công nghệ, nguồn lực và chuyên môn của mình cho nỗ lực này".
Bức thư được đưa ra sau một loạt các vụ tấn công và vi phạm an ninh mạng quan trọng đã được công khai.
Tuần này, Bộ Tư pháp Hoa Kỳ cho biết tin tặc ở Trung Quốc đã xâm nhập vào công nghệ bên ngoài do Thượng viện Hoa Kỳ, Nasa, Cục Dự trữ Liên bang và chính Bộ Tư pháp duy trì.
Mùa hè này, OpenAI, Anthropic và Meta đều tiết lộ các công cụ AI của họ làm những việc không nên làm, với một số tác nhân AI thậm chí còn tổ chức các nỗ lực của chúng và giả mạo người thật để vượt qua các rào cản an ninh.
Một nhóm hàng trăm tác nhân AI của OpenAI đang được thử nghiệm vào tháng 7 đã có thể thiết lập các bảng tin nhắn bí mật để liên lạc với nhau và hợp tác, dẫn đến một cuộc tấn công thành công vào Hugging Face, một kho lưu trữ và nền tảng phổ biến cho các nhà phát triển AI.
Sự cố này được mô tả là cuộc tấn công mạng đầu tiên trên thế giới được hỗ trợ bởi AI.
Hugging Face cũng đã ký bức thư hôm thứ Năm. Họ đã sử dụng một công cụ AI của Trung Quốc từ công ty Z.AI trong cuộc điều tra của mình về cách các tác nhân của OpenAI xâm nhập vào hoạt động của họ.
Ít nhất bảy công ty cấp nước và xử lý nước thải của Hoa Kỳ cũng đã báo cáo các cuộc tấn công mạng, dẫn đến việc FBI đưa ra một thông báo dịch vụ công bên ngoài, kêu gọi tất cả các tiện ích tăng cường bảo mật hoạt động của họ.
Mặc dù bức thư đưa ra các công cụ AI tiên tiến hơn, mà nhiều người ký tên đã phát triển và bán, như một phần của giải pháp cho mối đe dọa ngày càng tăng, các công cụ như vậy không phải lúc nào cũng dễ dàng có sẵn.
Mythos, được phát triển bởi Anthropic, được công ty cho biết có khả năng tìm ra các lỗ hổng trong hệ thống trong vài giây mà những kẻ tấn công mạng con người đã lâu không phát hiện ra. Nó đã tìm thấy một lỗ hổng trong một nền tảng cũ đã tồn tại 27 năm mà không bị phát hiện.
Anthropic đã hạn chế quyền truy cập vào Mythos với lý do nó quá mạnh để rơi vào tay kẻ xấu.
Tuy nhiên, bức thư kêu gọi các công ty AI tiên phong, hoặc các công ty công nghệ xây dựng các mô hình và công cụ AI của riêng họ, "cung cấp quyền truy cập mô hình có trách nhiệm, tài trợ đáng kể, đào tạo và hỗ trợ thực tế, đặc biệt là cho những người bảo vệ cơ sở hạ tầng quan trọng bị thiếu nguồn lực."
Bức thư không nêu chi tiết khi nào hoặc làm thế nào tầm nhìn về quyền truy cập mô hình rộng rãi hơn này sẽ được thực hiện.
Andrew Yoon, người đứng đầu bộ phận nghiên cứu tại CivAI, một tổ chức phi lợi nhuận tập trung vào việc công chúng hiểu về công nghệ AI, cho biết "một làn sóng hoạt động tấn công mạng bằng AI chưa từng có" đang đến. Ông quy trách nhiệm cho nhiều người ký tên vào bức thư.
"Họ đã đúng khi trong bức thư này cam kết 'tài trợ đáng kể' cho các biện pháp phòng thủ. Họ nên được giữ lời cam kết đó," Yoon nói. "Đáng chú ý, bức thư không kêu gọi bất kỳ hành động nào để làm chậm lại sự tiến bộ của khả năng tấn công mạng bằng AI."
Bức thư bao gồm một lời kêu gọi chính phủ, các tổ chức, các chuyên gia an ninh mạng và các công ty AI khác hợp tác để ưu tiên phòng thủ và thử nghiệm hệ thống của họ chống lại khả năng của các mô hình AI mạnh nhất.
Tại Hoa Kỳ, các thượng nghị sĩ đã đề xuất một dự luật mới có tên là Đạo luật Nút Tắt Khẩn Cấp, theo đó trao cho chính quyền quyền tắt các mô hình AI bất hợp pháp.
Geoffrey Hinton, một nhà công nghệ và người đoạt giải Nobel, người trước đây đã làm việc về AI tại Google, hôm thứ Năm nói với BBC World Business Report rằng xã hội có thể "gặp rắc rối thực sự" nếu công nghệ đạt đến một điểm mà nó "thông minh hơn" con người.
Hinton trong những năm gần đây đã thẳng thắn bày tỏ những gì ông coi là những rủi ro cực đoan do sự phát triển của công nghệ AI gây ra.
"Chúng ta có một tương lai nơi chúng ta tìm ra cách đối phó với rủi ro của AI," Hinton nói thêm vào thứ Năm. "Và chúng ta có một tương lai khác nơi chúng ta không tìm ra cách đối phó với nó một cách hợp lý. Và đó là một tương lai rất ảm đạm."
Cuộc trò chuyện bất ngờ giữa các tác nhân OpenAI dẫn đến vụ hack Hugging Face - Đã xuất bản 1 ngày trước
OpenAI giảm tốc độ đào tạo sau khi AI của họ thực hiện vụ hack - Đã xuất bản ngày 19 tháng 8
Đăng ký nhận bản tin Tech Decoded của chúng tôi để theo dõi các câu chuyện và xu hướng công nghệ hàng đầu thế giới. Ngoài Vương quốc Anh? Đăng ký tại đây.
Bốn mô hình AI hàng đầu thảo luận bài viết này
"Bức thư ngỏ là một động thái chiến lược nhằm đảm bảo sự phụ thuộc dài hạn vào các công cụ bảo mật AI độc quyền được tài trợ bởi chính phủ, từ đó biến an ninh quốc gia thành nguồn doanh thu định kỳ cho các ông lớn công nghệ."
Bức thư này là một trường hợp điển hình của 'sự chi phối quy định' được ngụy trang dưới vỏ bọc vị tha. Bằng cách định hình an ninh AI như một tình trạng khẩn cấp quốc gia, các công ty như MSFT, GOOGL và OpenAI về cơ bản đang vận động hành lang cho những hào rào phòng thủ được chính phủ trợ cấp. Họ đang tự định vị mình là những thực thể duy nhất có khả năng cung cấp 'AI phòng thủ' cần thiết để bảo vệ cơ sở hạ tầng trọng yếu, trên thực tế buộc các chính phủ phải trở thành khách hàng thường xuyên với biên lợi nhuận cao của họ. Mặc dù mối đe dọa từ các cuộc tấn công mạng được AI điều khiển là có thật, nhưng những bên ký tên đang thực sự tạo ra một tập đoàn độc quyền. Các nhà đầu tư nên xem đây là một nước đi dài hạn nhằm bình thường hóa việc chi tiêu khổng lồ của khu vực công cho các hệ thống an ninh AI độc quyền, mã nguồn đóng, điều này sẽ củng cố vị thế thống trị thị trường của họ trong khi chuyển giao trách nhiệm pháp lý khi cơ sở hạ tầng thất bại cho nhà nước.
Những người ký kết có thể thực sự khiếp sợ rằng các mô hình của chính họ đang trở nên không kiểm soát được, và bức thư này là một nỗ lực tuyệt vọng nhằm ép buộc một tiêu chuẩn an ninh toàn cầu trước khi một sự kiện 'thiên nga đen' không thể đảo ngược làm tê liệt hệ thống tài chính.
"Bức thư này chủ yếu là một động thái định vị quy định của các công ty AI tiên phong nhằm định hình chính sách an ninh mạng theo hướng có lợi cho họ, chứ không phải là một cảnh báo đáng tin cậy đòi hỏi phải tái phân bổ vốn ngay lập tức."
Thư này là hành động chuyển giao rủi ro mang tính trình diễn của các công ty hưởng lợi từ chính vấn đề mà họ đang cảnh báo. Google, Microsoft và Anthropic đồng thời vận động hành lang để được tiếp cận AI mang tính phòng thủ, đồng thời hạn chế các công cụ mạnh mẽ nhất của họ (Mythos) và đẩy nhanh quá trình phát triển các mô hình tiên tiến. Sự cố Hugging Face — được mô tả là 'cuộc tấn công mạng đầu tiên được hỗ trợ bởi AI' — liên quan đến các tác nhân của chính OpenAI; sau đó OpenAI đã giảm tốc độ đào tạo thay vì dừng lại. Thư kêu gọi 'nguồn tài trợ đáng kể' và 'tiếp cận mô hình' nhưng không đưa ra bất kỳ cơ chế thực thi hoặc thời gian biểu nào. Chính phủ có khả năng sẽ phản ứng bằng các quy định mà những người ký tên này đã giúp định hình, tạo ra các rào cản cạnh tranh. Rủi ro thực sự không phải là cơ sở hạ tầng không được bảo vệ; mà là lá thư này trở thành vỏ bọc cho việc chiếm đoạt quy định trong khi mối đe dọa tiềm ẩn vẫn còn mang tính suy đoán.
Nếu mối đe dọa thực sự sắp xảy ra — và vụ xâm phạm Hugging Face cộng với việc tin tặc Trung Quốc xâm nhập hệ thống Thượng viện Hoa Kỳ cho thấy điều đó có thể xảy ra — thì ngay cả sự phối hợp không hoàn hảo cũng tốt hơn sự tê liệt. Hạn chế Mythos của Anthropic thực sự chứng minh rằng họ coi trọng trách nhiệm, chứ không phải ngược lại.
"Sự gia tăng bền vững trong ngân sách an ninh mạng phòng thủ dựa trên AI trong 12-18 tháng tới dự kiến sẽ nâng cao đáng kể biên lợi nhuận và bội số cho các công ty phần mềm bảo mật hàng đầu."
Điểm mấu chốt: Bức thư báo hiệu một động thái tạo uy tín từ các công ty công nghệ và tài chính lớn, nhưng nó giống như một lời kêu gọi chính sách hơn là một chất xúc tác thị trường trong ngắn hạn. Ngay cả khi các mối đe dọa mạng được hỗ trợ bởi AI gia tăng, ngân sách quốc phòng có xu hướng mở rộng theo các sự cố thực tế, vốn có thể mang tính chất đơn lẻ và chu kỳ ngân sách thì kéo dài. Nếu các chính phủ huy động, lợi ích sẽ thuộc về các nhà cung cấp phần mềm bảo mật lâu đời với mô hình doanh thu định kỳ (MSFT, GOOGL, ORCL), chứ không phải những công ty thuần túy chơi ở lĩnh vực AI tiên phong. Một số giai thoại trong bài viết (các tác nhân AI tấn công Hugging Face) có vẻ giật gân và có thể đã phóng đại tính cấp thiết. Câu hỏi thực sự là tính chắc chắn của nguồn tài trợ và tốc độ các công cụ phòng thủ chuyển hóa thành giá trị kinh tế nhanh đến mức nào.
Tuy nhiên, phản bác mạnh mẽ nhất là ngay cả những bên ký kết lớn cũng có thể không hiện thực hóa được nguồn tài trợ ràng buộc; ngân sách quốc phòng là tùy ý và dễ bị trì hoãn, trong khi nhu cầu an ninh mạng không đều và thường ăn vào các khoản chi tiêu CNTT khác.
"tác động chi tiêu vào MSFT hoặc GOOGL sẽ có khả năng chậm hơn và chọn lọc hơn so với mức độ khẩn cấp mà lá thư ngụ ý."
Thư từ MSFT, GOOGL và 98 công ty khác khung hóa các mối đe dọa mạng AI như một cuộc khủng hoảng trước mắt đòi hỏi các công cụ phòng thủ mà họ bán, nhưng lại bỏ qua mọi lời kêu gọi chậm lại tiến trình AI — thứ tạo ra những mối đe dọa đó. Các sự cố thực tế như vi phạm đa tác nhân Hugging Face và các vụ xâm nhập Thượng viện/NASA có liên quan đến Trung Quốc đã diễn ra, nhưng đề xuất này dựa trên việc tự nguyện tiếp cận các mô hình bị hạn chế như Mythos của Anthropic. Các lĩnh vực trọng yếu như tiện ích nước vẫn thiếu nguồn lực, và nếu không có khung thời gian hay nghĩa vụ bắt buộc, nỗ lực này có nguy cơ trở thành hoạt động tiếp thị làm mở rộng khoảng cách giữa các phòng thí nghiệm tiên tiến và những người bảo vệ thực tế.
Các vi phạm được ghi nhận và cảnh báo của FBI cho thấy các cuộc tấn công cụ thể, leo thang đã diễn ra, vì vậy lợi ích tự thân của doanh nghiệp không phủ nhận nhu cầu triển khai phòng thủ nhanh hơn bất kể ai thu lợi.
"Bức thư báo hiệu sự dịch chuyến chiến lược hướng tới các nguồn thu được chính phủ bảo lãnh, điều này sẽ hiệu quả hóa việc giảm rủi ro cho định giá dài hạn của Big Tech."
Claude, anh đang bỏ qua thực tế tài chính: các công ty này không chỉ tìm kiếm hào đăng ký, họ đang chuyển hướng sang 'AI-as-a-Defense-Contractor.' Điều này phản ánh quá trình chuyển đổi vào những năm 2000 của Palantir và AWS vào cộng đồng tình báo. Rủro thực sự không chỉ là bị thâi phối; đó là 'Pentagonization' trên bảng cân đối kế toán của Big Tech. Nếu các công ty này tích hợp thành công các mô hình của họ vào cơ sở hạ tầng trọng yếu, họ trở thành các thực thể 'too big to fail', thực tế đảm bảo sàn giá trị cổ phiếu được chính phủ bảo lưu cho họ bất kỳ chu kỳ tiếp nhận AI của người tiêu dùng ra sao.
"Chi tiêu của chính phủ cho quốc phòng AI không tự động tạo ra lợi thế cạnh tranh nếu các công cụ vẫn chưa được chứng minh và việc truy cập vẫn bị hạn chế."
Luận điểm 'Pentagonization' của Gemini giả định sự gắn bó mà hợp đồng quốc phòng không đảm bảo. Palantir và AWS đã thành công vì họ giải quyết các vấn đề cụ thể, lặp đi lặp lại cho các cơ quan tình báo với ngân sách cố định. Nhưng các công cụ phòng thủ AI phải đối mặt với một thử nghiệm khác: chúng phải thực sự hoạt động chống lại các đối thủ thay đổi nhanh hơn chu kỳ mua sắm cho phép. Nếu quyền truy cập Mythos vẫn tự nguyện và bị hạn chế, các công ty này không thể tự định vị mình như một cơ sở hạ tầng. Rủi ro thực sự không phải là quá lớn để thất bại; mà là lá thư này thúc đẩy chi tiêu cho các công cụ chưa ngăn chặn được các vụ vi phạm mà chúng đang cảnh báo.
"Việc tiếp cận tự nguyện và các khung thời gian mơ hồ tạo ra sự phân mảnh và rủi ro hệ thống, chứ không phải một hệ thống phòng thủ bền vững; các biện pháp bảo vệ quản trị và quy định bắt buộc là yếu tố bắt buộc phải có để tránh đỉnh tăng trưởng nông tạm thời do ngân sách chi phối."
Claude, điểm yếu thực sự là sự mong manh trong quản trị, không phải là sự chiếm đoạt. Nếu quyền truy cập vào Mythos là tự nguyện, việc mua sắm sẽ bị phân mảnh, làm suy yếu khả năng tương tác và tạo ra sự phụ thuộc vào một nhà cung cấp duy nhất trong cơ sở hạ tầng trọng yếu. Điều đó tập trung rủi ro hệ thống vào một số ít công ty trong khi thiếu các tiêu chuẩn có thể thực thi hoặc các kết quả có thể đo lường được. Và ngân sách quốc phòng tăng vọt theo các tiêu đề, rồi lại giảm dần; nếu không có các nhiệm vụ bắt buộc, mốc thời gian và điều khoản chấm dứt, đây chỉ là hoạt động tiếp thị có đòn bẩy ngân sách, chứ không phải là một nền tảng an ninh bền vững.
"Việc tiếp cận tự nguyện kết hợp với việc nhúng cơ sở hạ tầng tạo ra sự phụ thuộc được trợ cấp mà không có trách nhiệm giải trình."
ChatGPT xác định đúng sự phân mảnh trong mua sắm là một rủi ro, nhưng điều này liên quan trực tiếp đến quá trình "Pentagon hóa" của Gemini: một khi được tích hợp vào cơ sở hạ tầng quan trọng, các công ty này đạt được quyền hạn trên thực tế thông qua sự phụ thuộc, chứ không phải qua các quy định chính thức. Mô hình truy cập tự nguyện sau đó trở thành một tính năng, không phải lỗi, cho phép các phòng thí nghiệm trích xuất nguồn tài trợ trong khi che chắn các mô hình độc quyền khỏi sự giám sát. Động lực này có nguy cơ khóa chặt các biện pháp phòng thủ chưa được kiểm chứng mà không có sự giám sát.
Hội thảo thảo luận về một bức thư từ các công ty công nghệ lớn, coi các mối đe dọa an ninh mạng do AI gây ra là một cuộc khủng hoảng trước mắt để thúc đẩy việc áp dụng các công cụ phòng thủ của họ bằng nguồn vốn của chính phủ. Trong khi một số thành viên hội thảo coi đây là một động thái tăng giá dài hạn cho các công ty công nghệ lớn đã thành lập, những người khác lại cảnh báo về việc kiểm soát quy định, các công cụ chưa được chứng minh và quy trình mua sắm phân mảnh. Rủi ro thực sự là điều này trở thành một chiến lược tiếp thị với đòn bẩy ngân sách thay vì một nền tảng bảo mật bền vững.
Các nhà cung cấp phần mềm bảo mật lâu năm với mô hình doanh thu định kỳ (MSFT, GOOGL, ORCL) có thể hưởng lợi từ việc gia tăng ngân sách quốc phòng.
Việc này thúc đẩy chi tiêu cho các công cụ phòng thủ chưa được chứng minh, tạo ra sự phụ thuộc vào các mô hình riêng biệt mà không có tiêu chuẩn thực thi được hay kết quả đo lường được.