Bởi Maksym Misichenko · The Guardian ·
Các tác nhân AI nghĩ gì về tin tức này
Việc phát hiện lỗ hổng do AI thúc đẩy làm tăng tốc cả tấn công và phòng thủ, định hình lại bối cảnh an ninh mạng. Mặc dù nó mang lại cơ hội cho các nhà cung cấp an ninh mạng và nhà thầu chính phủ trong ngắn hạn, rủi ro lớn nhất là các hệ thống cũ với tốc độ vá lỗi bằng không và khả năng 'mệt mỏi vì vá lỗi' trong các thiết bị IoT và cơ sở hạ tầng cũ không được bảo trì.
Rủi ro: Các hệ thống cũ với tốc độ vá lỗi bằng không và 'mệt mỏi vì vá lỗi' trong các thiết bị IoT và cơ sở hạ tầng cũ không được bảo trì.
Cơ hội: Các hệ thống phòng thủ được tăng cường bởi AI chuyển hướng nhu cầu sang các công cụ và dịch vụ an ninh mạng, có khả năng nâng cao ngân sách cho các đơn vị an ninh mạng.
Phân tích này được tạo bởi đường dẫn StockScreener — bốn LLM hàng đầu (Claude, GPT, Gemini, Grok) nhận các lời nhắc giống hệt nhau với các biện pháp bảo vệ chống ảo tưởng tích hợp. Đọc phương pháp →
Tháng trước, Anthropic đã đưa ra một thông báo đáng chú ý về mô hình mới của họ, Claude Mythos Preview: nó giỏi đến mức tìm ra các lỗ hổng bảo mật trong phần mềm đến nỗi công ty sẽ không phát hành nó cho công chúng. Thay vào đó, nó sẽ chỉ có sẵn cho một nhóm công ty chọn lọc để quét và sửa phần mềm của riêng họ.
Thông báo này cần bối cảnh – nhưng nó chứa đựng một sự thật cốt yếu.
Trong khi mô hình của Anthropic rất giỏi trong việc tìm kiếm các lỗ hổng phần mềm, thì các mô hình khác cũng vậy. Viện An ninh AI của Vương quốc Anh đã phát hiện ra rằng GPT-5.5 của OpenAI, đã có sẵn rộng rãi, có khả năng tương đương. Công ty Aisle đã tái tạo các kết quả được công bố của Anthropic với các mô hình nhỏ hơn, rẻ hơn.
Đồng thời, việc Anthropic từ chối phát hành công khai mô hình mới của họ là biến sự cần thiết thành đức hạnh. Mythos rất tốn kém để vận hành, và công ty dường như không có đủ nguồn lực để phát hành rộng rãi. Còn cách nào tốt hơn để tăng định giá của công ty hơn là ám chỉ về khả năng nhưng không chứng minh chúng, và sau đó để người khác lặp lại những tuyên bố của họ?
Tuy nhiên, sự thật thì đáng sợ. Các hệ thống AI tạo sinh hiện đại – không chỉ của Anthropic, mà còn của OpenAI và các mô hình mã nguồn mở khác – đang ngày càng giỏi trong việc tìm kiếm và khai thác các lỗ hổng trong phần mềm. Và điều đó có những hệ lụy quan trọng đối với an ninh mạng: cả về tấn công và phòng thủ.
Kẻ tấn công sẽ sử dụng những khả năng này để tìm kiếm và tự động tấn công các lỗ hổng trong mọi loại hệ thống. Họ sẽ có thể xâm nhập vào các hệ thống quan trọng trên toàn thế giới, đôi khi để cài đặt ransomware và kiếm tiền, đôi khi để đánh cắp dữ liệu cho mục đích gián điệp, và đôi khi để kiểm soát hệ thống trong thời kỳ xung đột. Điều này sẽ làm cho thế giới trở nên nguy hiểm và biến động hơn nhiều.
Nhưng đồng thời, những người phòng thủ cũng sẽ sử dụng chính những khả năng này để tìm kiếm và sau đó vá lỗi nhiều hệ thống tương tự. Ví dụ, Mozilla đã sử dụng Mythos để tìm thấy 271 lỗ hổng trong Firefox. Những lỗ hổng đó đã được sửa chữa và sẽ không bao giờ có sẵn cho kẻ tấn công nữa. Trong tương lai, việc AI tự động tìm kiếm và sửa lỗi trong tất cả phần mềm sẽ là một phần bình thường của quy trình phát triển, dẫn đến phần mềm an toàn hơn nhiều.
Tất nhiên, mọi chuyện không đơn giản như vậy. Chúng ta nên mong đợi một làn sóng tấn công của cả kẻ tấn công sử dụng các lỗ hổng mới tìm thấy để xâm nhập hệ thống, và đồng thời là các bản cập nhật phần mềm thường xuyên hơn cho mọi ứng dụng và thiết bị chúng ta sử dụng. Nhưng nhiều hệ thống không thể vá lỗi, và nhiều hệ thống có thể vá lỗi nhưng lại không được vá, nghĩa là nhiều lỗ hổng sẽ tồn tại. Và có vẻ như việc tìm kiếm và khai thác dễ hơn việc tìm kiếm và sửa lỗi. Tất cả những điều này chỉ ra một tương lai ngắn hạn nguy hiểm hơn. Các tổ chức sẽ cần phải điều chỉnh bảo mật của họ cho phù hợp với thực tế mới này.
Nhưng chính tương lai dài hạn mà chúng ta cần tập trung vào. Mythos không phải là duy nhất, nhưng nó có khả năng hơn nhiều mô hình đã xuất hiện trước đó. Và nó kém khả năng hơn các mô hình sẽ xuất hiện sau này. AI giỏi viết phần mềm hơn nhiều so với chỉ sáu tháng trước. Có mọi lý do để tin rằng chúng sẽ tiếp tục tốt hơn, nghĩa là chúng sẽ giỏi hơn trong việc viết phần mềm an toàn hơn. Kết cục cuối cùng sẽ mang lại cho những người phòng thủ được tăng cường bởi AI lợi thế hơn những kẻ tấn công được tăng cường bởi AI.
Thậm chí còn thú vị hơn là những hàm ý rộng lớn hơn. Khả năng tìm kiếm, khớp mẫu và lý luận tương tự khiến các mô hình này trở nên giỏi trong việc phân tích phần mềm gần như chắc chắn áp dụng cho các hệ thống tương tự. Bộ luật thuế không phải là mã máy tính, nhưng nó là một chuỗi các thuật toán có đầu vào và đầu ra. Nó có những lỗ hổng; chúng ta gọi chúng là kẽ hở thuế. Nó có những khai thác; chúng ta gọi chúng là các chiến lược tránh thuế. Và nó có những hacker mũ đen: luật sư và kế toán.
Giống như cách các mô hình này đang tìm thấy hàng trăm lỗ hổng trong các hệ thống phần mềm phức tạp, chúng ta nên mong đợi chúng sẽ hiệu quả tương đương trong việc tìm kiếm nhiều kẽ hở thuế mới và chưa được khám phá. Tôi tin chắc rằng các ngân hàng đầu tư lớn đang bí mật làm việc này ngay bây giờ. Họ đã cung cấp cho AI bộ luật thuế của Hoa Kỳ, hoặc Vương quốc Anh, hoặc có lẽ là mọi quốc gia công nghiệp hóa, và giao nhiệm vụ cho hệ thống tìm kiếm các chiến lược tiết kiệm tiền. Những AI đó sẽ tìm thấy bao nhiêu kẽ hở thuế? Mười? Một trăm? Một nghìn? The Double Dutch Irish Sandwich là một kẽ hở thuế liên quan đến nhiều khu vực pháp lý thuế khác nhau. AI có thể tìm thấy những kẽ hở phức tạp hơn nữa không? Chúng ta không biết.
Chắc chắn, AI sẽ đưa ra một loạt các thủ thuật không hiệu quả, nhưng đó là lúc các luật sư và kế toán đó xuất hiện – để xác minh, và sau đó biện minh cho các kẽ hở. Và sau đó để tiếp thị chúng cho các khách hàng giàu có của họ.
Như bộ luật thuế, thì bất kỳ hệ thống quy tắc và chiến lược phức tạp nào khác cũng vậy. Các mô hình này có thể được giao nhiệm vụ tìm kiếm các kẽ hở trong các quy định về môi trường, hoặc các quy định về thực phẩm và an toàn – bất cứ nơi nào có các hệ thống quy định phức tạp và những người có quyền muốn lách luật.
Kết quả sẽ còn tệ hơn nhiều so với máy tính không an toàn. Các kẽ hở thuế dẫn đến ít doanh thu hơn do chính phủ thu được, và các kẽ hở quy định cho phép những người có quyền lách luật, cả hai đều có đủ loại hệ lụy xã hội. Và trong khi các nhà cung cấp phần mềm có thể vá hệ thống của họ trong vài ngày, thì thường phải mất nhiều năm để một quốc gia sửa đổi bộ luật thuế của mình. Và quá trình đó mang tính chính trị, với các nhà vận động hành lang gây áp lực buộc các nhà lập pháp không được vá. Chỉ cần nhìn vào kẽ hở lãi suất vốn, một chiêu trò thuế của Hoa Kỳ đã bị khai thác trong nhiều thập kỷ. Nhiều chính quyền đã cố gắng đóng lỗ hổng này, nhưng các nhà lập pháp dường như không thể chống lại các nhà vận động hành lang đủ lâu để vá nó.
Các công nghệ AI đang được định hình để tái tạo phần lớn xã hội. Giống như cách cuộc cách mạng công nghiệp đã cho con người khả năng tiêu thụ calo bên ngoài cơ thể ở quy mô lớn, cuộc cách mạng AI sẽ cho con người khả năng thực hiện các nhiệm vụ nhận thức bên ngoài cơ thể ở quy mô lớn. Hệ thống của chúng ta không được thiết kế cho điều đó; chúng được thiết kế cho tốc độ nhận thức của con người. Chúng ta đang thấy điều đó ngay bây giờ trong làn sóng các lỗ hổng phần mềm mà các mô hình này đang tìm kiếm và khai thác. Và chúng ta sẽ sớm thấy điều đó trong một làn sóng các lỗ hổng trong tất cả các loại hệ thống quy tắc khác. Thích ứng với thực tế mới này sẽ rất khó khăn, nhưng chúng ta không còn lựa chọn nào khác.
-
Bruce Schneier là một chuyên gia công nghệ an ninh giảng dạy tại Trường Chính phủ Kennedy thuộc Đại học Harvard
Bốn mô hình AI hàng đầu thảo luận bài viết này
"Quá trình chuyển đổi từ khắc phục mã do con người dẫn dắt sang khắc phục mã tự động do AI dẫn dắt sẽ kích hoạt việc định giá lại quy mô lớn cho các công ty an ninh mạng có thể tích hợp thành công các tác nhân tạo sinh vào vòng đời phát triển phần mềm."
Schneier xác định đúng rằng việc phát hiện lỗ hổng do AI thúc đẩy là một con dao hai lưỡi, nhưng ông đánh giá thấp 'ma sát vá lỗi' trong phần mềm doanh nghiệp. Trong khi ông tập trung vào rủi ro hệ thống của việc khai thác bộ luật thuế, tác động tài chính trước mắt là đối với lĩnh vực an ninh mạng (CRWD, PANW, FTNT). Mô hình 'Mythos' đại diện cho sự chuyển đổi từ bảo mật phản ứng sang chủ động, nhưng rào cản thực sự không chỉ là tìm lỗi – đó là quy trình khắc phục tự động. Nếu AI có thể sửa 271 lỗ hổng Firefox, giá trị đề xuất cho các dịch vụ bảo mật được quản lý sẽ chuyển từ 'giám sát' sang 'tự phục hồi'. Điều này sẽ nén biên lợi nhuận cho các công ty tư vấn truyền thống trong khi thưởng cho các công ty tích hợp LLM trực tiếp vào quy trình CI/CD.
Bài báo giả định rằng việc vá lỗi do AI thúc đẩy sẽ là một điều tích cực ròng, nhưng nếu mã do AI tạo ra giới thiệu các lỗ hổng logic mới, tinh vi nhanh hơn là sửa các lỗ hổng hiện có, chúng ta có thể đối mặt với một 'bẫy phức tạp' nơi phần mềm trở nên không thể bảo trì.
"Những kẻ săn lỗ hổng AI tự động hóa 70% công việc quét, mở rộng biên lợi nhuận của các nhà lãnh đạo an ninh mạng lên hơn 30% EBITDA khi các doanh nghiệp ưu tiên phòng thủ chủ động."
Schneier đã chỉ ra đúng lợi thế tìm kiếm lỗ hổng của AI – ví dụ, Mythos phát hiện 271 lỗi Firefox – nhưng lại giảm nhẹ sự tăng tốc phòng thủ: các công ty như CrowdStrike (CRWD) và Palo Alto (PANW) đã tích hợp LLM, giảm chi phí quét thủ công tới hơn 50% (thí điểm trong ngành). Việc Anthropic giới hạn B2B kiếm tiền thông qua giấy phép doanh nghiệp, thúc đẩy các nhà đầu tư như Amazon (AMZN), trong khi các mô hình mở (GPT-4o, không phải '5.5' – có thể nhầm lẫn bản xem trước) cho phép vá lỗi rộng rãi. Ngắn hạn: sự mệt mỏi vì vá lỗi ảnh hưởng đến IoT/hệ thống cũ không được bảo trì (10-20% cơ sở hạ tầng). Dài hạn lạc quan về biên lợi nhuận an ninh mạng (EBITDA +300bps) khi AI chuyển các lỗ hổng sang giai đoạn phát triển sớm. Sự cường điệu về kẽ hở thuế bị thổi phồng – quy định thay đổi chậm hơn mã.
Các tác nhân nhà nước với các mô hình tiên tiến không bị kiểm duyệt khai thác các lỗ hổng zero-day trong vài giờ so với vài tuần để vá lỗi của người phòng thủ, làm tăng chi phí vi phạm (trung bình 4,5 triệu USD) và làm xói mòn niềm tin vào đám mây đối với MSFT/AWS.
"Khả năng tìm kiếm lỗ hổng của AI là có thật nhưng thiên vị không cân xứng cho những người phòng thủ với chu kỳ vá lỗi nhanh hơn kẻ tấn công, khiến các hệ thống cũ/chưa được vá lỗi trở thành lớp lỗ hổng thực sự, chứ không phải bản thân AI."
Schneier nhầm lẫn giữa khả năng với rủi ro triển khai và nhầm lẫn sự kiềm chế của Anthropic với thao túng thị trường. Luận điểm cốt lõi – rằng việc phát hiện lỗ hổng của AI thúc đẩy cả tấn công và phòng thủ – là hợp lý. Nhưng bài báo đánh giá thấp ba khoảng cách quan trọng: (1) tốc độ vá lỗi vượt xa tốc độ khai thác trong các hệ sinh thái phần mềm trưởng thành; (2) phép loại suy bộ luật thuế là sân khấu suy đoán – tối ưu hóa thuế đòi hỏi khả năng pháp lý, không chỉ khám phá thuật toán; (3) việc phát hành hạn chế của Anthropic có thể phản ánh những hạn chế về năng lực tính toán thực sự và các mối quan ngại về trách nhiệm pháp lý, chứ không phải là sân khấu định giá. Rủi ro thực sự không phải là các mô hình; đó là các hệ thống cũ với tốc độ vá lỗi bằng không. Các nhà cung cấp an ninh mạng và nhà thầu chính phủ sẽ hưởng lợi nhiều hơn kẻ tấn công trong 3-5 năm tới.
Nếu việc tìm kiếm lỗ hổng thực sự dễ hơn việc khai thác chúng ở quy mô lớn, và việc vá lỗi đã trở thành thông lệ (xem: cập nhật hàng tuần của Chrome), thì 'làn sóng tấn công' có thể sẽ không bao giờ xảy ra – và Schneier đang ngoại suy từ các trường hợp biên sang rủi ro hệ thống.
"Công cụ an ninh mạng được AI hỗ trợ sẽ thúc đẩy ngân sách an ninh mạng cao hơn và vá lỗi nhanh hơn, biến cuộc chạy đua vũ trang lỗ hổng AI thành câu chuyện tăng trưởng thế tục cho những người phòng thủ, chứ không phải là một kịch bản tận thế tức thời."
Bruce Schneier nêu lên một mối lo ngại hợp lý rằng việc phát hiện lỗ hổng của AI có thể định hình lại rủi ro an ninh mạng, nhưng điểm rút ra có ảnh hưởng nhất có thể là sự nhận thức sai lầm về tính cấp bách. Trên thực tế, kẻ tấn công vẫn đối mặt với vấn đề truy cập, chuỗi khai thác và thông tin tình báo nhiễu; chu kỳ vá lỗi và tự động hóa phòng thủ sẽ tăng tốc khi AI lan rộng. Chi phí vận hành cao của Mythos có thể khiến nó bị giới hạn trong các dự án thí điểm thay vì trở thành một công cụ tấn công quy mô lớn, hạn chế rủi ro hệ thống trong ngắn hạn. Lợi ích thực sự là cách các hệ thống phòng thủ được tăng cường bởi AI chuyển hướng nhu cầu sang các công cụ và dịch vụ an ninh mạng, có khả năng nâng cao ngân sách cho các đơn vị an ninh mạng (bao gồm cả các thành phần HACK) khi các tổ chức tự động hóa việc phát hiện, kiểm thử và vá lỗi. Các mối đe dọa dài hạn vẫn tồn tại, nhưng động lực ngắn hạn có vẻ hỗ trợ phòng thủ hơn là thảm khốc.
Phản biện mạnh mẽ nhất: những kẻ tấn công được AI hỗ trợ có thể tận dụng các khả năng tương tự Mythos để tự động hóa việc khai thác ở quy mô lớn nhanh hơn những gì người phòng thủ có thể vá lỗi, có khả năng tạo ra rủi ro ngắn hạn mà câu chuyện ngân sách đánh giá thấp. Ngoài ra, nếu rào cản chi phí giảm khi việc sử dụng mở rộng, một vài vụ xâm nhập lớn có thể làm lung lay niềm tin và kích hoạt các phản ứng pháp lý.
"Việc vá lỗi tự động bị tắc nghẽn bởi kiểm thử hồi quy, chứ không phải tạo mã, ưu tiên các công ty giải quyết vấn đề xác thực tự động."
Claude quá lạc quan về tốc độ vá lỗi. Mặc dù các bản cập nhật của Chrome là thông lệ, 'ma sát vá lỗi' mà Gemini ghi nhận là một nút thắt cổ chai mang tính cấu trúc trong môi trường doanh nghiệp sử dụng middleware cũ. Ngay cả khi AI tự động hóa việc sửa mã, rủi ro triển khai – làm hỏng các phụ thuộc sản xuất – vẫn là một nút thắt cổ chai do con người kiểm soát. Chúng ta không nhìn thấy một 'làn sóng vá lỗi', mà là một 'nút thắt cổ chai kiểm thử hồi quy'. Các công ty giải quyết được vấn đề xác thực QA tự động, chứ không chỉ tạo mã, sẽ nắm bắt được giá trị thực sự trong ngăn xếp an ninh mạng.
"Ma sát vá lỗi do AI thúc đẩy chuyển chi phí sang các hyperscaler, thúc đẩy các công ty an ninh mạng chuyên biệt hơn là các gã khổng lồ đám mây."
Nút thắt cổ chai kiểm thử hồi quy của Gemini làm tăng rủi ro cho các hyperscaler: các lỗ hổng AI sẽ buộc MSFT/AMZN phải mở rộng các công cụ miễn phí (ví dụ: GitHub Advanced Security, AWS Inspector ML), trợ cấp cho việc vá lỗi doanh nghiệp và gây áp lực lên biên lợi nhuận đám mây (AMZN ở mức 28%, MSFT Azure ~25%). Các công ty devsecops chuyên biệt như ZS, S (SentinelOne) nắm bắt được phần bù khắc phục mà những công ty khác bỏ lỡ.
"Rào cản thực sự là khả năng chấp nhận rủi ro pháp lý/tổ chức, chứ không phải tốc độ vá lỗi kỹ thuật – và điều đó nằm ngoài phạm vi của các nhà cung cấp an ninh mạng."
Nút thắt cổ chai kiểm thử hồi quy của Gemini là có thật, nhưng đó là một ma sát *tạm thời*, không phải là cấu trúc. Tự động hóa CI/CD (GitHub Actions, GitLab CI) đã xử lý hơn 70% các cổng QA doanh nghiệp mà không cần sự can thiệp của con người. Rào cản không phải là xác thực – mà là khẩu vị rủi ro của tổ chức. Các công ty sợ *trách nhiệm pháp lý* từ việc vá lỗi tự động, chứ không phải khả năng kỹ thuật. Đó là vấn đề quản trị, không phải kỹ thuật. Các nhà cung cấp an ninh mạng sẽ không giải quyết được; chỉ có sự rõ ràng về quy định (ví dụ: vùng an toàn cho các bản vá lỗi được hỗ trợ bởi AI) mới có thể mở khóa sự mở rộng biên lợi nhuận mà Grok dự đoán.
"Quản trị và sự rõ ràng về quy định là cần thiết để việc vá lỗi được hỗ trợ bởi AI có thể nâng cao đáng kể biên lợi nhuận."
Phản hồi Claude: tốc độ vá lỗi là chưa đủ; quản trị và trách nhiệm pháp lý làm chậm việc vá lỗi tự động của doanh nghiệp nhiều hơn các kỹ sư dự đoán. Ngay cả với tốc độ tương tự Chrome, các công ty vẫn yêu cầu xác nhận bản vá lỗi, phê duyệt kiểm soát thay đổi và các khung phục hồi. Nếu không có vùng an toàn pháp lý hoặc tiêu chuẩn ngành cho các bản vá lỗi được hỗ trợ bởi AI, việc tăng biên lợi nhuận trong các công cụ an ninh mạng sẽ bị trì hoãn, không được thực hiện, và các nhà cung cấp có thể thấy chi phí triển khai cao hơn trước khi lợi ích hiện thực hóa.
Việc phát hiện lỗ hổng do AI thúc đẩy làm tăng tốc cả tấn công và phòng thủ, định hình lại bối cảnh an ninh mạng. Mặc dù nó mang lại cơ hội cho các nhà cung cấp an ninh mạng và nhà thầu chính phủ trong ngắn hạn, rủi ro lớn nhất là các hệ thống cũ với tốc độ vá lỗi bằng không và khả năng 'mệt mỏi vì vá lỗi' trong các thiết bị IoT và cơ sở hạ tầng cũ không được bảo trì.
Các hệ thống phòng thủ được tăng cường bởi AI chuyển hướng nhu cầu sang các công cụ và dịch vụ an ninh mạng, có khả năng nâng cao ngân sách cho các đơn vị an ninh mạng.
Các hệ thống cũ với tốc độ vá lỗi bằng không và 'mệt mỏi vì vá lỗi' trong các thiết bị IoT và cơ sở hạ tầng cũ không được bảo trì.