CEO Anthropic cảnh báo 'thời điểm nguy hiểm' về an ninh mạng khi AI phơi bày hàng nghìn lỗ hổng

CEO Anthropic Dario Amodei hôm thứ Ba cảnh báo rằng trí tuệ nhân tạo đã tạo ra một khoảng thời gian hẹp để các công ty công nghệ, chính phủ và ngân hàng trên thế giới khắc phục hàng chục nghìn lỗ hổng phần mềm được phát hiện bởi mô hình mới nhất của công ty ông.

Mô hình AI đó, Mythos, đã được xem trước vào tháng trước cùng với việc tiết lộ rằng nó đã phát hiện ra các lỗ hổng có từ hàng thập kỷ trong phần mềm quan trọng.

Vì các mô hình AI từ đối thủ địa chính trị Trung Quốc "có lẽ chậm hơn 6 đến 12 tháng" so với sản phẩm của Anthropic, nên có "khoảng thời gian đó" để khắc phục các vấn đề này, Amodei cho biết.

Các bình luận được đưa ra trong một sự kiện của Anthropic, nơi Amodei chia sẻ sân khấu với CEO JPMorgan Chase Jamie Dimon và giới thiệu một bộ đại lý mới nhằm tự động hóa công việc tài chính.

"Mối nguy hiểm chỉ đơn giản là sự gia tăng khổng lồ về số lượng lỗ hổng, số lượng vi phạm, thiệt hại tài chính do ransomware gây ra cho các trường học, bệnh viện, chưa kể đến các ngân hàng," Amodei nói.

Anthropic đã giới hạn Mythos cho một vài công ty đối tác vì lo ngại về những gì tội phạm hoặc các quốc gia đối địch có thể làm với nó. Vài bản cập nhật mô hình gần đây của công ty đã gây chấn động thị trường, nhưng Mythos đã gây ra nhiều lo ngại nhất từ cả các tập đoàn và các nhà hoạch định chính sách.

Quy mô của các cuộc tấn công mạng tiềm ẩn đã tăng lên theo từng thế hệ Claude, Amodei cho biết. Một mô hình trước đó của Anthropic đã phát hiện ra khoảng 20 lỗ hổng trong trình duyệt Firefox. Mythos đã phát hiện ra gần 300, và tổng số lỗ hổng trên tất cả các phần mềm hiện lên tới hàng chục nghìn, ông nói.

Hầu hết các lỗ hổng do Mythos phát hiện chưa được công khai vì chúng vẫn chưa được vá, và "những kẻ xấu sẽ khai thác" chúng nếu chúng bị phát hiện, Amodei nói.

## 'Một thế giới tốt đẹp hơn'

Bất chấp báo động, cả Amodei và Dimon cũng bày tỏ sự lạc quan có điều kiện.

"Đây là một thời điểm nguy hiểm, nếu chúng ta phản ứng đúng đắn, và tôi nghĩ chúng ta đã bắt đầu thực hiện những bước đầu tiên, thì chúng ta có thể có một thế giới tốt đẹp hơn ở phía bên kia," Amodei nói. "Chỉ có một số lượng lỗi nhất định để tìm."

Dimon cũng cho biết rằng mặc dù những lo ngại về an ninh mạng là có cơ sở, nhưng những rủi ro an ninh mạng do AI tạo ra là một "giai đoạn chuyển tiếp".

Về vấn đề quy định, Amodei cho biết việc giám sát AI nên giống như những gì được thực hiện trong ngành công nghiệp ô tô, cân bằng giữa an toàn cho người tiêu dùng và cho phép ngành công nghiệp cạnh tranh.

"Bạn không thể bắt đầu một công ty ô tô mà không có câu hỏi 'Chiếc xe này có phanh không?'" ông nói. "Chúng ta cần tìm ra một quy trình cho phép ngành công nghiệp hoạt động nhanh chóng, công bằng, nhưng đặt ra các giới hạn cho những điều nghiêm trọng nhất."

Sự kiện của công ty, và bối cảnh với Dimon, người phát ngôn nổi tiếng nhất của ngành tài chính, dường như cho thấy lợi thế của Anthropic so với OpenAI trên thị trường AI doanh nghiệp khi cả hai công ty đều hướng tới các đợt IPO tiềm năng.

Anthropic đã công bố vào thứ Ba việc mở rộng nền tảng dịch vụ tài chính của mình, bao gồm 10 đại lý AI mới cho ngân hàng đầu tư và công việc back-office, cũng như tích hợp trên các chương trình Office khác nhau của Microsoft. Công ty cũng cho biết mô hình có sẵn mới nhất của họ — Claude Opus 4.7 — dẫn đầu các điểm chuẩn cho các tác vụ phân tích tài chính.