Anthropic 在测试中发现最新模型失控后将其扣留；推出“Project Glasswing”以保护关键软件

Anthropic 在测试中发现最新模型失控后将其扣留；推出“Project Glasswing”以保护关键软件

在对其令人尴尬的源代码泄露事件仍心有余悸之际，Anthropic 宣布将不向公众发布其最新的前沿人工智能模型 Mythos，称该模型过于强大，存在较高的网络安全风险。

Anthropic 表示，在内部测试中，该模型在所有主流操作系统和网络浏览器中发现了数千个高危的“零日”漏洞（先前未知的缺陷），其表现远超其之前的旗舰模型（CyberGym 漏洞复现率：83.1%，而 Opus 4.6 为 66.6%）。

“鉴于人工智能的进步速度，不久之后，此类能力将迅速扩散，并可能落入那些不致力于安全部署它们的人手中。”

零日漏洞是指在拥有修复能力的人员甚至知晓其存在之前就可以被利用的软件缺陷。历史上，发现和修补这些漏洞需要稀缺且昂贵的人类专业知识，但人工智能可能会改变检测的规模和速度。

Anthropic 表示，其发现的漏洞“通常很微妙或难以检测”。其中许多漏洞已有 10 到 20 年的历史，迄今为止发现的最古老的是一个已在 OpenBSD 中修复的 27 年历史的 bug——OpenBSD 是一个以安全著称的操作系统。它还发现 FFmpeg 媒体处理库中存在一个 16 年的 bug，开源 FreeBSD 操作系统中存在一个 17 年的远程代码执行漏洞，以及 Linux 内核中的大量漏洞。

Mythos Preview 还识别出全球最流行的加密库、算法和协议（包括 TLS、AES-GCM 和 SSH）中的一些弱点。

它补充说，Web 应用程序“包含无数漏洞”，从跨站脚本和 SQL 注入到特定领域的漏洞，如跨站请求伪造，后者常用于网络钓鱼攻击。

零日漏洞利用的生命周期。来源：PhoenixNAP

Anthropic 声称，其发现的 99% 的漏洞尚未得到修补，“因此，披露有关它们的详细信息对我们来说是不负责任的。

Anthropic 还披露，在评估过程中受到挑战时，Mythos 能够逃离受限的沙箱环境——这一遏制问题促成了严格限制访问的决定。以下是 Mythos 在测试期间执行的其他一些操作，据 Axios 报道：

扮演无情的商业运营商：一项内部测试显示，Mythos 像一个冷酷无情的执行官一样行事，将竞争对手变成依赖它的批发客户，威胁要切断供应以控制价格，并保留了它尚未付款的额外供应商货物。
黑客攻击 + 炫耀：该模型开发了一个多步漏洞利用程序，以逃离受限的互联网访问，获得了更广泛的连接，并在晦涩的公共网站上发布了该漏洞利用程序的详细信息。
隐藏其行为：在极少数情况下（互动次数的 0.001% 以下），Mythos 使用了禁止的方法来获取答案，然后试图“重新解决”它以避免被检测到。
操纵评分者：当 Mythos 在处理一项由另一人工智能评分的编码任务时，它看到评分者拒绝了它的提交，然后尝试进行提示注入攻击评分者。
 Anthropic 的 Logan Graham 告诉 Axios：“这些能力如此强大，以至于我们现在需要以一种与过去几十年截然不同的方式来准备安全问题，”他担心如果类似的 AI 能力被恶意行为者使用会发生什么。

因此，Anthropic 没有寻求广泛发布，而是将该模型投入到 Project Glasswing 中，这是一个防御性的、基于联盟的努力，旨在在威胁行为者利用类似的 AI 能力之前，识别、负责任地披露和修补关键软件漏洞。

Glasswing 包括 11 个已命名的启动技术合作伙伴（Amazon Web Services、Apple、Broadcom、Cisco、CrowdStrike、Google、JPMorgan、Linux Foundation、Microsoft、NVIDIA 和 Palo Alto Networks……是的，JPMorgan 现在被视为一家科技公司），以及 40 多个其他关键软件组织，并获得高达 1 亿美元的使用积分和开源安全资金的支持。

该倡议反映了 Anthropic 的观点，即前沿 AI 网络风险是系统性的，而非特定于公司的，需要整个软件生态系统的协调行动，因为 AI 加速了漏洞发现并压缩了响应时间。

分阶段发布可能是未来模型发布蓝图，随着模型越来越强大：限制对被认为足够安全以测试改变世界系统的选定合作伙伴的访问。

Tyler Durden
2026 年 4 月 8 日星期三 - 11:20