Mythos AI 是什么？它为何可能威胁全球网络安全？

由于其对全球网络安全的威胁，Anthropic 已排除向公众发布其最新 AI 模型 Mythos 的可能性。

然而，这家开发 Claude 聊天机器人的美国科技初创公司周三证实，它正在调查一份关于一群人未经授权访问 Mythos 的报告。此次事件引发了人们对开发速度以及科技公司能否阻止其最危险产品落入公众之手的担忧。在此，我们将探讨 Mythos 及其潜在影响。

Mythos 是什么？Mythos 是一个 AI 模型——驱动聊天机器人等工具的底层技术——根据 Anthropic 的说法，它对任何组织的网络安全都构成了严重的潜在威胁。Anthropic 于 4 月 7 日宣布了 Mythos 的存在，但表示由于其识别 IT 系统中未知漏洞的能力，它不会公开发布。理论上，这些漏洞可能被黑客利用。

Anthropic 表示，如果用户要求，Mythos 可以识别并利用所有重要的 IT 操作系统和 Web 浏览器中的“零日”漏洞。零日漏洞之所以如此命名，是因为组织和开发人员完全不知道它们的存在，并且在攻击者发动攻击之前没有时间进行修补。

Anthropic 将其描述为“网络安全的一个分水岭时刻”。这家总部位于旧金山的公司表示，一些未被注意到的漏洞已经存在了几十年。

这家初创公司已允许包括苹果和高盛在内的科技公司和银行访问该模型，并评估其可能对其业务和客户构成的风险。

Anthropic 于 4 月 8 日宣布了 Project Glasswing，允许企业测试 Mythos 的网络安全能力。摄影：Samuel Boivin/NurPhoto/Shutterstock 为什么引起担忧？根据英国人工智能安全研究所 (AISI) 的说法，Mythos 是先进人工智能颠覆性能力的切实证据。自 2022 年 OpenAI 的 ChatGPT 问世以来，专家们一直警告说，人工智能可能造成严重的现实世界损害。

还有一个更广泛的观点：Mythos 表明了人工智能的进步速度。先进的模型往往会被其他公司迅速复制，包括那些开发对用户免费开放的开源模型的公司。上个月，英国科技大臣丽兹·肯德尔和安全部长丹·贾维斯在一封联合信中表示，企业需要为人工智能能力在未来一年“迅速增强”做好“相应计划”。当然，人工智能也可以用来防御网络攻击。

另一个担忧是，尽管 Mythos 被禁止公开发布，但它仍可能落入坏人之手。本周，Anthropic 证实了“少数”用户在一个私人在线论坛上获得了该模型的访问权限，这一担忧成为了现实。

然而，Mythos 标记的数千个漏洞的重要性也值得商榷。它们会造成严重损害吗？此外，突出 IT 漏洞与利用漏洞不同。

Mythos 是否经过专家评估？AISI 是世界领先的人工智能安全机构，已经审查了 Mythos，并表示它在网络安全威胁方面比以前的模型“更进一步”。危险信号包括其能够执行涉及多步骤的攻击，以及在没有人为指导的情况下识别 IT 漏洞。

它还在 AISI 眼中取得了第一项成就：在研究所创建的测试中成功完成了 32 步的网络攻击模拟。AISI 表示，它可以攻击薄弱、小型 IT 系统，但无法对防御严密的系统做出判断。该研究所的评估最后指出一个普遍存在的观点：人工智能系统只会越来越好。

英国国家网络安全中心首席执行官理查德·霍恩本周在格拉斯哥举行的 CyberUK 会议上表示，Mythos 的出现将有助于鼓励公司更换“过时的技术”。他补充说：“这只会增加紧迫性。”

然而，其他专家表示，Mythos 更像是一种演变而非革命。从事人工智能网络安全工作的 Aisle 公司分析了 Anthropic 的主要说法：它在包括 UNIX 的一个分支 FreeBSD 在内的主要操作系统和浏览器中发现了数千个零日漏洞。他们发现，其他成本低得多的模型也能发现这些问题。他们表示，这并不意味着 Mythos 的能力不重要，但其复杂性比 Anthropic 紧急的语气所暗示的要大。

专家们还谨慎地指出，大多数泄露事件仍然源于众所周知的风险，例如薄弱的身份验证和尚未修补的已知漏洞。
一些专家认为，关于 Anthropic 对 Mythos 的说法以及这家估值约 8000 亿美元（5920 亿英镑）的初创公司如何呈现这些说法，存在一定的炒作成分。Mythos 无疑是一个能力很强的模型。然而，Anthropic 的戏剧性公告使其获得了大量的媒体曝光，并将其产品置于关于人工智能如何可能导致网络风险的更广泛的、行业范围的讨论的中心。

科技公司和银行如何参与？包括谷歌、摩根大通和高盛在内的约 40 家公司已通过一项名为 Project Glasswing 的倡议获得了 Mythos 的早期访问权限，该倡议旨在让企业有机会测试该 AI 模型作为其网络防御的一部分。Anthropic 表示，他们将分享所学到的知识，“以便整个行业都能受益”。

然而，这些启动合作伙伴并未提供有关他们认为 Mythos 的能力以及它可能构成多大威胁的详细信息。

但这并没有阻止银行和监管机构对其潜在影响进行猜测。而且有充分的理由：如果 Anthropic 的警告是正确的，那么 Mythos 落入坏人之手可能会给银行带来混乱，并可能使更广泛的金融系统面临风险。

英国政府在 Mythos 出现之前就对最坏情况下的银行黑客攻击进行了建模，该建模表明直接借记可能会失败，导致租金、抵押贷款和工资无法支付，而网上银行和自动取款机取款可能会被阻止。通勤者可能会陷入困境，因为公交车和加油站拒绝付款。这可能会引发恐慌，导致竞争对手银行挤兑，因为客户担心混乱蔓延而从账户中提取资金。

对 Mythos 潜在威胁的担忧促使美国财政部长斯科特·贝森特本月早些时候在华盛顿召集了包括高盛和花旗在内的大型美国银行高管会议。

英国监管机构已将 Mythos 列入本周跨市场运营韧性小组会议的议程。这使得它成为高级银行家以及财政部、英格兰银行、金融行为监管局和国家网络安全中心官员之间的高级别讨论内容。