Claude Mythos 是什么？它会带来哪些风险？

近几周来，人工智能界因领先公司 Anthropic 关于其新模型 Claude Mythos 的声明而议论纷纷。

该公司表示，他们发现该工具在某些黑客攻击和网络安全任务上的表现优于人类，这引发了监管机构、立法者和金融机构关于其对数字服务可能造成的危险的讨论。

几家科技巨头已通过一项名为“Project Glasswing”的计划获得了 Mythos 的访问权限，该计划旨在增强自身对 Mythos 的抵御能力。

但也有人指出，声称其工具拥有前所未有的能力符合 Anthropic 的利益，这意味着——与所有人工智能一样——区分合理主张和炒作可能很棘手。

什么是 Claude Mythos？

Mythos 是 Anthropic 最新的模型之一，是其更广泛的人工智能系统 Claude 的一部分。它包含了该公司的 AI 助手和模型系列，与 OpenAI 的 ChatGPT 和 Google 的 Gemini 竞争。

Anthropic 于 4 月初首次披露了“Mythos Preview”。

测试人工智能模型如何处理特定请求或任务的研究人员（称为“红队”）在一份报告中表示，Mythos 在“计算机安全任务方面具有惊人的能力”。

他们发现该工具可以定位潜伏在数十年代码中的休眠错误并轻易利用它们。

因此，Anthropic 没有将其广泛提供给 Claude 用户，而是通过“Project Glasswing”向 12 家科技公司提供了访问权限，该公司将其描述为“一项旨在保护世界上最关键软件的努力”。

其中包括云计算巨头 Amazon Web Services、设备制造商 Apple、Microsoft 和 Google，以及芯片制造商 Nvidia 和 Broadcom。

Crowdstrike（其有缺陷的软件更新导致 2024 年 7 月发生重大全球中断）也位列该项目的合作伙伴之列，Anthropic 表示，它还向 40 多个负责关键软件的组织提供了 Mythos 的访问权限。

在“Project Glasswing”发布的同时发布的一段视频中，Anthropic 老板 Dario Amodei 表示，该公司已主动与美国政府官员合作，“帮助防御这些模型的风险”。

为什么会有担忧？

Anthropic 表示，在测试期间，他们发现该模型在网络安全和黑客攻击任务方面技术精湛，表现优于人类。

“Mythos Preview 已经发现了数千个高危漏洞，包括每个主要操作系统和网络浏览器中的一些漏洞，”Anthropic 于 4 月 7 日声称。

“鉴于人工智能的进步速度，这类能力很快就会扩散，甚至可能超出那些致力于安全部署它们的行为者。”

该公司表示，它可以在几乎没有监督的情况下，定位需要立即采取行动的旧系统中的关键错误，包括一个已存在 27 年的漏洞，并提出利用它们的建议。

此后，一些财政部长、央行行长和金融家对此表示严重担忧，担心该模型可能破坏金融系统的安全。

加拿大财政部长 François-Philippe Champagne 告诉 BBC，Mythos 已在华盛顿特区举行的国际货币基金组织 (IMF) 会议上进行了讨论。

“当然，这足以引起所有财政部长的关注，”他说，并称这项技术是“未知的未知”。

英格兰银行行长 Andrew Bailey 告诉 BBC，“我们现在必须非常仔细地研究这一最新的人工智能发展可能对网络犯罪风险意味着什么。”

与此同时，欧盟表示也正在与 Anthropic 就其对 Mythos 的担忧进行讨论。

网络专家对此有何评论？

英国国家网络安全中心前负责人 Ciaran Martin 本周早些时候告诉 BBC，Mythos 比其他人工智能模型更快地发现关键漏洞的说法“确实让人们感到震惊”。

“第二点是，即使存在我们已知但组织可能尚未修补、可能未得到充分防御的现有弱点，它也只是一个非常好的黑客，”他说。

许多独立的网络安全分析师和专家尚未能够亲自测试它，一些人仍然对 Mythos 的表现持怀疑态度。

英国人工智能安全研究所最近得出结论，虽然这是一个非常强大的模型，但它最大的威胁将是对防御薄弱、易受攻击的系统。

“我们无法确定 Mythos Preview 是否能够攻击防御严密的系统，”其研究人员说。

因此，如果存在良好的网络安全，理论上这个模型应该会被阻止。

我们应该担心它吗？

对人工智能的担忧并非新鲜事。

新的模型和工具层出不穷，并且经常伴随着彻底改变我们生活的承诺，无论好坏。

利用这种对人工智能及其未来影响的恐惧和兴奋的混合，也已成为近年来该行业及其营销策略的标志。

就 Mythos 而言，我们仍然对其了解不够，无法知道这些希望或恐惧是否合理，还是更多地反映了行业周围的炒作。

无论哪种情况，根据 NSCS 的说法，我们现在能做的最重要的事情就是不要惊慌，而是专注于确保基本的网络安全。

毕竟，大多数黑客不需要超级人工智能工具就能破坏系统，因为更简单的攻击通常就足够了。

“对一些人来说，这是一场末日事件，对另一些人来说，这似乎是很多炒作，”Martin 告诉 BBC。

但他表示，无论是由 Anthropic 或其竞争对手制造的这个工具还是后续的工具，除了风险之外，还有机会建立一个更安全的在线世界。

“从中长期来看，有机会利用这些工具来修复互联网的许多底层漏洞，”他说。

注册我们的“科技解码”时事通讯，关注全球顶尖科技故事和趋势。不在英国？在此处注册。