Anthropic称其最新AI模型可暴露软件安全漏洞

Anthropic周二表示，其尚未发布的名为Claude Mythos的人工智能模型已被证明非常擅长暴露软件漏洞。
Mythos暴露了常用应用程序中数千个尚无补丁或修复程序的漏洞，促使这家总部位于旧金山的AI初创公司与网络安全专家结成联盟，以加强防御黑客攻击并限制广泛分发。
“我们有一个新模型，我们明确不向公众发布，”Anthropic Labs的Mike Krieger在旧金山的一次HumanX AI会议上表示。
相反，Anthropic允许网络安全专家和开源社区的工程师与Mythos合作，将该模型用作防御武器，“ sort of arming them ahead of time”（可以理解为“提前武装他们”），Krieger解释道。
AI模型能力的飞跃伴随着人们对黑客利用此类工具进行密码猜测或破解旨在保护数据安全的加密的担忧。
根据Anthropic的数据，Mythos发现的最古老的漏洞可以追溯到27年前，而且在被AI模型 pinpointed（指出）之前，其制造商显然没有注意到任何一个。
Mythos是Anthropic Claude系列AI的最新一代，最近的代码泄露促使这家初创公司发布了一篇博客文章，警告其存在前所未有的网络安全风险。
Anthropic在一篇博客文章中表示：“AI模型已经达到了一个编码能力水平，在这个水平上，它们在查找和利用软件漏洞方面可以超越除最熟练的人类之外的所有人。”“其后果——对经济、公共安全和国家安全——可能非常严重。”
根据Anthropic的说法，Mythos暴露的软件漏洞通常很微妙，并且在没有AI的情况下很难检测到。例如，它说Mythos在一个视频软件中发现了一个以前未被注意到的缺陷，该软件的创建者已经测试了超过500万次。
作为预防措施，Anthropic已与网络安全公司CrowdStrike和Palo Alto Networks以及亚马逊、苹果和微软分享了Mythos的一个版本，该项目被其命名为“Glasswing”。
网络巨头思科和博通以及推广免费开源Linux计算机操作系统的Linux基金会也参与了该项目。
“这项工作太重要、太紧急了，不能独自完成，”思科首席安全与信任官Anthony Grieco在关于Glasswing的联合声明中表示。“AI能力已经跨过了一个门槛，从根本上改变了保护关键基础设施免受网络威胁所需的紧迫性，而且已无回头路。”
据称，约有40个参与计算机系统设计、维护或运营的组织已加入Glasswing。根据Anthropic的说法，项目合作伙伴将分享他们的Mythos发现，Anthropic为该任务提供了约1亿美元的计算资源。Grieco表示，早期与AI模型的合作表明，它们能够以前所未有的速度和规模帮助查找和修复软件和硬件漏洞。
Crowdstrike首席技术官Elia Zaitsev表示：“漏洞被发现和被对手利用之间的时间窗口已经大大缩短——曾经需要几个月的时间，现在在AI的帮助下只需几分钟就能完成。”
他补充道：“Claude Mythos Preview展示了现在防御者能够大规模做什么，而对手不可避免地会试图利用相同的能力。”
Anthropic表示，尽管白宫在2月份发布了终止与这家初创公司所有合同的命令，但它已与美国政府就Mythos进行了讨论。该指令被一名联邦法院法官搁置，目前Anthropic的法律挑战正在法院审理中。