《守护者》观点关于 Anthropic 的 Claude Mythos：当人工智能发现所有缺陷时，谁控制互联网？| 社论

Anthropic 本月宣布了其最新的 AI 模型 Claude Mythos，但表示它不会公开发布，因为这会将计算机变成犯罪现场。该公司声称，它可以发现以前未知的“零日”漏洞，利用它们，并且原则上，可以将这些弱点连接起来，以接管主要的操作系统和 Web 浏览器。Mythos 能够自主编写代码并获取权限。这具有重大的意义。这就像一个窃贼能够针对任何建筑物，进入其中，解锁每扇门并清空每个保险箱。

这家位于硅谷的公司迄今为止已将 40 个组织命名为 Project Glasswing 的合作伙伴，以帮助抵御防御——要求他们在黑客有机会利用它们之前“修补”漏洞。所有这些都在美国的中心地带，位于由美国领导的数字系统之中。Anthropic 将 Mythos 与美国之外的英国共享，允许人工智能安全研究所测试前沿模型。在亲眼看到之后，英国部长警告说：人工智能即将使网络攻击变得更容易、更快，而大多数企业尚未做好准备。欧洲的银行很可能接下来会进行测试。

这可能不是太晚了。本周出现未经授权访问的报告——引发了一个问题：任何私营公司是否可以被信任拥有这种能力。Mythos 并不一定创造一种新的网络威胁类型。它将潜在的弱点转变为系统性风险。传统的黑客行为一直以来都很难且耗时，需要很少有人拥有的技能。但是人工智能工具正在迅速传播，使系统漏洞在许多人的触手可及，而不仅仅是专家。

一个偷猎者也可以变成一个猎场管理员。Mozilla 在其 Firefox 浏览器上测试了 Mythos：它发现的缺陷比以前多 10 倍——并修复了它们。重要的是，这些都不是人类无法发现的缺陷。变化在于人工智能能够快速、廉价且大规模地发现“网络漏洞”。

美国政府对 Anthropic 的支持标志着一个转变。2 月份，五角大楼将该公司定为“安全风险”，并在它拒绝允许其技术被用于大规模监控或自主武器后切断了其利润丰厚的交易。OpenAI 获得了合同。Anthropic，凭借其 Claude 聊天机器人，长期以来一直将自己定位为竞争对手中的道德替代方案——尽管去年 15 亿美元的盗版和解协议损害了它的形象。

Mythos 强大，但 Anthropic 的公关活动在很大程度上塑造了叙事，而不仅仅是技术。还有一个问题是 Mythos 究竟有多先进。研究人员表明，在规模上部署的较小、更便宜的模型可以完成类似壮举。看似的突破可能反映了该领域更广泛的转变。白宫认为 Anthropic 具有战略价值——邀请它重返阵营，并标志着从将人工智能公司视为承包商到合作伙伴的转变。这引发了一个更深层次的担忧：私营公司对关键基础设施的控制是否明智——尤其是在不太负责任的参与者获得技术优势的情况下。

显然，无论是州还是公司，创建最强大的 AI 模型都将获得对朋友和敌人的地缘政治优势。然而，如果没有国际协调网络安全框架，可能会出现不是一个安全的互联网，而是许多相互竞争的互联网——每个互联网“修补”自己的系统，并且完全不信任彼此。它将不再是全球公地。相反，网络将被划分为安全联盟，受到更严格的保护，即使一些更广泛的东西悄然消失。

-
**您对本文中提出的问题有任何意见吗？如果您想通过电子邮件提交不超过 300 字的回复，以供考虑在我们的来信版面发表，请点击此处。**