谷歌称人工智能驱动的黑客攻击已爆发为工业规模威胁

根据谷歌的一份报告，在短短三个月内，人工智能驱动的黑客攻击已从一个新兴问题演变成工业规模的威胁。

谷歌威胁情报小组的调查结果加剧了全球关于最新人工智能模型在编码方面极其擅长——并成为利用各种软件系统漏洞的极其强大工具的讨论。

报告发现，来自中国、朝鲜和俄罗斯的犯罪集团以及与国家有关联的行为者，似乎正在广泛使用包括 Gemini、Claude 和 OpenAI 工具在内的商业模型，以改进和扩大攻击规模。

该小组首席分析师 John Hultquist 表示：“人们普遍误认为人工智能漏洞竞赛迫在眉睫。现实情况是，它已经开始。”

“威胁行为者正在利用人工智能来提高其攻击的速度、规模和复杂性。这使他们能够测试其行动，在目标系统中持续存在，构建更好的恶意软件，并进行许多其他改进。”

上个月，人工智能公司 Anthropic 在声称其一项新模型 Mythos 具有极其强大的能力，一旦落入不法分子手中将对政府、金融机构和整个世界构成威胁后，拒绝发布该模型。

具体而言，Anthropic 表示 Mythos 在“所有主要操作系统和所有主要网络浏览器”中发现了零日漏洞——这是指产品中存在开发者先前不知道的缺陷。

该公司表示，这些发现需要“整个行业进行大量协调一致的防御行动”。

然而，谷歌的报告发现，最近一个犯罪集团正处于利用零日漏洞进行“大规模利用”活动的前沿——而该集团似乎正在使用一个并非 Mythos 的人工智能大型语言模型 (LLM)。

报告还发现，各团伙正在“试验”OpenClaw，这是一个在二月份病毒式传播的人工智能工具，它允许用户将自己生活的很大一部分交给一个没有护栏的人工智能代理，并且该代理有一个不幸的大规模删除电子邮件收件箱的倾向。

伦敦大学学院安全工程教授 Steven Murdoch 表示，人工智能工具可以帮助网络安全领域的防御方，也能帮助黑客。

“这就是我没有恐慌的原因。总的来说，我们已经进入了一个发现 Bug 的旧方法已经消失的阶段，现在所有一切都将由 LLM 辅助。在这些后果得到解决之前，还需要一段时间，”他说。

然而，如果人工智能正在帮助雄心勃勃的黑客实现其生产力目标，那么关于它是否正在促进更广泛的经济增长仍存在疑问。

独立的 AI 研究机构 Ada Lovelace Institute (ALI) 已警告不要假设人工智能将带来数十亿英镑的公共部门生产力提升。英国政府估计，公共部门在数字工具和人工智能方面的投资将带来 450 亿英镑的储蓄和生产力效益。

在周一发布的一份报告中，ALI 表示，大多数关于人工智能相关生产力增长的研究都提到了节省时间或降低成本，但没有关注更好的服务或改善员工福祉等结果。

此类研究的其他问题包括：人工智能相关的效率提升预测是否真的能在现实世界中实现；总体数字掩盖了在不同任务中使用人工智能的不同结果；以及未能考虑到对公共部门就业和服务交付的影响。

ALI 报告称：“影响政府关于人工智能重大决策的生产力估算有时基于未经检验的假设，并依赖于那些在实际使用这些数据的人并不总是理解其局限性的方法。”

“结果是，生产力声明的信心与其背后的证据强度之间存在差距。”

报告的建议包括：鼓励未来的研究反映技术影响的不确定性；确保政府部门“从一开始”就衡量人工智能计划的影响；并支持衡量多年而非数周生产力增长的长期研究。