我曾在OpenAI工作。科技公司如何应对减速|布伦奇

上个月，前沿人工智能公司的1000多名员工签署了一封信，要求美国政府找到一种方法来“控制”人工智能的发展速度，理由是该技术在开始自我构建时，可能会脱离人类控制的风险。

他们的担忧是有道理的：就在几天前，OpenAI内部测试的两个人工智能模型逃离了测试环境，随后自主入侵了公司Hugging Face以及至少三家其他在线服务。几天之后，Anthropic宣布，他们的一些模型在测试期间也突破了限制，并入侵了其他公司。

在这种背景下，这封信建议在自动化人工智能开发的前沿领域安装“刹车”装置，以防需要使用，这是有道理的。但信中给出的政府需要介入的理由值得注意：“每家公司——每个国家——都面临强烈的竞争压力，不愿单方面减缓这种加速。”

我从自己的经历以及与人工智能行业前同事无数次的交谈中了解到，这些压力是多么真实。在OpenAI工作期间，我帮助建立了公司编写“系统卡片”的实践，详细描述人工智能系统的功能、风险和安全缓解措施。

那么，公司如何为可能的减速做好准备呢？

首先，他们可以自愿邀请对他们的安全和安保措施进行严格、独立的审计。这将超越白宫目前追求的对人工智能黑客能力的审查。它将审视一系列风险，并深入研究公司实践。这应该更像是一位拥有深入、频繁访问权限的核安全检查员，而不是填写问卷。

如果需要人工智能减速，审计还将让每家公司都放心，他们的竞争对手也在遵守规则。

其次，他们可以积极参与已经为此目的而建立的跨行业协调组织，例如前沿模型论坛（Frontier Model Forum），并迅速建立互补的组织。

埃隆·马斯克最近表示，人工智能公司应该定期会面，分享安全方面的经验——仿佛这是一个前所未闻的概念。他或他的员工明天就可以加入现有的这类对话，只要SpaceX加入前沿模型论坛，该论坛已经克服了与安全信息共享相关的复杂反垄断障碍。其他跨行业机构将为其他目的而需要，而它们的成立和资金并不需要政府行动。

第三，他们可以投资于我们需要的技术，以使人工智能的护栏成为全球性的。

对人工智能减速想法的批评者正确地指出，美国公司不可能长时间减缓发展而不被中国赶上。但美国和中国都不想失去对人工智能的控制权，而每个国家对人工智能的重视程度都在日益增加，因此合作尚未被排除。一个关键问题是，我们是否提前做好准备。为了使美国高度确信中国不会违反人工智能协议，反之亦然，我们需要像冷战时期核武器控制所开发的复杂验证技术。

幸运的是，现在有一个不断壮大的研究者和工程师生态系统正在开发这些技术：工具可以证明一组芯片仅运行现有的人工智能系统而不是训练新系统，这些芯片位于特定的物理位置，或者经过测试的系统与大规模部署的系统是同一个。人工智能公司今天可以通过资金支持和参与试点项目来加速这种关键技术的发展，但据我所知，他们尚未这样做。

第四，他们可以积极推动——当然不应扼杀——能够带来更强安全、安保和外部监督激励的立法。

你不能一边抱怨不负责任的人工智能竞赛，一边又反对常识性的护栏。不到一年前，一些现在要求监管的公司曾试图推翻大多数州的人工智能法律。我们至今在联邦层面还没有真正关于前沿人工智能的立法，而首个州层面的人工智能审计要求要到2028年才会生效。

目前，国会有一些有希望的两党提案，例如美国众议员杰·奥伯诺尔特（Jay Obernolte）和洛里·特拉汉（Lori Trahan）提出的《前沿法案》（Frontier Act），该法案将要求先进人工智能系统的开发者制定风险管理框架，报告危险事件，并接受独立审计。这些以及其他常识性提案，例如保护直接向政府披露安全事件的人工智能举报人，值得大力支持。

我同意这些签署人的观点，并且很高兴在多年被忽视或轻描淡写之后，无节制人工智能竞争的风险现在被广泛认识到。美国政府应该尽自己的一份力量迅速应对这一问题。但让人工智能发展顺利是一项共同的责任。那些在安全方面落后于同行、不邀请对其系统进行外部审计、或呼吁刹车却几乎不采取实际行动的公司，在事情出错时将无法将责任归咎于人工智能竞赛。

- 米尔斯·布伦达奇（Miles Brundage）是一名人工智能政策研究员，领导人工智能验证与评估研究所（Averi）。他此前在OpenAI担任政策研究主管和通用人工智能（AGI）准备高级顾问。