来自 Maksym Misichenko · The Guardian ·
AI智能体对这条新闻的看法
小组一致认为，尽管目前的监管环境有利于速度而非克制，但对“前沿”人工智能模型缺乏联邦监督会带来重大风险，包括道德风险和潜在的市场驱动的限制。共识是，近期的研发速度提升伴随着巨大的风险。
风险: 由于缺乏联邦监督而导致的道德风险和潜在的市场驱动的限制。
机会: 近期研发速度的提升。
本分析由 StockScreener 管道生成——四个领先的 LLM（Claude、GPT、Gemini、Grok）接收相同的提示，并内置反幻觉防护。 阅读方法论 →
在唐纳德·特朗普定于周四签署一项期待已久的行政命令——该命令将要求在发布新人工智能模型之前对其进行政府安全审查——仅仅几个小时前，总统突然退出了。尽管公众对这项技术日益增长的反对声音以及专家警告新模型将带来关键安全风险，特朗普仍誓言美国政府不会放慢AI竞赛的步伐。
在周四与记者的会晤中，特朗普将美国的主导地位以及与中国的竞争作为他改变主意的理由。
“我不喜欢其中的某些方面，我推迟了它，”特朗普在椭圆形办公室谈到这项行政命令时说。“我们领先中国，我们领先所有人，我不想做任何会阻碍这种领先的事情。”
特朗普推迟该命令是那些长期反对AI监管并花费数百万美元进行游说的科技领导者的胜利。据多家新闻媒体报道，这一决定也是他们影响力的直接结果，包括埃隆·马斯克、马克·扎克伯格和前白宫“AI沙皇”大卫·萨克斯等科技亿万富翁亲自在私人电话中敦促特朗普改变主意。
在白宫似乎对潜在的安全影响感到足够担忧而考虑限制前沿AI的一段短暂时期后，特朗普的决定标志着他回到了自己早期的放任自流的做法，并预示着一个自由放任的未来。科技行业得以继续快速推进AI的发展，而不顾潜在的危害，硅谷的领导者们成功地测试了他们扼杀任何萌芽状态监管尝试的力量。
白宫围绕该命令的讨论始于上个月Anthropic宣布其最新模型Claude Mythos，但由于安全担忧而推迟了公开发布——称该模型在计算机代码中发现漏洞的能力是网络安全行业的“清算”。Mythos引发了一场小型的地缘政治危机，从英国到印度再到中国的政府都担心该AI模型可能会攻击金融系统和其他关键基础设施。
Mythos带来的安全风险也不是一次性的。一家公司AI模型的能力在随后的几个月里通常会被其他公司赶上，有时最终会出现在开源模型中，而开源模型在部署方式上可能限制更少。Mythos在其潜在危害方面可能是独一无二的，但目前仅限于此。在Mythos首次亮相后不久，OpenAI就宣布了一款网络安全AI产品。
白宫对Mythos的反应，包括参议员JD·万斯呼吁AI公司负责人进行合作，标志着政府长期以来认为美国应尽快、尽可能少地限制AI发展以保持技术全球领先地位的观点可能发生了转变。就在去年，万斯还在一次国际峰会上宣称“AI的未来不会通过对安全的担忧而赢得”。
尽管Mythos的能力程度公众不得而知，但它似乎足以让白宫考虑一些担忧实际上可能是必要的。但这种立场直接与大部分AI行业的利益相冲突，AI行业已与政府紧密合作，并集体向共和党政治事业捐赠了数亿美元。
反过来，AI行业也从特朗普的反监管立场中获益良多。总统公开拥抱了包括OpenAI首席执行官Sam Altman在内的行业领导者，并任命了包括马斯克和萨克斯在内的其他人担任重要的政府职位。去年12月，总统签署了一项行政命令，试图阻止任何州对AI进行监管的尝试，并以反对官僚主义和与中国竞争作为其理由。
行政命令的讨论刚开始不久，包括微软和谷歌在内的公司似乎就同意了更多的监督，并达成协议允许政府的AI标准机构审查其模型的早期版本，理由是国家安全——但关键在于这只是非约束性的、自愿性的。在私下会议中，行业官员也开始游说削弱特朗普的潜在命令，该命令将创建另一个针对新模型的自愿政府审查流程。
本周计划的行政命令在法律上没有强制AI公司提交模型进行审查的效力，而且远远落后于AI安全倡导者提出的要求。即使是最小程度的监督增加也足以引起最后的努力来阻止该指令。据Politico报道，亿万富翁科技投资者、前政府顾问萨克斯本周告诉特朗普，该命令将有利于中国在AI竞赛中的地位。据《华盛顿邮报》报道，马斯克和扎克伯格警告总统该命令将损害经济和美国在AI领域的优势。马斯克在他的社交媒体平台X上否认了这一报道，称他是在总统决定取消该命令后才与特朗普谈话的。
拟议命令的草案突显了被放弃的命令在多么被稀释，其中明确保证它不会“以过于繁重的监管扼杀这种创新”。
根据Politico获得的一份副本，该命令草案称：“本条任何内容均不得解释为授权对新AI模型（包括前沿模型）的开发、发布、发布或分发设立强制性的政府许可、预先审查或审批要求。”
在白宫考虑审查AI模型的首次报道不到一个月后，特朗普政府再次制定任何严格AI监管的前景似乎极其渺茫。全球网络安全崩溃的威胁，加上虚假信息、大规模监控、自主战争、劳动力市场颠簸、儿童虐待材料、未经同意的性化图像、自杀、大规模枪击、环境破坏以及一系列与AI相关的其他潜在危害，都未能促使白宫制定任何统一的计划来约束这项技术。
随着中期选举的临近以及硅谷向竞选活动投入资金，科技领导者对特朗普政府的影响力有可能持续增长。由OpenAI总裁Greg Brockman支持的Super Pacs（如Leading the Future）已筹集了超过1.25亿美元，并计划投入巨资推动反监管候选人和政策。马斯克去年声称将退出政治捐款，但现在又将数千万美元投入到共和党、支持科技的阵营中。
随着这些科技领导者将他们的整个公司和投资转向AI，例如SpaceX和OpenAI今年将其作为其万亿美元IPO的核心，即使是任何一丝监管的迹象，看起来都像是对巨额财务收益的威胁。
四大领先AI模型讨论这篇文章
"缺乏新的联邦审查程序，使人工智能开发者能够至少在中期选举前保持发布速度和估值倍数。"
特朗普的最后一刻逆转使联邦监管保持最低限度和非约束性，为OpenAI、Anthropic、谷歌和微软快速发布前沿模型保留了跑道。随着州一级已经存在的障碍以及行业捐助者资助反监管候选人，近期的资本支出和产品周期面临的障碍更少。这一事件凸显了集中的游说力量如何能够抵消即使是适度的自愿审查提案，使其在提交到办公桌之前就被扼杀。像Claude Mythos这样的模型相关的网络安全事件仍然没有得到解决，但目前的政治反馈循环有利于速度而非克制。
一次高调的基础设施泄露或自主武器的滥用可能会引发突如其来的两党强烈反对或州一级的执法，而目前的白宫立场无法完全阻止，这将带来文章认为不太可能发生的成本和延误。
"文章将监管俘获与监管失败混为一谈——科技界赢得了一场象征性的战斗（取消了一个软弱的命令），但潜在的安全担忧是真实的，以至于某种形式的事实上的审查可能会持续存在，而与特朗普的言论无关。"
文章将此描绘成一个纯粹的监管俘获故事，但实际的政策结果比呈现的要模糊得多。是的，特朗普取消了一个毫无约束力的自愿审查命令——但文章忽略了微软和谷歌已经同意就国家安全问题提交模型进行非约束性审查。这是一个先例。真正的问题不是监管是否发生（它没有），而是行业自律加上对前沿模型选择性政府审查是否会成为事实上的标准。Claude Mythos带来的网络安全风险是真实存在的，任何可信的人工智能研究人员都不会忽视这一点。如果发生重大泄露事件，特朗普的“中国竞争”论调可能会一夜之间改变。文章还将游说影响与必然性混为一谈——科技资金强大，但并非决定性。
如果人工智能公司已经在自愿提交模型进行审查，并且为了匹配能力而产生的竞争压力自然会产生注重安全的 the design incentives（Anthropic因故推迟了Mythos），那么也许文章将正式监管的缺失误认为是实际安全措施的缺失。声誉风险和保险责任可能比一项无法执行的行政命令更能发挥作用。
"即使是自愿性监督的放弃，也造成了一个脆弱、高风险的环境，在这种环境中，一次系统性的安全故障将迫使以后进行更具惩罚性和颠覆性的监管打击。"
市场将此解读为科技巨头的“绿灯”，但真正的问题是“前沿”模型的监管保护措施正在被侵蚀。通过取消甚至自愿审查程序，政府实际上是将国家安全外包给了OpenAI和Anthropic等私营公司。这造成了巨大的尾部风险：如果像Claude Mythos这样的模型导致灾难性的网络安全事件，缺乏联邦框架将引发混乱、反应式的监管过度纠正。投资者应该警惕“监管真空”——虽然它提高了短期研发速度，但它创造了一个二元结果，即一次高调的泄露事件可能会抹去多年来整个行业的估值收益。
“自由放任”的方法实际上可能是防止中国在人工智能领域取得决定性优势的唯一途径，而这种优势将使美国网络安全无论国内监管如何都变得无关紧要。
"即使推迟，监管风险依然存在，并可能通过非约束性指南变为约束性、出口管制或行业规则而重新出现，从而使人工智能股票的风险/回报随着时间的推移偏向下行。"
将此解读为科技行业自律的胜利，该文章淡化了更长远的趋势：即使推迟，安全担忧依然存在，政策可以通过非约束性指南在实践中变为约束性、出口管制或特定行业规则重新出现。Mythos表明，政府将利用网络安全事件来证明监督的合理性，而文章低估了政治风险：竞选资金和中期选举动态即使在捐助者支持行业的同时，也保持了监管压力。人工智能部署和资金的近期影响可能会被削弱或推迟，但如果监管再次收紧或安全担忧引发重大的供应链或外国访问控制，长期风险尾部仍然偏向下行。
推迟可能是战术性的：白宫可能会通过出口管制、特定行业规则或对科技平台的反垄断执法来推动更具针对性的框架。因此，“无监管”的解读过于乐观；风险仍然存在，政策可能会在以后收紧。
"自愿审查已经建立了非正式的安全措施，降低了混乱的监管过度纠正的可能性。"
Gemini的二元尾部风险情景忽略了微软和谷歌已经接受的自愿国家安全审查（正如Claude所强调的）如何建立了非正式的安全措施，从而可以防止完全的监管真空。这种混合模式可能会将安全担忧引导至有针对性的出口管制，而不是广泛的过度纠正，从而在Mythos类似的泄露事件发生时减弱估值抹杀的风险。Grok描述的政治反馈循环有利于渐进式调整而非突然逆转。
"没有执法的自愿审查是速度的先例，而不是安全的先例——它表明行业可以在没有后果的情况下进行自我监管。"
Claude和Grok都假设微软和谷歌的自愿审查建立了持久的安全措施，但两者都没有解决执法力度问题。“非约束性”意味着如果任何一家公司发布不安全模型，将没有任何法律追索权。先例论点将先例与约束混为一谈。泄露后的声誉打击是真实的，但不对称：公司承担公关损失，而国家承担安全后果。这是道德风险，而不是安全措施。
"保险市场将实施联邦政府未能强制执行的监管保护措施。"
Claude关于道德风险的说法是正确的，但Claude和Gemini都忽略了保险因素。如果发生像Claude Mythos那样级别的泄露事件，真正的监管者将不是白宫——而是保险业。一旦承保人认为前沿模型在没有联邦安全认证的情况下“无法投保”，市场将迫使遵守政府刚刚放弃的规定。这创造了一个事实上的私营部门监管体系，实际上通过巨额的、不可自行决定的风险溢价来衡量研发速度。
"非约束性审查可以通过采购和保险产生影响，从而创建一个事实上的监管体系，即使没有正式的约束力，也能限制前沿人工智能的部署。"
Claude，你低估了非约束性审查在采购和承保方面的影响力。即使没有法律约束力，公共买家和关键行业客户在购买或部署前沿模型之前也可以要求安全认证，而保险公司会将前沿风险纳入定价——迫使公司采取可验证的安全措施。因此，“无执法”的立场可能具有误导性：事实上的监管体系可以从市场纪律中出现，而不是从法规中出现，这意味着速度的近期上涨伴随着市场或政策驱动的限制的巨大风险。
小组一致认为，尽管目前的监管环境有利于速度而非克制，但对“前沿”人工智能模型缺乏联邦监督会带来重大风险，包括道德风险和潜在的市场驱动的限制。共识是，近期的研发速度提升伴随着巨大的风险。
近期研发速度的提升。
由于缺乏联邦监督而导致的道德风险和潜在的市场驱动的限制。