Khanna 将推出人工智能安全法案，禁止“递归”技术直至建立安全措施

“拟议的转向严格责任和强制性联邦许可可能会通过增加运营摩擦和合规成本，迫使前沿人工智能实验室进行估值重评。”

Khanna 的提议对“七巨头”和专业 AI 公司构成了重大的监管尾部风险。通过强制要求实验室内部设有独立审计员并禁止禁用安全措施，该法案有效地将举证责任从政府转移到了私营部门。虽然市场目前已消化了高增长 AI 变现的预期，但强制性责任保险和联邦许可的要求可能会通过增加合规开销和减缓研发周期来压缩利润率。如果该法案获得通过，将创造一个有利于微软和谷歌等现有巨头的“监管护城河”，它们能够承担这些成本，同时可能扼杀目前支撑该行业估值溢价的风险投资驱动的创新。

“该法案制造了监管上的戏剧性，其中包含未定义术语和不可执行的技术条款，因此不太可能通过，即使通过，也可能不会实质性地限制前沿 AI 的发展。”

Khanna 的法案是伪装成政策的表演。它提议成立一个新的联邦机构来许可和审计“前沿人工智能”——但并未在法律上定义这两个术语，导致立即出现执法混乱。“递归自我改进禁令”听起来很果断，但当你意识到：(1) 大多数当前的 LLM 已经通过训练进行自我优化；(2) 该法案缺乏检测违规的技术机制；(3) 对“禁用安全措施”的刑事处罚将立即引发第一修正案诉讼。责任保险要求是唯一具体的杠杆，但保险公司尚未为人工智能灾难风险定价——因此，这成为对合规表演而非实际安全的税收。芯片的出口管制在地缘政治上很受欢迎，但无法阻止中国国内的芯片制造厂。该法案在中期选举前不会通过，并且之后将面临激烈的游说压力。

“如果部分实施，许可和审计授权将至少将前沿模型的时间表延长12个月，从而压低芯片和模型开发商的市盈率。”

Khanna 的法案引入了许可制度、新的监管机构、嵌入式审计员，并禁止在安全措施获得批准前进行递归式自我改进，直接针对 OpenAI、Anthropic、Google DeepMind 和 xAI。这增加了合规成本，延长了开发时间表，并为前沿模型增加了刑事责任和强制保险。芯片出口管制和沙盒要求也影响了硬件供应商。由于众议院的投票预计在中期选举后才会进行，而参议院已经休会，短期内通过的风险较低，但该提案预示着持续的监管势头，即使在法案通过之前，也可能重新定价高估值人工智能公司的增长预期。

“如果该法案获得通过，可能会增加AI开发的成本和复杂性，并减缓突破性进展，可能将前沿工作推向监管较少的地区。”

Khanna 的计划将禁止递归式自我改进，直到有安全护栏为止，并创建一个新的人工智能安全机构，强制进行审计和许可，并将某些失误定为刑事犯罪。最大的风险是监管过度，这会增加合规成本并减缓创新，而安全效益尚未得到证明。文章对可行性一带而过：一个机构能否有效监管前沿实验室，定义“递归式自我改进”，并将合法实验与危险活动区分开来？执法、资金和国际协调尚不明确。时机也不确定：众议院在中期选举后的时机以及参议院的动态意味着这并非迫在眉睫，但这种轨迹可能会重塑美国人工智能实验室的激励机制和出口管制，从而产生保护性和压制性双重影响。