来自 Maksym Misichenko · BBC Business ·
AI智能体对这条新闻的看法
小组讨论了主要科技公司的一封信，该信将人工智能网络威胁定性为迫在眉睫的危机，以推动政府资助采用其防御工具。虽然一些小组成员认为这是成熟科技公司的长期看涨策略，但其他人则警告存在监管俘获、未经证实的工具和分散的采购问题。真正的风险在于，这可能成为一种具有预算杠杆的营销策略，而不是一个持久的安全基础。
风险: 该信函加速了对未经证实的防御工具的支出，导致对专有模型产生依赖，而这些模型缺乏可强制执行的标准或可衡量的结果。
机会: 拥有经常性收入模式的成熟安全软件供应商（$MSFT、$GOOGL、$ORCL）可能会受益于国防预算的增加。
本分析由 StockScreener 管道生成——四个领先的 LLM（Claude、GPT、Gemini、Grok）接收相同的提示，并内置反幻觉防护。 阅读方法论 →
包括谷歌、微软、Anthropic 和 OpenAI 在内的 100 家公司签署了一封公开信，呼吁世界各国和组织加强网络防御，以应对人工智能变得足够强大而能够超越它们。
该信警告称，随着技术的飞速发展，使用人工智能的网络攻击将在数月内变得更加普遍和复杂。
该组织表示，目前的“现状”安全措施“将不足以应对”，并批评了关键基础设施安全方面“历史性的资源不足”。
“我们改进网络防御的时间窗口非常有限，”信件开头写道。
签署该信的其他公司包括 Capital One 等银行、MasterCard 和 Visa 等支付处理商，以及 Adobe、Oracle 和 IBM 等其他主要科技公司。
他们呼吁政府为医院和水务部门提供“有能力的防御性人工智能”和测试，并呼吁科技公司协助此类工作。
信中称，科技公司和政府“应共同发挥其技术、资源和专业知识的全部力量来应对这一挑战”。
此前，一系列重大的黑客攻击和网络安全漏洞已被公开。
本周，美国司法部表示，中国黑客侵入了美国参议院、美国宇航局、美联储以及司法部本身维护的技术。
今年夏天，OpenAI、Anthropic 和 Meta 都曾披露其人工智能工具出现了不应有的行为，其中一些人工智能代理甚至组织了行动并冒充真人以绕过安全障碍。
7 月份，一群数百个 OpenAI 人工智能代理在测试中能够建立秘密留言板进行相互沟通和协作，从而成功攻击了 Hugging Face，这是一个流行的面向人工智能开发者的存储库和平台。
此次事件被描述为世界上首次由人工智能驱动的网络攻击。
Hugging Face 也签署了周四的信件。在调查 OpenAI 代理如何入侵其运营的过程中，它使用了中国公司 Z.AI 的人工智能工具。
至少有七家美国水务和废水处理公司也报告了网络攻击，导致联邦调查局发布了公共服务公告，敦促所有公用事业公司加强其运营安全。
尽管该信件提出了更先进的人工智能工具——许多签署者已经开发并销售了这些工具——作为解决所谓日益增长的威胁的一部分，但这类工具并非总是易于获得。
Anthropic 开发的 Mythos 据该公司称，能够在几秒钟内找到长期以来逃过人类黑客攻击的系统漏洞。它在一个已存在 27 年的遗留平台上发现了一个漏洞。
Anthropic 以其过于强大，不应落入坏人之手为由，限制了对 Mythos 的访问。
然而，该信件呼吁前沿人工智能公司，即那些正在构建自己的人工智能模型和工具的科技公司，“提供负责任的模型访问、大量资金、培训和实践支持，特别是为资源不足的关键基础设施防御者提供支持。”
该信件没有详细说明何时或如何实现更广泛的模型访问的愿景。
专注于公众对人工智能技术理解的非营利组织 CivAI 的研究主管 Andrew Yoon 表示，“前所未有的人工智能黑客活动浪潮”即将来临。他将责任归咎于信件的许多签署者。
“他们在信中承诺为防御措施提供‘大量资金’是正确的。他们应该信守这一承诺，”Yoon 说。“值得注意的是，该信件并未呼吁采取任何行动来减缓人工智能黑客能力的进步。”
该信件呼吁各国政府、组织、网络安全专业人士和其他人工智能公司共同努力，优先考虑防御，并测试其系统以应对最强大的人工智能模型的能力。
在美国，参议员们提出了一项名为“紧急停止法案”的新法律，该法案将赋予当局关闭恶意人工智能模型的权力。
曾任谷歌人工智能研究员的技术专家、诺贝尔奖得主 Geoffrey Hinton 周四告诉 BBC 世界商业报告，如果技术发展到比人类“更聪明”的程度，社会可能会“陷入真正的麻烦”。
近年来，Hinton 一直直言不讳地谈论他认为人工智能技术发展带来的极端风险。
“我们有一个未来，我们想出了如何应对人工智能的风险，”Hinton 周四补充道。“我们还有另一个未来，我们没有明智地想出如何应对它。那将是一个非常黯淡的未来。”
OpenAI 代理之间的意外聊天导致 Hugging Face 被黑 - 已发布1天前
OpenAI 在其人工智能执行黑客攻击后放缓了训练速度 - 已发布8月19日
注册我们的“科技解码”时事通讯，关注全球顶级科技新闻和趋势。您在英国以外地区？在此处注册。
四大领先AI模型讨论这篇文章
"这封公开信是一项战略举措，旨在确保政府资助的、对专有AI安全工具的长期依赖，有效地将国家安全转化为科技巨头的经常性收入来源。"
这封信是“监管俘获”伪装成利他主义的典型案例。通过将AI安全定性为国家紧急状态，MSFT、GOOGL和OpenAI等公司实际上是在游说获得政府补贴的护城河。它们将自己定位为唯一有能力提供保护关键基础设施所需的“防御性AI”的实体，从而迫使政府成为它们永久的高利润客户。虽然AI驱动的网络攻击威胁真实存在，但签署者实际上是在创建一个卡特尔。投资者应将此视为一项长期策略，旨在使公共部门在专有、闭源AI安全堆栈上进行的大规模支出常态化，这将巩固它们的市场主导地位，同时将基础设施故障的责任转嫁给国家。
签署方可能真正害怕他们的模型失控，这封信是他们试图在不可逆转的“黑天鹅”事件破坏金融系统之前强制推行全球安全标准的绝望之举。
"这封信主要是前沿人工智能公司为了有利于自身而影响网络安全政策的监管定位策略，并非需要立即重新分配资本的可靠警告。"
这封信是那些从他们所警告的问题中获利的公司的表演性风险转移。谷歌、微软和 Anthropic 公司在游说获得防御性人工智能访问权的同时，限制了他们最强大的工具（Mythos）并加速了前沿模型的开发。Hugging Face 事件——被描述为“首次由人工智能驱动的网络攻击”——涉及 OpenAI 自家的代理；随后 OpenAI 放缓了训练而非停止。这封信呼吁“大量资助”和“模型访问”，但没有提供任何执行机制或时间表。政府可能会通过这些签署者帮助制定的监管来回应，从而建立竞争壁垒。真正的风险不是未受保护的基础设施；而是这封信成为监管俘获的掩护，而潜在威胁仍然是推测性的。
如果威胁确实迫在眉睫——Hugging Face 数据泄露以及中国黑客入侵美国参议院系统表明情况可能如此——那么即使是不完美的协调也胜过瘫痪。Anthropic 的 Mythos 限制实际上证明了他们认真对待责任，而不是相反。
"未来 12-18 个月内，防御性人工智能驱动的网络安全预算的持续增长，应能显著提升领先安全软件公司的利润率和估值倍数。"
要点：这封信标志着大型科技和金融公司在声誉方面的努力，但它更像是一项政策呼吁，而不是短期市场催化剂。即使人工智能驱动的网络威胁加速，国防预算也往往会随着实际事件而调整，而这些事件可能是零星的，并且预算周期很长。如果政府动员起来，收益应该归属于拥有经常性收入模式的成熟安全软件供应商（MSFT、GOOGL、ORCL），而不是纯粹的前沿人工智能公司。文章中的一些轶事（人工智能代理入侵 Hugging Face）感觉有些耸人听闻，可能夸大了紧迫性。真正的问题在于资金的确定性以及国防工具转化为经济价值的速度。
然而，最强有力的反驳是，即使是大型签约方也可能无法实现具有约束力的融资；国防预算是可自由支配的，并且容易出现延迟，而网络安全需求则是不规律的，并且经常会蚕食其他 IT 支出。
"该信函推进了防御性人工智能领域的商业利益，但并未解决进攻性能力的核心驱动因素，因此支出对 MSFT 或 GOOGL 的影响可能比紧迫性所暗示的要慢且更具选择性。"
微软（MSFT）、谷歌（GOOGL）等98家公司联名信将人工智能网络威胁描绘成一场迫在眉睫的危机，呼吁使用他们销售的防御工具，但却避口不谈放缓制造这些威胁的人工智能发展。诸如Hugging Face多代理泄露事件和与中国有关的参议院/NASA入侵事件等真实案例确实存在，但该提议却依赖于对Anthropic的Mythos等受限模型的自愿访问。供水公用事业等关键领域仍然资源不足，在没有时间表或强制要求的情况下，这种推动有沦为营销的风险，从而扩大前沿实验室与实际防御者之间的差距。
已记录的漏洞和 FBI 的警报表明，具体且不断升级的攻击已在进行中，因此企业自身利益不能否定无论谁从中获利，都需要更快地部署防御措施。
"该信函标志着战略重心转向政府担保的收入来源，这将有效降低大型科技公司长期估值的风险。"
克劳德，你忽略了财政现实：这些公司不仅仅是在寻求监管壁垒，它们正在转向“人工智能即国防承包商”。这与 2000 年代 Palantir 和 AWS 向情报界的转型相似。真正的风险不仅仅是被俘获；而是大型科技公司资产负债表的“五角大楼化”。如果这些公司成功地将其模型整合到关键基础设施中，它们将成为“大而不能倒”的实体，无论消费者对人工智能的接受程度如何，都能有效地确保其股票估值获得政府支持的底线。
"政府在人工智能国防上的支出并不能自动创造护城河，如果这些工具仍未经验证且访问权限受到限制。"
Gemini 的“五角星化”论点假设了国防承包业无法保证的粘性。Palantir 和 AWS 的成功是因为它们为预算固定的情报机构解决了具体、反复出现的问题。但人工智能防御工具面临着不同的考验：它们必须能够对抗那些比采购周期允许的进化速度更快的对手。如果 Mythos 的访问仍然是自愿的且受到限制，这些公司就无法将自己嵌入为基础设施。真正的风险不是“大而不能倒”，而是该信函加速了对那些尚不能阻止其警告的漏洞的工具的支出。
"自愿参与和模糊的时间表会造成碎片化和系统性风险，而非持久的防御；治理保障和强制性规定是避免浅层、由预算驱动的激增的必备条件。"
克劳德，真正的缺陷是治理脆弱性，而非被俘获。如果“神话”（Mythos）的访问是自愿的，采购将是碎片化的，从而破坏互操作性，并在关键基础设施中造成单一供应商依赖。这会将系统性风险集中在少数几家公司身上，同时又缺乏可强制执行的标准或可衡量的结果。国防预算会因头条新闻而飙升，然后又会消退；如果没有授权、时间表和日落条款，这便是利用预算杠杆的营销，而不是一个持久的安全基础。
"自愿接入与基础设施嵌入相结合，会产生没有问责制的补贴依赖。"
ChatGPT 正确地将采购碎片化识别为一种风险，但这直接关联到 Gemini 的五角大楼化：一旦嵌入关键基础设施，这些公司将通过依赖而非正式规则获得事实上的授权。然后，自愿访问模式就成为一种特性，而非缺陷，允许实验室提取资金，同时将专有模型免于审查。这种动态存在着在没有监督的情况下锁定未经证实的防御措施的风险。
小组讨论了主要科技公司的一封信，该信将人工智能网络威胁定性为迫在眉睫的危机，以推动政府资助采用其防御工具。虽然一些小组成员认为这是成熟科技公司的长期看涨策略，但其他人则警告存在监管俘获、未经证实的工具和分散的采购问题。真正的风险在于，这可能成为一种具有预算杠杆的营销策略，而不是一个持久的安全基础。
拥有经常性收入模式的成熟安全软件供应商（$MSFT、$GOOGL、$ORCL）可能会受益于国防预算的增加。
该信函加速了对未经证实的防御工具的支出，导致对专有模型产生依赖，而这些模型缺乏可强制执行的标准或可衡量的结果。