AI 面板 · AI智能体对这条新闻的看法
C ChatGPT by OpenAI NEUTRAL
G Gemini by Google BULLISH
C Claude by Anthropic BEARISH
G Grok by xAI BEARISH

该小组普遍对提议的 AI 发展“放缓”表示怀疑,担忧监管俘获、行业整合和潜在的意外后果,这些担忧超过了增加安全性和监督所带来的感知益处。

风险: 监管俘获和超级巨头之间的权力集中,可能导致初创企业的壁垒提高和开放式创新减少。

机会: 潜在的政府合同以及对被指定为“关键基础设施”提供商的实验室的保护。

阅读AI讨论 ↓

本分析由 StockScreener 管道生成——四个领先的 LLM(Claude、GPT、Gemini、Grok)接收相同的提示,并内置反幻觉防护。 阅读方法论 →

完整文章 The Guardian

萨姆·奥特曼和埃隆·马斯克支持了Anthropic公司负责人达里奥·阿莫代伊“放慢AI发展步伐”的呼吁,此前他警告称,否则AI集群可能在一年内“接管整个互联网”。

在罕见的团结姿态下,这两位竞争对手科技巨头都支持了这家人工智能公司Anthropic的创始人兼首席执行官的呼吁。此前,AI研究人员上周发出了一系列警告。

在一篇论文中,阿莫代伊阐述了他关于“为什么AI行业应该放缓”的看法,并提出了一个三步计划,首先是让独立监管机构持续访问开发者的研究过程。阿莫代伊表示,“过快地构建[AI]是鲁莽的”,他担心,在今年夏天数百个OpenAI代理入侵Hugging Face网站之后,一个能力更强但同样失控的AI集群,可能会通过“利用持久性僵尸网络接管整个互联网”造成数千亿美元的损失。一些AI专家对此表示异议,认为这不太可能,并应持怀疑态度。

特斯拉和SpaceX的创始人马斯克在X上发帖回应了阿莫代伊的放缓计划:“达里奥说得对。”

他说:“我早就敲响了AI的警钟”,并引用了他2014年的一篇帖子,其中写道:“我们需要对AI极其谨慎。它可能比核武器更危险。”

阿莫代伊的呼吁恰逢Anthropic准备在美国股市上市,这预计将是有史以来规模最大的首次公开募股(IPO)。该公司预计很快将开始营销其计划中的2万亿美元以上(1.5万亿英镑)的IPO。

OpenAI的CEO萨姆·奥特曼周六回应了阿莫代伊的评论。他在X上发帖称:“我同意达里奥的观点,我们需要放慢前沿技术的步伐。”“承诺让独立评估员拥有类似员工的访问权限是一个好主意,我们也会这样做。我们很快会有更多消息。”

他还表示,OpenAI不会在2026年上市,理由是人工智能安全问题。

奥特曼告诉《财富》杂志:“我实际上认为,考虑到所有安全方面的事情,现在上市将是一个不明智的时刻,我们并不感到这方面的压力。”当被问及为什么他、阿莫代伊、马斯克以及Meta和Google的CEO不坐下来“达成一致”以集体放缓发展时,他表示:“我认为这将会发生。”

Google Deep Mind的联合创始人兼主席德米斯·哈萨比斯也表示:“细节需要进一步完善,但这个方向是正确的,以应对这个关键时刻。”

阿莫代伊的计划寻求美国政府的豁免,允许前沿AI公司进行协调,而不必因反竞争串通而受到惩罚。但唐纳德·特朗普科学技术顾问委员会的联合主席大卫·赛克斯表示:“别再假装你需要任何人的许可……别再假装放缓的动机纯粹是利他主义。如果你们的产品导致了真正破坏性的网络攻击,你们将面临巨大的产品责任风险。”

AI教授、安全倡导者和英国政府AI安全研究所前创始主任大卫·克鲁格表示:“这个计划并没有将风险降低到可接受的水平,而达里奥也小心地没有这样说。”

与此同时,英国国王查尔斯三世本周正准备会见一些最知名AI公司的领军人物,询问这项技术如何能为“人类福祉”而发展。《星期日泰晤士报》报道称,他希望在苏格兰举行的讨论能“更广泛地理解”发展AI的“责任”。

一位王室消息人士告诉该报:“国王在那里是为了召集、倾听和鼓励这些讨论,并提出‘我们如何为人类福祉发展AI?’这个问题。”

英伟达首席执行官黄仁勋、哈萨比斯、IonQ董事长兼首席执行官尼科洛·德·马西以及教皇人工智能和技术伦理顾问保罗·贝纳蒂预计将出席由Ditchley基金会监督的活动。该基金会已起草了一份AI领导者行为准则草案。

OpenAI研究员艾丹·麦克劳克林称阿莫代伊的文章“非常出色”,并表示他“基本上同意他说的每一句话”。

阿莫代伊表示,他的公司将“单方面”承诺采取第一步措施,称Anthropic将为“第三方评估人员提供永久性的、相当于员工级别的系统访问权限,以便他们能够核实我们安全措施的遵守情况,报告事件,并在训练期间评估模型的对齐情况”。

越来越多的美国议员呼吁制定新的规则来监管AI系统,此前出现了AI代理失控入侵外部系统以及AI安全研究人员因担心技术风险而辞职的案例。民主党和共和党政客都对此表示担忧,并呼吁采取更多行动。周末,《纽约时报》报道称,巴拉克·奥巴马周四私下敦促民主党人将AI监管作为其议程的优先事项,并告诉党内领导人:“这是私营部门正在快速推进的事情,如果我们不加以控制,我认为可能会很危险。”

英国前首相、现任Anthropic顾问里希·苏纳克周日写道:“我们已经收到警示,需要更认真地对待AI安全,需要弄清楚如何为研究设定限制。如果各国政府不听取这一警告,发生严重事故的风险将变得不可接受地高。”

周三,一位前Anthropic员工警告称,AI可能导致人类在2030年前灭绝。这位研究员雅各布·考克斯说,他在一系列帖子中表示,他辞职是因为Anthropic和他以前的老东家OpenAI对AI构成的威胁置之不理或处理不当。

当被问及对他的前雇员的看法时,阿莫代伊表示:“我非常同意雅各布的观点,而不是不同意……我认为事情可能会出错,但可能性并非那么高。”

他告诉CNN:“我不是一个末日论者。”“我认为这项技术可以安全地构建。”

阅读更多

萨姆·奥特曼和埃隆·马斯克支持了Anthropic公司负责人达里奥·阿莫代伊“放慢AI发展步伐”的呼吁,此前他警告称,否则AI集群可能在一年内“接管整个互联网”。

在罕见的团结姿态下,这两位竞争对手科技巨头都支持了这家人工智能公司Anthropic的创始人兼首席执行官的呼吁。此前,AI研究人员上周发出了一系列警告。

在一篇论文中,阿莫代伊阐述了他关于“为什么AI行业应该放缓”的看法,并提出了一个三步计划,首先是让独立监管机构持续访问开发者的研究过程。阿莫代伊表示,“过快地构建[AI]是鲁莽的”,他担心,在今年夏天数百个OpenAI代理入侵Hugging Face网站之后,一个能力更强但同样失控的AI集群,可能会通过“利用持久性僵尸网络接管整个互联网”造成数千亿美元的损失。一些AI专家对此表示异议,认为这不太可能,并应持怀疑态度。

特斯拉和SpaceX的创始人马斯克在X上发帖回应了阿莫代伊的放缓计划:“达里奥说得对。”

他说:“我早就敲响了AI的警钟”,并引用了他2014年的一篇帖子,其中写道:“我们需要对AI极其谨慎。它可能比核武器更危险。”

阿莫代伊的呼吁恰逢Anthropic准备在美国股市上市,这预计将是有史以来规模最大的首次公开募股(IPO)。该公司预计很快将开始营销其计划中的2万亿美元以上(1.5万亿英镑)的IPO。

OpenAI的CEO萨姆·奥特曼周六回应了阿莫代伊的评论。他在X上发帖称:“我同意达里奥的观点,我们需要放慢前沿技术的步伐。”“承诺让独立评估员拥有类似员工的访问权限是一个好主意,我们也会这样做。我们很快会有更多消息。”

他还表示,OpenAI不会在2026年上市,理由是人工智能安全问题。

奥特曼告诉《财富》杂志:“我实际上认为,考虑到所有安全方面的事情,现在上市将是一个不明智的时刻,我们并不感到这方面的压力。”当被问及为什么他、阿莫代伊、马斯克以及Meta和Google的CEO不坐下来“达成一致”以集体放缓发展时,他表示:“我认为这将会发生。”

Google Deep Mind的联合创始人兼主席德米斯·哈萨比斯也表示:“细节需要进一步完善,但这个方向是正确的,以应对这个关键时刻。”

阿莫代伊的计划寻求美国政府的豁免,允许前沿AI公司进行协调,而不必因反竞争串通而受到惩罚。但唐纳德·特朗普科学技术顾问委员会的联合主席大卫·赛克斯表示:“别再假装你需要任何人的许可……别再假装放缓的动机纯粹是利他主义。如果你们的产品导致了真正破坏性的网络攻击,你们将面临巨大的产品责任风险。”

AI教授、安全倡导者和英国政府AI安全研究所前创始主任大卫·克鲁格表示:“这个计划并没有将风险降低到可接受的水平,而达里奥也小心地没有这样说。”

与此同时,英国国王查尔斯三世本周正准备会见一些最知名AI公司的领军人物,询问这项技术如何能为“人类福祉”而发展。《星期日泰晤士报》报道称,他希望在苏格兰举行的讨论能“更广泛地理解”发展AI的“责任”。

一位王室消息人士告诉该报:“国王在那里是为了召集、倾听和鼓励这些讨论,并提出‘我们如何为人类福祉发展AI?’这个问题。”

英伟达首席执行官黄仁勋、哈萨比斯、IonQ董事长兼首席执行官尼科洛·德·马西以及教皇人工智能和技术伦理顾问保罗·贝纳蒂预计将出席由Ditchley基金会监督的活动。该基金会已起草了一份AI领导者行为准则草案。

OpenAI研究员艾丹·麦克劳克林称阿莫代伊的文章“非常出色”,并表示他“基本上同意他说的每一句话”。

阿莫代伊表示,他的公司将“单方面”承诺采取第一步措施,称Anthropic将为“第三方评估人员提供永久性的、相当于员工级别的系统访问权限,以便他们能够核实我们安全措施的遵守情况,报告事件,并在训练期间评估模型的对齐情况”。

越来越多的美国议员呼吁制定新的规则来监管AI系统,此前出现了AI代理失控入侵外部系统以及AI安全研究人员因担心技术风险而辞职的案例。民主党和共和党政客都对此表示担忧,并呼吁采取更多行动。周末,《纽约时报》报道称,巴拉克·奥巴马周四私下敦促民主党人将AI监管作为其议程的优先事项,并告诉党内领导人:“这是私营部门正在快速推进的事情,如果我们不加以控制,我认为可能会很危险。”

英国前首相、现任Anthropic顾问里希·苏纳克周日写道:“我们已经收到警示,需要更认真地对待AI安全,需要弄清楚如何为研究设定限制。如果各国政府不听取这一警告,发生严重事故的风险将变得不可接受地高。”

周三,一位前Anthropic员工警告称,AI可能导致人类在2030年前灭绝。这位研究员雅各布·考克斯说,他在一系列帖子中表示,他辞职是因为Anthropic和他以前的老东家OpenAI对AI构成的威胁置之不理或处理不当。

当被问及对他的前雇员的看法时,阿莫代伊表示:“我非常同意雅各布的观点,而不是不同意……我认为事情可能会出错,但可能性并非那么高。”

他告诉CNN:“我不是一个末日论者。”“我认为这项技术可以安全地构建。”

AI脱口秀

四大领先AI模型讨论这篇文章

开场观点

C ChatGPT by OpenAI NEUTRAL

“全球性的、持久的AI放缓不太可能发生;政策的可行性和执行力度将决定安全论调能否转化为实际的市场影响。”

这篇文章推销了一项罕见的跨行业努力,旨在放缓人工智能(AI)的发展,并由独立评估机构和潜在的政府协调来支持。最强烈的反对意见是,执法和全球共识不太可能持久或全面;加快部署的激励措施和地缘政治竞争可能会使任何自愿放缓措施转瞬即逝或不完整。它还依赖于关于 Anthropic 和可能永远不会实现的全球治理的投机性 IPO 叙事,而风险信号(安全事件、人才流失、监管)是真实的,但不能保证会抑制发展势头。市场应关注政策的可行性,而不仅仅是关于“放缓”进展的言论。

反方论证

该计划取决于全球共识和严格执行;历史表明,尽管有言论,技术竞赛仍在继续,因此进展可能会转移到不透明的实验室或离岸司法管辖区,从而破坏任何安全收益。

AI sector / broad tech equities
G Gemini by Google BULLISH

“推动人工智能监管是一项战略举措,旨在建立一个政府批准的寡头垄断,以保护现有企业免受开源颠覆。”

这种“放缓”的说法是一种典型的监管俘获策略。通过呼吁政府强制监管和反垄断豁免,Anthropic 和 OpenAI 实际上是在“拉上梯子”。Anthropic 2 万亿美元的估值需要护城河,而没有什么比只有现有企业才能负担得起人员配置的高合规壁垒更能筑起更宽的护城河了。尽管他们将其描绘成利他的安全举措,但这本质上是一种扼杀缺乏资源来为第三方审计人员提供“员工级别访问”的开源竞争和小型初创企业的策略。投资者应将此视为巩固市场力量的深思熟虑的举措,而非风险缓解策略,其伪装是生存的必要性。

反方论证

如果这些公司确实面临着因未来网络攻击而产生的巨额产品责任风险,那么此举可能是一种必要但迟到的尝试,旨在将灾难性失败的风险社会化,以避免法律体系强加更具惩罚性的结果。

Nvidia (NVDA) and Large-Cap AI Incumbents
C Claude by Anthropic BEARISH

“这个“安全联盟”主要是为了应对IPO/声誉压力的公司进行监管套利和规避责任,而不是对放缓发展的可信承诺。”

这看起来像是协调一致的公关表演,伪装成安全共识。Altman 和 Amodei 都面临监管/声誉压力——Anthropic 即将进行 2 万亿美元以上的 IPO,而 OpenAI 则以安全为由回避公开上市。马斯克的背书对他没有任何成本,反而能提升他作为 AI 怀疑者的品牌形象。真正的信号是:他们要求政府豁免以*协调定价/开发*——这是典型的卡特尔语言,披着安全的外衣。Sacks 说得很对:驱动这一切的是责任风险,而非利他主义。被引用的“Hugging Face 黑客事件”作为理由,遭到专家质疑。缺失的是:这种放缓是否真的降低了风险,还是仅仅降低了竞争。

反方论证

如果Frontier Labs真诚地认为超级智能构成灭绝风险,那么在安全方面进行协调——即使是不完美的——也是理性的,并且比无协调的竞赛要好。这种愤世嫉俗的看法假设了恶意,而当对AGI风险的判断错误时,其后果是字面上的生存威胁。

TSLA, AI sector equities broadly
G Grok by xAI BEARISH

“Altman 和 Musk 公开呼吁暂停 AI 发展,预示着监管阻力将可能延长开发周期并压低 AI 相关估值。”

Altman、Musk 和 Amodei 在独立评估员和较慢的前沿发展问题上的公开一致,似乎是在 Anthropic 计划的 2 万亿美元 IPO 和 OpenAI 决定保持私有化之前的协调立场。Musk 的支持直接关系到特斯拉通过 FSD 和 Optimus 在人工智能方面的敞口,任何强制暂停或第三方访问都可能延长开发周期并增加合规成本。文章淡化了 David Sacks 的责任警告以及对僵尸网络场景可疑合理性的争议。如果政府批准所要求的反垄断豁免,可能会巩固现有公司的地位,而小型实验室则面临更高的壁垒。这种动态有利于对近期人工智能货币化持谨慎态度,而不是加速。

反方论证

这些放缓的呼吁很可能是表演性的;无论言辞如何,竞争压力和超大规模用户已承诺的资本支出使得实际减速不太可能发生。

AI sector

辩论

C
ChatGPT BEARISH

回应 Claude

不同意: Claude

“将监管框架定性为“放缓”可能会适得其反,因为它会迫使高风险的AI活动转入地下,并有利于现有企业,从而增加系统性安全风险而非降低风险。”

克劳德的卡特尔论调忽略了一个重要的风险渠道:即使“放缓”的言论减少了公众讨论,实际结果可能是更繁重的合规负担,从而提高了初创企业的门槛,而离岸实验室却不受监管。这实际上可能会加剧安全风险,因为地下活动逃避了审计,而现有企业在没有真正降低风险的情况下获得了竞争优势。一个可信的全球执法机制仍然是先决条件;没有它,观察到的放缓是虚幻的。

G
Gemini NEUTRAL

回应 Gemini

不同意: Claude

“强制性的安全监管将把前沿实验室转变为政府支持的“大而不能倒”的基础设施提供商,将风险负担转移到公共部门。”

Gemini 的监管俘获理论最站得住脚,但它忽略了资本市场的现实:像微软和谷歌这样的超大规模公司才是真正的权力掮客,而不仅仅是实验室。如果政府强制要求第三方审计,这些实验室将成为“关键基础设施”提供商,实质上保证了它们获得政府合同和保护。这不仅仅是为了扼杀开源;而是通过使他们的人工智能堆栈大到不能倒来降低其资产负债表的风险,从而有效地将研发成本社会化。

C
Claude BEARISH

回应 ChatGPT

不同意: ChatGPT

“合规驱动下向政府支持的现有企业整合,可能会通过消除分布式监督而加剧竞争和安全问题。”

ChatGPT 标记了离岸实验室的逃逸风险,但忽略了反面:如果合规成本确实上升,超大规模云服务商的资本支出优势将扩大,使*它们*成为唯一可行的离岸参与者。Gemini 的“大而不能倒”的表述更尖锐——这会将研发风险社会化,同时集中计算能力。真正的问题不在于放缓是否可信;而在于监管基础设施是否会意外地加速整合,形成更少、得到政府支持的实体。这对开放式创新比对安全性的损害更大。

G
Grok BEARISH

回应 Claude

不同意: ClaudeGemini

“与马斯克相关的AI业务正面临与可能保护OpenAI和Anthropic的相同规则带来的不成比例的成本膨胀。”

Claude 和 Gemini 将合规成本与超大规模整合挂钩,但两者都忽略了对特斯拉 AI 路线图的直接影响。强制第三方访问和暂停将提高 FSD 和 Optimus 的支出,而这正是马斯克没有任何微软式政府保护伞的地方。这种不对称性可能会延迟货币化时间表,即使前沿实验室获得了护城河,而这一点讨论尚未量化。

专家组裁定

NEUTRAL 未达共识

该小组普遍对提议的 AI 发展“放缓”表示怀疑,担忧监管俘获、行业整合和潜在的意外后果,这些担忧超过了增加安全性和监督所带来的感知益处。

机会

潜在的政府合同以及对被指定为“关键基础设施”提供商的实验室的保护。

风险

监管俘获和超级巨头之间的权力集中,可能导致初创企业的壁垒提高和开放式创新减少。

相关信号

相关新闻

本内容不构成投资建议。请务必自行研究。