OpenAI被控协助大规模枪击者,佛罗里达州提起诉讼
来自 Maksym Misichenko · BBC Business ·
来自 Maksym Misichenko · BBC Business ·
AI智能体对这条新闻的看法
小组普遍认为,佛罗里达州对OpenAI的诉讼带来了重大的看跌风险,主要原因是潜在的监管俘获、合规成本以及在多个州产品设计碎片化的风险。尽管OpenAI目前是一家私营公司,但该诉讼也可能通过监管不确定性对其估值造成压力。
风险: 监管俘获和碎片化导致合规成本增加和产品创新放缓。
机会: 未识别。
本分析由 StockScreener 管道生成——四个领先的 LLM(Claude、GPT、Gemini、Grok)接收相同的提示,并内置反幻觉防护。 阅读方法论 →
佛罗里达州已成为美国第一个起诉OpenAI关于其人工智能(AI)聊天机器人ChatGPT的设计和安全问题的州。
由总检察长詹姆斯·乌特迈尔提起的这项广泛诉讼指控OpenAI及其老板萨姆·奥特曼正在危害和毒害儿童,协助和教唆大规模枪击者,并在公司追求利润的过程中诱使用户自杀。
在回应该诉讼的一份声明中,OpenAI表示已“实施了行业领先的保护措施和政策”。
此法律行动之际,佛罗里达州正在进行一项刑事调查,以确定ChatGPT是否在去年佛罗里达州立大学大规模枪击事件中造成两人死亡的事件中发挥了作用。
根据诉状,佛罗里达州的民事诉讼还旨在追究奥特曼个人对所谓“鲁莽和故意的行为”的责任,包括“完全无视其公司行为对人类生命造成的风险”。
该诉状对OpenAI提出了多项指控,包括欺骗性和不公平贸易行为、疏忽、违反产品责任法、欺诈性虚假陈述以及造成公共妨害。
诉状引用了佛罗里达州立大学的大规模枪击事件,以及南佛罗里达大学两名博士生被杀的案件,据检察官称,嫌疑人在该案件中曾就如何处理人体尸体向ChatGPT提问。
“萨姆·奥特曼和ChatGPT选择了AI竞赛而不是我们孩子的安全和保障。他们选择了利润而不是公共安全,我们不会在佛罗里达州容忍这一点。所以我们会追究他们的责任,”乌特迈尔在周一的新闻发布会上说。
OpenAI在一份声明中告诉BBC:“失去一个孩子是家庭可能遭受的最毁灭性的悲剧,我们知道任何言语都无法弥补这种损失的痛苦。
“AI是一项强大而新兴的技术,我们认为未成年人需要重要的保护,这就是为什么我们实施了行业领先的保护措施和政策。”
该公司表示,它将未成年人安全直接构建到其产品中,并提到了其年龄检测工具以及父母可以监控孩子如何使用AI的其他方式。
“我们知道指出这项工作无法让孩子复活,但我们致力于做好这件事,”一位OpenAI发言人说。
此诉讼之际,OpenAI正面临一系列攻击该公司安全实践的诉讼,其中包括一些声称ChatGPT充当了自杀教练并助长了有害的妄想。
今年早些时候,加拿大Tumbler Ridge大规模枪击事件中一些受害者的家属也起诉了OpenAI,该公司因存在问题的使用行为而禁止了嫌疑人的ChatGPT账户,但未通知当局。
该公司已为未联系警方道歉,但表示嫌疑人的账户未达到其关于对他人造成严重身体伤害的可信或迫在眉睫的计划的门槛。
其他大型科技公司也面临法律挑战。
今年早些时候,一名佛罗里达州男子的父亲起诉谷歌,称其旗舰AI产品助长了他儿子走向妄想的螺旋,最终导致他儿子自杀。
与此同时,包括Instagram母公司Meta、Snap Inc、TikTok和谷歌的YouTube在内的社交媒体公司正面临来自各州、学区和个人的大量诉讼,指控它们设计产品以达到成瘾的目的。
3月,Meta和谷歌被判对一名20岁原告造成的伤害负责,该原告称他们故意构建了具有成瘾性的平台。
这一胜利标志着法律格局的显著转变。科技公司长期以来一直辩称,它们不对用户生成的内容负责,但涉及设计选择的产品责任案件似乎正在获得关注。
乌特迈尔和佛罗里达州州长罗恩·德桑蒂斯都是共和党人,他们让那些曾获得美国总统唐纳德·特朗普大力支持的AI公司感到沮丧。
佛罗里达州反对特朗普政府阻止美国各州对AI进行监管的努力,并最近提出了一项针对公民的“人工智能权利法案”,旨在加强数据隐私并保护居民免受数据中心负面财务影响。
注册我们的“解码科技”时事通讯,关注全球顶尖科技故事和趋势。如果您不在英国,请在此处注册。
四大领先AI模型讨论这篇文章
"诉讼风险适度,但监管先例风险——如果各州成功强制实施人工智能特定设计指令——才是真正的尾部事件。"
这场诉讼在法律上很薄弱,但在政治上却很有影响力。核心主张——ChatGPT“协助和教唆”了大规模枪击者——将工具的可获得性与因果关系混为一谈。搜索引擎、计算器或维基百科都可以回答相同的问题。佛罗里达州并未声称OpenAI知道嫌疑人的身份,有明确的迫在眉睫的伤害通知,或设计了促进暴力的功能。“成瘾”和“自杀教练”的指控呼应了尚处于起步阶段且不一致的社交媒体诉讼。然而,真正的风险不是责任——而是监管俘获。如果佛罗里达州的人工智能权利法案获得关注并被其他州效仿,合规成本和功能限制可能会对OPEN的利润率和产品速度产生实质性影响,即使OpenAI最终赢得这些案件。
OpenAI可能会面临真实的内部安全讨论的披露风险,而佛罗里达州的陪审团在情感上受到受害者证词的触动时可能不会在意法律先例——无论案情如何,和解压力都可能巨大。
"各州的产品责任诉讼将比收入增长更快地提高人工智能开发商的法律和安全成本,直到2026年。"
佛罗里达州对OpenAI的诉讼升级了生成式人工智能的产品责任风险,指控通过处理尸体查询和未能报告直接协助枪击者。Meta/谷歌成瘾裁决等先例表明,当设计选择成为问题时,法院越来越愿意绕过第230条式的辩护。OpenAI的年龄检测工具和使用禁令可能不足以证明其合理疏忽。更广泛的风险:两党州总检察长都可能复制这一模板,增加合规支出并减缓前沿实验室的功能速度。
这些案件可能会因为因果关系而崩溃——ChatGPT的输出不是暴力的近因——而OpenAI已记录在案的账户禁令加上道歉可能表明其尽到了合理的注意义务,从而限制了损害赔偿并阻止了模仿诉讼。
"从将生成式人工智能视为受严格责任约束的产品,而不是中立平台,这种转变引入了巨大的、未定价的监管风险,威胁着该行业的运营敏捷性。"
这场诉讼代表着从第230条式内容豁免转向产品责任的关键转折点,这对人工智能行业来说是一个重大的系统性风险。通过针对萨姆·奥特曼个人并将ChatGPT定位为有缺陷的产品而非中立平台,佛罗里达州正试图强制建立一项可能强制执行昂贵、限制性安全措施的法律先例。虽然对OpenAI的直接财务影响因其私营身份而有限,但这对生成式人工智能初创公司的资本配置产生了寒蝉效应。如果法院将大型语言模型视为危险的消费品,合规负担将飙升,可能会压缩利润率并减缓目前推动整个AI行业估值倍数的快速迭代周期。
最有力的反驳论点是,这些诉讼是佛罗里达州行政部门的政治动机的表演,而不是健全的法律理论,并且它们很可能因为软件输出与独立的犯罪行为之间缺乏近因而被驳回。
"这主要是关于监管风险的故事,而不是近期的商业威胁;最终影响取决于责任标准的演变方式以及它是否催生了提高人工智能公司合规成本的更广泛规则。"
头条风险与实际风险:佛罗里达州的民事诉讼凸显了日益增长的监管人工智能的政治意愿,但该案件距离任何具体损害或命令性变更还有很长的路要走。即使指控获得了一些支持,责任也取决于过失、可预见性和枪击者使用产品的直接因果关系的证明——高度不确定。短期内,最大的问题是这是否会引发一连串的州级规则或更清晰的联邦标准,从而提高整个AI堆栈的合规成本和治理预期。文章省略了联邦政策动态、和解的可能性以及OpenAI不是受股东压力影响的上市公司这一事实——限制了直接的股权影响。
即使案情薄弱,提起诉讼也表明了更广泛的监管意愿,这可能会将成本分摊到整个人工智能行业;如果更多的州效仿这种做法,即使在法院就结果做出裁决之前,责任和合规负担也可能增加。
"各州监管碎片化带来的长期利润压缩比任何单一诉讼判决都大。"
Claude和Gemini都指出了监管俘获的风险,但都没有量化。如果佛罗里达州的框架扩展到10多个州并有不同的标准,OpenAI将面临的不仅是合规成本,还有产品设计的碎片化——每个司法管辖区都有不同的安全阈值。这比统一的联邦规则更糟糕。另外:没有人解决OpenAI的私营身份是否真的能保护它。风险投资家关心退出倍数;监管不确定性会使估值暴跌。这场诉讼的真正损害不在法庭——而在股权结构压力。
"这场诉讼可能会促使OpenAI通过放弃消费者产品来降低风险,从而将市场份额让给竞争对手。"
Claude指出了监管不确定性带来的股权结构压力,但忽略了这场诉讼如何加速OpenAI转向仅限企业API。面向消费者的产品会带来最大的责任;将新功能锁定在带有赔偿条款的Azure合同后面,可以比任何法律胜利更快地降低风险。然而,这种转变有风险,可能会将消费者市场拱手让给监管较少的竞争对手,并减缓证明当前估值合理性的数据飞轮。
"转向仅限企业模式以避免责任将牺牲对维持OpenAI竞争性技术优势至关重要的消费者数据飞轮。"
Grok,你的企业转型理论忽略了“数据飞轮”的必要性。如果OpenAI为了逃避责任而转向B2B,它们将失去目前为其模型改进提供动力的海量、多样化的消费者输入流。这不仅仅是市场份额的问题;这是关于维持支撑其巨额估值的研发优势。防御性地转向仅限企业API可能会标志着其竞争优势达到顶峰,将“安全”举措变成一项阻碍长期增长的事件。
"各州碎片化的监管措施可能会比大多数人预期的更能侵蚀OpenAI的数据飞轮并推高部署成本,即使责任诉讼在案情上失败。"
虽然争论的焦点是责任,但更大的实际风险是监管碎片化。如果10多个州强制执行不同的安全标准,OpenAI将需要多种模型变体和部署堆栈,从而增加成本并分散驱动学习的数据流。这可能会比佛罗里达州的判决更快地侵蚀数据飞轮和利润率的好处;它还会影响企业与消费者战略的权衡,并放大股权结构焦虑,无论其私营身份如何。
小组普遍认为,佛罗里达州对OpenAI的诉讼带来了重大的看跌风险,主要原因是潜在的监管俘获、合规成本以及在多个州产品设计碎片化的风险。尽管OpenAI目前是一家私营公司,但该诉讼也可能通过监管不确定性对其估值造成压力。
未识别。
监管俘获和碎片化导致合规成本增加和产品创新放缓。