AI 公司 Anthropic 寻求武器专家以阻止用户“滥用”

<h1>AI 公司 Anthropic 寻求武器专家以阻止用户“滥用”</h1>
<p>美国人工智能 (AI) 公司 Anthropic 正在 <a href="https://www.linkedin.com/jobs/view/4380096063/?alternateChannel=search&amp;eBP=NOT_ELIGIBLE_FOR_CHARGING&amp;refId=2S9LKNRrah4j4reTIQvVDA%3D%3D&amp;trackingId=XWmjWdtNoQpi0SqgU1q7jA%3D%3D">招聘</a> 一名化学武器和高爆炸药专家，以试图防止其软件的“灾难性滥用”。</p>
<p>换句话说，它担心其 AI 工具可能会告诉某人如何制造化学或放射性武器，并希望一位专家确保其安全措施足够健全。</p>
<p>在 LinkedIn 招聘帖子中，该公司表示申请人应至少拥有五年“化学武器和/或爆炸物防御”方面的经验，以及对“放射性扩散装置”的知识——也被称为“脏弹”。</p>
<p>该公司告诉 BBC，该职位类似于它已经在其他敏感领域创建的职位。</p>
<p>Anthropic 并不是唯一采用这种策略的 AI 公司。</p>
<p>ChatGPT 开发商 OpenAI 已经刊登了一个 <a href="https://openai.com/careers/researcher-frontier-biological-and-chemical-risks-san-francisco/">类似职位</a>。在其职业网站上，它列出了一项“生物和化学风险”研究员的空缺职位，年薪高达 455,000 美元（335,000 英镑），几乎是 Anthropic 提供的薪酬的两倍。</p>
<p>但一些专家对这种方法感到担忧，警告说它向 AI 工具提供了有关武器的信息——即使他们已被指示不要使用它。</p>
<p>“使用 AI 系统处理敏感的化学品和爆炸物信息，包括脏弹和其他放射性武器，是否安全？”科技研究员、BBC AI Decoded 电视节目的联合主持人 Stephanie Hare 博士说道。</p>
<p>“没有国际条约或其他法规来规范这类工作，以及使用 AI 进行此类武器工作。所有这些都在幕后进行。”</p>
<p>人工智能行业一直不断警告其技术可能带来的生存威胁，但尚未有任何尝试减缓其进展。</p>
<p>随着美国政府呼吁 AI 公司在伊朗发动战争和委内瑞拉进行军事行动，这个问题变得更加紧迫。</p>
<p>Anthropic <a href="https://www.bbc.co.uk/news/articles/cq571w5vllxo">正在对美国国防部提起诉讼</a>，该部门将它指定为 <a href="https://www.bbc.co.uk/news/articles/cn5g3z3xe65o">供应链风险</a>，因为该公司坚持认为其系统不得用于完全自主武器或对美国人的大规模监控。</p>
<p>Anthropic 联合创始人 Dario Amodei 在 2 月份写道，他不认为该技术还足够好，不应该用于这些目的。</p>
<p>白宫表示，美国军方不受科技公司管辖。</p>
<p>这种风险标签将这家美国公司置于与中国电信公司华为相同的境地，该公司因不同的国家安全问题而被 <a href="https://www.bbc.co.uk/news/world-us-canada-63764450">同样被制裁</a>。</p>
<p>OpenAI 表示同意 Anthropic 的立场，但随后 <a href="https://www.bbc.co.uk/news/articles/c3rz1nd0egro">与美国政府协商了自己的合同</a>，该公司表示该合同尚未开始执行。</p>
<p>Anthropic 的 AI 助手，名为 Claude，尚未被淘汰，目前仍然嵌入在 Palantir 提供的系统中，并被美国在美以伊朗战争中使用。</p>
<p><a href="https://www.bbc.co.uk/newsletters/zxh6cxs">订阅我们的 Tech Decoded 简报</a>，以了解世界领先的科技故事和趋势。 <a href="https://cloud.email.bbc.com/techdecoded-newsletter-signup">英国以外？在此订阅</a>。</p>