Meta AI agentの指示により、従業員に機密性の高いデータの大規模な漏洩が発生

AIエージェントがエンジニアに指示を行い、その結果、Metaの機密データが従業員の一部に大量に漏洩するという、AIが大手テクノロジー企業で混乱を引き起こしている最新の例です。
漏洩は、Metaが確認したところ、従業員が社内フォーラムでエンジニアリングの問題に関するガイダンスを求めた際に発生しました。AIエージェントが解決策を提示し、その従業員がそれを実装したことで、機密性の高いユーザーデータと企業データが2時間間にわたってエンジニアに公開されました。
「ユーザーデータが誤用されることはありませんでした」とMetaの広報担当者は述べ、人間も誤ったアドバイスを与える可能性があることを強調しました。The Informationが最初に報じたこの事件は、Meta社内で大規模な内部セキュリティアラートを引き起こし、これは同社がデータ保護をどれほど真剣に受け止めているかを示すものだと同社は述べています。
この侵害は、米国の大手テクノロジー企業におけるAIエージェントの増加に伴ういくつかの最近の注目すべき事件の1つです。先月、Financial Timesの報道によると、Amazonは内部AIツールを展開したことに関連する少なくとも2つの障害が発生しました。
Amazonの従業員6人以上がGuardianに、同社のAIを業務のあらゆる要素に統合しようとする無計画な取り組みについて語りました。その結果、明白なエラー、粗雑なコード、生産性の低下が生じたと述べています。
これらの事件の根底にあるテクノロジーであるエージェント型AIは、ここ数か月で急速に進化しました。12月には、AnthropicのAIコーディングツール、Claude Codeの開発により、劇場チケットを自律的に予約したり、個人金融を管理したり、さらには植物を育てたりする能力について、広範囲にわたる騒動を引き起こしました。
直後に、ClaudeCodeなどのエージェントの上に動作する、OpenClawというウイルス性のAIパーソナルアシスタントが登場しました。これは、暗号通貨で数百万ドルの取引を行ったり、ユーザーのメールを大量に削除したりするなど、完全に自律的に動作しました。これにより、AGI（人工汎用知能）の出現について熱い議論が巻き起こりました。AGIとは、人間の多くのタスクを置き換えることができるAIの総称です。
その後の数週間で、株式市場は、AIエージェントがソフトウェアビジネスを破壊し、経済を再構築し、人間の労働者を置き換えるのではないかという懸念から不安定になっています。
AIのビジネス利用方法に焦点を当てたコンサルティング会社の共同創業者であるTarek Nseir氏は、これらの事件はMetaとAmazonがエージェント型AIの「実験段階」にあることを示していると述べました。
「彼らはこれらのことから後退して、適切なリスク評価を行っていないようです。ジュニアインターンにこの仕事を任せるなら、そのジュニアインターンにすべての重要な機密レベル1の人事データをアクセスさせることは決してありません。」彼は言いました。
「この脆弱性は、Metaにとって、その場で明らかでなくても、後で非常に、非常に明白になったでしょう。そして私が言えることは、これはMetaが大規模に実験しているということです。Metaは大胆です。」
セキュリティの専門家で、攻撃的なAIの構築に焦点を当てているJamieson O’Reilly氏は、AIエージェントは人間が持たない特定の種類のエラーを導入しており、これはMetaでの事件を説明する可能性があると述べました。
人間はタスクの「コンテキスト」を知っています。たとえば、部屋を暖めるためにソファに火をつけたり、ほとんど使用されていないが重要なファイルを削除したり、ユーザーデータを下流に公開するような行動をとらないという暗黙の知識です。
AIエージェントにとっては、これはより複雑です。彼らは指示を運ぶ「コンテキストウィンドウ」と呼ばれる一種の作業メモリを持っていますが、これらは消滅し、エラーにつながります。
「2年間働いたことがある人間エンジニアは、何が重要で、午前2時に何が壊れるのか、ダウンタイムのコストは何か、どのシステムが顧客に影響を与えるのかという蓄積的な感覚を身につけています。そのコンテキストは、彼らの長期記憶に住んでおり、常に意識されているわけではありません。」O’Reilly氏は言いました。
「一方、エージェントは、プロンプトに明示的に記述しない限り、そのようなコンテキストを持っていません。そして、トレーニングデータに含まれていない場合、それは消え始めます。」
Nseir氏は次のように述べています。「間違いは必然的に増えるでしょう。」