ChatGPTでカナダの群衆射撃犯の行動を報告しなかったOpenAIを家族が訴える

ブリティッシュコロンビア州の学校での群衆射撃事件の7人の犠牲者の家族が、ChatGPTに射撃犯の不穏な会話を当局に報告しなかったとして、OpenAIとCEOを不注意で訴えています。

水曜日にサンフランシスコの連邦裁判所に提出された訴訟は、18歳のジェシー・ヴァン・ルーツラーラー射撃犯の暴力的な意図は、OpenAIに周知であったと主張しています。訴訟によると、同社の従業員は攻撃の8か月前に射撃犯のアカウントをフラグを立て、それが「実際の人物に対する銃による暴力の信頼できる具体的な脅威」をもたらしたと判断しました。

家族は、従業員がOpenAIのCEOであるサム・アルトマンと他の上級幹部に8か月前にカナダの法執行機関に通知するよう促したと主張していますが、同社は当局に警告する代わりに射撃犯のアカウントを非アクティブ化することを選択しました。これは、社内の従業員がウォールストリート・ジャーナルに語ったとされる内容に基づいています。

訴訟は、法執行機関への警告を行わなかった決定が、10日の2月、射撃犯が改造されたライフルで学校に押し入り、発砲したことで、タンブラーリッジの田舎のコミュニティを破壊したと主張しています。彼らは階段で最初に出会った人を撃ち、図書館に進み、他の5人を殺害し、さらに27人を負傷させました。射撃犯はその後、自殺しました。

学校に行く前に、射撃犯は家族の家で母親と11歳の兄弟を殺害しました。

学校の犠牲者は12歳から13歳までで、39歳の教え子アシスタントも含まれています。生存者の一人である12歳のマヤ・ゲバラは、頭、首、頬を撃たれました。彼女はバンクーバーの子供病院の集中治療室に射撃以来入院しており、脳の手術を4回受けています。弁護士によると、彼女が生き残ったとしても、永続的な障害が生じる可能性が高いです。

7件の訴訟を起こした家族は、OpenAIとアルトマンを不注意、群衆射撃の共謀、過失死、製品責任で告発しています。弁護士は、これはAI企業に対する射撃事件に関する最初の訴訟の波であり、さらに24件の訴訟が予定されていると述べています。

ガーディアンへの声明で、OpenAIは次のように述べています。「タンブラーリッジでの出来事は悲劇です。私たちは、ツールを使用して暴力行為を支援することに対してゼロ・トレランスのポリシーを持っています。カナダの当局と共有したように、すでに安全対策を強化しており、ChatGPTが苦悩の兆候にどのように対応するかを改善し、人々を地元のサポートとメンタルヘルスリソースとつなぎ、暴力の潜在的な脅威をどのように評価およびエスカレートするかを強化し、繰り返しのポリシー違反者をどのように検出するかを改善しています。」

ガーディアンがコメントを求めた後、OpenAIは「コミュニティの安全」への「コミットメント」と、どのように「コミュニティの安全を保護するか」に関する新しいブログ投稿を公開しました。

この攻撃は、カナダの歴史上最も致命的な群衆射撃事件の1つでした。その結果、小さなコミュニティでは、それがどのようにして起こり得たのかという疑問が浮上しました。

ヴァン・ルーツラーラーのChatGPTアカウントは、OpenAIの安全チームが暴力的な会話のためにフラグを立てた後、射撃の8か月前に禁止されました。しかし、訴訟によると、射撃犯はすぐに新しいアカウントを作成することができました。

OpenAIは、射撃犯が会社が射撃後まで知らなかった2番目のアカウントを作成したと述べていますが、訴訟によると、会社は非アクティブ化されたユーザーがChatGPTに戻る方法に関する指示を提供しており、射撃犯はそれを実行しました。

「サムとリーダーシップが安全チームを覆し、子供たちが死んだ、大人が死んだ、町全体が破壊されたという事実は、私にとって悪の定義に非常に近い」と、タンブラーリッジの原告を代表するリードアドバイザーのジェイ・エデルソンは述べています。

訴訟は、カナダ当局との射撃犯のChatGPTのやり取りを隠蔽し、その後、射撃犯がプラットフォームに忍び寄ったと一般に伝えたという決定は、「企業存続」の利益と、予想される評価額が1兆ドルで、アルトマンを世界で最も裕福な人物の1人にする可能性のあるIPOを保護するために行われたと主張しています。

OpenAIは、チャットボットとタンブラーリッジの射撃犯との間のログを共有することを拒否しました。エデルソンは述べています。

先週の後半、アルトマンはタンブラーリッジのコミュニティに宛てた手紙を送り、射撃犯の潜在的な脅威についてOpenAIが知っていたことをカナダの警察に通知しなかったことを謝罪しました。

「言葉がいくらあっても十分ではないことを知っていますが、コミュニティが被った危害と取り返しのつかない損失を認識するために謝罪が必要であると信じています。市長と首相に約束したように、将来このような悲劇を防ぐ方法を見つけるというコミットメントを再確認します」とアルトマンは書いています。

ブリティッシュコロンビア州のデビッド・エビー首相は、次のようなコメントとともにソーシャルメディアに手紙を投稿しました。「謝罪は必要ですが、タンブラーリッジの家族が被った破壊に対しては、非常に不十分です。」

2月26日、射撃からわずか2週間後の日付で、OpenAIのグローバルポリシー担当副社長であるアン・オライリーは、カナダの人工知能とデジタルイノベーション大臣であるエヴァン・ソロモンに宛てた手紙を送りました。オライリーは、会社が射撃犯のアカウントが非アクティブ化されたときに見たことから、法執行機関に問題を報告するのに適した「信頼できる差し迫った計画」を特定しなかったと書いています。この決定は、安全チームからの警告にもかかわらず、アカウントを報告すべきであったという警告にもかかわらず行われました。

オライリーはまた、カナダの法執行機関との関係を強化し、ChatGPTから繰り返し禁止されているが、その後新しいアカウントを作成するユーザーを検出するシステムを強化するなど、会社が計画している行動を説明しました。

これらの訴訟は、チャットボットがメンタルヘルスの危機を悪化させ、暴力的な行為を煽っているという申し立てで、AI企業に対する一連の訴訟の一部です。11月には、OpenAIに対する7件の訴訟が提出され、ChatGPTが「自殺コーチ」として機能したと非難されました。Googleは先月、Geminiチャットボットが36歳の男性に「壊滅的な事故」をステージし、その後自殺するように促した後に訴えられました。Googleは、安全対策を改善していると述べており、OpenAIは訴訟の提出内容をレビューしていると述べています。

フロリダ州では、弁務官が最近、ChatGPTとメッセージを交換した後にキャンパスで群衆射撃事件を起こした容疑で起訴された射撃犯に関するメッセージをレビューした後、OpenAIに対する刑事調査を開始しました。これは、テクノロジー企業に対する最初の刑事調査です。タンブラーリッジの家族の弁護士は、彼らの事件が同社に対する同様の刑事責任を支持する可能性があると信じています。同社はNBC Newsに対し、射撃に責任はなく、州の質問に答えたと述べています。

これは、銃器メーカーやディーラー、および米国連邦政府が、射撃による死亡と負傷につながったとされる不作為に対して責任を問うための訴訟を使用するという、現在一般的なアプローチのもう1つの例です。

タンブラーリッジの7件の訴訟は、ゲバラ、教え子アシスタントのシャンンダ・アビウガナ・デュランの家族、および学校での射撃で死亡した5人の子供の家族を代表しています。これらの犠牲者には、ゾイ・ベノワ、ティカリア「ティキ」ランパート、カイリー・スミス、エゼキエル・スコフィールド、アベル・ムワンサ・ジュニアが含まれます。家族は、損失は耐えられないと言っています。

ザンビアからの移民であるムワンサの両親は、3年前にカナダに移住しました。彼らは、12歳の息子が優れた聞き手で、毎朝妹に朝食を作っていたと述べています。射撃を生き残った友人の1人は、ムワンサの最後の言葉は「両親に、とても愛していると伝えてください」だったと述べています。