AIの危険はすでに現実のものに：仮説ではない | Granate Kim、Mohamed Hussein

この数週間、AIに対する懸念は、テクノロジー界と政策界の間に異例の連携を生み出しています。サム・アルトマン、イーロン・マスク、デミス・ハサビスといったテクノロジー界の大物たちは、ダリオ・アモデイ、サティア・ナデラ、ビル・ゲイツと共に、AIの危険性について警鐘を鳴らし、長年の覇権争いにもかかわらず、この技術の開発を遅らせるよう呼びかけました。バーニー・サンダース上院議員はスティーブ・バノンと組んで、議会にAIを規制するよう促しており、AIは政治的スペクトルを超えてアメリカ人を団結させる数少ない問題の一つとなっています。

最新の動きは、AI研究者のジェイコブ・コックスオン氏がTwitter/Xで、AI企業は「私たちの人生を賭けている」と警告し、この技術が「今世紀末までに私たち全員を殺す可能性がある」と信じているという警告に一部触発されたものです。

現実は、AIが前例のない死と破壊をどのように引き起こすかを見るために待つ必要はありません。なぜなら、私たちはすでにその解放を目撃しているからです。

ビル・ゲイツ氏が8月下旬に発表した、AIとその人類への潜在的な危害について警告する約6,000語のエッセイは、驚くべきことではありません。私たちの一人は、10年近くマイクロソフトの従業員であり、そのすべての危険がリアルタイムで展開するのを目の当たりにしてきました。私たちは共に、過去2年間、他のマイクロソフト従業員や活動家たちと組織化し、ガザにおけるパレスチナ人のジェノサイドにおける同社の役割を明らかにしようとしてきました。私たちは集団的に、マイクロソフトに対しイスラエル軍との関係を断つよう求めてきました。

しかし、AIによる破壊に関与しているのはマイクロソフトだけではありません。

イスラエルによるガザへのジェノサイド戦争は、戦争におけるAIの使用の実験場となり、その結果は深く憂慮すべきものでした。イスラエル軍はAIを使用して殺害対象を特定し、最初の1ヶ月だけで12,000の標的が生成され、爆撃されました。これは、オスカー受賞歴のあるイスラエル人ジャーナリスト、ユヴァル・アブラハム氏の調査で文書化されているように、ほとんど、あるいは全く意味のある人間の監視なしに行われました。同氏の最新映画「NAZA」（ガーディアン制作）には、関与した兵士たちの身の毛もよだつ証言が含まれています。

今年の初め、イランでは、米国軍がAIが関与した空爆を実行し、イランのミナブにあるシャジャレ・タイエベ小学校を襲撃し、子供、教師、その他の民間人156人を殺害しました。この攻撃は、戦争における民間人の死傷者に関する最悪の事件である可能性が非常に高く、おそらく「標的設定ミス」の結果であり、誤ったデータに依存したものでした。

AIによってもたらされる恐怖は、海外の人々に限定されません。すでに米国内の脆弱なコミュニティで感じられています。国土安全保障省は、マイクロソフトのAzureを含むAIツールを使用して、移民を大規模に監視、逮捕、国外追放しています。全米の法執行機関は、ラテン系および黒人アメリカ人の誤った逮捕と投獄につながったアルゴリズムの偏見の証拠にもかかわらず、顔認識技術を展開しています。ニューヨーク市警察もマイクロソフトと提携して、ニューヨーク・デイリーニュースによると、18,000台のセキュリティカメラに接続するためにAzureを使用したドメイン・アウェアネス・システムを構築し、ブラジルやシンガポールを含む世界の一部に拡大した大規模監視システムを作成しました。AIを支えるデータセンターは、米国の田舎や低所得者層の地域に建設されており、そこでは多くの人々が貧困線以下の生活を送っており、これらの施設による大気汚染による重大な健康被害に直面しています。

これらの多くの被害は何年にもわたって文書化されてきましたが、右翼政府の指導者たちは、不正で厳格な措置を通じて反対意見を封じ込めています。ドナルド・トランプ氏はAIのリスクを「でっち上げ」と呼び、この技術の力を制限しようとするあらゆる試みは「病んだ陰謀」の一部だと述べました。下院共和党は、データセンターに対する国民の反対について中国政府の偽情報が原因だと非難し、AIに対する国民の懸念を却下しました。イスラエルの文化大臣ミキ・ゾーハル氏は、NAZA映画製作者のユヴァル・アブラハム氏とレイチェル・ゾル氏を「国家に対する反逆罪」で非難し、市民権を剥奪すると脅迫しました。

一つだけ確かなことがあります。ゲイツ氏、アモデイ氏、そして他の人々が私たちに警告している危険な未来はすでにここにあり、さらなる被害を防ぐために今すぐ行動しなければなりません。ガザ、レバノン、イラン、そしてICEに脅かされている米国の地域に家族がいる私たち自身は、すでに悪夢を生きている人々を知っています。

過去数週間、私たちは、AI技術の潜在的な危害を抑制しようとする米国政策立案者からの有望な取り組みを見てきました。下院は最近、技術企業内に第三者評価者を配置して安全評価を実施するためのフロンティア法案を提案しました。そして今月初め、サンダース氏とグレッグ・カサール下院議員は、人間が制御できない技術の構築と開発をテクノロジーリーダーに停止させるための人工超知能禁止法案を導入しました。

これらの法案は良い出発点です。しかし、可決には何年もかかる可能性があり、すでに引き起こされている破壊に対処していません。フロンティアAI企業と政府は、軍事ターゲティング、自律型兵器システム、および大規模監視におけるAI技術の販売と使用を禁止するために、今すぐ行動しなければなりません。これは、Anthropic、OpenAI、Google DeepMindの従業員が求めていることです。

私たちは、AIがすでに最も脆弱な人々に与えた危害に対処し、それらが不可逆的になり、より多くのコミュニティに広がる前に軌道修正できる、貴重でつかの間の瞬間に生きています。私たちは今すぐ明確なガードレールを確立し、一部の特権的な人々だけでなく、すべての人を保護するAIの未来を形作る必要があります。

- モハメド・フセイン氏は、マイクロソフトに対しイスラエル軍との関与を終了するよう求める従業員主導の運動「No Azure for Apartheid」で活動しています。彼はまた、内部従業員グループである「Palestinians and Allies at Microsoft」のリーダーでもあります。 - グラナート・キム氏は「No Azure for Apartheid」で活動しており、人権擁護のためにイスラム教徒コミュニティを動員する組織「MPower Change」のキャンペーンディレクターを務めています。