AIを活用したハッキングが工業規模の脅威に爆発的に拡大、Googleが警告

Googleの報告書によると、わずか3ヶ月でAIを活用したハッキングは、萌芽的な問題から工業規模の脅威へと急速に拡大しました。

Googleの脅威インテリジェンスグループからの調査結果は、最新のAIモデルがコーディングに非常に長けており、幅広いソフトウェアシステムにおける脆弱性を悪用するための非常に強力なツールになっているという、激化する世界的な議論に加わっています。

犯罪グループや中国、北朝鮮、ロシアの国と関係のある攻撃者も、Gemini、Claude、OpenAIのツールなど、商用モデルを幅広く利用して攻撃を洗練・拡大していることがわかっています。

グループのチーフアナリストであるJohn Hultquist氏は、「AIの脆弱性レースは目前に迫っているという誤解があります。しかし、現実はすでに始まっているのです」と述べています。

「攻撃者は、AIを使用して攻撃の速度、規模、洗練度を高めています。これにより、自らの活動をテストしたり、ターゲットに対して持続したり、より優れたマルウェアを構築したり、その他の多くの改善を行ったりすることができます。」

先月、AI企業Anthropicは、Mythosという最新モデルのリリースを見送りました。これは、非常に強力な機能を持ち、誤った手に渡ると政府、金融機関、そして世界全体に脅威をもたらす可能性があると主張したためです。

具体的には、AnthropicはMythosが「主要なオペレーティングシステムと主要なWebブラウザのすべて」でゼロデイの脆弱性を発見したと述べています。これは、製品の開発者にまだ知られていない欠陥を指します。

同社は、これらの発見は「業界全体にわたる大幅な調整された防御措置」を必要とすると述べています。

Googleの報告書によると、ある犯罪グループは最近、ゼロデイの脆弱性を活用して「大規模な悪用キャンペーン」を実施する寸前であり、このグループはMythosではないAI大規模言語モデル（LLM）を使用しているように見えます。

報告書はまた、グループがOpenClawというAIツールを「実験」していることも明らかにしました。OpenClawは、2月にバイラルになり、ユーザーがAIエージェントにガードレールがなく、メールの受信箱を大量に削除する傾向があるという、人生の大きな部分を委ねることができる機能を提供しているツールです。

University College Londonのセキュリティエンジニアリング教授であるSteven Murdoch氏は、AIツールはサイバーセキュリティの防御側にも役立つ可能性があると述べています。

「そのため、私はパニックになっていません。一般的に、バグを発見する従来の方法は消えつつあり、今後はすべてLLMによる支援で行われる段階に達しています。この結果がどれほど揺さぶられるかは、まだ少し時間がかかるでしょう」と彼は述べています。

しかし、AIが野心的なハッカーの生産性目標達成を支援している一方で、それがより広範な経済を押し上げているかどうかは疑問が残ります。

独立したAI研究機関であるAda Lovelace Institute (ALI)は、AIからの多額の公的部門の生産性向上の仮定に警戒を促しています。英国政府は、デジタルツールとAIへの公的部門投資により、450億ポンドの節約と生産性向上の効果が見込まれています。

月曜日に発表された報告書の中で、ALIは、AIに関連する生産性増加に関するほとんどの研究は、時間の節約やコスト削減を指しているが、より良いサービスや従業員の幸福の向上といった成果については見ていないと述べています。

そのような研究の問題点としては、職場でのAI効率の予測が現実世界で本当に成功するかどうか、見出しとなる数値がさまざまなタスクでのAI使用に関する異なる結果を隠蔽しているかどうか、公的部門の雇用とサービス提供への影響を考慮していないかなどが挙げられます。

「AIに関する生産性に関する見積もりが、主要な政府のAIに関する意思決定を形作っている場合、それらはテストされていない仮定に基づいていることがあり、それらを使用する人々が常にその限界を理解しているとは限りません」とALIの報告書は述べています。

報告書の推奨事項には、将来の研究が技術の影響に対する不確実性を反映すること、政府機関がAIプログラムの影響を「最初から」測定すること、数週間ではなく数年単位で生産性向上を測定する長期的な研究を支援することが含まれています。