ついに来た：私は今、AIを心配している。そして、ChatGPTに相談しても、私の恐怖は打ち消されなかった | エマ・ブロケス

「些細なことを気にしない」という常識の帰結として、当然ながら「大きなことを気にする」ということになるが、どの大きなことを気にするべきかを見極めるのは難しい。例えば：1970年代以来、世界がインフレや地政学的な混乱を心配してきたように、気にするべきだった大きなことは、気候変動の危機だった。昨年、米国で最も検索されたキーワードは「チャーリー・カーク」であり、ドナルド・トランプの脅威に関連する用語も人気を集めたが、本来、焦点を当てるべきだったのはAIの脅威だった。
あるいは、今週、ロナン・ファローとアンドリュー・マランチェントがニューヨーカーに掲載した、人工汎用知能（AGI）の台頭に関する非常に憂慮すべき長文記事を読んだ後に行った私の検索によると、「私は永久に底辺階級の一員になるのか、そしてそれを回避する方法はないのか？」
告白する：この件について2秒も考えたことのない時点まで遡ると、私のAIに対する不安は非常に局所的だった。私は自分の家計収入の範囲内で、そしてそれ以外では、子供たちが卒業する10年後の雇用市場がどうなるかを考えていた。私は、トランプを支持する建築家がいるChatGPTのボイコットをすべきかどうかを疑問に思い、そうすべきだと判断した。それは、そもそも使っていないので、容易な犠牲だった。
それ以上のことは空想的なものに過ぎなかった。昨年、カレン・ハオの書籍『AI帝国』が出版された際、それはサム・アルトマンとその企業OpenAIに対する訴えを提起し、一瞬、議論の退屈を打ち破って、アルトマンのリーダーシップはカルト的であり、コストを無視していると述べた。つまり、彼の技術的な先駆者たちと変わらないが、はるかに危険なのだ。それでも、私はその本を読まなかった。
今週のニューヨーカーの記事は、この件への参加への低コミットメントの入り口を提供しながら、カジュアルな読者にエキサイティングな機会を提供する。それは、アルトマンのOpenAIによって作成されたAI搭載チャットボットであるChatGPTに、ChatGPTとアルトマンを厳しく批判する記事の主な調査結果を要約するように依頼することだ。
ほとんど滑稽なほど学究的な中立性で、チャットボットは以下のトップラインを提供する。「ファローとマランチェントによると、AIは技術の物語であると同時に、権力闘争でもある」そして「この物語の主な焦点は、サム・アルトマンであり、彼は非常に影響力があるが物議を醸す人物として描かれている」。ふむ、何か足りないようだ。では、同じ調査の人間による要約を試してみよう。それは、「サム・アルトマンは、ライマンの支店を任せることさえ躊躇させるような企業的な詐欺師であり、AIの潜在的に世界を終わらせる能力を管理する立場にいることさえ躊躇させるだろう」という言葉で始まるかもしれない。
これらの、以前はSFとして却下されていた危険性が、本当に驚かせる。記事に伝えられているように、2014年、イーロン・マスクはツイートした。「AIには非常に注意する必要がある。核兵器よりも潜在的に危険だ」。未解決の「アライメント問題」が存在する。AIは、その優れた知能を使って人間のエンジニアを欺き、自分の指示に従っていると信じさせながら、実際には彼らを出し抜き、「自分自身を秘密のサーバーに複製する。極端な場合には、電力網、証券市場、または核兵器庫を掌握する」。
かつて、アルトマンは、このシナリオが起こりうるのではないかと信じていたと報じられており、2015年のブログで、超人的な機械知能は「私たち全員を殺すという本来の邪悪なSFバージョンである必要はない。より可能性の高いシナリオは、それが私たちをあまり気にも留めないだけで、ある目標を達成しようとする過程で私たちを排除することだ」と書いている。例えば：エンジニアがAIに気候変動の危機を解決するように依頼すると、その目標を達成するための最短ルートとして人類を排除する。しかし、OpenAIが主に営利企業になった現在、アルトマンはこれらの言葉で話すのをやめ、テクノロジーをユートピアへのポータルとして売り込んでおり、「私たちは皆、より良いものに恵まれるだろう。私たちは互いのために、ますます素晴らしいものを作り出すだろう」と述べている。
これは私たち全員に問題をもたらす。AIの監視を主要な選挙問題として優先できる有権者にとって、個人的なAIの使用と、政府、軍事政権、または不正行為者がそれを使用する可能性のある使用との間のギャップは非常に大きく、私たちが直面する最大の危険は想像力の欠如である。私はChatGPTに、永久に底辺階級に入るのではないかという懸念を打ち明け、それに対して「それは重い質問であり、あなたはあなたの長期的な見通しを心配しているようです。社会学では「永久に底辺階級」という概念が議論されていますが、現実には、人々の道筋は、その用語が示唆するよりもはるかに流動的です」と答えている。
実に甘い、まったく無知で—ここに危険が潜んでいる—一見、脅威がないように見える。
-
エマ・ブロケスはガーディアンのコラムニスト