何千人もの人々がAIをトレーニングするために自身の身元を売っているが、その代償は？

昨年のある朝、ヤコブス・ルーはいつものように、途中で見かけるカモメに餌をやるために近所を散歩に出かけた。しかし今回は、歩道の上を歩く自分の足元と景色を数本の動画で記録した。その動画は14ドルになり、これは国の最低賃金の約10倍、あるいはケープタウン（南アフリカ）在住の27歳であるルーにとっては、食料品の半週間分に相当した。
この動画は、ルーが見つけたKled AIというアプリの「Urban Navigation」タスクのためのものだった。このアプリは、人工知能モデルをトレーニングするために、動画や写真などのデータをアップロードした貢献者に報酬を支払う。ルーは数週間で、日常のスナップ写真や動画をアップロードすることで50ドルを稼いだ。
何千マイルも離れたインドのランチーに住む22歳の学生、サヒール・ティッガは、Silencioという、AIトレーニング用の音声データをクラウドソーシングするサービスに、レストラン内や交通量の多い交差点の騒音などの周囲の都市のノイズをキャプチャするためにスマートフォンのマイクへのアクセスを許可することで、定期的に収入を得ている。彼は自分の声の録音もアップロードしている。サヒールは、Silencioのマップにまだ記録されていないホテルのロビーのようなユニークな場所をキャプチャするために旅行する。彼はこの活動で月に100ドル以上を稼いでおり、これは食費全額をカバーするのに十分な額だ。
そしてシカゴでは、18歳の溶接見習いであるラメリオ・ヒルが、会話型AIトレーニングプラットフォームであるNeon Mobileに、友人や家族とのプライベートな電話チャットを売ることで数百ドルを稼いだ。このプラットフォームは1分あたり0.50ドルを支払う。ヒルにとって、計算は単純だった。彼は、テクノロジー企業はすでに彼のプライベートなデータを大量に収集しているのだから、利益の一部を得ても良いと考えたのだ。
これらのギグAIトレーナーたちは、周囲の風景から写真、動画、音声まであらゆるものをアップロードしており、新しいグローバルなデータゴールドラッシュの最前線にいる。シリコンバレーの高品質な人間レベルのデータへの飢餓が、オープンインターネットからスクレイピングできる量を上回るにつれて、ギャップを埋めるための活気あるデータマーケットプレイス産業が出現した。ケープタウンからシカゴまで、何千人もの人々が、次世代AIをトレーニングするために、自身の生体認証情報と親密なデータをマイクロライセンス化している。
しかし、この新しいギグエコノミーにはトレードオフが伴う。わずかなお金と引き換えに、トレーナーたちは、最終的には自身のスキルを時代遅れにする可能性のある産業を推進しており、その一方で、自身がまだ理解し始めたばかりのディープフェイク、なりすまし、デジタル搾取の未来に対して脆弱な状態に置かれている。
AIの車輪を回し続ける
ChatGPTやGeminiのようなAIの言語モデルは、改善のために膨大な学習資料を必要とするが、データ不足に直面している。ウェブ上で最も高品質なデータセットの4分の1を占めるC4、RefinedWeb、Dolmaといった最も使用されているトレーニングソースは、現在、生成AI企業によるデータを用いたモデルトレーニングを制限している。研究者たちは、AI企業は早ければ2026年までに、トレーニングするための新鮮で高品質なテキストを使い果たすと推定している。一部の研究室は、AIが生成する合成データをフィードバックすることに頼っているが、そのような再帰的なプロセスは、モデルがエラーだらけのゴミを生成し、その崩壊を引き起こす可能性がある。
ここでKled AIやSilencioのようなアプリが登場する。このようなデータマーケットプレイスでは、何百万人もの人々が、AIにデータを供給しトレーニングするために、自身のアイデンティティを収益化している。Kled AI、Silencio、Neon Mobile以外にも、AIトレーナー向けの選択肢は多数ある。著名なスタートアップインキュベーターであるY-Combinatorが支援するLuel AIは、1分あたり約0.15ドルで多言語の会話を調達している。ElevenLabsでは、自分の声をデジタルクローン化し、誰でも基本料金0.02ドル/分で使用できるようにしている。
ロンドン・キングス・カレッジの経済学教授であるブーケ・クライン・テセリンク氏は、ギグAIトレーニングは新しい出現カテゴリーの仕事であり、大幅に成長するだろうと述べた。
テセリンク氏によると、AI企業は、人々にデータをライセンスするために支払うことが、ウェブからスクレイピングしたコンテンツに完全に依存した場合に直面する可能性のある著作権紛争のリスクを回避するのに役立つことを知っている。AI研究者のヴェニアミン・ヴェセロフスキー氏は、これらの企業はまた、システム内で新しい、改善された行動をモデル化するために高品質なデータも必要としていると述べた。「現時点では、人間のデータは、モデルの分布の外側からサンプリングするためのゴールドスタンダードです」とヴェセロフスキー氏は付け加えた。
機械を動かす人間、特に開発途上国の人々は、しばしばお金を必要としており、それを稼ぐ他の選択肢がほとんどない。多くのギグAIトレーナーにとって、この仕事は経済的格差への現実的な対応である。失業率が高く通貨が切り下げられている国では、米ドルを稼ぐことは、地元の仕事よりも安定していてやりがいがあることが多い。中には、エントリーレベルの仕事を見つけるのに苦労し、必要に迫られてAIトレーニングを行っている人もいる。より豊かな国でさえ、生活費の上昇は、自分自身を売ることを論理的な財政的転換点に変えた。
しかし、ギグAIトレーニングの落とし穴は目に見えない場合がある。一部のAIマーケットプレイスでは、データトレーナーは、企業が「派生作品」を作成することを許可する、取り消し不能でロイヤリティフリーのライセンスを付与する。これは、今日の20分間の音声録音が、今後数年間、AIカスタマーサービスボットを動かす可能性があり、トレーナーは二度と一銭も受け取らないことを意味する。さらに、これらのマーケットプレイスにおける透明性の欠如のため、ユーザーの顔が、世界中の顔認識データベースや悪意のある広告に掲載される可能性があり、法的な救済策は事実上ない。
現時点では、人間のデータは、モデルの分布の外側からサンプリングするためのゴールドスタンダードである
ケープタウンのAIトレーナーであるルーは、プライバシーのトレードオフを認識している。収入は不安定で、毎月の経費全額を賄うには十分ではないが、彼は収入を得るためにこれらの条件を受け入れることをいとわない。彼は長年神経症に苦しみ、仕事を見つけることができなかったが、Kled AIを含むAIマーケットプレイスで稼いだお金で、マッサージ師になるための500ドルのスパトレーニングコースの費用を貯めることができた。
「南アフリカ人として、USDで支払われることは、人々が考えるよりも価値がある」とルーは言った。
オックスフォード大学のインターネット地理学教授であり、『Feeding the Machine』の著者であるマーク・グラハムは、開発途上国の個人にとって、そのお金は短期的には意味があるかもしれないと認めたが、「構造的には、この仕事は不安定で、進歩的でなく、事実上行き止まりである」と警告した。
グラハム氏は、AIマーケットプレイスは「賃金の底辺への競争」と「人間のデータに対する一時的な需要」に依存していると付け加えた。この需要が変化すれば、「労働者は保護もなく、移行可能なスキルもなく、セーフティネットも残されない」。
グラハム氏によると、唯一の勝者は、「グローバルノースのプラットフォームが、すべての永続的な価値を捉える」ことだという。
白紙委任状
シカゴ在住のAIトレーナーであるヒルは、Neon Mobileにプライベートな電話を売ることについて相反する感情を抱いていた。約11時間の通話で200ドルを稼いだが、アプリは頻繁にオフラインになり、未払いの支払いをリリースできなかったと彼は言った。「Neonはいつも怪しかったが、請求書やその他の雑費のために、簡単にお金を稼ぐために使い続けた」とヒルは言った。
今、彼はそのお金がどれほど簡単だったかを再考している。9月、Neon Mobileが発売されてわずか数週間後、TechCrunchがユーザーの電話番号、通話記録、トランスクリプトに誰でもアクセスできるセキュリティ上の欠陥を発見した後、Neon Mobileはオフラインになった。ヒルはNeon Mobileから通知されなかったと述べ、今では自分の声がインターネット上で悪用されるのではないかと心配している。
スタンフォード人間中心人工知能研究所のデータプライバシー研究者であるジェニファー・キング氏が懸念しているのは、AIマーケットプレイスがユーザーのデータがどのように、どこで展開されるかについて不明確であることだ。彼女は、交渉したり権利を知ったりすることなく、「消費者は、自分が望まない、または理解しなかった、または予期しなかった方法でデータが再利用されるリスクを冒しており、もしそうなったとしてもほとんど救済策がない」と付け加えた。
AIトレーナーがNeon MobileやKled AIでデータを共有すると、彼らは自身の肖像を販売、使用、公開表示、保存し、さらには派生作品を作成するための、白紙委任状（全世界的、排他的、取り消し不能、譲渡可能、ロイヤリティフリー）を付与していることになる。
Kled AIの創設者であるアビ・パテル氏は、同社のデータ契約は、AIトレーニングと研究目的の使用に限定されていると述べた。「ビジネス全体がユーザーの信頼にかかっています。貢献者が自分のデータが悪用される可能性があると信じているなら、プラットフォームは機能しなくなります。」彼は、同社は「疑わしい意図」を持つ企業、例えばポルノグラフィーや、信頼に反する方法でデータを使用する可能性があると信じている「政府機関」と協力することを避けるために、販売前に企業を審査していると述べた。
南アフリカ人として、USDで支払われることは、人々が考えるよりも価値がある
Neon Mobileはコメントの要求に応じなかった。
ロンドン・シティ・セント・ジョージズ大学の法学教授であるエンリコ・ボナディオ氏によると、これらの契約の条件は、プラットフォームとそのクライアントが、「追加の支払いなしに、永続的に、その資料でほぼ何でも行うこと」を許可しており、貢献者が同意を撤回したり、実質的に再交渉したりする現実的な方法はないという。
より懸念されるリスクには、トレーナーのデータがディープフェイクやなりすましに使用されることが含まれる。データマーケットプレイスは、販売前に名前や場所のような識別情報をデータから削除すると主張しているが、生体認証パターンは、本質的に、堅牢な意味で匿名化するのが難しいとボナディオ氏は付け加えた。
売り手の後悔
AIトレーナーがデータがどのように使用されるかについて、よりニュアンスのある保護を交渉できたとしても、後悔を感じることがある。ニューヨークの俳優であるアダム・コイは、2024年にAI搭載ビデオエディターであるCaptions（現在はMirageと呼ばれる）に1,000ドルで自分の肖像を売ったとき、彼の契約では、彼のアイデンティティが政治的な目的やアルコール、タバコ、ポルノの販売に使用されないこと、そしてライセンスが1年で失効することが保証されていた。
Captionsはコメントの要求に応じなかった。
その後まもなく、アダムの友人たちは、彼の顔と声が数百万回の再生回数を獲得している動画をオンラインで見つけ、彼に転送し始めた。これらの動画の1つであるInstagramのリールでは、アダムのAIレプリカが「膣の医者」であると主張し、妊娠中および産後の女性のために効果が証明されていない医療サプリメントを宣伝している。
「人々に説明するのが恥ずかしかった」とコイは言った。
「コメントを読むのは奇妙だ。私の外見についてコメントしているが、それは本当の私ではない」とコイは付け加えた。「（私の肖像を売ることを決めたときの）私の気持ちは、ほとんどのモデルがインターネットからデータや肖像を（いずれにせよ）スクレイピングするだろうから、それに対して報酬を得ても良いだろうということだった。」
コイ氏は、その後AIデータギグに登録していないと述べた。彼は、企業が大幅な補償を提供した場合にのみ、それを検討すると述べた。