数千人出售身份信息以训练人工智能——但代价是什么？

去年的一天早上，雅各布斯·劳（Jacobus Louw）像往常一样出门去喂海鸥。但这次不同，他录下了自己走在人行道上时脚和周围景色的几段视频。这段视频为他带来了 14 美元，大约是该国最低工资的 10 倍，或者说，对于这位 27 岁的南非开普敦居民劳来说，相当于半周的食品杂货费用。
这段视频是为 Kled AI 上的一项“城市导航”任务拍摄的。Kled AI 是一款应用程序，它会向贡献者支付上传数据（如视频和照片）的费用，以训练人工智能模型。在几周内，劳通过上传自己日常生活的照片和视频赚了 50 美元。
在数千英里外的印度兰契，22 岁的学生萨希尔·蒂格（Sahil Tigga）定期通过让 Silencio（一个众包音频数据的平台，用于 AI 训练）访问他的手机麦克风来赚钱，以捕捉环境城市噪音，例如餐厅内部或繁忙路口的交通声。他还上传自己的声音录音。萨希尔会去捕捉独特的场景，比如 Silencio 地图上尚未记录的酒店大堂。他每月通过这种方式赚取 100 多美元，足以支付他所有的餐饮费用。
在芝加哥，18 岁的焊接学徒拉梅利奥·希尔（Ramelio Hill）通过将他与家人朋友的私人手机聊天记录出售给 Neon Mobile（一个对话式 AI 训练平台，每分钟收费 0.50 美元）赚了几百美元。对希尔来说，计算很简单：他认为科技公司已经捕获了他太多的私人数据，所以他认为自己也应该从中分一杯羹。
这些零工 AI 训练师——他们上传从周围场景到自己照片、视频和音频的一切内容——正处于一场新的全球数据淘金热的最前沿。随着硅谷对高质量、人类级别数据的需求超过了从开放互联网上抓取数据的能力，一个蓬勃发展的数据市场行业应运而生，以弥合这一差距。从开普敦到芝加哥，成千上万的人现在正在微许可他们的生物识别身份和亲密数据，以训练下一代人工智能。
但这种新的零工经济也伴随着权衡。为了几美元，这些训练师正在助长一个可能最终使他们的技能过时的行业，同时让他们中的一些人容易受到深度伪造、身份盗窃和数字剥削的未来，而他们才刚刚开始理解这一点。
保持人工智能的运转
像 ChatGPT 和 Gemini 这样的人工智能语言模型需要大量的学习材料来改进，但它们正面临数据短缺。最常用的训练来源，如 C4、RefinedWeb 和 Dolma，占网上最高质量数据集的四分之一，现在正限制生成式人工智能公司使用其数据来训练模型。研究人员估计，最早到 2026 年，人工智能公司将耗尽用于训练的新鲜高质量文本。虽然一些实验室已经诉诸于反馈其人工智能生成的合成数据，但这种递归过程会导致模型产生充满错误的垃圾，从而导致其崩溃。
这时，Kled AI 和 Silencio 等应用程序就派上用场了。在这些数据市场上，数百万人正在将他们的身份货币化，以喂养和训练人工智能。除了 Kled AI、Silencio 和 Neon Mobile，AI 训练师还有很多选择：Luel AI，由著名的初创公司孵化器 Y-Combinator 支持，以每分钟约 0.15 美元的价格获取多语言对话。ElevenLabs 允许您对您的声音进行数字克隆，并允许任何人使用它，基本费用为每分钟 0.02 美元。
伦敦国王学院经济学教授布克·克莱恩·特塞林克（Bouke Klein Teeselink）表示：“零工 AI 训练是一项新兴的工作类别，并将大幅增长。”
特塞林克说，人工智能公司知道，付费许可其数据可以帮助避免因完全依赖从网络抓取的内容而可能面临的版权纠纷风险。Veniamin Veselovsky，一位人工智能研究员说，这些公司还需要高质量的数据来模拟其系统中的新改进行为。“目前，人类数据是模型分布之外的采样黄金标准，”Veselovsky 补充道。
驱动机器的人类，特别是那些来自发展中国家的人，通常需要钱，并且几乎没有其他赚钱的选择。对许多零工 AI 训练师来说，从事这项工作是对经济不平等的务实回应。在高失业率和货币贬值的国家，赚取美元通常比当地工作更稳定、更有回报。其中一些人难以找到入门级工作，并且出于必要而从事 AI 训练。即使在富裕国家，不断上涨的生活成本也使出卖自己成为一种合乎逻辑的财务转变。
然而，零工 AI 训练的陷阱可能是看不见的。在一些人工智能市场上，数据训练师授予不可撤销的、免版税的许可，允许公司创建“衍生作品”，这意味着今天一个 20 分钟的语音录音可能会在未来几年内为人工智能客服机器人提供动力，而训练师将再也得不到一分钱。此外，由于这些市场的透明度不足，一个人的脸可能会出现在半个地球之外的面部识别数据库或掠夺性广告中，几乎没有法律追索权。
目前，人类数据是模型分布之外的采样黄金标准
开普敦的人工智能训练师劳（Louw）意识到了隐私方面的权衡。尽管收入不稳定，不足以支付他全部的月度开销，但他愿意接受这些条件来赚钱。他多年来一直与神经系统疾病作斗争，无法找到工作，但通过 Kled AI 等人工智能市场赚到的钱，他得以攒够钱参加一个 500 美元的按摩师培训课程。
“作为一个南非人，以美元支付的价值比人们想象的要大，”劳说。
牛津大学互联网地理学教授、《喂养机器》一书的作者马克·格雷厄姆（Mark Graham）承认，对于发展中国家的个人来说，这笔钱在短期内可能是有意义的，但他警告说，“从结构上看，这项工作是不稳定的、非进步性的，实际上是死胡同”。
格雷厄姆补充说，人工智能市场依赖于“工资的逐底竞争”，以及“对人类数据的临时需求”。一旦这种需求转移，“工人将没有任何保护，没有可转移的技能，也没有安全网”。
格雷厄姆说，唯一出现的赢家是“全球北方的平台[它们]捕获了所有持久的价值”。
全权委托许可
芝加哥的人工智能训练师希尔（Hill）对将他的私人电话出售给 Neon Mobile 感到矛盾。他赚了 200 美元，用于大约 11 小时的通话，但他表示该应用程序经常离线，并且未能支付逾期款项。“Neon 对我来说一直很可疑，但我一直在使用它来赚取一些额外的、轻松的钱来支付账单和其他杂项开支，”希尔说。
现在他正在重新考虑这笔钱来得有多容易。9 月份，就在 Neon Mobile 上线几周后，在 TechCrunch 发现一个安全漏洞允许任何人访问用户电话号码、通话录音和文字记录后，Neon Mobile 离线了。希尔说 Neon Mobile 从未告知他此事，现在他担心自己的声音可能会在互联网上被滥用。
斯坦福大学以人为本人工智能研究所的数据隐私研究员詹妮弗·金（Jennifer King）认为令人担忧的是，人工智能市场不清楚用户数据将如何以及在哪里被使用。她补充说，在没有协商或了解自己的权利的情况下，“消费者有数据被以他们不喜欢、不理解或未预料到的方式重新利用的风险，而且他们几乎没有追索权”。
当人工智能训练师在 Neon Mobile 和 Kled AI 上共享他们的数据时，他们授予了全权委托许可（全球范围、独家、不可撤销、可转让且免版税），允许出售、使用、公开展示和存储他们的形象——甚至创作他们的衍生作品。
Kled AI 的创始人 Avi Patel 表示，他公司的数据协议将使用限制在人工智能训练和研究目的。“整个业务都取决于用户信任。如果贡献者认为他们的数据可能被滥用，平台就会停止运行。”他说，他的公司在出售数据集之前会审查企业，以避免与那些“意图可疑”的公司合作，例如色情制品，以及他们认为可能以与其信任相冲突的方式使用数据的“政府机构”。
作为一个南非人，以美元支付的价值比人们想象的要大
Neon Mobile 未回应置评请求。
伦敦城市大学圣乔治学院的法学教授恩里科·博纳多（Enrico Bonadio）表示，这些协议的条款允许平台及其客户“几乎可以对这些材料做任何事情，永远，无需进一步付款，并且贡献者几乎没有办法撤回同意或进行有意义的重新谈判”。
更令人担忧的风险包括训练师的数据被用于深度伪造和身份盗窃。博纳多补充说，即使数据市场声称在出售前会剥离数据中的任何身份信息（如姓名和地点），但生物识别模式本质上很难进行稳健的匿名化。
卖家后悔
即使人工智能训练师能够就他们的数据如何使用达成更细微的保护协议，他们仍然会感到后悔。当纽约演员亚当·科伊（Adam Coy）于 2024 年以 1,000 美元的价格将自己的形象出售给 Captions（一款现已更名为 Mirage 的人工智能驱动视频编辑器）时，他的协议确保他的身份不会被用于任何政治目的，也不会用于销售酒精、烟草或色情制品，并且该许可将在一年后到期。
Captions 未回应置评请求。
不久之后，亚当的朋友们开始转发他发现的在线视频，其中他的面孔和声音获得了数百万次观看。在其中一个视频中，一个 Instagram Reels，亚当的人工智能复制品声称自己是“阴道医生”，并为孕妇和产后妇女推广未经证实的医疗补充剂。
“向人们解释这件事让我感到尴尬，”科伊说。
科伊补充说：“评论读起来很奇怪，因为它们评论我的外表，但那不是真正的我。”“我[在决定出售我的形象时]的感觉是，大多数模型都会在网上抓取数据和形象，所以不如从中获得报酬。”
科伊说，他从那以后没有再注册过任何人工智能数据工作。他说，除非有公司提供巨额补偿，否则他才会考虑。