Des milliers de personnes vendent leur identité pour entraîner l’IA – mais à quel prix ?

Un matin de l’année dernière, Jacobus Louw s’est lancé dans sa promenade quotidienne dans le quartier pour nourrir les mouettes qu’il trouve en chemin. Sauf qu’à cette occasion, il a enregistré plusieurs vidéos de ses pieds et de la vue pendant qu’il marchait sur le trottoir. La vidéo lui a rapporté 14 $, soit environ 10 fois le salaire minimum du pays, ou pour Louw, un jeune homme de 27 ans basé au Cap, en Afrique du Sud, la moitié d’une semaine de provisions.
La vidéo était destinée à une tâche « Navigation urbaine » que Louw a trouvée sur Kled AI, une application qui paie les contributeurs pour le téléchargement de leurs données, telles que des vidéos et des photos, afin d’entraîner des modèles d’intelligence artificielle. En quelques semaines, Louw a gagné 50 $ en téléchargeant des photos et des vidéos de sa vie quotidienne.
À des milliers de kilomètres de là, à Ranchi, en Inde, Sahil Tigga, un étudiant de 22 ans, gagne régulièrement de l’argent en permettant à Silencio, qui collecte des données audio pour l’entraînement de l’IA, d’accéder au microphone de son téléphone pour capturer des bruits ambiants de la ville, comme à l’intérieur d’un restaurant ou du trafic à un carrefour animé. Il télécharge également des enregistrements de sa voix. Sahil se déplace pour capturer des lieux uniques, comme des halls d’hôtel qui ne sont pas encore documentés sur la carte de Silencio. Il gagne plus de 100 $ par mois en le faisant, ce qui lui suffit à payer toutes ses dépenses alimentaires.
Et à Chicago, Ramelio Hill, un apprenti soudeur de 18 ans, a gagné quelques centaines de dollars en vendant ses conversations privées par téléphone avec des amis et des membres de sa famille à Neon Mobile, une plateforme d’entraînement à l’IA conversationnelle qui paie 0,50 $ par minute. Pour Hill, le calcul était simple : il pensait que les entreprises technologiques capturaient déjà tellement de ses données privées qu’il valait mieux qu’il touche une part des bénéfices.
Ces formateurs d’IA à la tâche – qui téléchargent tout, des scènes autour d’eux aux photos, vidéos et audios d’eux-mêmes – sont en première ligne d’une nouvelle ruée vers l’or des données à l’échelle mondiale. Alors que la soif de Silicon Valley pour des données de haute qualité, de qualité humaine, dépasse ce qui peut être récupéré sur le web ouvert, une industrie florissante de marchés de données a émergé pour combler le fossé. Du Cap à Chicago, des milliers de personnes micro-licencient désormais leurs identités biométriques et leurs données intimes pour entraîner la prochaine génération d’IA.
Mais cette nouvelle économie à la tâche s’accompagne de compromis. En échange de quelques dollars, ses formateurs alimentent une industrie qui pourrait éventuellement rendre leurs compétences obsolètes, tout en laissant certains d’entre eux vulnérables à un avenir de deepfakes, de vol d’identité et d’exploitation numérique qu’ils ne commencent tout juste à comprendre.
Maintenir la roue de l’IA en mouvement
Les modèles de langage de l’IA, tels que ChatGPT et Gemini, exigent d’immenses quantités de matériel d’apprentissage pour s’améliorer, mais ils sont confrontés à une pénurie de données. Les sources de formation les plus utilisées, telles que C4, RefinedWeb et Dolma, qui représentent un quart des ensembles de données de la plus haute qualité sur le web, restreignent désormais aux entreprises d’IA génératives l’entraînement de modèles avec leurs données. Les chercheurs estiment que les entreprises d’IA manqueront de texte frais et de haute qualité pour s’entraîner dès 2026. Bien que certains laboratoires aient recours à l’alimentation de données synthétiques générées par leur propre IA, un tel processus récursif peut amener les modèles à produire des déchets remplis d’erreurs qui entraînent leur effondrement.
C’est là que des applications telles que Kled AI et Silencio interviennent. Sur ces types de marchés de données, des millions de personnes monétisent leur identité pour alimenter et entraîner l’IA. Au-delà de Kled AI, Silencio et Neon Mobile, il existe de nombreuses options pour les formateurs d’IA : Luel AI, soutenue par le célèbre incubateur de startups Y-Combinator, collecte des conversations multilingues pour environ 0,15 $ par minute. ElevenLabs vous permet de cloner numériquement votre voix et de permettre à quiconque de l’utiliser moyennant des frais de base de 0,02 $ par minute.
La formation d’IA à la tâche est une nouvelle catégorie de travail émergente, et elle va considérablement croître, a déclaré Bouke Klein Teeselink, professeur d’économie au King’s College London.
Les entreprises d’IA savent que le paiement aux personnes pour la licence de leurs données permet d’éviter le risque de litiges liés au droit d’auteur auxquels elles pourraient être confrontées si elles s’appuyaient entièrement sur du contenu récupéré sur le web, a déclaré Tesselink. Ces entreprises ont également besoin de données de haute qualité pour modéliser de nouveaux comportements améliorés dans leurs systèmes, a déclaré Veniamin Veselovsky, chercheur en IA. « Les données humaines, pour l’instant, sont la norme en or pour échantillonner en dehors de la distribution du modèle », a ajouté Veselovsky.
Les humains qui alimentent les machines, en particulier ceux des pays en développement, ont souvent besoin d’argent et n’ont que peu d’autres options pour le gagner. Pour de nombreux formateurs d’IA à la tâche, faire ce travail est une réponse pragmatique à la disparité économique. Dans les pays où le chômage est élevé et où les devises sont dévaluées, gagner de la monnaie américaine est souvent plus stable et plus gratifiant que les emplois locaux. Certains ont du mal à trouver un emploi de premier échelon et font de l’entraînement à l’IA par nécessité. Même dans les pays plus riches, la hausse du coût de la vie a transformé la vente de soi en un pivot financier logique.
Cependant, les pièges de la formation d’IA à la tâche peuvent être invisibles. Sur certains marchés de données d’IA, les formateurs de données accordent des licences irrévocables et sans redevance qui permettent aux entreprises de créer des « œuvres dérivées », ce qui signifie qu’un enregistrement vocal de 20 minutes aujourd’hui pourrait alimenter un chatbot de service à la clientèle de l’IA pendant les prochaines années, sans que le formateur ne voie un autre centime. De plus, en raison du manque de transparence sur ces marchés, le visage d’un utilisateur pourrait finir dans une base de données de reconnaissance faciale ou dans une publicité prédatrice à l’autre bout du monde, avec pratiquement aucun recours juridique.
Les données humaines, pour l’instant, sont la norme en or pour échantillonner en dehors de la distribution du modèle
Louw, le formateur d’IA au Cap, est conscient des compromis en matière de confidentialité. Et bien que le revenu soit erratique et ne suffise pas à couvrir toutes ses dépenses mensuelles, il est prêt à accepter ces conditions pour gagner de l’argent. Il a lutté contre un trouble nerveux pendant des années et n’a pas pu trouver d’emploi, mais l’argent gagné sur les marchés de l’IA, y compris Kled AI, lui a permis d’économiser pour un cours de formation de spa de 500 $, afin de devenir masseur.
« En tant qu’Africain du Sud, être payé en USD vaut plus que ce que les gens pensent », a déclaré Louw.
Mark Graham, professeur de géographie d’Internet à l’Université d’Oxford et auteur de Feeding the Machine, a reconnu que pour les personnes des pays en développement, l’argent peut être significatif à court terme, mais a averti que « structurellement, ce travail est précaire, non progressif et, en fin de compte, une impasse ».
Les marchés de l’IA s’appuient sur une « course vers le bas des salaires », a ajouté Graham, et une « demande temporaire de données humaines ». Une fois que cette demande change, « les travailleurs ne disposent d’aucune protection, de compétences transférables ou de filet de sécurité ».
Le seul gagnant qui en ressort, a déclaré Graham, sont « les plateformes du nord mondial [qui] capturent toute la valeur durable ».
Autorisations en blanc
Hill, le formateur d’IA basé à Chicago, avait des sentiments mitigés quant à la vente de ses appels téléphoniques privés à Neon Mobile. Pour environ 11 heures d’appels, il a gagné 200 $, mais il a déclaré que l’application était souvent hors ligne et ne publiait pas les paiements en retard. « Neon m’a toujours semblé louche, mais je continuais à l’utiliser pour gagner un peu d’argent facile pour les factures et autres dépenses diverses », a déclaré Hill.
Maintenant, il repense à la facilité avec laquelle cet argent a été gagné. En septembre, quelques semaines seulement après son lancement, Neon Mobile est devenu hors ligne après que TechCrunch a découvert une faille de sécurité qui permettait à quiconque d’accéder aux numéros de téléphone, aux enregistrements d’appels et aux transcriptions des utilisateurs. Hill a déclaré que Neon Mobile ne l’en avait jamais informé et s’inquiète maintenant de la façon dont sa voix pourrait être utilisée abusivement sur Internet.
Ce qui inquiète Jennifer King, chercheuse en confidentialité des données à l’Institut de l’intelligence artificielle centrée sur l’humain de Stanford, c’est que les marchés de données d’IA ne sont pas clairs sur la manière et l’endroit où les données des utilisateurs seront déployées. Sans négociation ni connaissance de leurs droits, a-t-elle ajouté, « les consommateurs risquent de voir leurs données réutilisées de manière qu’ils n’aiment pas ou qu’ils n’ont pas comprise ou anticipée, et ils auront peu de recours en cas de quoi ».
Lorsque les formateurs d’IA partagent leurs données sur Neon Mobile et Kled AI, ils accordent une licence en blanc (mondiale, exclusive, irrévocable, cessible et sans redevance) pour vendre, utiliser, afficher publiquement et stocker leur apparence – et même créer des œuvres dérivées d’eux.
Avi Patel, le fondateur de Kled AI, a déclaré que les accords de données de son entreprise limitent l’utilisation à la formation et à la recherche en IA. « L’ensemble de l’activité dépend de la confiance des utilisateurs. Si les contributeurs pensent que leurs données pourraient être utilisées à mauvais escient, la plateforme cesse de fonctionner. » Il a déclaré que son entreprise examine les entreprises avant de vendre des ensembles de données, afin d’éviter de travailler avec celles qui ont un « objectif douteux », comme la pornographie, et les « organismes gouvernementaux » qui pourraient utiliser les données d’une manière qui contredit cette confiance.
Neon Mobile n’a pas répondu à une demande de commentaires.
Selon Enrico Bonadio, professeur de droit à City St George’s, University of London, les termes de ces accords permettent aux plateformes, ainsi qu’à ses clients, de « faire presque n’importe quoi avec ce matériel, pour toujours, sans paiement ultérieur et sans moyen réaliste pour le contributeur de retirer son consentement ou de renégocier de manière significative ».
Les risques plus préoccupants incluent l’utilisation des données des formateurs pour créer des deepfakes et de l’usurpation d’identité. Même si les marchés de données affirment supprimer toute identification, comme le nom et le lieu, avant de vendre les données, les schémas biométriques sont, par nature, difficiles à anonymiser de manière robuste, a ajouté Bonadio.
Regret du vendeur
Même lorsque les formateurs d’IA sont en mesure de négocier des protections plus nuancées sur la façon dont leurs données seront utilisées, ils peuvent encore ressentir des regrets. Lorsque Adam Coy, un acteur de New York, a vendu sa ressemblance en 2024 pour 1 000 $ à Captions, un éditeur vidéo basé sur l’IA qui s’appelle désormais Mirage, son accord garantissait que son identité ne serait pas utilisée à des fins politiques ou pour vendre de l’alcool, du tabac ou de la pornographie, et que la licence expirerait en un an.
Captions n’a pas répondu à une demande de commentaires.
Peu de temps après, les amis d’Adam ont commencé à lui transmettre des vidéos qu’ils avaient trouvées en ligne présentant son visage et sa voix, accumulant des millions de vues. Dans l’une de ces vidéos, une reel Instagram, la réplique IA d’Adam se présente comme un « médecin de la vagin » et fait la promotion de suppléments médicaux non prouvés pour les femmes enceintes et post-partum.
« C’était embarrassant de devoir l’expliquer aux gens », a déclaré Coy.
« Les commentaires sont étranges à lire parce qu’ils commentent mon apparence physique, mais ce n’est pas vraiment moi », a ajouté Coy. « Mon sentiment [lorsque j’ai décidé de vendre ma ressemblance] était que la plupart des modèles allaient de toute façon récupérer des données et des ressemblance sur Internet, autant être payé pour cela. »
Coy a déclaré qu’il ne s’était inscrit à aucun service de données d’IA depuis. Il ne l’envisagerait que s’il était offert une compensation importante.