Tysiące ludzi sprzedaje swoje tożsamości do trenowania AI – ale jakim kosztem?

Pewnego ranka w zeszłym roku Jacobus Louw wyruszył na swój codzienny spacer po okolicy, aby nakarmić mewy, które spotykał po drodze. Tym razem nagrał kilka filmów ze swoich stóp i widoku, gdy szedł po chodniku. Film przyniósł mu 14 dolarów, około 10 razy więcej niż płaca minimalna w kraju, lub dla Louw, 27-latka z Kapsztadu w RPA, połowę tygodniowych wydatków na żywność.
Film był przeznaczony do zadania „Nawigacja miejska”, które Louw znalazł w Kled AI, aplikacji płacącej użytkownikom za przesyłanie ich danych, takich jak filmy i zdjęcia, w celu trenowania modeli sztucznej inteligencji. W ciągu kilku tygodni Louw zarobił 50 dolarów, przesyłając zdjęcia i filmy ze swojego codziennego życia.
Tysiące kilometrów dalej w Ranchi w Indiach Sahil Tigga, 22-letni student, regularnie zarabia pieniądze, pozwalając Silencio, które gromadzi dane audio do trenowania AI, na dostęp do mikrofonu jego telefonu w celu przechwytywania otaczających dźwięków miasta, takich jak wnętrze restauracji czy ruch uliczny na ruchliwym skrzyżowaniu. Przesyła również nagrania swojego głosu. Sahil podróżuje, aby uchwycić unikalne scenerie, takie jak lobby hotelowe, które nie są jeszcze udokumentowane na mapie Silencio. Zarabia na tym ponad 100 dolarów miesięcznie, co wystarcza na pokrycie wszystkich jego wydatków na jedzenie.
A w Chicago Ramelio Hill, 18-letni praktykant spawalnictwa, zarobił kilkaset dolarów, sprzedając swoje prywatne rozmowy telefoniczne z przyjaciółmi i rodziną do Neon Mobile, platformy do trenowania konwersacyjnej AI, która płaci 0,50 dolara za minutę. Dla Hilla kalkulacja była prosta: uważał, że firmy technologiczne i tak już gromadzą tak wiele jego prywatnych danych, więc równie dobrze mógłby otrzymać część zysków.
Ci pracownicy tymczasowi trenujący AI – którzy przesyłają wszystko, od otaczających ich scen po zdjęcia, filmy i nagrania audio siebie – znajdują się na pierwszej linii nowego globalnego wyścigu po dane. Ponieważ głód Doliny Krzemowej na wysokiej jakości dane ludzkiego pochodzenia przewyższa to, co można zebrać z otwartego internetu, rozwinął się kwitnący przemysł rynków danych, aby wypełnić tę lukę. Od Kapsztadu po Chicago tysiące ludzi mikrolizinguje teraz swoje tożsamości biometryczne i intymne dane, aby trenować następną generację AI.
Jednak ta nowa gospodarka dorywcza wiąże się z kompromisami. W zamian za kilka dolarów, jego trenerzy napędzają przemysł, który może ostatecznie uczynić ich umiejętności przestarzałymi, jednocześnie narażając niektórych z nich na przyszłość deepfake'ów, kradzieży tożsamości i cyfrowej eksploatacji, której dopiero zaczynają rozumieć.
Utrzymanie koła AI w ruchu
Modele językowe AI, takie jak ChatGPT i Gemini, wymagają ogromnych zasobów materiałów do nauki, aby się poprawić, ale borykają się z niedoborem danych. Najczęściej używane źródła treningowe, takie jak C4, RefinedWeb i Dolma, które stanowią jedną czwartą najwyższej jakości zbiorów danych w sieci, ograniczają obecnie firmy zajmujące się generatywną AI od trenowania modeli na ich danych. Naukowcy szacują, że firmy AI wyczerpią świeży, wysokiej jakości tekst do trenowania już w 2026 roku. Chociaż niektóre laboratoria uciekły się do ponownego karmienia syntetycznymi danymi generowanymi przez ich AI, taki proces rekursywny może prowadzić do błędnych wyników, które powodują ich upadek.
Tutaj wkraczają aplikacje takie jak Kled AI i Silencio. Na tego typu rynkach danych miliony ludzi monetyzują swoje tożsamości, aby zasilać i trenować AI. Poza Kled AI, Silencio i Neon Mobile, istnieje wiele opcji dla trenerów AI: Luel AI, wspierane przez słynny inkubator startupów Y-Combinator, pozyskuje wielojęzyczne rozmowy za około 0,15 dolara za minutę. ElevenLabs pozwala na cyfrowe klonowanie głosu i umożliwia każdemu jego używanie za podstawową opłatę 0,02 dolara za minutę.
Trenowanie AI w ramach pracy dorywczej to nowa, rozwijająca się kategoria pracy, która będzie znacząco rosła, powiedział Bouke Klein Teeselink, profesor ekonomii w King's College London.
Firmy AI wiedzą, że płacenie ludziom za licencjonowanie ich danych pomaga uniknąć ryzyka sporów o prawa autorskie, z którymi mogłyby się spotkać, gdyby polegały wyłącznie na treściach pobranych z sieci, powiedział Tesselink. Firmy te potrzebują również wysokiej jakości danych, aby modelować nowe, ulepszone zachowania w swoich systemach, powiedział Veniamin Veselovsky, badacz AI. „Ludzkie dane są obecnie złotym standardem do próbkowania poza dystrybucją modelu”, dodał Veselovsky.
Ludzie zasilający maszyny, szczególnie ci z krajów rozwijających się, często potrzebują pieniędzy i mają niewiele innych możliwości zarobku. Dla wielu trenerów AI, wykonywanie tej pracy jest pragmatyczną odpowiedzią na nierówności ekonomiczne. W krajach o wysokim bezrobociu i zdewaluowanych walutach zarabianie w walucie amerykańskiej jest często bardziej stabilne i opłacalne niż lokalne miejsca pracy. Niektórzy z nich mają trudności ze znalezieniem pracy na stanowiskach podstawowych i zajmują się trenowaniem AI z konieczności. Nawet w bogatszych krajach rosnące koszty życia sprawiły, że sprzedawanie siebie stało się logicznym zwrotem finansowym.
Jednak pułapki trenowania AI w ramach pracy dorywczej mogą być niewidoczne. Na niektórych rynkach AI trenerzy danych udzielają nieodwołalnych, wolnych od tantiem licencji, które pozwalają firmom na tworzenie „dzieł pochodnych”, co oznacza, że 20-minutowe nagranie głosu może zasilać bota obsługi klienta AI przez kilka następnych lat, a trener nigdy więcej nie zobaczy ani centa. Ponadto, ze względu na brak przejrzystości na tych rynkach, twarz użytkownika może trafić do bazy danych rozpoznawania twarzy lub do drapieżnej reklamy na drugim końcu świata, z praktycznie brakiem możliwości odwołania się do prawa.
Ludzkie dane są obecnie złotym standardem do próbkowania poza dystrybucją modelu
Louw, trener AI z Kapsztadu, jest świadomy kompromisów dotyczących prywatności. I chociaż dochody są nieregularne i niewystarczające do pokrycia jego miesięcznych wydatków, jest gotów zaakceptować te warunki, aby zarobić pieniądze. Przez lata zmagał się z zaburzeniami nerwowymi i nie mógł znaleźć pracy, ale pieniądze zarobione na rynkach AI, w tym Kled AI, pozwoliły mu zaoszczędzić na kurs masażysty za 500 dolarów.
„Jako Południowoafrykańczyk, otrzymywanie zapłaty w USD jest bardziej opłacalne, niż ludzie myślą” – powiedział Louw.
Mark Graham, profesor geografii internetu na Uniwersytecie Oksfordzkim i autor książki „Feeding the Machine”, przyznał, że dla osób z krajów rozwijających się pieniądze mogą być znaczące w krótkim okresie, ale ostrzegł, że „strukturalnie ta praca jest niepewna, nieprogresywna i faktycznie ślepy zaułek”.
Rynki AI opierają się na „wyścigu na dno w płacach” i „tymczasowym zapotrzebowaniu na ludzkie dane”. Kiedy to zapotrzebowanie się zmieni, „pracownicy pozostaną bez ochrony, bez zbywalnych umiejętności i bez siatki bezpieczeństwa”.
Jedynym zwycięzcą, który wyłania się, są „platformy z globalnej północy [które] przechwytują całą trwałą wartość”, powiedział Graham.
Zezwolenia carte blanche
Hill, trener AI z Chicago, miał mieszane uczucia co do sprzedaży swoich prywatnych rozmów telefonicznych do Neon Mobile. Za około 11 godzin rozmów zarobił 200 dolarów, ale twierdzi, że aplikacja często się wyłączała i nie wypłacała zaległych płatności. „Neon zawsze był dla mnie podejrzany, ale nadal go używałem, żeby zarobić trochę dodatkowych, łatwych pieniędzy na rachunki i inne drobne wydatki” – powiedział Hill.
Teraz zastanawia się, jak łatwe były te pieniądze. We wrześniu, zaledwie kilka tygodni po uruchomieniu, Neon Mobile zniknął z sieci po tym, jak TechCrunch odkrył lukę w zabezpieczeniach, która pozwoliła każdemu na dostęp do numerów telefonów, nagrań rozmów i transkryptów użytkowników. Hill powiedział, że Neon Mobile nigdy go o tym nie poinformował i teraz martwi się, jak jego głos może zostać niewłaściwie wykorzystany w internecie.
Jennifer King, badaczka prywatności danych w Stanford Institute for Human-Centered Artificial Intelligence, uważa za niepokojące, że rynki AI nie są jasne co do tego, jak i gdzie dane użytkowników będą wykorzystywane. Bez negocjowania lub znajomości swoich praw, dodała, „konsumenci ryzykują, że ich dane zostaną wykorzystane w sposób, który im się nie podoba, którego nie rozumieli lub którego nie przewidywali, a oni będą mieli niewielkie możliwości odwołania się”.
Kiedy trenerzy AI udostępniają swoje dane na Neon Mobile i Kled AI, udzielają licencji carte blanche (światowej, wyłącznej, nieodwołalnej, zbywalnej i wolnej od tantiem) na sprzedaż, wykorzystanie, publiczne wyświetlanie i przechowywanie ich wizerunku – a nawet tworzenie dzieł pochodnych.
Założyciel Kled AI, Avi Patel, powiedział, że umowy dotyczące danych jego firmy ograniczają wykorzystanie do celów trenowania AI i badań. „Cały biznes zależy od zaufania użytkowników. Jeśli współpracownicy wierzą, że ich dane mogą zostać niewłaściwie wykorzystane, platforma przestaje działać.” Powiedział, że jego firma sprawdza firmy przed sprzedażą zbiorów danych, aby uniknąć współpracy z tymi o „wątpliwych intencjach”, takimi jak pornografia, i „organami rządowymi”, które ich zdaniem mogłyby wykorzystać dane w sposób niezgodny z tym zaufaniem.
Jako Południowoafrykańczyk, otrzymywanie zapłaty w USD jest bardziej opłacalne, niż ludzie myślą
Neon Mobile nie odpowiedział na prośbę o komentarz.
Według Enrico Bonadio, profesora prawa na City St George's, University of London, warunki tych umów pozwalają platformom, jak również ich klientom, na robienie „prawie wszystkiego z tym materiałem, na zawsze, bez dalszej zapłaty i bez realistycznej możliwości wycofania zgody lub sensownego renegocjowania przez współpracownika”.
Bardziej niepokojące ryzyka obejmują wykorzystanie danych trenerów do deepfake'ów i podszywania się pod kogoś. Nawet jeśli rynki danych twierdzą, że usuwają z danych wszelkie identyfikatory, takie jak imię i lokalizacja, przed ich sprzedażą, wzorce biometryczne z natury trudno jest w sposób solidny zanonimizować, dodał Bonadio.
Żal sprzedającego
Nawet gdy trenerzy AI są w stanie wynegocjować bardziej zniuansowane zabezpieczenia dotyczące sposobu wykorzystania ich danych, nadal mogą odczuwać żal. Kiedy Adam Coy, aktor z Nowego Jorku, sprzedał swój wizerunek w 2024 roku za 1000 dolarów firmie Captions, edytorowi wideo opartemu na AI, który obecnie nazywa się Mirage, jego umowa gwarantowała, że jego tożsamość nie zostanie wykorzystana do celów politycznych ani do sprzedaży alkoholu, tytoniu lub pornografii, a licencja wygaśnie po roku.
Captions nie odpowiedział na prośbę o komentarz.
Niedługo potem znajomi Adama zaczęli mu przesyłać filmy znalezione w internecie, w których jego twarz i głos zdobywały miliony wyświetleń. W jednym z tych filmów, na Instagramie, cyfrowa replika Adama twierdzi, że jest „lekarzem od waginy” i promuje nieudowodnione suplementy medyczne dla kobiet w ciąży i po porodzie.
„Czułem się zawstydzony, tłumacząc to ludziom” – powiedział Coy.
„Komentarze są dziwne do czytania, ponieważ komentują mój wygląd fizyczny, ale to tak naprawdę nie ja” – dodał Coy. „Moje odczucie [podczas podejmowania decyzji o sprzedaży mojego wizerunku] było takie, że większość modeli i tak będzie przeszukiwać internet w poszukiwaniu danych i wizerunku, więc równie dobrze można było za to dostać zapłatę.”
Coy powiedział, że od tego czasu nie zapisał się na żadne zlecenia związane z danymi AI. Rozważyłby to tylko wtedy, gdyby firma zaoferowała mu znaczną rekompensatę.