Migliaia di persone vendono le loro identità per addestrare l’IA – ma a quale costo?

Una mattina dello scorso anno, Jacobus Louw è uscito per la sua consueta passeggiata nel quartiere per dare da mangiare ai gabbiani che trova lungo il tragitto. Tranne che questa volta, ha registrato diversi video dei suoi piedi e della vista mentre camminava sul marciapiede. Il video gli è valso 14 dollari, circa 10 volte il salario minimo del paese, o per Louw, un 27enne residente a Cape Town, in Sudafrica, mezza settimana di generi alimentari.
Il video era per un compito di “Navigazione Urbana” che Louw ha trovato su Kled AI, un’app che paga i contributori per il caricamento dei propri dati, come video e foto, per addestrare modelli di intelligenza artificiale. In un paio di settimane, Louw ha guadagnato 50 dollari caricando foto e video della sua vita quotidiana.
A migliaia di chilometri di distanza a Ranchi, in India, Sahil Tigga, uno studente di 22 anni, guadagna regolarmente denaro permettendo a Silencio, che raccoglie dati audio per l’addestramento dell’IA, di accedere al microfono del suo telefono per catturare il rumore ambientale della città, come all’interno di un ristorante o il traffico in un incrocio trafficato. Registra anche le registrazioni della sua voce. Sahil viaggia per catturare ambientazioni uniche, come gli hall degli hotel non ancora documentati sulla mappa di Silencio. Guadagna più di 100 dollari al mese facendo questo, sufficienti per coprire tutte le sue spese alimentari.
E a Chicago, Ramelio Hill, un apprendista saldatore di 18 anni, ha guadagnato un paio di centinaia di dollari vendendo le sue private chat telefoniche con amici e familiari a Neon Mobile, una piattaforma di addestramento dell’IA conversazionale che paga 0,50 dollari al minuto. Per Hill, il calcolo era semplice: pensava che le aziende tecnologiche catturassero già così tanti dei suoi dati privati, quindi avrebbe potuto prendere una parte del profitto.
Questi gig trainer dell’IA – che caricano di tutto, dalle scene intorno a loro a foto, video e audio di se stessi – sono in prima linea in una nuova corsa all’oro globale dei dati. Mentre la fame della Silicon Valley di dati di alta qualità, di livello umano, supera ciò che può essere recuperato da Internet aperto, è emersa una fiorente industria di mercati dei dati per colmare il divario. Da Cape Town a Chicago, migliaia di persone stanno ora micro-licenziando le loro identità biometriche e dati intimi per addestrare la prossima generazione di IA.
Ma questa nuova economia dei lavoretti comporta dei compromessi. In cambio di pochi dollari, i suoi trainer stanno alimentando un’industria che potrebbe eventualmente rendere obsolete le loro competenze, lasciando nel contempo alcuni di loro vulnerabili a un futuro di deepfake, furto di identità e sfruttamento digitale che stanno appena iniziando a comprendere.
Mantenere il ciclo dell’IA in movimento
I modelli linguistici dell’IA, come ChatGPT e Gemini, richiedono vaste quantità di materiale di apprendimento per migliorare, ma stanno affrontando una carenza di dati. Le fonti di addestramento più utilizzate, come C4, RefinedWeb e Dolma, che rappresentano un quarto dei set di dati di più alta qualità sul web, stanno ora limitando alle aziende di IA generativa l’addestramento dei modelli con i loro dati. I ricercatori stimano che le aziende di IA esauriranno il testo fresco e di alta qualità su cui addestrare entro il 2026. Sebbene alcuni laboratori abbiano fatto ricorso all’alimentazione con i dati sintetici generati dalla propria IA, un processo ricorsivo può portare i modelli a produrre scarti pieni di errori che ne causano il collasso.
È qui che entrano in gioco app come Kled AI e Silencio. Su questo tipo di mercati dei dati, milioni di persone stanno monetizzando le loro identità per alimentare e addestrare l’IA. Oltre a Kled AI, Silencio e Neon Mobile, ci sono molte opzioni per i trainer dell’IA: Luel AI, supportata dal rinomato incubatore di startup Y-Combinator, raccoglie conversazioni multilingue per circa 0,15 dollari al minuto. ElevenLabs ti consente di clonare digitalmente la tua voce e di permettere a chiunque di utilizzarla per una tariffa base di 0,02 dollari al minuto.
L’addestramento dell’IA a cottimo è una nuova categoria emergente di lavoro e crescerà sostanzialmente, ha detto Bouke Klein Teeselink, un professore di economia al King’s College London.
Le aziende di IA sanno che pagare le persone per concedere in licenza i propri dati aiuta a evitare il rischio di controversie sul copyright che potrebbero affrontare se si affidassero interamente ai contenuti recuperati dal web, ha detto Tesselink. Queste aziende hanno anche bisogno di dati di alta qualità per modellare nuovi comportamenti migliorati nei propri sistemi, ha detto Veniamin Veselovsky, un ricercatore di IA. “I dati umani, per ora, sono lo standard aureo per campionare al di fuori della distribuzione del modello”, ha aggiunto Veselovsky.
Gli esseri umani che alimentano le macchine, in particolare quelli nei paesi in via di sviluppo, spesso hanno bisogno di soldi e hanno poche altre opzioni per guadagnarlo. Per molti trainer dell’IA a cottimo, fare questo lavoro è una risposta pragmatica alla disparità economica. Nei paesi con un alto tasso di disoccupazione e valute svalutate, guadagnare valuta statunitense è spesso più stabile e gratificante rispetto ai lavori locali. Alcuni di loro faticano a trovare lavoro a livello base e fanno l’addestramento dell’IA per necessità. Anche nelle nazioni più ricche, l’aumento del costo della vita ha trasformato la vendita di sé in una logica svolta finanziaria.
Tuttavia, le insidie dell’addestramento dell’IA a cottimo possono essere invisibili. Su alcune piattaforme di mercato dei dati, i trainer dei dati concedono licenze irrevocabili e royalty-free che consentono alle aziende di creare “opere derivate”, il che significa che una registrazione vocale di 20 minuti oggi potrebbe alimentare un bot di assistenza clienti dell’IA per i prossimi pochi anni, senza che il trainer veda un altro centesimo. Inoltre, a causa della mancanza di trasparenza in queste piattaforme, il volto di un utente potrebbe finire in un database di riconoscimento facciale o in una pubblicità predatoria a metà mondo, con praticamente nessun ricorso legale.
I dati umani, per ora, sono lo standard aureo per campionare al di fuori della distribuzione del modello
Louw, il trainer dell’IA a Cape Town, è consapevole dei compromessi sulla privacy. E sebbene il reddito sia irregolare e non sufficiente per coprire tutte le sue spese mensili, è disposto ad accettare queste condizioni per guadagnare denaro. Ha lottato con un disturbo nervoso per anni e non è riuscito a trovare un lavoro, ma i soldi guadagnati sulle piattaforme di mercato dell’IA, tra cui Kled AI, gli hanno permesso di risparmiare per un corso di massaggi da 500 dollari.
“Come sudafricano, essere pagato in USD vale più di quanto pensino le persone”, ha detto Louw.
Mark Graham, un professore di geografia di Internet presso l’Università di Oxford e autore di Feeding the Machine, ha riconosciuto che per gli individui nei paesi in via di sviluppo, i soldi possono essere significativi nel breve termine, ma ha avvertito che “strutturalmente questo lavoro è precario, non progressivo ed efficacemente un vicolo cieco”.
I mercati dell’IA si basano su una “corsa al ribasso sui salari”, ha aggiunto Graham, e su una “domanda temporanea di dati umani”. Una volta che questa domanda cambia, “i lavoratori rimangono senza protezioni, senza competenze trasferibili e senza rete di sicurezza”.
L’unico vincitore che emerge, ha detto Graham, sono “le piattaforme nel nord globale [che] catturano tutto il valore duraturo”.
Permessi in bianco
Hill, il trainer dell’IA di Chicago, aveva sentimenti contrastanti sulla vendita delle sue private chiamate telefoniche a Neon Mobile. Per circa 11 ore di chiamate, ha guadagnato 200 dollari, ma ha detto che l’app andava spesso offline e non rilasciava pagamenti in scadenza. “Neon mi è sempre sembrato losco, ma ho continuato a usarlo per ottenere qualche soldo facile per le bollette e altre spese varie”, ha detto Hill.
Ora sta riconsiderando quanto fosse facile quel denaro. A settembre, appena poche settimane dopo il lancio, Neon Mobile è andato offline dopo che TechCrunch ha scoperto una vulnerabilità di sicurezza che ha permesso a chiunque di accedere ai numeri di telefono, alle registrazioni delle chiamate e alle trascrizioni degli utenti. Hill ha detto che Neon Mobile non lo aveva informato di ciò e ora è preoccupato di come la sua voce potrebbe essere utilizzata impropriamente su Internet.
Ciò che Jennifer King, una ricercatrice sulla privacy dei dati presso lo Stanford Institute for Human-Centered Artificial Intelligence, trova preoccupante è che i mercati dell’IA non sono chiari su come e dove verranno utilizzati i dati degli utenti. Senza negoziare o conoscere i propri diritti, ha aggiunto, “i consumatori corrono il rischio che i loro dati vengano riutilizzati in modi che non gli piacciono o che non hanno compreso o previsto e avranno poco ricorso in caso di necessità”.
Quando i trainer dell’IA condividono i propri dati su Neon Mobile e Kled AI, stanno concedendo una licenza in bianco (mondiale, esclusiva, irrevocabile, trasferibile e royalty-free) per vendere, utilizzare, visualizzare pubblicamente e archiviare il loro aspetto e persino creare opere derivate da essi.
Avi Patel, il fondatore di Kled AI, ha affermato che gli accordi sui dati della sua azienda limitano l’uso allo scopo di addestramento e ricerca dell’IA. “L’intero business dipende dalla fiducia degli utenti. Se i contributori credono che i loro dati possano essere utilizzati in modo improprio, la piattaforma smette di funzionare”. Ha detto che la sua azienda verifica le aziende prima di vendere set di dati, per evitare di lavorare con quelle con “intenzioni discutibili”, come la pornografia e i “poteri governativi” che ritiene possano utilizzare i dati in modi che confliggono con tale fiducia.
Neon Mobile non ha risposto a una richiesta di commento.
Secondo Enrico Bonadio, un professore di diritto presso la City St George’s, University of London, i termini di questi accordi consentono alle piattaforme, nonché ai suoi clienti, di “fare quasi tutto con quel materiale, per sempre, senza ulteriori pagamenti e senza un modo realistico per il contributore ritirare il consenso o rinegoziare significativamente”.
Rischi più preoccupanti includono l’utilizzo dei dati dei trainer per deepfake e impersonificazione. Anche se i mercati dei dati affermano di rimuovere qualsiasi identificazione, come nome e posizione, prima di vendere i dati, i modelli biometrici sono, per natura, difficili da anonimizzare in modo robusto, ha aggiunto Bonadio.
Rimorso del venditore
Anche quando i trainer dell’IA sono in grado di negoziare protezioni più sfumate su come verranno utilizzati i loro dati, possono comunque provare rimorso. Quando Adam Coy, un attore di New York, ha venduto il suo aspetto nel 2024 per 1.000 dollari a Captions, un editor video basato sull’IA che ora si chiama Mirage, il suo accordo garantiva che la sua identità non sarebbe stata utilizzata per scopi politici o per la vendita di alcol, tabacco o pornografia e che la licenza sarebbe scaduta in un anno.
Captions non ha risposto a una richiesta di commento.
Poco dopo, gli amici di Adam hanno iniziato a fargli avere video che avevano trovato online con il suo viso e la sua voce che hanno ottenuto milioni di visualizzazioni. In uno di questi video, un reel di Instagram, la replica AI di Adam si dichiara un “medico della vagina” e promuove integratori medici non provati per donne incinte e nel post-partum.
“Mi è risultato imbarazzante spiegarlo alle persone”, ha detto Coy.
“I commenti sono strani da leggere perché commentano il mio aspetto fisico, ma non sono davvero io”, ha aggiunto Coy. “Il mio sentimento [mentre decidevo di vendere il mio aspetto] era che la maggior parte dei modelli avrebbero comunque recuperato i dati e l’aspetto, quindi tanto vale essere pagato per questo”.
Coy ha detto di non essersi più iscritto a nessun gig dell’IA da allora. Lo considererebbe solo se un’azienda offrisse una compensazione importante.