수천 명이 AI 훈련을 위해 자신의 신원을 판매하고 있지만, 그 대가는 무엇인가?

지난해 어느 날 아침, 야코부스 루우는 비둘기에게 먹이를 주기 위해 평소처럼 동네 산책에 나섰다. 그런데 이번에는 걷는 동안 자신의 발과 풍경을 여러 동영상으로 녹화했다. 이 영상으로 그는 14달러를 벌었는데, 이는 그 나라의 최저 임금의 약 10배에 해당하는 금액이며, 남아프리카 공화국 케이프타운에 사는 27세 루우에게는 일주일치 식료품의 절반에 해당하는 금액이었다.
이 영상은 루우가 Kled AI에서 찾은 "도시 내비게이션" 작업에 사용되었다. Kled AI는 인공지능 모델을 훈련시키기 위해 동영상 및 사진과 같은 데이터를 업로드하는 기여자에게 돈을 지급하는 앱이다. 루우는 몇 주 동안 자신의 일상생활 사진과 동영상을 업로드하여 50달러를 벌었다.
수천 마일 떨어진 인도 라치에 사는 22세 학생 사힐 티가 역시 AI 훈련을 위한 오디오 데이터를 크라우드소싱하는 Silencio가 식당 내부나 번화한 교차로의 교통 소음과 같은 주변 도시 소음을 포착하기 위해 휴대폰 마이크에 접근하도록 허용함으로써 정기적으로 돈을 벌고 있다. 그는 또한 자신의 목소리를 녹음하여 업로드하기도 한다. 사힐은 Silencio의 지도에 아직 기록되지 않은 호텔 로비와 같은 독특한 장소를 포착하기 위해 여행한다. 그는 이를 통해 월 100달러 이상을 벌고 있으며, 이는 그의 모든 식비를 충당하기에 충분한 금액이다.
그리고 시카고에 사는 18세 용접 견습생 라멜리오 힐은 대화형 AI 훈련 플랫폼인 Neon Mobile에 친구 및 가족과의 개인 휴대폰 대화를 판매하여 몇 백 달러를 벌었다. Neon Mobile은 분당 0.50달러를 지급한다. 힐에게는 계산이 간단했다. 그는 이미 기술 회사들이 자신의 개인 데이터를 너무 많이 수집하고 있으므로, 그 이익의 일부라도 챙기는 것이 낫다고 생각했다.
이러한 긱 AI 트레이너들은 주변 풍경부터 자신들의 사진, 동영상, 오디오까지 모든 것을 업로드하며, 새로운 글로벌 데이터 황금 시대의 최전선에 서 있다. 실리콘 밸리가 오픈 인터넷에서 스크랩할 수 있는 것보다 더 많은 고품질의 인간 수준 데이터를 갈망함에 따라, 격차를 해소하기 위한 번성하는 데이터 마켓플레이스 산업이 등장했다. 케이프타운에서 시카고까지, 수천 명의 사람들이 차세대 AI를 훈련시키기 위해 자신의 생체 인식 신원 정보와 민감한 데이터를 마이크로 라이선싱하고 있다.
하지만 이 새로운 긱 경제는 절충점을 가지고 있다. 몇 달러를 받는 대가로, 이 트레이너들은 결국 자신의 기술을 쓸모없게 만들 수 있는 산업을 부추기고 있으며, 일부는 딥페이크, 신원 도용, 디지털 착취의 미래에 취약하게 만들고 있다.
AI 바퀴를 계속 돌리기
ChatGPT 및 Gemini와 같은 AI 언어 모델은 개선을 위해 방대한 양의 학습 자료를 요구하지만, 데이터 부족에 직면해 있다. 웹에서 가장 높은 품질의 데이터 세트의 4분의 1을 차지하는 가장 많이 사용되는 훈련 소스인 C4, RefinedWeb, Dolma는 이제 생성형 AI 회사가 자신의 데이터로 모델을 훈련시키는 것을 제한하고 있다. 연구원들은 AI 회사가 2026년까지 신선하고 고품질의 텍스트를 훈련할 수 없을 것이라고 추정한다. 일부 연구소는 AI가 생성하는 합성 데이터를 다시 공급하는 방법을 사용했지만, 이러한 재귀적 과정은 모델이 오류로 가득 찬 쓰레기를 생성하여 붕괴를 초래할 수 있다.
이것이 Kled AI 및 Silencio와 같은 앱이 등장하는 이유이다. 이러한 종류의 데이터 마켓플레이스에서 수백만 명의 사람들이 자신의 신원을 수익화하여 AI를 공급하고 훈련시킨다. Kled AI, Silencio, Neon Mobile 외에도 AI 트레이너를 위한 많은 옵션이 있다. 유명한 스타트업 인큐베이터 Y-Combinator의 지원을 받는 Luel AI는 분당 약 0.15달러에 다국어 대화를 소싱한다. ElevenLabs는 음성을 디지털로 복제하여 기본 수수료로 분당 0.02달러에 누구나 사용할 수 있도록 한다.
킹스 칼리지 런던의 경제학 교수인 부케 클라인 테셀링크는 "긱 AI 훈련은 새롭게 떠오르는 작업 범주이며 상당한 성장을 할 것"이라고 말했다.
테셀링크는 "AI 회사들은 사람들이 데이터를 라이선스하도록 비용을 지불하는 것이 웹에서 스크랩한 콘텐츠에 전적으로 의존할 경우 발생할 수 있는 저작권 분쟁 위험을 피하는 데 도움이 된다는 것을 알고 있다"고 말했다. AI 연구원인 베니아민 베셀로프스키는 "이러한 회사들은 시스템에서 새롭고 개선된 행동을 모델링하기 위해 고품질 데이터도 필요하다"고 덧붙였다. 베셀로프스키는 "현재로서는 인간 데이터가 모델의 분포 외부에서 샘플링할 수 있는 금메달 기준"이라고 덧붙였다.
기계를 움직이는 사람들, 특히 개발도상국의 사람들은 종종 돈이 필요하고 다른 수입원을 거의 가지고 있지 않다. 많은 긱 AI 트레이너들에게 이 일을 하는 것은 경제적 불평등에 대한 실용적인 대응이다. 높은 실업률과 통화 가치 하락을 겪고 있는 국가에서는 미국 통화를 버는 것이 현지 직업보다 종종 더 안정적이고 보람 있다. 일부는 초급 일자리를 확보하는 데 어려움을 겪고 있으며, 필요에 의해 AI 훈련을 한다. 더 부유한 국가에서도 생활비 상승으로 인해 자신을 판매하는 것이 논리적인 재정적 전환점이 되었다.
그러나 긱 AI 훈련의 함정은 보이지 않을 수 있다. 일부 AI 마켓플레이스에서 데이터 트레이너는 회사들이 "파생 저작물"을 만들 수 있도록 하는 취소 불가능하고 로열티 없는 라이선스를 부여한다. 이는 오늘날 20분 분량의 음성 녹음이 앞으로 몇 년 동안 AI 고객 서비스 봇을 구동할 수 있으며, 트레이너는 다시는 돈을 받지 못한다는 것을 의미한다. 또한, 이러한 마켓플레이스의 투명성 부족으로 인해 사용자의 얼굴이 안면 인식 데이터베이스나 세계 반대편의 약탈적인 광고에 포함될 수 있으며, 거의 법적 구제책이 없을 수 있다.
현재로서는 인간 데이터가 모델의 분포 외부에서 샘플링할 수 있는 금메달 기준이다.
케이프타운의 AI 트레이너인 루우는 개인 정보 보호 절충점을 인지하고 있다. 수입이 불규칙하고 월 전체 비용을 충당하기에 충분하지 않지만, 그는 돈을 벌기 위해 이러한 조건을 받아들일 의향이 있다. 그는 수년간 신경 장애로 고생하며 일자리를 구하지 못했지만, Kled AI를 포함한 AI 마켓플레이스에서 얻은 돈으로 500달러짜리 마사지사 양성 과정을 수강할 수 있었다.
루우는 "남아프리카 사람으로서 미국 달러로 돈을 받는 것은 사람들이 생각하는 것보다 훨씬 더 가치 있다"고 말했다.
옥스퍼드 대학교의 인터넷 지리학 교수이자 "Feeding the Machine"의 저자인 마크 그래엄은 개발도상국 개인에게는 단기적으로 돈이 의미 있을 수 있지만, "구조적으로 이 일은 불안정하고, 진보적이지 않으며, 사실상 막다른 길"이라고 경고했다.
그래엄은 "AI 마켓플레이스는 임금의 '바닥 경쟁'과 '인간 데이터에 대한 일시적인 수요'에 의존한다"고 덧붙였다. "이 수요가 바뀌면, 노동자들은 보호 장치도, 이전 가능한 기술도, 안전망도 없이 남겨진다."
그래엄은 유일한 승자는 "글로벌 북쪽에 있는 플랫폼들이 모든 지속적인 가치를 포착한다"고 말했다.
포괄적인 권한
시카고에 거주하는 AI 트레이너인 힐은 Neon Mobile에 자신의 개인 휴대폰 통화를 판매하는 것에 대해 상반된 감정을 가지고 있었다. 약 11시간의 통화에 대해 그는 200달러를 벌었지만, 앱이 자주 오프라인 상태가 되고 연체된 지급을 처리하지 못한다고 말했다. 힐은 "Neon은 항상 나에게 수상했지만, 청구서와 기타 잡다한 비용을 위해 약간의 추가적인 쉬운 돈을 얻기 위해 계속 사용했다"고 말했다.
이제 그는 그 돈이 얼마나 쉬웠는지 재고하고 있다. 9월, 출시된 지 불과 몇 주 만에 Neon Mobile은 TechCrunch가 사용자의 전화번호, 통화 녹음 및 전사본에 누구나 접근할 수 있도록 하는 보안 결함이 발견된 후 오프라인 상태가 되었다. 힐은 Neon Mobile이 자신에게 이 사실을 알리지 않았으며, 이제 자신의 목소리가 인터넷에서 오용될까 봐 걱정하고 있다.
스탠포드 인간 중심 인공지능 연구소의 데이터 프라이버시 연구원인 제니퍼 킹이 우려하는 것은 AI 마켓플레이스가 사용자의 데이터가 어떻게, 어디에 배포될지에 대해 불분명하다는 것이다. 그녀는 협상하거나 자신의 권리를 알지 못한 채, "소비자들은 자신이 좋아하지 않거나 이해하지 못했거나 예상하지 못한 방식으로 데이터가 재사용될 위험을 감수하며, 그렇게 될 경우 거의 구제책이 없을 것"이라고 덧붙였다.
AI 트레이너가 Neon Mobile 및 Kled AI에서 데이터를 공유할 때, 그들은 자신의 모습(전 세계적, 독점적, 취소 불가능, 양도 가능, 로열티 프리)을 판매, 사용, 공개적으로 표시 및 저장하거나 심지어 파생 저작물을 만들 수 있는 포괄적인 라이선스를 부여한다.
Kled AI의 설립자인 Avi Patel은 그의 회사의 데이터 계약이 AI 훈련 및 연구 목적으로만 사용을 제한한다고 말했다. 그는 "전체 비즈니스는 사용자 신뢰에 달려 있다. 기여자들이 자신의 데이터가 오용될 수 있다고 믿으면 플랫폼이 작동을 멈춘다."라고 말했다. 그는 자신의 회사가 "의심스러운 의도"를 가진 기업, 예를 들어 포르노와 같이 데이터가 신뢰와 충돌하는 방식으로 사용될 수 있다고 믿는 "정부 기관"과 협력하는 것을 피하기 위해 데이터 세트를 판매하기 전에 기업을 심사한다고 말했다.
남아프리카 사람으로서 미국 달러로 돈을 받는 것은 사람들이 생각하는 것보다 훨씬 더 가치 있다.
Neon Mobile은 논평 요청에 응답하지 않았다.
런던 시티 세인트 조지 대학교의 법학 교수인 엔리코 보나디오에 따르면, 이러한 계약 조건은 플랫폼과 그 고객이 "추가 지불 없이, 기여자가 동의를 철회하거나 의미 있게 재협상할 현실적인 방법 없이, 거의 모든 것을 영원히 할 수 있도록" 허용한다.
더 우려되는 위험에는 트레이너의 데이터가 딥페이크 및 사칭에 사용되는 것이 포함된다. 데이터 마켓플레이스는 판매 전에 데이터에서 이름 및 위치와 같은 식별 정보를 제거한다고 주장하지만, 생체 인식 패턴은 본질적으로 강력한 방식으로 익명화하기 어렵다고 보나디오는 덧붙였다.
판매자의 후회
AI 트레이너가 자신의 데이터가 어떻게 사용될지에 대한 더 미묘한 보호 조치를 협상할 수 있더라도, 여전히 후회를 느낄 수 있다. 뉴욕 출신의 배우인 아담 코이는 2024년에 AI 기반 비디오 편집기인 Captions(현재 Mirage로 명칭 변경)에 자신의 모습을 1,000달러에 판매했을 때, 그의 계약은 그의 신원이 정치적 목적이나 주류, 담배, 포르노 판매에 사용되지 않으며 라이선스가 1년 후에 만료되도록 보장했다.
Captions는 논평 요청에 응답하지 않았다.
얼마 지나지 않아 아담의 친구들은 온라인에서 수백만 조회수를 기록하며 자신의 얼굴과 목소리가 등장하는 영상을 그에게 전달하기 시작했다. 이 영상 중 하나인 인스타그램 릴에서 아담의 AI 복제본은 "질 의사"라고 주장하며 임산부 및 산후 여성에게 검증되지 않은 의료 보충제를 홍보한다.
코이는 "사람들에게 설명하기가 창피했다"고 말했다.
코이는 "댓글은 내 외모에 대해 언급하기 때문에 이상하지만, 사실은 내가 아니다"라고 덧붙였다. "내 모습(내 모습을 판매하기로 결정했을 때)은 대부분의 모델이 어차피 인터넷에서 데이터를 스크랩할 것이므로, 그 대가를 받는 것이 낫다고 생각했다."
코이는 그 이후로 AI 데이터 긱에 가입하지 않았다고 말했다. 그는 회사가 상당한 보상을 제공하는 경우에만 고려할 것이라고 말했다.