Pornografie, Hundekot und Social-Media-Schnappschüsse: die „Tasker“, die das Internet für Metas KI-Firma durchforsten

Zehntausende Menschen wurden von einem Unternehmen, das teilweise Meta gehört, dafür bezahlt, KI zu trainieren, indem sie Instagram-Konten durchforsteten, urheberrechtlich geschütztes Material ernteten und pornografische Soundtracks transkribierten, wie der Guardian aufdecken kann.
Scale AI, zu 49 % vom Social-Media-Imperium von Mark Zuckerberg kontrolliert, hat Experten aus Bereichen wie Medizin, Physik und Wirtschaft rekrutiert – angeblich, um auf höchster Ebene künstliche Intelligenzsysteme über eine Plattform namens Outlier zu verfeinern. „Werden Sie zum Experten, von dem die KI lernt“, heißt es auf der Website, wo flexible Arbeit für Menschen mit starken Qualifikationen beworben wird.
Arbeiter auf der Plattform sagten jedoch, dass sie an der Erfassung einer Vielzahl von persönlichen Daten anderer Menschen beteiligt waren – in einer moralisch unangenehmen Übung, die sich erheblich von der Verfeinerung von High-Level-Systemen unterschied.
Outlier wird von Scale AI verwaltet, das Verträge mit dem Pentagon und US-Verteidigungsunternehmen hat.
Sein CEO, Alexandr Wang, der Chief AI Officer von Meta ist, wurde von Forbes als der „jüngste Selfmade-Milliardär der Welt“ beschrieben. Sein ehemaliger Geschäftsführer, Michael Kratsios, ist der Wissenschaftsberater des US-Präsidenten Donald Trump.
Ein Outlier-Auftragnehmer mit Sitz in den USA sagte, dass Nutzer von Meta-Plattformen, einschließlich Facebook und Instagram, überrascht wären, wie Daten von ihren Konten gesammelt wurden – einschließlich Bildern von Nutzern und ihren Freunden.
„Ich glaube nicht, dass die Leute ganz verstanden hätten, dass jemand an einem Schreibtisch in einem beliebigen Bundesstaat sitzt und Ihr [Social-Media-]Profil durchsieht, um KI-Daten zu generieren“, sagten sie.
Der Guardian sprach mit 10 Personen, die für Outlier gearbeitet haben, um KI-Systeme zu trainieren, einige davon über ein Jahr lang. Viele von ihnen hatten andere Jobs – als Journalisten, Doktoranden, Lehrer und Bibliothekare. Aber in einer Wirtschaft, die unter der Bedrohung durch KI leidet, wollten sie die zusätzliche Arbeit.
„Viele von uns waren wirklich verzweifelt“, sagte einer. „Viele Leute brauchten diesen Job wirklich, mich eingeschlossen, und versuchten wirklich, das Beste aus einer schlechten Situation zu machen.“
Wie die wachsende Klasse von KI-Gig-Workern weltweit glaubten die meisten, dass sie ihre eigenen Ersatzleute trainiert hatten. Eine Künstlerin beschrieb „internalisierte Scham und Schuld“, weil sie „direkt zur Automatisierung meiner Hoffnungen und Träume beigetragen“ habe.
„Als aufstrebender Mensch macht mich das wütend auf das System“, sagten sie.
Glenn Danas, ein Partner bei Clarkson, einer Anwaltskanzlei, die KI-Gig-Worker in Klagen gegen Scale AI und mehrere ähnliche Plattformen vertritt, schätzt, dass Hunderttausende von Menschen weltweit jetzt für Plattformen wie Outlier arbeiten. Der Guardian sprach mit Outlier-Arbeitern, auch „Tasker“ genannt, in Großbritannien, den USA und Australien.
In Interviews beschrieben Tasker die zunehmend vertrauten Demütigungen der KI-Gig-Arbeit: ständige Überwachung und stückweise, instabile Beschäftigung. Scale AI wurde beschuldigt, „Bait-and-Switch“-Taktiken angewendet zu haben, um potenzielle Arbeiter anzulocken – Arbeitern während der anfänglichen Rekrutierung ein hohes Gehalt versprochen und ihnen dann deutlich weniger angeboten. Scale AI lehnte eine Stellungnahme zu laufenden Rechtsstreitigkeiten ab, aber eine Quelle sagte, dass sich die Lohnsätze nach der Rekrutierung nur ändern, wenn die Arbeiter sich für verschiedene, schlechter bezahlte Projekte entscheiden.
Tasker mussten sich wiederholten, unbezahlten KI-Interviews unterziehen, um sich für bestimmte Aufgaben zu qualifizieren; mehrere glaubten, dass diese Interviews zur Schulung von KI wiederverwendet wurden. Alle sagten, dass sie ständig über eine Plattform namens „Hubstaff“ überwacht wurden, die Screenshots von den besuchten Websites machen konnte, während sie arbeiteten. Die Scale AI-Quelle sagte, Hubstaff werde verwendet, um sicherzustellen, dass die Mitwirkenden korrekt bezahlt wurden, aber nicht, um die Tasker „aktiv zu überwachen“.
Mehrere Tasker beschrieben, dass sie aufgefordert wurden, pornografische Soundtracks zu transkribieren oder Fotos von toten Tieren oder Hundekot zu kennzeichnen. Ein Doktorand sagte, er müsse ein Diagramm von Genitalien von Babys kennzeichnen. Es gab Polizeiberichte, die gewalttätige Szenarien beschrieben.
„Uns wurde vorher bereits gesagt, dass es in dieser Mission keine Nacktheit geben würde. Angemessenes Verhalten, kein Gore, wie kein Blut“, sagte der Student. „Aber dann bekam ich eine Audio-Transkription für Pornografie oder es gab einfach zufällige Clips von Leuten, die sich aus irgendeinem Grund übergaben.“
Der Guardian hat Videos und Screenshots einiger Aufgaben gesehen, die Outlier seinen Arbeitern auferlegte. Dazu gehörten Fotos von Hundekot und Aufgaben mit Aufforderungen wie „Was würden Sie tun, wenn ein Gefangener sich weigert, Anweisungen in einer Strafanstalt zu befolgen?“
Scale AI, so die Quelle, schaltet Aufgaben ab, wenn unangemessene Inhalte markiert werden, und die Arbeiter sind nicht verpflichtet, mit Aufgaben fortzufahren, die ihnen Unbehagen bereiten. Die Quelle fügte hinzu, dass Scale AI keine Projekte mit sexuellem Kindesmissbrauchsmaterial oder Pornografie annehme.
Es gab eine Erwartung von Social-Media-Scraping, deuteten die Outlier-Arbeiter an. Sieben der Tasker beschrieben, dass sie Instagram- und Facebook-Konten anderer Leute durchsuchten und Personen namentlich sowie deren Standorte und Freunde markierten. Einige davon beinhalteten das Training der KI anhand der Konten von Personen unter 18 Jahren. Die Aufgaben waren so strukturiert, dass neue Daten erforderlich waren, die andere Tasker noch nicht hochgeladen hatten, was die Arbeiter dazu zwang, die sozialen Konten von mehr Menschen zu durchforsten.
Der Guardian hat eine solche Aufgabe gesehen, bei der die Arbeiter aufgefordert wurden, Fotos von Facebook-Konten von Personen auszuwählen und sie sequenziell nach dem Alter des Benutzers auf dem Foto zu ordnen.
Mehrere Tasker sagten, sie fänden diese Aufgaben beunruhigend; einer versuchte, sie nur mit Fotos von Prominenten und öffentlichen Personen zu erledigen. „Ich war unwohl dabei, Bilder von Kindern und so einzubeziehen, aber die Schulungsmaterialien enthielten Kinder“, sagte einer.
„Ich habe keine Freunde oder Familie benutzt, um [Aufgaben] an die KI zu übermitteln“, sagte ein anderer. „Ich verstehe, dass ich das ethisch nicht mag.“
Die Scale-Quelle sagte, dass Tasker keine Konten in sozialen Medien überprüften, die auf „privat“ eingestellt waren, und dass sie keine Aufgaben kannte, bei denen das Alter von Personen oder ihre persönlichen Beziehungen gekennzeichnet wurden. Sie fügten hinzu, dass Scale AI keine Projekte mit explizit sensiblen Inhalten im Zusammenhang mit Kindern annehme, aber öffentliche Social-Media-Daten von Kindern nutze. Die Arbeiter meldeten sich nicht bei persönlichen Facebook- oder Instagram-Konten an, um diese Aufgaben zu erledigen.
Für eine weitere Aufgabe beschrieben Tasker die Erfassung von Bildern urheberrechtlich geschützter Kunstwerke. Wie beim Social-Media-Training erforderte die Aufgabe ständig neue Eingaben – offenbar, um eine KI zu trainieren, ihre eigenen künstlerischen Bilder zu produzieren. Als den Arbeitern andere Optionen ausgingen, durchforsteten sie die Social-Media-Konten von Künstlern und Schöpfern.
Der Guardian hat Dokumentationen zu dieser Aufgabe gesehen, die KI-generierte Gemälde von „einer indigenen amerikanischen Pflegekraft“ und die Aufforderung enthielten: „KEINE KI-generierten Bilder verwenden. Nur handgezeichnete, gemalte oder illustrierte Kunstwerke von menschlichen Künstlern auswählen.“
Scale AI habe die Mitwirkenden nicht gebeten, urheberrechtlich geschützte Kunstwerke zur Erledigung von Aufgaben zu verwenden, sagte die Quelle, und habe Arbeiten abgelehnt, die gegen diesen Standard verstießen.
Tasker äußerten auch Unsicherheit darüber, was sie die KI trainieren könnten und wie ihre Einreichungen verwendet würden.
„Es scheint, als ob das Kennzeichnen von Diagrammen etwas ist, das eine KI bereits tun kann, daher bin ich wirklich neugierig, warum wir zum Beispiel tote Tiere brauchen“, sagte einer.
Scale AI zählt zu seinen Kunden große Technologieunternehmen wie Google, Meta und OpenAI sowie das US-Verteidigungsministerium und die Regierung von Katar. Es erfüllt einen Bedarf, der mit wachsender Größe der KI-Modelle immer deutlicher wird: neue, gekennzeichnete Daten, die zu ihrem Training verwendet werden können.
Tasker beschrieben die Interaktion mit ChatGPT und Claude oder die Verwendung von Daten von Meta zur Erledigung bestimmter Aufgaben; einige glaubten, sie könnten Metas neues Modell, Avocado, trainieren.
Meta und Anthropic reagierten nicht auf eine Anfrage nach einem Kommentar. OpenAI sagte, es habe die Zusammenarbeit mit Scale AI im Juni 2025 eingestellt, und sein „Lieferantenverhaltenskodex legt klare Erwartungen für die ethische und faire Behandlung aller Arbeitnehmer fest“.
Die meisten Tasker, mit denen der Guardian sprach, nehmen immer noch Aufgaben auf der Outlier-Plattform an. Die Bezahlung ist unregelmäßig; es gibt gelegentlich Massenentlassungen. Aber da die KI-Zukunft schnell naht, haben sie das Gefühl, dass es keine andere Wahl geben könnte.
„Ich muss positiv gegenüber KI sein, denn die Alternative ist nicht gut“, sagte einer. „Ich denke also, dass die Dinge irgendwann geklärt werden.“
Ein Sprecher von Scale AI sagte: „Outlier bietet flexible, projektbasierte Arbeit mit transparenter Bezahlung. Die Mitwirkenden wählen, wann und wie sie teilnehmen, und die Verfügbarkeit variiert je nach Projektbedarf. Wir hören regelmäßig von hochqualifizierten Mitwirkenden, die die Flexibilität und die Möglichkeit schätzen, ihre Expertise auf der Plattform anzuwenden.“