Content-Moderator-Summit: Warum die Unsichtbaren aufbegehren

Was ist

Vergangene Woche haben sich rund 50 Content-Moderatorïnnen (CM) in Berlin getroffen, um sich über ihre Arbeitsbedingungen auszutauschen und gemeinsame Forderungen zu erarbeiten. Auf der zweitägigen Veranstaltung vernetzten die Organisatoren ver.di, Foxglove, Aspiration und Superrr Lab erstmals Beschäftige über Konzerngrenzen hinweg. Das könnte ihnen eine gemeinsame Stimme geben, die bislang fehlt.

Die meisten Teilnehmenden arbeiten in Deutschland für TikTok oder Meta. Ein Teil ist direkt bei den beiden Konzernen angestellt, der Rest wird von Subunternehmen wie Majorel beschäftigt. Wir waren bei der abschließenden Pressekonferenz und haben mit rund einem halben Dutzend CM gesprochen.

Warum das wichtig ist

Keine größere Online-Plattform kann auf CM verzichten. Allein Meta und Google beschäftigen jeweils Zehntausende Menschen, die illegale Inhalte aus dem Netz fischen sollen. Insgesamt sichten und prüfen Hunderttausende Menschen einen Teil der vielen Milliarden Beiträge, Fotos und Video, die täglich hochgeladen werden.

Der Job ist brutal und belastend. Das hat mehrere Gründe:

• Die Inhalte: Kindesmissbrauch, Folter, Tierquälerei oder Suizide im Livestream – all das müssen CM ertragen, ohne die bestialischen Videos abzubrechen oder vor dem Grauen die Augen zu verschließen. Schließlich müssen sie am Ende entscheiden, ob der Inhalt gegen die Richtlinien der Plattform verstößt.
• Der Druck: CM bleiben nur wenige Sekunden für jede Entscheidung, das nächste Foto oder Video wartet schon. Täglich prüfen sie Hunderte, teils gar Tausende Inhalte. Die Konzentration darf niemals nachlassen, Fehler können eine Kündigung zur Folge haben.
• Die Unterstützung: Wer mit dem übelsten Schund konfrontiert wird, benötigt psychologische Betreuung – regelmäßig, professionell und unabhängig vom Arbeitgeber. Bislang sind solche Strukturen die Ausnahme, nicht die Regel. Auch deshalb leiden viele CM an Depressionen oder erkranken an posttraumatischen Belastungsstörungen.
• Die Bezahlung: Trotz der anspruchsvollen Aufgaben zahlen Subunternehmen nur wenig mehr als den Mindestlohn. Auch wer direkt bei den Tech-Konzernen beschäftigt ist, gehört zu den Geringverdienern.
• Der Respekt: Als "Müllabfuhr des Internets" werden CM manchmal bezeichnet, und genau wie ihre analogen Kollegïnnen erfahren sie nur wenig Wertschätzung. Die Arbeit geschieht im Verborgenen, nur wenige Menschen wissen davon.

Was die Teilnehmenden fordern

Das Wichtigste an der Veranstaltung war der Austausch. Menschen treffen, die ähnliche Erfahrungen machen, unter ähnlichen Probleme leiden, sich unternehmensübergreifend organisieren. Am Ende des Content-Moderator-Summits standen auch drei konkrete Forderungen:

1. Gerechte Bezahlung: Alle Teilnehmenden wünschen sich mehr Geld – aber nicht nur das: Vor allem drängen sie darauf, die teils krassen Unterschiede zwischen Subunternehmen und Tech-Konzernen zu verringern. Dienstleister wie Majorel zahlen signifikant weniger, auch die Arbeitsbedingungen sind schlechter, zudem gibt es kaum Aufstiegsmöglichkeiten.
2. Besserer Gesundheitsschutz: Auf der Pressekonferenz und in den persönlichen Gesprächen tauchte dieses Thema immer wieder auf. Die CM fordern angemessene psychologische Betreuung durch professionelle Therapeutïnnen.
3. Recht auf Organisation: Nach jahrelangem Ringen bildeten Berliner TikTok Angestellte vergangenes Jahr einen Betriebsrat. Obwohl das deutsche Arbeitsrecht gewerkschaftliche Organisation und Strukturen wie Betriebsräte vorsieht, sind solche Gremien in der Tech-Branche selten – erst recht unter CM, die bislang keine Stimme und kaum Mitspracherecht haben.

Was die Teilnehmenden erzählen

• Respekt und Wertschätzung, diese Wörter fallen in den Gesprächen Dutzende Male. Freundïnnen und Bekannte hielten den Job für anspruchslos, berichten manche CM. "Du musst TikTok-Videos anschauen und bekommst Geld dafür? Oh, das würde ich auch gern machen."
• Als einzige Teilnehmerin spricht Franziska Kuhles mit Namen. Sie ist Vorsitzende des TikTok-Betriebsrates und sagt: "Wir wollen, dass Content-Moderation als schwierige, qualifizierte Tätigkeit anerkannt wird, die kulturelle und sprachliche Kenntnisse erfordert."
• Von Berlin aus werden nicht nur deutschsprachige Inhalte moderiert. Es gibt größere Teams für osteuropäische und nordafrikanische Sprachen sowie Inhalte aus dem Nahen Osten.
• Das bedeutet: Unter den CM sind viele Geflüchtete und Migrantïnnen, die Inhalte in der Sprache ihres Heimatlandes moderieren. Sie benötigen Visa und Arbeitserlaubnis.
• Da CM als ungelernte Arbeitskräfte gelten, ist es schwer für sie, eine dauerhafte Aufenthaltserlaubnis zu bekommen. Sie sind auf die Arbeitsagentur und ihre Arbeitgeber angewiesen. Dieses Abhängigkeitsverhältnis erschwert es zusätzlich, für bessere Arbeitsbedingungen oder unbefristete Verträge einzutreten.
• Ein CM, der als Ali auftritt, kommt aus Afghanistan und arbeitet seit mehreren Jahren für Meta. Er sagt, die Arbeit habe ihn an das erlebte Grauen unter den Taliban erinnert und ihn retraumatisiert. Eine Therapie mache er nicht.
• Ali und Kuhles, die vier Jahre für TikTok moderierte, bevor sie den Betriebsrat mitgründete, sind Ausnahmen. Die meisten CM halten nur Monate durch, Betriebszugehörigkeiten von mehr als zwei Jahren sind selten. Wer länger bleibt, ist oft auf den Job angewiesen, um die Aufenthaltsgenehmigung zu verlängern.
• Immerhin: Zumindest TikTok scheint das psychische Wohlbefinden mittlerweile höher zu priorisieren. Das BeWell-Programm soll Traumata verhindern, Angestellte müssen Pausen machen und sollen Unterstützung annehmen.
• Was uns ebenfalls neu war: Kuhles zufolge wird jedes TikTok-Video manuell geprüft. Davor wird es algorithmisch gedrosselt, deshalb gehen nur selten Inhalte viral, die nicht mindestens einmal freigegeben wurden. Sobald eine bestimmte Schwelle an Views überschritten wird, beginnt die nächste Prüfschleife, insgesamt gibt es drei.
• Obwohl Mark Zuckerberg seit Jahren sagt, dass AI bald den Großteil der CM ersetzen wird, sind sich alle Anwesenden einig: Das wird in den kommenden Jahren nicht geschehen. Die Maschinen machten immer noch zu viele Fehler, auf absehbare Zeit blieben Menschen unverzichtbar.

Be smart

Die Teilnehmenden des Content-Moderator-Summits schildern schockierende Details, ihre Jobs klingen extrem hart. Im Vergleich zu ihren internationalen Kollegïnnen sind die Arbeitsbedingungen in deutschen Standorten wie Berlin oder Essen aber human.

In Kenai verklagt Daniel Motaung seinen früheren Arbeitgeber Sama, in dessen Auftrag er für Meta moderierte (Foxglove). Vergangenes Jahr enthüllte eine Recherche das Ausmaß der Ausbeutung (TIME):

Despite their importance to Facebook, the workers in this Nairobi office are among the lowest-paid workers for the platform anywhere in the world, with some of them taking home as little as $1.50 per hour, a TIME investigation found. The testimonies of Sama employees reveal a workplace culture characterized by mental trauma, intimidation, and alleged suppression of the right to unionize. The revelations raise serious questions about whether Facebook—which periodically sends its own employees to Nairobi to monitor Sama’s operations—is exploiting the very people upon whom it is depending to ensure its platform is safe in Ethiopia and across the continent.

Follow the money

Meta-Updates

• Weitere 10.000 Stellen fallen weg: Mark Zuckerberg hat seinen Angestellten mitgeteilt, dass im Laufe des Jahres 10.000 weitere Stellen gestrichen werden. Zudem sollen 5.000 offene Positionen gar nicht erst besetzt werden. „Year of Effiency“ und so. Die Schritte seien essenziell, um Meta schlanker aufzustellen, so Zuckerberg. „Leaner is better“ & „Flatter is faster“ lauten die neuen Zauberformeln. (Meta Newsroom)
• Aus für NFTs: Mit Blick auf den aktuellen Spardruck überrascht dann auch nicht wirklich, dass das Unternehmen das Thema NFT vorerst nicht weiter verfolgen wird (The Block). Zwar hatte Meta im vergangenen Jahr diverse Features eingeführt, damit User ihre digitalen Echtheitszertifikate bei Facebook und Instagram zur Schau stellen können. Der Hype ist aber längst vorbei. Das wissen auch die Macher aus 1 Hacker Way.
• Aus für NPE-Team: Zudem wird das Team, das sich um die Einführung von experimentellen Produkten gekümmert hat, dicht gemacht. Schade für die Leute, keine Frage. Aber erinnert sich noch jemand an Lifestage, Slingshot oder Poke? Nein? Wir auch nur ganz entfernt.
• Aus für „Reels Play Bonus Program“: Last but not least wurde bekannt, dass das „Reels Play Bonus Program“ eingestellt wird. Anscheinend gibt es mittlerweile genügend Menschen, die um die Kurzvideo-Features von Facebook und Instagram wissen. Da braucht es dann dieses Incentive nicht mehr. (Insider)

Rest of the internet

• Der Zusammenbruch der Silicon Valley Bank in der vergangenen Woche hat die Startup-Welt massiv erschüttert. Wir sind keine Finanzmarktexperten und stecken zu wenig im Thema, um die Folgen bewerten zu können. Wir verweisen daher lieber auf die exzellente Berichterstattung der Kollegïnnen — allen voran auf die Artikel von The Information: Das Team um Gründerin Jessica Lessin hat am Wochenende einen Scoop nach dem nächsten geliefert. Nicht zuletzt, weil sie selbst sehr viel Geld bei der Bank geparkt hatten. (The Information, Deutschlandfunk, Stratechery)
• Twitter: Zugang zur API kostet 42.000 Dollar im Monat. Wir hoffen sehr, dass dieser Preis nicht für wissenschaftliche Arbeiten gilt. Wir befürchten aber, dass Musk hier keine Ausnahmen machen wird. (Wired)
• Automattic kauft ActivityPub-Plugin: Nachdem die Firma hinter WordPress Ende vergangenen Jahres der Tochter Tumblr bereits den Zugang zum Fediverse geebnet hatte, geht CEO Matt Mullenweg jetzt noch einen Schritt weiter: Künftig könnte jedes mit WordPress erstellte Blog Teil des dezentralen Netzwerks sein, auf dem auch Mastodon gründet.(TechCrunch)

Trends

• Future Today Institute: 2023 Tech Trends Report: Oh boy, es ist schon wieder ein Jahr herum: Die SXSW tobt und Amy Webb hat einen fulminanten Report in ihrem digitalen Swag Bag bei Dropbox hinterlegt. AI, AI, AI.

Neue Features bei den Plattformen

Meta

• Twitter-Alternative: Platformer berichtet, dass Meta an einer dezentralen Twitter-Alternative arbeitet. Jesus Christ! Twittern wir dann demnächst alle bei Facebook?

“We’re exploring a standalone decentralized social network for sharing text updates,” a Meta spokesperson said in a statement. “We believe there’s an opportunity for a separate space where creators and public figures can share timely updates about their interests.”

Reddit

• Reddit beerdigt Clubhouse-Klon: Tja, wenn schon bei Clubhouse selbst keiner mehr clubben will, warum dann bei Reddit? (TechCrunch)