Was ist: In der vergangenen Woche hat TikTok zweimal Schlagzeilen produziert, die der chinesische Entwickler ByteDance sicher lieber vermieden hätte:

  • Markus Reuter und Chris Köver haben Teile der Moderationsrichtlinien zugespielt bekommen und erklären, nach welchen Maßstäben TikTok Inhalte prüft, kontrolliert, pusht oder drosselt (Netzpolitik).
  • Feroza Aziz, ein US-amerikanischer Teenager, hat ein als Schmink-Tutorial getarntes Video gepostet, in dem sie China vorwirft, Muslime in „Konzentrationslager“ zu stecken (BBC). Das löste eine Kette von Ereignisse aus, die TikTok nicht gut aussehen lassen (NYT).

Warum das wichtig ist: Kein soziales Netzwerk ist im vergangenen Jahr so rasant gewachsen wie TikTok. Schneller als jede andere Plattform hat die App die Marke von einer Milliarde Nutzerïnnen erreicht (FT). Damit ist sie größer als Twitter und Snapchat zusammen.

Zur schieren Größe kommt bei TikTok der chinesische Eigentümer hinzu – und damit auch der Verdacht, dass die Regierung in Peking Einfluss auf die Inhalte nehmen will, die in vielen Teilen der Welt die Jugendkultur prägen (Guardian). Facebook und YouTube zeigen, dass bei Content-Moderation auf globalen Plattformen zwangsläufig Fehler gemacht werden. Bei TikTok sind es womöglich nicht nur falsche Entscheidungen einzelner Mitarbeiterïnnen, sondern bewusste politische Zensur.

Illustration: pixelpaten für watchblog.io

Was Netzpolitik herausgefunden hat: Vorab: Der Text der Kollegïnnen ist lang und lesenswert. Wer tiefer einsteigen will, sollte die ganze Recherche (netzpolitik) lesen. Die wichtigsten Eckpunkte:

  • Die deutschsprachigen Videos werden von Berlin, Barcelona und Peking aus moderiert. Videos mit 50 bis 150 Views werden in Barcelona gesichtet, Inhalte mit 8000 bis 15.000 Aufrufen landen in Berlin, bei 20.000 Views wird erneut in Berlin geprüft. Nachts moderieren deutschsprachige Chinesïnnen von Peking aus.
  • Die Moderatorïnnen arbeiten in 8-Stunden-Schichten rund 1.000 Tickets pro Tag ab. Für ein Ticket bleibt damit eine halbe Minute. Der Druck soll hoch sein, die Stimmung im Team „toxisch“.
  • Die Regeln sind nur wenige Seiten lang – nur ein Bruchteil der komplexen Richtlinien, wie sie etwa bei Facebook gelten. Netzpolitik nennt die Anweisungen „verwirrend vage“ mit viel Spielraum für Interpretationen.
  • Die Moderation ist komplex: Neben Löschen/Nicht löschen gibt es weitere Kategorien, die über die Reichweite eines Inhalts bestimmen. Moderatorïnnen können etwa ganze Hashtags einschränken oder bestimmte Videos als „Featured“ pushen, die dann im persönlichen For-You-Feed landen.
  • Die Entscheidung, welche Inhalte auf TikTok viral gehen, liegt also nicht nur in der Hand von Maschinen, sondern wird maßgeblich von Menschen mit beeinflusst. Natürlich stecken auch hinter Facebooks und YouTubes Algorithmen menschliche Entwickler, aber dort greifen die Moderatorïnnen nicht ein, um einzelne Beiträge zu promoten oder auszubremsen.
  • Angeblich sind Videos von Protesten wie in Hong Kong generell ein missliebiger Inhalt, der oft schon in Barcelona gelöscht werde. TikTok bestreitet, dass es Inhalte aufgrund politischer Ausrichtung moderiere.
  • TikTok soll seine Regeln geändert haben, nachdem der Guardian im September über Zensur auf Druck der chinesischen Regierung berichtet hatte. Das Unternehmen sagt dagegen, die Änderungen seien „deutlich früher“ vorgenommen worden. Netzpolitik hat die unterschiedlichen Versionen in Form eines PDFs dokumentiert.
  • Früher wurden Videos zu sogenannten „kontroversen Ereignissen“ wie Protesten, Ausschreitungen und Demonstrationen generell ausgebremst. Mittlerweile geschieht das nur noch unter bestimmten Umständen, etwa mit dem Hinweis auf „mögliche gewalttätige Konflikte“.
  • Ähnliches gilt für Kritik an öffentlichen politischen Figuren, der Polizei und am Militär sowie LGTBQI-Inhalte. Ein Video mit zwei Männern, die sich küssen, wird in Deutschland gebilligt, in islamischen Ländern aber eingeschränkt.
  • Ob TikTok Hashtags wie #hongkongprotest oder #freehongkong ausbremst und entsprechende Inhalte löscht, bleibt offen. Das Unternehmen dementiert ein solches Vorgehen. Stichprobenartige Suchen zu Themen, die in China kontrovers sind, fördern aber kaum oder gar keine Ergebnisse zutage (Welt).

Was TikTok dazu sagt: In seinem deutschen Blog hat TikTok auf die Recherche von Netzpolitik reagiert: Der Eintrag „Erläuterung unseres Ansatz zur Moderation von Inhalten“ bezieht sich auf „einige öffentliche Äußerungen der Medien und anderer über die angebliche Zensur von Inhalten“, ohne Netzpolitik direkt zu erwähnen.

Das sind die zentralen Aussagen zum Einfluss Chinas:

„TikTok moderiert keine Inhalte basierend auf politischen Angelegenheiten oder Sensitivitäten. Unsere Moderationsentscheidungen werden von keiner ausländischen Regierung, auch nicht der chinesischen Regierung, beeinflusst. Wir entfernen oder stufen keine Videos von Hongkonger Protesten herab und auch nicht von Aktivisten.“

Zum Datenschutz:

„Die TikTok-App ist nicht in China verfügbar und die Benutzerdaten von TikTok werden in den USA und Singapur gespeichert. (Anm.: Die chinesische Version von TikTok heißt Douyin und wird – wie das gesamte chinesische Netz – zensiert und überwacht (Variety).

Zu LGBTQI–Inhalten:

„Weder entfernen wir noch reduzieren wir die Reichweite von LGBTQI-Inhalten. Ein Video wird beispielsweise nur entfernt, wenn eine Person eine andere verletzt oder der Einsatz von Waffen gefördert wird.“

Zur Änderung der Richtlinien:

„In unseren Anfangszeiten haben wir einen weitgehenderen Ansatz verfolgt, um Konflikte auf der Plattform zu minimieren. Mit steigender internationaler Bekanntheit im vergangenen Jahr, haben wir erkannt, dass dies nicht der richtige Ansatz ist. Wir haben begonnen, lokale Teams zu stärken, die ein differenziertes Verständnis für jeden Markt haben.“

Wie die Kontroverse um Feroza Aziz abgelaufen ist: Ein überraschend politisches Schminkvideo, eine Sperre, ein Satirevideo mit Osama bin Laden, ein Dementi, eine Entschuldigung, Hunderte kritische Artikel – und das alles innerhalb von zwei Tagen. Die Ereignisse im Überblick:

  • Am 23. November veröffentlicht Feroza Aziz ein Video, das als vermeintliches Schmink-Tutorial beginnt. Nach wenigen Sekunden hört sie auf, über Wimpern zu reden, und spricht stattdessen über die Situation der Uiguren in China. Die muslimische Minderheit werde dort in „Konzentrationslager“ gesteckt, vergewaltigt und ermordet. Das sei ein „weiterer Holocaust“ (Twitter).
  • Das Video geht viral und wird mehr als eine Million Mal angeschaut, auf Twitter liken und teilen es Hunderttausende. Am 25. November sperrt TikTok den Account von Aziz (Twitter).
  • Am 27. November entfernt TikTok das Video, 50 Minuten später ist es wieder online.
  • In einem Blogeintrag entschuldigt sich Sicherheitschef Eric Han und versucht, Sperre und Löschung zu erklären: Aziz‘ Account sei suspendiert worden, weil sie mit einem Zweitaccount am 14. November ein satirisches Video über Osama bin Laden hochgeladen hatte, das gegen TikToks Content-Richtlinien verstößt. Die Sperre habe nichts mit ihrer China-Kritik zu tun. Das fragliche Video sei völlig unabhängig davon aufgrund eines „menschlichen Fehlers“ vorübergehend blockiert worden.
  • Aziz nimmt TikTok die Erklärung nicht ab (Twitter), verweist auf ein früheres Video über den „Genozid“ an den Uiguren (Twitter) und nennt die Sperre „extrem verdächtig“ (Hong Kong Free Press).

Be smart: In Briefing #590 haben wir zusammengefasst, warum TikTok wohl ein schwieriges und mit Sicherheit anstrengendes Jahr 2020 bevorsteht: Die US-Regierung hat Sicherheitsbedenken, die durch Aussagen ehemaliger Mitarbeiterïnnen befeuert werden (Washington Post).

Außerdem wächst der Konkurrenzdruck: In China hat etwa Alibaba 100 Millionen Dollar in VMate investiert, das vor allem in Indien erfolgreich ist. Dort boomt auch die (ebenfalls chinesische) App Likee (The Information). Auch Facebook, Google und Snapchat bauen bestimmte Funktionen (NYT) nach oder testen gleich ganze App-Klone wie Lasso und Reels (Techcrunch).

ByteDance hat große Pläne für TikTok: Es will sich zwei Milliarden Dollar von Banken leihen (The Information). Das Geld soll die „Kriegskasse“ für den Kampf mit Facebook und Snapchat füllen. TikTok-Chef Alex Zhu weist die Zensurvorwürfe zurück und preist die App als unpolitischen Raum (NYT):

„Today, we are lucky, because users perceive TikTok as a platform for memes, for lip-syncing, for dancing, for fashion, for animals — but not so much for political discussion„.

Doch eine Plattform, auf der sich mehr als eine Milliarde Menschen vernetzen, ist zwangsläufig auch politisch. TikTok ist eine globale Kommunikationsinfrastruktur, auf der Politikerïnnen, Prominente und mittlerweile auch die Tagesschau Inhalte teilen (Briefing #594).

Ich würde nicht so weit gehen wie Theresa Locker, die dazu auffordert, TikTok sofort zu löschen (Vice). Aber Markus Beckedahl stellt die richtige Frage (Netzpolitik):

„Wollen wir eine Öffentlichkeit, in der wir als Gesellschaft und als Netzbürgerïnnen davon abhängig sind, ob das dahinterstehende Unternehmen eine gesellschaftliche Debatte für wünschenswert hält – oder einfach unterdrückt?„

Die Frage ist rhetorisch, und die Antwort lautet nein. Deshalb ist es wichtig, dass Journalistïnnen TikTok mindestens genauso kritisch im Blick haben wie Facebook, Instagram und YouTube.

Autor: Simon Hurtz

Empfehlungen fürs Wochenende

So funktioniert der Explore Feed bei Instagram: Wir sind ja hier kein Marketing-Blog. Sehr wohl sind wir aber daran interessiert, wie all jene Algorithmen funktionieren, die darüber entscheiden, wer welche Informationen und Inhalte angezeigt bekommt – und welche vorenthalten werden. Daher teilen wir gern diesen Blogpost von Facebook, der ein Stück weit darüber aufklärt, wie nun eigentlich die AI funktioniert, die dir immer wieder neue Inhalte bei Explore serviert. Und weil das alles ziemlich technisch ist, hat Techcrunch die fünf wichtigsten Takeaways zusammengetragen.

Kevin Systrom im Interview: Ich habe bislang noch kein derart ausführliches Interview mit dem Instagram-Gründer (The Cut) gelesen. Wer sich für die Ursprünge von Insta interessiert oder ein Faible für junge Milliarde aus dem Silicon Valley hat, der möge bitte hier klicken und sich die zwanzig Minuten Zeit nehmen. Schon spannend zu lesen, wie der Systrom tickt: Gold is better than bronze.

[line]
[gap size=“40px“]

Schon einmal im Briefing davon gelesen

China startet ein Pilotprojekt mit WeChat Pay und Alipay, um den Menschen elektronischen Zugang zur nationalen Krankenversicherung zu ermöglichen – ein weiterer Meilenstein in der Vernetzung von Tencent und Alibaba mit der chinesischen Bevölkerung (South China Morning Post).

Neues von den Plattformen

Twitter

  • Thread-Trees: Wie @wongmjane herausgefunden hat, gibt es womöglich bald richtige Thread-Trees auf Twitter. Verrückt! Das könnte glatt dazu führen, dass mensch endlich einmal durchsteigt, wer eigentlich auf welchen Tweet Bezug genommen hat. We like!

Tipps, Tricks und Apps

Mac Menu Bar Apps: Wer einen Mac nutzt, hat vielleicht schon einmal eine dieser kleinen Menu Bar Apps installiert – etwa einen Pomodoro-Zeittracker oder ähnliches. Die Website macmenubar.com hat eine Liste mit mehr als 350 solcher Apps – ich hatte ja keine Ahnung 😍

Flotato: Auch der zweite Tool-Tipp betrifft leider nur Mac-Nutzer: Mit der App flotato lassen sich sämtliche Websites als Mini-Apps speichern. Was zunächst wie eine Spielerei wirkt, macht sich im Alltag schnell bezahlt: Websites lassen sich rasend schnell aufrufen, der Browser bleibt schön schlank. Einfach mal ausprobieren!

One more thing

Constructive Journalism: Die Macher von Information is Beautiful haben ein neues Projekt: Bei Beautiful News (Twitter, Instagram, Newsletter) veröffentlichen sie jeden Tag eine neue Infografik mit positiven Nachrichten. Frei nach dem Motto: Wider all den Hatern und all jenen, die davon leben, Angst zu schüren 💛

Header-Foto von Joseph Chan bei Unsplash