TikTok, Leaks, Propaganda und Klage, WhatsApp und Journalismus, Facebook Chatbot

Salut und herzlich Willkommen zur 597. Ausgabe des Social-Media-Watchblog-Briefings. Heute beschäftigen wir uns noch einmal mit den Moderationsregeln bei TikTok. Außerdem schauen wir auf eine Studie zum Thema WhatsApp und Journalismus und wundern uns über einen Facebook-Chatbot. Herzliche Grüße und vielen Dank für das Interesse, Simon & Martin

TikTok: Leaks, Propaganda und Klage

Was ist: „Alles gesagt?“, fragt Zeit Online in seinem Talk-Podcast. Ganz so ausufernd wie die Acht-Stunden-Folge mit Rezo geht es bei uns selten zu, aber nach 9576 Zeichen über TikTok in Briefing ##596 dachte ich: alles gesagt – zumindest für eine Weile.

Netzpolitik sei Dank fällt diese Weile kürzer aus als erwartet: Chris Köver und Markus Reuter haben offenbar eine ergiebige Quelle im Unternehmen und veröffentlichen weitere TikTok-Moderationsrichtlinien: zum Umgang mit Kritik und Konkurrenz sowie Videos von Menschen mit Behinderungen.

Außerdem verklagt eine kalifornische Studentin den Entwickler ByteDance, weil das Unternehmen illegal Nutzerdaten gesammelt und auf chinesischen Servern gespeichert haben soll (Daily Beast). Und dann gibt es noch einen Bericht des Australian Strategic Policy Institute (ASPI), der TikTok als Werkzeug für chinesische Zensur und Überwachung bezeichnet.

Nach den ausführlichen Einordnungen im vergangenen Briefing beschränke ich mich auf kompakte Zusammenfassungen und bündle meine Einschätzung am Ende.

Was Netzpolitik geleakt hat: Am Freitag und Montag haben die Kollegïnnen zwei Artikel nachgelegt. Das sind die zentralen Erkenntnisse:

  • Bis mindestens Ende September hat TikTok Inhalte gedrosselt, die Kritik an der Plattform enthalten oder Konkurrenten wie WhatsApp erwähnen.
  • Das Ausbremsen erfolgt in unterschiedlichen Stufen: Manche Videos werden sofort gelöscht, andere nur daran gehindert, im „For You“-Feed aufzutauchen. Die Marketingabteilung kann Inhalte auch pushen, um sie mehr Nutzerïnnen auszuspielen.
  • Moderatorïnnen waren demnach angewiesen, einen Satz wie „Ich habe keine Lust mehr auf TikTok“ als Inhalt einzustufen, der TikTok „attackiert, verdammt oder kritisiert“. Dadurch wurde die Reichweite stark eingeschränkt.
  • Das Gleiche galt für „Inhalte, welche Werbung für Konkurrenten beeinhalten“. Zu den indirekte Konkurrenten zählen Facebook, Instagram, Youtube und Netflix, die direkte Konkurrent umfasst Triller, Dubsmash, Weishi, Kwai, Lasso, WhatsApp und Snapchat.
  • Bereits ein Logo, der Name als Text, ein Screenshot oder ein User Interface reichte, um das entsprechende Video zu drosseln.
  • Um Nutzerïnnen vor Mobbing zu schützen, ergriff TikTok Maßnahmen, die vielleicht gut gemeint, aber sicherlich nicht gut gemacht waren: Menschen, deren Videos als Mobbing-Risiko eingestuft wurden, landeten auf einer Liste von „besonderen Nutzerïnnen“ – und hatten damit automatisch eine geringere Reichweite.
  • Dazu zählten etwa Menschen mit Behinderungen, aber auch Dicke oder LGBTQI. Der Abschnitt in den Moderationsregeln heißt „Bilder von Subjekten, die hochgradig verwundbar für Cyberbullying sind“. Bei diesen Nutzerïnnen müsse man „auf Basis ihrer physischen oder mentalen Verfassung“ davon ausgehen, dass sie zur Zielscheibe von Angriffen werden.
  • Als besonders gefährdet galten unter anderem Menschen, die Merkmale wie „entstelltes Gesicht“, „Autismus“ oder „Downsyndrom“ aufweisen. Deren Videos sollten als „not recommended“ eingestuft werden, wodurch sie nicht im „For you“-Feed auftauchen können.
  • Mehrere Organisationen und Aktivistïnnen kritisieren diese Richtlinien als „übergriffig und ausgrenzend“ oder empfinden es als „absurd, nicht die Trolle zu bestrafen, sondern die Opfer des Cyberbullyings“.
  • Sie widersprechen auch der Außendarstellung von TikTok, das etwa Kampagnen zu Bodypositivity initiiert oder anlässlich des Safer Internet Days zu einem „Signal für Inklusion, Diversität und Sicherheit und gegen Mobbing, Hassrede oder beleidigendes Verhalten“ aufrief (Medium).
  • Eine Sprecherin sagte Netzpolitik, die Regeln seien „nie als langfristige Lösung gedacht“ gewesen und mittlerweile ersetzt worden. Genau wie die Richtlinien zum Umgang mit Kritik waren die Mobbing-Regeln bis mindestens Ende September in Kraft.
  • Eine Betroffene, die sich selbst als „Fatwoman“ bezeichnet, sagt: „Ich finde das krass und diskriminierend, dass Menschen so herabgestuft werden. Das ist unmenschlich.“

Illustration: pixelpaten für watchblog.io

Haste Scheiße am Fuß … Zu den – aus TikToks Sicht – eher unerfreulichen Recherchen von Netzpolitik gesellen sich ein Bericht und eine Klage, die jeweils schwere Vorwürfe enthalten.

  • TikTok und ByteDance nehmen darin ein eigenes Kapitel ein. ASPI fasst Medienberichte wie die Recherche des Guardians zu TikToks Zensurrichtlinien zusammen und wirft ByteDance vor, eng mit chinesischen Sicherheitsbehörden zusammenzuarbeiten.
  • Unter anderem soll das Unternehmen staatliche Propaganda in der Region Xinjiang verbreiten und der Polizei auf Douyun, der chinesischen Version von TikTok, eigene Accounts zu Verfügung stellen, um deren „Einfluss und Glaubwürdigkeit“ zu stärken.
  • Ein ByteDance-Sprecher bestreitet, dass der Konzern der Polizei einen Sonderstatus einräume. Außerdem produziere und verbreite man keine Produkte oder Dienste, die zu Überwachung beitrügen (Business Insider).
  • Ein TikTok-Sprecher sagt: „We have never been asked by the Chinese government to remove any content and we would not do so if asked. Period.
  • Weiterer Ärger droht TikTok in Kalifornien: Die Studentin Misty Hong wirft ByteDance vor, bewusst gegen geltendes Datenschutzrecht verstoßen zu haben (Daily Beast).
  • Ihrer Klage zufolge sollen unter anderem Standort, Alter, private Nachrichten, Telefonnummern, Kontakte, IP-Adresse und Browserverlauf auf chinesischen Servern gelandet sein. Angeblich gilt das auch für Videos, die Nutzerïnnen nur aufgenommen, dann aber gar nicht gepostet haben.

Be smart: ByteDance steht bevor, was Facebook seit einigen Jahren erlebt: Mit großer Reichweite kommt große Aufmerksamkeit – kommt großes Misstrauen. Genau wie bei Facebook mag ein Teil der Vorwürfe übertrieben sein, dennoch ist klar: Wenn TikTok seinen Siegeszug fortsetzen will, muss sich der Entwickler ändern.

Vor allem in den USA weckt ein chinesisches Unternehmen Vorbehalte (ob gerechtfertigt oder nicht, sei dahingestellt). ByteDance muss transparenter werden, um amerikanischen oder europäischen Politikerïnnen und Behörden glaubhaft zu versichern, dass es keine Gefahr für die nationale Sicherheit darstellt.

Das gilt auch für Regeln, nach denen TikTok Inhalte moderiert. Nach vielen Leaks und Recherchen gewährt Facebook zumindest rudimentären Einblick in seine Richtlinien und öffnet sich für externe Aufsicht und Kontrolle (mehr zum geplanten „Oversight Board“ in Briefing #580). TikTok hat diesen Prozess noch vor sich – bis dahin stellen Medien wie Guardian oder Netzpolitik einen Teil der nötigen Transparenz her.

Einen Gewinner haben die Negativ-Schlagzeilen über TikTok jedenfalls: Mark Zuckerberg musste schon lange nicht mehr so wenig Kritik an Facebook ertragen.

Autor: Simon Hurtz

China: Noch. Mehr. Kontrolle.

Was ist: Zum Start ins neue Jahr verschärft die chinesische Regierung an vielen Stellen die Regeln, was die Freiheit der Kommunikation angeht.

Was ändert sich?

Warum ist das wic…

Scroll to Top