Salut und herzlich Willkommen zur 597. Ausgabe des Social-Media-Watchblog-Briefings. Heute beschäftigen wir uns noch einmal mit den Moderationsregeln bei TikTok. Außerdem schauen wir auf eine Studie zum Thema WhatsApp und Journalismus und wundern uns über einen Facebook-Chatbot. Herzliche Grüße und vielen Dank für das Interesse, Simon & Martin
TikTok: Leaks, Propaganda und Klage
Was ist: „Alles gesagt?“, fragt Zeit Online in seinem Talk-Podcast. Ganz so ausufernd wie die Acht-Stunden-Folge mit Rezo geht es bei uns selten zu, aber nach 9576 Zeichen über TikTok in Briefing ##596 dachte ich: alles gesagt – zumindest für eine Weile.
Netzpolitik sei Dank fällt diese Weile kürzer aus als erwartet: Chris Köver und Markus Reuter haben offenbar eine ergiebige Quelle im Unternehmen und veröffentlichen weitere TikTok-Moderationsrichtlinien: zum Umgang mit Kritik und Konkurrenz sowie Videos von Menschen mit Behinderungen.
Außerdem verklagt eine kalifornische Studentin den Entwickler ByteDance, weil das Unternehmen illegal Nutzerdaten gesammelt und auf chinesischen Servern gespeichert haben soll (Daily Beast). Und dann gibt es noch einen Bericht des Australian Strategic Policy Institute (ASPI), der TikTok als Werkzeug für chinesische Zensur und Überwachung bezeichnet.
Nach den ausführlichen Einordnungen im vergangenen Briefing beschränke ich mich auf kompakte Zusammenfassungen und bündle meine Einschätzung am Ende.
Was Netzpolitik geleakt hat: Am Freitag und Montag haben die Kollegïnnen zwei Artikel nachgelegt. Das sind die zentralen Erkenntnisse:
- Bis mindestens Ende September hat TikTok Inhalte gedrosselt, die Kritik an der Plattform enthalten oder Konkurrenten wie WhatsApp erwähnen.
- Das Ausbremsen erfolgt in unterschiedlichen Stufen: Manche Videos werden sofort gelöscht, andere nur daran gehindert, im „For You“-Feed aufzutauchen. Die Marketingabteilung kann Inhalte auch pushen, um sie mehr Nutzerïnnen auszuspielen.
- Moderatorïnnen waren demnach angewiesen, einen Satz wie „Ich habe keine Lust mehr auf TikTok“ als Inhalt einzustufen, der TikTok „attackiert, verdammt oder kritisiert“. Dadurch wurde die Reichweite stark eingeschränkt.
- Das Gleiche galt für „Inhalte, welche Werbung für Konkurrenten beeinhalten“. Zu den indirekte Konkurrenten zählen Facebook, Instagram, Youtube und Netflix, die direkte Konkurrent umfasst Triller, Dubsmash, Weishi, Kwai, Lasso, WhatsApp und Snapchat.
- Bereits ein Logo, der Name als Text, ein Screenshot oder ein User Interface reichte, um das entsprechende Video zu drosseln.
- Um Nutzerïnnen vor Mobbing zu schützen, ergriff TikTok Maßnahmen, die vielleicht gut gemeint, aber sicherlich nicht gut gemacht waren: Menschen, deren Videos als Mobbing-Risiko eingestuft wurden, landeten auf einer Liste von „besonderen Nutzerïnnen“ – und hatten damit automatisch eine geringere Reichweite.
- Dazu zählten etwa Menschen mit Behinderungen, aber auch Dicke oder LGBTQI. Der Abschnitt in den Moderationsregeln heißt „Bilder von Subjekten, die hochgradig verwundbar für Cyberbullying sind“. Bei diesen Nutzerïnnen müsse man „auf Basis ihrer physischen oder mentalen Verfassung“ davon ausgehen, dass sie zur Zielscheibe von Angriffen werden.
- Als besonders gefährdet galten unter anderem Menschen, die Merkmale wie „entstelltes Gesicht“, „Autismus“ oder „Downsyndrom“ aufweisen. Deren Videos sollten als „not recommended“ eingestuft werden, wodurch sie nicht im „For you“-Feed auftauchen können.
- Mehrere Organisationen und Aktivistïnnen kritisieren diese Richtlinien als „übergriffig und ausgrenzend“ oder empfinden es als „absurd, nicht die Trolle zu bestrafen, sondern die Opfer des Cyberbullyings“.
- Sie widersprechen auch der Außendarstellung von TikTok, das etwa Kampagnen zu Bodypositivity initiiert oder anlässlich des Safer Internet Days zu einem „Signal für Inklusion, Diversität und Sicherheit und gegen Mobbing, Hassrede oder beleidigendes Verhalten“ aufrief (Medium).
- Eine Sprecherin sagte Netzpolitik, die Regeln seien „nie als langfristige Lösung gedacht“ gewesen und mittlerweile ersetzt worden. Genau wie die Richtlinien zum Umgang mit Kritik waren die Mobbing-Regeln bis mindestens Ende September in Kraft.
- Eine Betroffene, die sich selbst als „Fatwoman“ bezeichnet, sagt: „Ich finde das krass und diskriminierend, dass Menschen so herabgestuft werden. Das ist unmenschlich.“
Illustration: pixelpaten für watchblog.io
Haste Scheiße am Fuß … Zu den – aus TikToks Sicht – eher unerfreulichen Recherchen von Netzpolitik gesellen sich ein Bericht und eine Klage, die jeweils schwere Vorwürfe enthalten.
- Der australische Thinktank ASPI, der unter anderem vom australischen Verteidigungsministerium finanziert wird (Wikipedia), hat seine Untersuchung „Mapping more of China’s tech giants: AI and surveillance“ veröffentlicht. Sie baut auf dem Bericht „Mapping China’s Tech Giants“ auf, der im April erschienen war.
- TikTok und ByteDance nehmen darin ein eigenes Kapitel ein. ASPI fasst Medienberichte wie die Recherche des Guardians zu TikToks Zensurrichtlinien zusammen und wirft ByteDance vor, eng mit chinesischen Sicherheitsbehörden zusammenzuarbeiten.
- Unter anderem soll das Unternehmen staatliche Propaganda in der Region Xinjiang verbreiten und der Polizei auf Douyun, der chinesischen Version von TikTok, eigene Accounts zu Verfügung stellen, um deren „Einfluss und Glaubwürdigkeit“ zu stärken.
- Ein ByteDance-Sprecher bestreitet, dass der Konzern der Polizei einen Sonderstatus einräume. Außerdem produziere und verbreite man keine Produkte oder Dienste, die zu Überwachung beitrügen (Business Insider).
- Ein TikTok-Sprecher sagt: „We have never been asked by the Chinese government to remove any content and we would not do so if asked. Period.„
- Weiterer Ärger droht TikTok in Kalifornien: Die Studentin Misty Hong wirft ByteDance vor, bewusst gegen geltendes Datenschutzrecht verstoßen zu haben (Daily Beast).
- Ihrer Klage zufolge sollen unter anderem Standort, Alter, private Nachrichten, Telefonnummern, Kontakte, IP-Adresse und Browserverlauf auf chinesischen Servern gelandet sein. Angeblich gilt das auch für Videos, die Nutzerïnnen nur aufgenommen, dann aber gar nicht gepostet haben.
Be smart: ByteDance steht bevor, was Facebook seit einigen Jahren erlebt: Mit großer Reichweite kommt große Aufmerksamkeit – kommt großes Misstrauen. Genau wie bei Facebook mag ein Teil der Vorwürfe übertrieben sein, dennoch ist klar: Wenn TikTok seinen Siegeszug fortsetzen will, muss sich der Entwickler ändern.
Vor allem in den USA weckt ein chinesisches Unternehmen Vorbehalte (ob gerechtfertigt oder nicht, sei dahingestellt). ByteDance muss transparenter werden, um amerikanischen oder europäischen Politikerïnnen und Behörden glaubhaft zu versichern, dass es keine Gefahr für die nationale Sicherheit darstellt.
Das gilt auch für Regeln, nach denen TikTok Inhalte moderiert. Nach vielen Leaks und Recherchen gewährt Facebook zumindest rudimentären Einblick in seine Richtlinien und öffnet sich für externe Aufsicht und Kontrolle (mehr zum geplanten „Oversight Board“ in Briefing #580). TikTok hat diesen Prozess noch vor sich – bis dahin stellen Medien wie Guardian oder Netzpolitik einen Teil der nötigen Transparenz her.
Einen Gewinner haben die Negativ-Schlagzeilen über TikTok jedenfalls: Mark Zuckerberg musste schon lange nicht mehr so wenig Kritik an Facebook ertragen.
Autor: Simon Hurtz
China: Noch. Mehr. Kontrolle.
Was ist: Zum Start ins neue Jahr verschärft die chinesische Regierung an vielen Stellen die Regeln, was die Freiheit der Kommunikation angeht.
Was ändert sich?
- Um der Verbreitung von Deepfakes vorzubeugen, muss künftig jede Nutzung von KI oder virtueller Realität deutlich gekennzeichnet sein. Ein Verstoß kann als Straftat gewertet werden: China seeks to root out fake news and deepfakes with new online content rules (Reuters)
- Zudem verlangt Chinas Ministerium für Industrie und Informationstechnologie von Smartphone-Nutzern, dass sie beim Abschluss neuer Mobilfunk-Verträge Gesichtsscans durchführen lassen: „China launches mandatory face scans for mobile users“ (QZ)
Warum ist das wichtig?
- Erstens erreicht die Überwachung der Bürger in China eine neue Dimension.
- Zweitens arbeiten chinesische Unternehmen daran, ihre Überwachungsstandards in andere Länder zu exportieren.
- Drittens betreffen die Regeln bezüglich der Anwendung von KI oder virtueller Realität auch „ganz normale“ Social-Media-Apps. Das chinesische Beispiel könnte Schule machen.
Be smart: Es ist sicherlich richtig, darüber nachzudenken, wie ein Missbrauch von Deepfake-Technologie verhindert werden kann. Standards für Gesichtserkennungs-Software zu definieren, ist ebenfalls sinnvoll. Ob die Überwachungsfetischisten aus China die richtigen Vorbilder dafür sein sollten, halte ich mindestens für fragwürdig.
Social Media & Politik
Politische Werbung wird bei Facebook keinen Fact-Checks unterzogen – das haben sowohl Mark Zuckerberg (siehe CBS News bei Facebook) als auch Facebooks Chef-Lobbyist Nick Clegg (siehe Politico) noch einmal unterstrichen. Den Deepdive zum Thema gibt es in Briefing #589.
Studien
WhatsApp & Journalismus: Hunderte Millionen Menschen lesen und teilen Nachrichten (auch) auf WhatsApp. Aber welche Rolle spielt WhatsApp in deutschen Medienhäusern? Haben Verlage eine Strategie für WhatsApp und andere Messenger, vergleichbar mit herkömmlichen Social-Media-Kanälen?
Eher nein, lautet das Ergebnis der Studie „What’s New about Whatsapp for News? A Mixed-Method Study on News Outlets’ Strategies for Using WhatsApp“ . Zwar nutzten Medienunternehmen Messenger, um Inhalte zu verbreiten. Allerdings stiegen nur die wenigsten Angebote in den Dialog mit Nutzern ein.
Künftig dürften es noch weniger Medienunternehmen sein, die WhatsApp nutzen – schließlich verbietet WhatsApp ab dem 7.12. den Massenversand über die Plattform (Meedia).
Abteilung Datenschutz
WhatsApp <-> Facebook: Welche Daten werden eigentlich an Facebook übertragen, wenn Freunde Whatsapp benutzen? IT-Sicherheitsexperte Mike Kuketz hat eine Übersicht für alle erstellt, die sich völlig zurecht mit dieser Frage beschäftigen.
Schon einmal im Briefing davon gehört
Liam Bot: Einem Bericht der New York Times zufolge haben einige Facebook-Mitarbeiterïnnen ihren Vorgesetzten mitgeteilt, dass sie sich Sorgen um die Beantwortung schwieriger Fragen zu ihrem Arbeitsplatz machen – insbesondere wenn die Fragen von Freunden oder Verwandten kommen. Um den Mitarbeitern das Leben über die Feiertage etwas angenehmer zu machen, hat das Unternehmen einen Chat-Bot gebaut, der ihnen offizielle Antworten für den Umgang mit heiklen Fragen beibringt.
„If a relative asked how Facebook handled hate speech, for example, the chatbot — which is a simple piece of software that uses artificial intelligence to carry on a conversation — would instruct the employee to answer with these points:“
- „Facebook consults with experts on the matter.“
- It has hired more moderators to police its content.“
- It is working on A.I. to spot hate speech.“
- „Regulation is important for addressing the issue.“
„It would also suggest citing statistics from a Facebook report about how the company enforces its standards.“
Neue Features bei den Plattformen
- Google Photos wird um eine Messenger-Funktion erweitert (The Verge). Fortan können Nutzer direkt aus ihrer Bibliothek Fotos mit Freunden teilen. Google macht damit Angeboten wie Snapchat, Threads und Co ordentlich Konkurrenz.
- Fotos exportieren: Facebook erlaubt es seinen Nutzern jetzt, Fotos und Videos direkt zu Google Photos zu transferieren (Facebook). Dem Unternehmen zufolge sei das erst der Anfang, weitere Services sollen folgen.
- Crisis: Facebook motzt sein „Crisis Response“-Werkzeug auf (Techcrunch) und lanciert zahlreiche neue Features: u.a. eine WhatsApp-Integration. Zudem kündigt Facebook die Kooperation mit über 100 Organisationen an, um schneller Hilfe zu ermöglichen.
- Threads: Nachdem wir in der letzten Ausgabe berichtet hatten, dass Twitter an neuen Thread-Funktionen arbeitet, um Dialoge übersichtlicher zu gestalten, können wir heute selbiges für Facebook vermelden.
One more thing
Mitgliedschaft verschenken: Wer mag, kann seiner Kollegin oder seinem Kollegen ein Watchblog-Abo zu Weihnachten schenken! Und zwar folgendermaßen:
- Wenn du bereits ein Profi-Abo hast, wechselst du einfach in das neue „1up“-Paket.
- Wenn du noch kein Profi-Abo hast, dann abonnierst du zunächst das „1up“-Paket.
- Das Paket kostet für Euch beide zusammen 7,50 Euro pro Monat oder aber 84 Euro jährlich. Du zahlst also für das Abo deiner Kollegin / deines Kollegen nur den halben Preis.
Sobald das „1up“-Paket abonniert ist, kannst du deiner Bekannten ganz easy einen Gastzugang zum Newsletter und zum Blog freischalten. Wie das geht, wird hier erklärt. Das Angebot gilt bis zum 26.12.2019. Uns würde es freuen!
Header-Foto von Michael Aleo bei Unsplash