Salut und herzlich Willkommen zur 527. Ausgabe des Social-Media-Watchblog-Briefings. Heute blicken wir auf die Arbeit von Content Moderatoren bei Facebook. Zudem beschäftigen wir uns mit der heimlichen Weitergabe von Daten an Facebook und der Einschränkung des „Custom-Audience-Features“ in Bayern. Ich wünsche eine gewinnbringende Lektüre und bedanke mich für das Interesse an unserer Arbeit, Martin

[line][gap size=“40px“]

Bekiffte Content Moderatoren

Was ist: Der sehr geschätzte Kollege Casey Newton hat für The Verge einen detaillierten Artikel über die Arbeit von Content Moderatoren bei Facebook geschrieben. Zwar gab es schon eine Reihe anderer Artikel darüber (etwa diesen hier von WIRED), aber bislang hatte noch kein Kollege Zugang zu einem Content-Moderatoren-Büro in den USA.

Warum ist das interessant? Die Arbeit der Content Moderatoren besteht darin, Inhalte zu überprüfen, die entweder von Nutzern oder aber von einer Art automatischen „Filter“ geflaggt wurden. Letztlich richten somit die Content Moderatoren darüber, was auf Plattformen wie Facebook, YouTube und Twitter veröffentlicht werden darf und was gelöscht wird.

Was sind die Key Findings?

• Moderatoren in den UAS verdienen nur 28.800 Dollar pro Jahr, während reguläre Facebook-Mitarbeiter im Schnitt 240.000 Dollar an Gehalt, Boni und Aktien einstreichen.
• Mitarbeiter können entlassen werden, wenn sie nur eine Handvoll Fehler pro Woche gemacht haben.
• Teamleiter sind angehalten, die Arbeitszeit ihrer Mitarbeiter arg im Blick zu behalten – so würden etwa Toilettengänge akribisch dokumentiert.
• Es sei üblich, dass die Moderatoren fiese Witze erzählen, respektive in den Pause kiffen, um ihren Stress in den Griff zu kriegen.
• Moderatoren würden häufig nach dem Verlassen des Unternehmens PTBS-ähnliche Symptome (Wiki) entwickeln, hätten aber keinen Anspruch mehr auf Unterstützung durch Facebook.
• Zudem hätten einige Mitarbeiter begonnen, die Sichtweisen der zu überprüfenden Inhalte anzunehmen – etwa die Standpunkte von Flat Earthern und Holocaust-Leugnern. Ein ehemaliger Angestellter erklärte Casey, dass er nicht mehr daran glaubt, dass 9/11 wirklich ein Terroranschlag war. Ürrgs.

Der größere Zusammenhang: Die Content Moderatoren erfüllen eine enorm wichtige Aufgabe in unserer Gesellschaft. Das von Casey beschriebene Arbeitsklima zeugt jedoch nicht von der Wertschätzung, die sie eigentlich verdient hätten (siehe Twitter/JayTSack). Auch wird deutlich, wie wichtig die Auswahl der Content Moderatoren für die Ausübung ihrer Tätigkeit ist. Was nützt es, wenn Verschwörungstheoretiker über Inhalte von Verschwörungstheoretikern entscheiden?

Be smart: Facebook hat im vergangenen Jahr mehrfach betont, dass sie das Personal massiv aufgestockt hätten, um Desinformationen und anderen fraglichen Inhalten zu begegnen. Das ist gut und löblich. Die Diskussion um Content Moderatoren verdeutlicht, dass Facebook eigentlich gar nicht genug in ihre Arbeit investieren kann.

Auf der anderen Seite richtet hier aber auch ein Heer von ca. 15.000 nicht-demokratisch legitimierten Internet-Polizisten über die veröffentlichten Inhalte von Milliarden Menschen. Das bereitet mir enorme Bauchschmerzen.

Tiefgang: Wer sich intensiver mit der Arbeit von Content Moderatoren beschäftigen möchte, sollte unbedingt die Dokumentarfilm The Cleaners schauen.

[line][gap size=“40px“]

Wenn Facebook weiß, dass Du schwanger werden möchtest

Was ist: Eine WSJ-Recherche zeigt, wie Drittanbieter-Apps äußerst sensible Nutzerdaten an Facebook weiterreichen, ohne dass die Nutzer dem zugestimmt hätten, respektive darüber aufgeklärt wurden.

Um was für Apps und Daten geht es?

• Etwa um Instant Heart Rate – die populärste iOS-App, um den Puls zu messen. Die WSJ-Recherche zeigt, dass die App jede neue Pulsmessung unmittelbar an Facebook überträgt.
• Oder um Flo Health Inc – eine App, die dabei hilft, den Menstruationszyklus zu dokumentieren, respektive die fruchtbaren Tage zu bestimmen. Die App hat eigenen Angaben zufolge 25 Millionen Nutzer. Das WSJ zeigt, dass die App Facebook darüber informiert, wenn eine Nutzerin schwanger werden möchte.

Der größere Zusammenhang: Die hier vom WSJ aufgeführten Apps sind bei weitem nicht die einzigen, die ungefragt Daten mit Facebook austauschen. Vielmehr ist das Problem systemimmanent. Der Grund besteht in sogenannten Software Development Kits, kurz SDK. Gerade das Facebook-Kit ist extrem populär bei App-Entwicklern, weil es dabei hilft, die eigenen Nutzer besser zu verstehen – was klicken sie, welche Funktion nutzen sie, etc.

Facebook erhält dafür im Gegenzug ebenfalls wertvolle Daten, um noch bessere Profile von Nutzern erstellen zu können. Privacy International zeigt hier im Artikel und hier im Video, wie diese SDK funktionieren.

Be smart: Facebook erklärt, die App-Anbieter seien schuld. Sie hätten die Daten nicht an Facebook übertragen dürfen. Die App-Anbieter sagen, sie hätten nicht verschwiegen, dass Daten mit Drittanbietern ausgetauscht würden. So bleibt am Ende der Nutzer wieder der Dumme und kann nur dabei zuschauen, dass seine Daten weder von der einen, noch von der anderen Seite wirklich respektiert werden. Oder wie Zeynep Tufekci schreibt:

Every part of this data chain will say oh look at some other part is doing this or that. They’re all correct. The whole surveillance-industrial complex is corrupt and its mechanisms are not clear to ordinary people.

[line][gap size=“40px“]

Die nächste Adpocalypse?

Was ist: In Briefing 526 hatten wir auf die Recherche von Matt Watson hingewiesen, der in einem Video aufzeigt, dass bei YouTube Videos zirkulieren, die Kinder in Posen zeigen, die für Pädophile reizvoll sind. Watsons Recherchen führten dazu, dass einige Werbetreibende (etwa Disney, Nestle, McDonald’s, AT&T and Epic Games) ihre Budgets von YouTube abgezogen haben (Digiday). YouTuber fürchten nun eine erneute Adpocalypse.

Warum ist das interessant?

• Werbetreibende haben kein Interesse daran, dass ihre Produkte, Dienstleistungen und Marken neben Inhalten auftauchen, die ihr Ansehen beschädigen könnten. „Brand Safety“ lautet das Stichwort.
• Wenn sich nun Pädophile unter Twister-Challenges oder BikiniHauls darüber austauschen, zu welchem Zeitpunkt welches Körperteil von Kindern besonders gut zu sehen sind, dann ist die Brand Safety nicht mehr gewährleistet.
• In der Folge ziehen sie ihre Budgets von YouTube ab – zumindest kurzfristig.

• Das Einfrieren von Budgets hat allerdings nicht nur Konsequenzen für die mehr als fragwürdigen Videos, um die es bei den Recherchen von Matt Watson geht.
• Vielmehr haben die geringeren Werbeausgaben auf YouTube auch für alle anderen YouTuber unmittelbare Folgen. Stichwort Adpocalypse (knowyourmeme)
• Genau deshalb greifen einige nun Matt Watson für seine Recherchen an – und zwar nicht gerade zimperlich (BuzzFeed News).

Be smart: YouTube hat reagiert und Tausendfach Kommentare abschalten und Kanäle sperren lassen (Engadget). Soweit so gut. Gleichwohl zeigt dieses Beispiel einmal mehr, wie sehr Social-Media-Plattformen von sogenannten „bad actors“ für ihre eigenen Ziele ausgenutzt werden und wie wenig Kontrolle die Tech-Unternehmen über ihre eigenen Plattformen haben.

[line][gap size=“40px“]

Facebooks „Custom Audience“ in Bayern illegal

Was ist: Das Feature „Custom Audiences“ wird bei Facebook gern genutzt, um Nutzer zielgenau mit Werbung zu erreichen. Die bayerische Datenschutzaufsicht schränkt diese Praxis nun solange ein, bis seitens der Werbetreibenden eine ausdrückliche Einwilligung der Kunden eingeholt wurde.

Wie funktioniert das Feature „Custom Audience“?

• Unternehmen besitzen häufig Datensätze mit Tausenden Telefonnummern und Email-Adressen von Kunden.
• Um jene Kunden nun bei Facebook mit passgenauer Werbung zu erreichen, können Unternehmen solche Datensätze bei Facebook hochladen. Facebook kümmert sich dann um den Rest.
• Aber nicht nur das. Facebook bietet mit dem Feature „Custom Audience“ auch die Möglichkeit, Zielgruppen zu erreichen, die den Profilen ähneln, die anhand der hochgeladenen Datensätze ausfindig gemacht wurden.

Was ist daran problematisch?

• Zunächst einmal füttern Unternehmen Facebook mit wertvollen Informationen. Es ist zum Beispiel denkbar, dass Facebook bereits über die Email-Adresse eines Nutzers informiert war, aber noch nicht die Telefonnummer kannte. Dank der Datensätze, die von Unternehmen hochgeladen werden, könnte Facebook die Profile ergänzen.
• Zudem habe ich als Kunde der Verwendung meiner Daten bei Facebook in aller Regel nicht zugestimmt. Vielleicht habe ich mich für einen Newsletter eingetragen. Vielleicht habe ich eine Telefonnummer für eventuelle Rückfragen angegeben. Dass diese Daten dann aber bei Facebook hochgeladen werden und dort für mich völlig intransparent mein Profil ergänzen, war nicht beabsichtigt.

Be smart: Facebook könnte ein Muster für eine Datenschutzbestimmung zur Verfügung stellen, die Unternehmen einsetzen können, um sich die notwendige Zustimmung vom Kunden einzuholen. Bislang gilt die Einschränkung nur für Bayern. Sie könnte aber anderen (Bundes-) Ländern als Vorbild dienen. Mehr dazu bei Netzpolitik.

[line][gap size=“40px“]

Schon einmal im Briefing davon gelesen

Email-Tracking: Wir reden permanent über Social-Media-Plattformen, die ihre Nutzer tracken und Profile erstellen. Dabei vergessen wir oft, dass Email-Anbieter ganz ähnlich vorgehen. Motherboard hat @MacLemon gefragt, welche Anbieter etwas taugen. Hier der Überblick:

Disclaimer: Ich nutze für den Versand des Newsletters Posteo und Mailchimp. Während Posteo großartig ist, was den Datenschutz angeht, bietet Mailchimp eine Reihe von Tacking-Optionen an. Ich nutze davon lediglich die Optionen, die Öffnungsraten zu tracken und zu schauen, welche Links für meine Leser relevant sind. Hier geht es zu den Datenschutzbestimmungen von Mailchimp.

[line][gap size=“40px“]

Neues von den Plattformen

Android Messages:

• Assistenten im Chat: Bei Android wird die Chat-Unterhaltung künftig durch Googles Assistenten angereichert. Wer etwa in einem Chat seinem Bekannten einen Kinofilm vorschlägt, bekommt automatisch die Option, einen Link zur Filmbeschreibung zu setzen. Das ist sicherlich ein (Datenschutz-Albtraum) Feature, das auch für andere Messenger interessant sein könnte. (Techcrunch)

Instagram

• Pinstagram: Instagram testet die Option, öffentliche Sammlungen einzuführen. Pinterest-Nutzer wissen um den Reiz solcher Sammlungen. Kein Wunder also, dass Instagram ähnliches plant. (Techcrunch)

[line][gap size=“40px“]

One more thing

Der Tatort neulich vermittelte ja den Eindruck, Göttingen sei so ein krasses Provinznest. Ist natürlich totaler Quatsch. 🙈😂