Facebook-Memo: Ex-Mitarbeiterin erhebt schwere Vorwürfe

Was ist

Eine ehemalige Facebook-Angestellte wirft dem Unternehmen vor, Wahlmanipulationen und Desinformationskampagnen teils monatelang ignoriert zu haben. Das zuständige Policy-Team konzentriere sich auf die USA und Europa. Für Länder abseits des Kerngeschäfts fehle es an Ressourcen und auch am Willen, Missbrauch zu verhindern.

Warum das wichtig ist

In den vergangenen Monaten haben sich immer wieder aktuelle und ehemalige Facebook-Mitarbeiterïnnen an Medien gewandt und teils brisante interne Informationen durchgestochen (#659). Der aktuelle Leak zählt zu den größten und substanziellsten. Er erhärtet den Verdacht, dass Facebook in erster Linie auf öffentlichen Druck hin reagiert. Der gesellschaftliche Schaden, den die Plattform in Schwellen- und Entwicklungsländern anrichtet, scheint in Menlo Park keine allzu große Priorität zu genießen.

Woher die Anschuldigungen stammen

Die Vorwürfe gehen auf Sophie Zhang zurück, die drei Jahre als Data Scientist bei Facebook arbeitete. Sie wurde kürzlich gekündigt und teilte an ihrem letzten Arbeitstag im September ein langes Posting in Facebooks internen Kommunikationsforen. Angeblich lehnte sie eine Abfindung in Höhe von 64.000 Dollar ab, um kein NDA unterschreiben zu müssen und ihr Memo zumindest konzernintern veröffentlichen zu können.

Das Posting landete bei drei BuzzFeed-Reportern und später auch bei der New York Times. Während die Zusammenfassung der NYT recht knapp ausfällt (womöglich, weil BuzzFeed den Scoop zuerst exklusiv hatte), zitiert BuzzFeed großzügig aus dem 6600-Wörter-Memo.

BuzzFeed selbst räumt dem Leak offenbar große Bedeutung ein und fasst die Geschichte so zusammen:

The memo is a damning account of Facebook’s failures. It’s the story of Facebook abdicating responsibility for malign activities on its platform that could affect the political fate of nations outside the United States or Western Europe. It's also the story of a junior employee wielding extraordinary moderation powers that affected millions of people without any real institutional support, and the personal torment that followed.

Was Zhang Facebook vorwirft

Wir können nicht jedes Details aus dem BuzzFeed-Bericht wiedergeben. Wer sich für das Thema interessiert, sollte die Recherche selbst lesen. Das sind die aus unserer Sicht zentralen Vorwürfe:

  • Facebook soll in mehreren Fällen großflächige, politisch motivierte Manipulationsversuche ignoriert haben, obwohl Zhang intern wiederholt darauf aufmerksam gemacht habe.
  • Als Beispiele nennt Zhang unter anderem Honduras, Aserbeidschan, Bolivien, Ecuador, Indien und die Ukraine. In Honduras habe Facebook etwa neun Monate gebraucht, um ein Netzwerk aus Tausenden Bots und Fake-Accounts zu entfernen, die Stimmung für Präsident Juan Orlando Hernandez gemacht hätten.
  • Zhang zufolge habe Facebook in erster Linie die USA und Europa im Blick. Was abseits dieser Kernmärkte geschehe, kümmere kaum jemanden.
  • Sie habe allein entscheiden müssen, wie mit Präsidentïnnen und prominenten Politikerïnnen umgegangen werden soll, ohne dass ein weiterer Facebook-Angestellter die Maßnahmen geprüft habe.
  • Das Integrity-Team sei unterbesetzt und habe viel zu wenig Ressourcen, um sich um alle Probleme zu kümmern, die eine Plattform von Facebooks Größe fast zwangsläufig mit sich bringt.
  • Die Abteilung priorisiere großangelegte Spam-Attacken und übersehe oft, dass auch kleinere Manipulationskampagnen großen gesellschaftlichen Schaden anrichteten.
  • Zhang hat den Eindruck, ihre Wortmeldungen wurden intern ignoriert, wenn sie die dafür vorgesehen Reporting-Kanäle nutzte. Um Druck aufzubauen, musste sie die Probleme angeblich auf Workplace posten, Facebooks internem Board, auf das alle Angestellten zugreifen können.
  • Ihre Meinungen seien nicht respektiert worden, solange sie sich nicht "wie ein arrogantes Arschloch" aufgeführt habe, schreibt Zhang.
  • Facebook reagiere in erster Linie auf öffentlichen Druck und negative Schlagzeilen in großen US-Medien wie der New York Times oder der Washington Post. Der Konzern sei vor allem um sein Image besorgt. Oft werde nicht proaktiv, sonder reaktiv gehandelt – und zwar erst dann, wenn Journalistïnnen auf ein Problem aufmerksam machten.
  • Wichtig ist aber auch, dass sie Facebook ausdrücklich keinen bösen Willen oder bewusste Ignoranz unterstellt. Eine Mischung aus ihrer Meinung nach falschen Prioritäten und mangelnden Ressourcen habe dazu geführt, dass viele Missstände zu lange ungelöst geblieben seien.
  • Auf Außenstehende wirke Facebook mächtig und kompetent. Tatsächlich seien viele Maßnahmen "schludrig und planlos". Unerfahrene Angestellte hätten zu viel Entscheidungsgewalt und Verantwortung, insbesondere wenn sie für den globalen Süden zuständig seien.

Was Facebook dazu sagt

Wir haben Facebook unter anderem gefragt, ob es die Vorwürfe von Zhang dementiert oder kommentiert. Eine Sprecherin schickte uns das Statemen, das auch BuzzFeed zitiert:

We’ve built specialized teams, working with leading experts, to stop bad actors from abusing our systems, resulting in the removal of more than 100 networks for coordinated inauthentic behavior. It’s highly involved work that these teams do as their full-time remit. Working against coordinated inauthentic behavior is our priority, but we’re also addressing the problems of spam and fake engagement. We investigate each issue carefully, including those that Ms. Zhang raises, before we take action or go out and make claims publicly as a company.

Einerseits ist es verständlich, dass Facebook nichts zu den konkreten Vorwürfen sagen will, bevor sie die Angelegenheit geprüft haben. Andererseits sind wir uns sicher, dass Facebook die teils recht spezifischen Anschuldigungen dementiert hätte, wenn Zhangs Darstellung gar keine Faktengrundlage hätte.

Intern sagt Facebook, es sei nicht Zhangs primäre Aufgabe gewesen, sich um Manipulationsversuche, Bots und Fake-Accounts zu kümmern. Ryan Mac, einer der drei BuzzFeed-Reporter, zeigt den Screenshot einer Nachricht an Angestellte (Twitter), in der ein Mitarbeiter des Kommunikationsteams unterschwellig Zweifel an Zhangs Kompetenz und Urteilskraft schürt: "(…) what she believed to be coordinated inauthentic behavior".

In der Vergangenheit veröffentlichte Facebook in solchen Fällen oft Richtigstellungen, etwa wenn es Recherchen von Medien wie der NYT oder des WSJ für falsch hielt. Dass dieser Widerspruch bislang ausgeblieben ist, mag daran liegen, dass es in diesem Fall um eine ehemalige Mitarbeiterin geht. Vielleicht treffen Zhangs Vorwürfe aber auch einfach zu, sodass es zumindest inhaltlich nichts Substanzielles zu dementieren gibt.

Was wir (nicht) wissen

Zhang will ihr Memo selbst nicht weiter kommentieren – verständlich, schließlich hatte sie das Posting nur intern veröffentlicht und wohl nicht mit der öffentlichen Aufmerksamkeit gerechnet. Wir können zwar nicht mit letzter Sicherheit sagen, wer das Memo an die Presse weitergegeben hat. Unseren Informationen nach war sie es aber nicht selbst.

Wir haben mit vier Personen gesprochen, von denen zwei früher und zwei nach wie vor bei Facebook arbeiten. Eine davon kennt Zhang persönlich und hatte beruflich zumindest Schnittmengen. Allerdings hat niemand eng genug mit ihr zusammengearbeitet, um ihre Vorwürfe im Detail zu beurteilen.

Grundsätzlich halten aber alle vier Personen die Darstellung für durchaus glaubwürdig. Sie teilen Zhangs Eindruck, dass Facebooks Hauptaugenmerkt auf den USA und Europa liegt. Das deckt sich mit früheren Erfahrungen. Facebook hat sich etwa für die Rolle entschuldigt, die die Plattform bei Menschenrechtsverletzungen in Ländern wie Myanmar, Sri Lanka und Kambodscha spielte.

In Ausgabe #638 schrieben wir dazu:

Das US-Unternehmen Facebook hat lange zu wenig darauf geachtet, wie Menschen in Schwellen- und Entwicklungsländern seine Dienste nutzen. Diese blinden Flecken haben dazu geführt, dass Extremistïnnen offen zu Gewalt aufrufen konnten.

Dieser Eindruck scheint sich zu bestätigen. Auch unsere Informantïnnen betonen aber, dass es nicht um bewusstes Wegschauen gehe. Im Integrity-Team arbeiten demnach mehrere hundert Menschen, die

nach bestem Wissen und Gewissen versuchten, den Missbrauch der Plattform zu verhindern. Dass dies nicht immer gelinge, sei eine Frage von Kapazitäten und Prioritäten.

Be smart

Bis 2014 lautete Facebooks Unternehmensmotto: "Move fast and break things". Manchmal wirkt es so, als handle Facebook immer noch so. Wachstum genießt höchste Priorität, um die Risiken und Nebenwirkungen kümmern sich nur wenige Angestellte.

In jedem Land, das wirtschaftlich auch nur ansatzweise interessant ist, gibt es eine Abteilung für Sales und Marketing. Die Integrity-Teams sind schmückendes Beiwerk, insbesondere wenn es um Länder geht, die geografisch und kulturell weit von Kalifornien entfernt sind.

Natürlich ist die US-Wahl wichtig, und es ist nachvollziehbar, dass Facebook seine Ressourcen derzeit darauf konzentriert. In diesem Zuge scheinen aber andere Regionen aus dem Blickfeld zu geraten, was Missbrauch und Manipulationsversuche begünstigt.

Für eine globale Plattform, die allein im vergangenen Quartal mehr als fünf Milliarden Dollar verdient hat (Facebook Investor Relations), ist das ein Armutszeugnis. Das Portal "Rest of World" (gegründet von Sophie Schmidt, der Tochter des Ex-Google-Chefs Eric Schmidt) sammelt Tech-Geschichten aus den Teilen der Welt, die normalerweise "übersehen und unterschätzt" werden. Facebook könnte etwas davon lernen.

Tech goes Klimaschutz: mehr als nur PR?

Was ist

Facebook und Google wollen ihren CO2-Fußabdruck auf null reduzieren:

  • Facebook arbeitet bereits in diesem Jahr CO2-neutral und zu 100 Prozent mit erneuerbaren Energien. Bis 2030 soll das für die gesamte Wertschöpfungskette inklusive Zulieferern und Dienstreisen gelten. (Ankündigung)
  • Google verfolgt ähnliche Ziele und ist sukzessive dabei, den CO2-Ausstoß aus den Anfangsjahren zu kompensieren. Demnach hat das Unternehmen nun rückwirkenden alle klimaschädlichen Emissionen seit seit Gründung 1998 ausgeglichen. (Ankündigung)
  • Zuvor hatten sich Anfang des Jahres bereits Microsoft und im Juli Apple zur Klimaneutralität bis 2030 verpflichtet.

Warum das wichtig ist

Wer zwei Juristïnnen fragt, bekommt oft drei Meinungen zu hören. Wer 100 Klimaforscherïnnen fragt, bekommt eine Meinung zu hören: Klimakrise und globale Erhitzung sind real – und eine der existenziellsten Bedrohungen für unseren Planeten und damit auch für die Menschheit. Im Vergleich zu Branchen wie den Automobilherstellern oder der Ölindustrie dürfte das Silicon Valley keinen allzu großen Beitrag dazu leisten – doch je mehr große Unternehmen die Klimakrise ernst nehmen und Gegenmaßnahmen einleiten, desto besser.

Was davon zu halten ist

Die Ankündigungen klingen spektakulär, man muss aber genau hinsehen. Wenn Google etwa sagt, dass es sämtliche CO2-Emissionen seiner Unternehmensgeschichte kompensiert habe, schwingt auch viel PR mit, schreibt etwa der Umweltjournalist Roger Harrabin (BBC):

But the claim to have "offset" all of Google's historical carbon "debt" needs scrutiny. The company tells me its offsets so far have focused mainly on capturing natural gas where it's escaping from pig farms and landfill sites. But arguably governments should be ensuring this happens anyway.

Google says it's also monitoring the debate about so-called Nature Based Solutions, which involve activities such as planting trees to capture CO2. But the science on this is still contested. And any firm wanting to lock up its emissions in trees would need to make sure they're never dug up, or burned down.

Noch umstrittener ist die Selbstverpflichtung von Facebook. Das liegt nicht an den selbst gesteckten Zielen. Vielmehr konterkarieren Facebooks Taten teils die hehren Worte:

  • In Tierra Del Mar im US-Bundestaat Oregon wollte Facebook Unterseekabel verlegen und nahm dabei offenbar wenig Rücksicht auf die Natur (Input). Nachdem das Projekt abgebrochen wurde, blieben mehr als drei Kilometer Rohre und Zehntausende Liter Bohrflüssigkeit unter dem Meeresboden zurück (Oregonian).
  • Auch das Klima-Informationszentrum, das Facebook nun ähnlich wie das Covid-19-Informationszentrum eingerichtet hat, stößt auf Kritik. Der Ansatz, Fehlinformationen mit mehr richtigen Informationen zu begegnen, sei erwiesenermaßen falsch und ineffektiv, schreibt etwa Kate Cox (Arstechnica). Facebook müsse Lügen und Falschbehauptungen konsequent löschen, ohne rechtskonservative Seiten und Medien zu schonen, die solch virale Klima-Desinformation in die Welt setzten (Popular Information).
  • Noch drastischer watscht Brian Kahn das Klima-Informationszentrum ab (Gizmodo). Er zitiert Klimaforscherïnnen und Aktivistïnnen, die Facebooks Handlungsempfehlungen für unzureichend halten.

Be smart

Ein Teil der Kritik ist sicher berechtigt. Insbesondere Facebooks Umgang mit Klimalügen auf der eigenen Plattform war lange Zeit eher Teil des Problems als Teil der Lösung.

Das Informationszentrum mag manchen nicht weit genug gehen, ist unserer Ansicht nach aber zumindest ein (kleiner) Schritt in die richtige Richtung. Niederschwellige Handlungsempfehlungen sind oft besser als dystopische Warnungen und radikale Aufforderungen zur Verhaltensänderung, die viele Menschen ab- und verschrecken.

Wenn mit Microsoft, Apple, Google und Facebook vier der fünf Big-Tech-Konzerne (looking at you, Amazon) bis 2030 komplett klimaneutral werden wollen, ist das auf jeden Fall ein wichtiges Signal. Glaubt man Lisa Jackson (The Pioneer), die bei Apple für Umweltthemen zuständig ist, handelt es sich auch nicht um eine PR-Maßnahme, sondern liege um Interesse der Unternehmen:

Im Kern ist Klimaneutralität ein Investment in unsere Zukunft, das auch finanzielle Gewinne ergibt. Niemand bittet hier um Spenden.

Social Media & Journalismus

  • Die New York Times & Facebook sind eine mehrjährige Partnerschaft (Axios) eingegangen, um gemeinsam Augmented-Reality-Filter und -Effekte für Instagram zu entwickeln. Das Ziel: Journalismus via Instagram erlebbar machen. Ein erstes Beispiel: Nutzerïnnen können über einen von der New York Times entwickelten Filter erfahren, wie stark die Luftverschmutzung in einigen Städten während des Corona-Lockdowns zurückgegangen ist. Spannend!

Neue Features bei den Plattformen

Facebook

  • Facebook Business Suite: Facebook hat eine neue App vorgestellt, die es kleinen Unternehmen erleichtern soll, ihre Pages & Accounts, die sie bei Facebook, Instagram und Messenger haben, von einem einzigen Ort aus zu verwalten: Facebook Business Suite ermöglicht es, Posts sowohl für Facebook als auch für Instagram zu entwerfen, Statistiken anzuzeigen und Ads zu erstellen.

Twitter

  • Audio-Direktnachrichten: Es sieht ganz danach aus, als könnte Twitter bald Audio-Direktnachrichten einführen (Twitter / Matt Navarra). In Brasilien wird die Funktion aktuell getestet. Nun ja.

One more thing

Auf der Suche nach der nächsten Plattform: Facebook hat diese Woche eine Reihe neuer Produkte und Anwendungen vorgestellt, die Facebooks Ambitionen in Sachen AR und VR untermauern sollen. Wir hatten leider noch keine Zeit, uns ausführlicher mit Project Aria und Co zu beschäftigen. Das tun wir aber gern nächste Woche. In der Zwischenzeit erfreuen wir uns noch einmal an dieser Ikone.

Header-Foto von Jana Shnipelson bei Unsplash