Unabhängiger Civil-Rights-Audit: Facebook fällt durch

 

Was ist

Facebook steht gewaltig unter Druck:

  • Die Initiatorïnnen von #StopHateforProfit haben sich mit der Facebook-Führungsriege getroffen. Ihr Fazit fällt vernichtend aus.

  • Facebook hat einen Civil-Rights-Audit veröffentlicht, an dem unabhängige Expertïnnen mehr als zwei Jahre gearbeitet haben. Ihr Fazit fällt vernichtend aus.

 

Warum das wichtig ist

In Briefing #638 haben wir erklärt, warum Facebook sich selbst über den Kopf gewachsen ist, weil es die Risiken und Nebenwirkungen seiner eigenen Größe kaum noch kontrollieren kann. Die aktuellen Entwicklungen sind zwangsläufige Folgeerscheinungen: Wenn eine Plattform, die 2,5 Milliarden Menschen vernetzt, in 95 von 100 Fällen richtig entscheidet, macht sie immer noch viele Fehler – verdammt viele Fehler.

Facebook-Manager Nick Clegg sagt (Facebook-Newsroom): „It is worth remembering that the vast majority of those billions of conversations are positive.” Das mag zutreffen, aber es bleiben immer noch jede Menge Inhalte übrig, die alles andere als positiv sind: Hass, Rassismus, Antisemitismus.

Zumal Facebook der Gesellschaft eben nicht nur einen Spiegel vorhält, wie es selbst immer wieder beteuert. Seine Algorithmen verstärken negative Emotionen und spielen Extremistïnnen in die Hände (OneZero). Gepaart mit dem Freifahrtschein für den US-Präsidenten ergibt das eine bisweilen toxische Mischung.

 

Wie sich das auf Facebook auswirkt

Wut und Hass haben Konsequenzen – auch für Facebook: Der Werbeboykott (mehr dazu in Briefing #649 und #650) weitet sich aus. Das mag den kurzfristigen Gewinn kaum schmälern, dem Ruf schadet es aber sehr wohl. „Facebook muss komplett umdenken”, sagt etwa Ryan Gellert (SZ), Europa Chef von Patagonia.

Zumindest öffentlich erkennt das nun auch Facebook selbst an. Während Zuckerberg vergangene Woche bei einem internen Meeting noch sagte, die Werbekunden würden „bald genug” wieder zurückkommen (The Information), klingt das bei Europa-Chefin Angelika Gifford mittlerweile anders (Handelsblatt):

"Ich weiß nicht, ob er das so gesagt hat. Ich versichere aber: Wir sind innerhalb des Unternehmens sehr, sehr alarmiert. Jeder von uns."

Gifford deutet an, dass Zuckerberg heute womöglich anders mit Trumps Drohungen („When the looting starts, the shooting starts”) umginge:

"Müsste er noch mal entscheiden, würde er den Beitrag vielleicht online lassen, aber darauf hinweisen, dass er gegen unsere Standards verstößt."

Ende Juni hatte ein Sprecher noch gesagt (Washington Post), Facebooks neue Richtlinien wirkten sich nicht auf Trumps Beitrag aus. Der Umgang mit den Beiträgen des US-Präsidenten stand dann auch im Zentrum der zwei Ereignisse, die wir in diesem Briefing näher beleuchten:

 

Das Treffen mit #StopHateforProfit

Am Dienstag haben sich Mark Zuckerberg, Sheryl Sandberg, Chris Cox, Nick Clegg und weitere Facebook-Managerïnnen mit Bürgerrechtlerïnnen getroffen, die hinter dem Werbeboykott stecken, dem sich mittlerweile mehr als 1000 Unternehmen angeschlossen haben. In einem Zoom(!)-Meeting (NYT) sprachen sie mehr als eine Stunde über die zehn Anliegen der Initiatiorïnnen (Stop Hate for Profit).

Wenn man Facebook Glauben schenkt, war es ein produktiver Austausch (Axios):

"This meeting was an opportunity for us to hear from the campaign organizers and reaffirm our commitment to combating hate on our platform. They want Facebook to be free of hate speech and so do we. That's why it's so important that we work to get this right. We know we will be judged by our actions not by our words and are grateful to these groups and many others for their continued engagement."

Die Reaktionen der Gegenseite vermitteln einen anderen Eindruck:

  • Jessica J. González, Free Press: „#StopHateForProfit didn’t hear anything today to convince us that Zuckerberg and his colleagues are taking actions. (…). I’m deeply disappointed that Facebook still refuses to hold itself accountable.”

  • Rashad Robinson, Color of Change: „It’s so frustrating. We are doing a lot of work for a multibillion-dollar company and it’s just always dispiriting we have to do this for them because they won’t do it for themselves.”

  • Jonathan Greenblatt, Anti-Defamation-League: „We know there's a lot of good and well-intentioned people at Facebook, but the company is intentionally flawed.”

  • Derrick Johnson, NAACP: „For the past two years, we've watched conversations blossom into nothingness. No media outlet would allow what Facebook is allowing on its platform.”

Wer mehr über die Motive und Erwartungshaltungen der Organisatorïnnen wissen will, sollte zwei Interviews lesen, die Robinson vor (Guardian) und nach (NYT) dem Treffen gegeben hat. Unter anderem erklärt er, warum der Boykott wirkt, auch wenn er sich wohl kaum in Facebooks Quartalszahlen niederschlagen wird:

"I do think that the cultural significance of so many big brands stepping away is huge. Facebook cannot just credit this to crazy outside activists, because you can’t really call Unilever and Coca-Cola crazy outsiders."

Im Gegensatz zu vielen Kritikerïnnen bemüht er sich um Differenzierung und erkennt durchaus an, dass die Menschen, die Facebook leiten, keine bösen Absichten haben:

"I think Facebook’s heart is in the right place sometimes. But their heart doesn’t make decisions inside the corporation. (…) I like Sheryl and I feel like a lot of the attacks on her are gendered. She is earnest, personable, smart."

Für Robinson ist eines der zentralen Probleme die Organisationsstruktur von Facebook, die alle Entscheidungsgewalt in einer Person bündelt:

"With Mark there are moments when he just doesn’t understand something around the implications of race. This is why a single person shouldn’t control something that’s talked about as a public square. He’ll always have deep blind spots."

Wenn Zuckerberg nicht freiwillig abtritt, wird sich daran auch nichts ändern. Seine Aktien sichern ihm nahezu uneingeschränkte Kontrolle. Doch es gibt zumindest Ansätze, Facebook stärker für externe Meinungen zu öffnen, etwa das Oversight-Board, das wir in den Ausgaben #580 und #638 vorgestellt haben.

Das wird allerdings noch eine Weile auf sich warten lassen: (Twitter / @OversightBoard):

"We understand many people are eager for the Board to officially begin our task of providing independent oversight of Facebook’s content decisions. We share this urgency, but the Board won’t be operational until late Fall."

Das ist ungünstig: Anfang November wird in den USA gewählt. Wenn man die vergangenen Wochen betrachtet, dürfte Facebook in den kommenden Monaten noch eine Menge kniffliger inhaltlicher Entscheidungen treffen müssen. Das Gremium hätte dabei helfen können.

 

Der Civil-Rights-Audit

Mehr als zwei Jahre haben die Menschenrechtsexpertinnen Laura Murphy und Megan Cacace untersucht, ob Facebook genug unternimmt, um seine Nutzerïnnen vor Hass und Rassismus zu schützen, politische Wahlen abzusichern, Privatsphäre zu gewährleisten und Missbrauch zu verhindern. Sie haben mehr als 100 Organisationen, Hunderte Einzelpersonen und etliche Kongressmitglieder befragt.

Nach Updates im Dezember 2018 und Juni 2019 hat Facebook nun den endgültigen Bericht veröffentlicht (jeweils Facebook-Newsroom). Eines muss man Facebook auf jeden Fall zugute halten: Es hat die Untersuchung selbst in Auftrag gegeben und den beiden Autorinnen freie Hand gelassen: Das 89-seitige Dokument (PDF) ist schonungslos und in seiner Kritik teils drastisch.

Ausführlichere Analysen finden sich etwa in den Newslettern von Judd Legum (Popular Information) und Casey Newton (Revue). Den wohl besten Überblick gibt Recode, das fünf zentrale Kritikpunkte zusammenfasst:

  1. Die Ausnahmen, die Facebook für Trump gemacht hat, seien gefährlich. Mehrere Beiträge des US-Präsidenten verstießen eindeutig gegen Facebooks Richtlinien. Ihm freie Hand zu lassen, schüre Rassismus und könne zu Gewalt führen.

  2. Redefreiheit dürfe nicht das höchste Gut sein – zumal Facebook in erster Linie mächtigen Politikerïnnen eine Bühne gebe, deren Beiträge und Anzeigen es anders behandelt.

  3. Obwohl Facebook immer wieder vereinzelt rechtsradikale Seiten und Gruppen lösche, florierten Menschenfeindlichkeit und Hass. Unabhängige Wissenschaftlerïnnen könnten das Problem nicht erforschen, weil sie keinen ausreichenden Zugang zu internen Daten erhalten.

  4. Dabei habe die Corona-Pandemie gezeigt, dass Facebook durchaus in der Lage ist, konsequent gegen problematische Inhalte vorzugehen. Facebook selbst sagt, dass die Entscheidung bei wissenschaftlichen Themen, bei denen es eindeutig richtige und falsche Aussagen gebe, leichter falle. Der Bericht fordert, dass Facebook diese Entschlossenheit auch auf bestimmte politische Inhalte übertragen muss, bei denen die schädlichen Auswirkungen genauso eindeutig seien.

  5. Facebook solle eine Person einstellen, die für Menschenrechte zuständig ist. Es müsse eine Position im Top-Management mit echter, unabhängiger Entscheidungskompetenz und einem eigenen Team sein.

Die Reaktionen von Sheryl Sandberg auf die beiden Zwischenberichte und den Abschlussbericht ähneln sich:

  • „We know that we need to do more: to listen, look deeper and take action to respect fundamental rights.” (2018)

  • „Today’s report gives another update on our progress and points out where we need to do more.” (2019)

  • „We have a long way to go – but we are making progress.”

Erst im vergangenen Briefing haben wir Charly Warzel zitiert, der sich über die immergleichen Floskeln der Tech-Managerinnen mokierte (NYT):

"We Know We Have More Work to Do (let’s call it W.K.W.H.M.W.T.D. for short) is the definitive utterance of the social media era."

Sandberg verweist aber zurecht darauf, dass Facebook eine Menge Fortschritte gemacht und wichtige Reformen angestoßen habe. Der gute Wille ist erkennbar. Nur sind die Autorinnen des Berichts eben überzeugt, dass diese fast immer rein reaktiven Einzelmaßnahmen bei Weitem nicht ausreichen, um die negativen Auswirkungen der Plattform in den Griff zu bekommen.

 

Be smart

Der Bericht dreht sich auf 89 Seiten nur um Facebook, die blaue App, und beschäftigt sich vorrangig mit den USA. Menschenrechte sind aber ein globales Thema (Techonomy) – und Facebook besteht nicht nur aus einer, sondern aus drei riesigen Kommunikationsplattformen.

Offenbar arbeitet Facebook weiter mit Hochdruck daran (WABetaInfo), den Messenger, WhatsApp und Instagram auf eine gemeinsame technische Grundlage zu stellen. Der Trend geht weg vom Newsfeed, hin zu privaten Gruppen und Messengern, die von außen nicht einsehbar sind. Unabhängige Untersuchungen und Moderation von Inhalten werden damit noch schwerer.

Ende Juli werden Jeff Bezos, Tim Cook, Sundar Pichai und Mark Zuckerberg vor dem Kongress aussagen müssen. Der Justizausschuss prüft, ob wenige Unternehmen zu viel Macht im digitalen Raum haben. Das dürfte Facebook deutliche größere Sorgen bereiten als ein Menschenrechtsbericht.

Follow the money

  • Twitter Subscription Service: Twitter scheint darüber nachzudenken, die Plattform (oder zumindest Teile davon) zu einem Bezahlangebot umzuwandeln. The Verge berichtet von Job-Angeboten, die darauf hindeuten. Twitter selbst hat sich noch nicht geäußert, das entsprechende Job-Angebot aber neu formuliert – der Hinweis auf ein Bezahlangebot ist darin nun nicht mehr zu finden. Spannend!

  • WhatsApp & Businesses: Es ist ja bereits seit längerem ein erklärtes Ziel, WhatsApp stärker für Business-Partner zu öffnen. Jetzt geht das Unternehmen die nächsten vorsichtigen Schritte und führt QR-Codes für Geschäfte (Facebook Newsroom) ein. Techcrunch schreibt:

"Instead of manually entering a business phone number, you can scan a QR code from a receipt, a business display at the storefront, a product or even posted on the web, in order to connect with the company. Businesses that are using these can also set up welcome messages to start conversations once they’ve been added by a user. (They will have to use the WhatsApp Business app or the WhatsApp Business API to do this, of course.)"

Schon einmal im Briefing davon gelesen

  • Digitale Souveränität: Wir verfolgen beim Watchblog schon lange die These, dass wir bei all den Tools und Apps, die uns im digitalen Raum zur Verfügung stehen, erst ganz am Anfang stehen. Wir lernen erst, damit umzugehen. Wir beginnen erst zu verstehen, wie sie Gesellschaft, Politik, Wissenschaft und Wirtschaft verändern. Alle sind daher in der Pflicht, sich die Frage zu stellen, wie ein souveräner Umgang mit ihnen aussehen könnte. Umso erfreulicher ist es, wenn auch die Unternehmen selbst diese Pflicht erkennen: Facebook startet in Indien ein Programm, um Schülern „digital safety“ und „only well-being“ näher zu bringen (Techcrunch). Natürlich wird das auf eine Art auch Facebook-gebrandet passieren. Aber solche Vorstöße sind uns tausendmal lieber als sich lediglich darum zu scheren, Marketing-Verbindungsoffiziere in jedem Winkel dieser Erde zu stationieren.

  • TikTok is all about dancing? Nope. Es gibt auch User, die interpretieren TikTok eher als eine Art Best-of-Pinterest (Vox). Sehr artsy und smart.

  • Twitter Summer Camp: Um den Kids der Angestellen auch in Corona-Zeiten eine Art Summer Camp bieten zu können, startet Twitter ein Online-Ferienlager (hrexecutive).

"Classes focused on topics of parents’ choice, as well as activities like cooking lessons, yoga classes and music sessions, are among the offerings in the program"

  • Festival bei Minecraft: In unserem jüngsten Deep Dive zu TikTok hatten wir darauf hingewiesen, dass die App nicht das einzige Phänomen ist, das die etablierten Social-Media-Plattformen unter Druck setzt. Auch Online-Games werden immer stärker zu Orten der Begegnung und damit zu einer neuen Form sozialer Netzwerke. Graduierungspartys in Minecraft (Wired) und virtuelle Konzerte in Fortnite (Tobias van Schneider) sind gute Beispiele für diese Entwicklung. Das Rave Family Block Fest setzt dem Trend jetzt die Krone auf: Ein dreitägiges EDM-Festival mit über 900 Musikern auf 85 Bühnen – darunter Deadmau5, Maya Jane Coles und Steve Aoki. Tickets für das Event kosten 10 Dollar und können über Eventbrite erworben werden. Wie das alles funktioniert, erklären euch entweder eure Kids oder die Festival-Website: rave.family!

Empfehlungen fürs Wochenende

  • Eine polnische Firma schafft gerade unsere Anonymität ab: Sebastian Meineck und Daniel Laufer zeigen bei netzpolitik das Missbrauchspotenzial von PimEyes, einer kostenlosen Suchmaschine für 900 Millionen Gesichter. Alle, von denen es Fotos im Internet gibt, könnten schon Teil ihrer Datenbank sein. Spannend und gruselig zugleich.

  • Schaut überhaupt jemand Quibi? Wir haben in unserem Newsletter den Launch von Quibi von Anfang an begleitet. Dass die Video-App nach so viel Hype einen so schlechten Start hinlegen würde, hatten wir nicht erwartet. Wer sich noch einmal in aller Ruhe mit der Geschichte von Quibi vertraut machen möchte, sollte diesen Vulture-Longread lesen: Is Anyone Watching Quibi? Im Kern geht es um die Frage, wie ein Startup, das mit so viel Geld ausgestattet wurde, so grandios vor die Wand fahren konnte:

"In market research following its Oscars and Super Bowl ads, 70 percent of respondents said they thought Quibi was a food-delivery service"

🤭

Neue Features bei den Plattformen

Instagram

  • Pinned Comments: In Ausgabe #637 hatten wir erstmalig darauf hingewiesen, dass Instagram an einem Feature bastelt, dass es ermöglicht, bestimmte Kommentare oben zu pinnen. Die Idee dahinter: Gepinnte Kommentare sollen zeigen, welcher Ton erwünscht ist. Jetzt ist das Feature bald für alle verfügbar (The Verge).

Tinder

One more thing

Wenn es der US-Präsident nicht hinbekommt, dann muss sich Facebook halt kümmern, oder was?! Alles so verrückt.

Header-Foto von Jeppe Mønster bei Unsplash