Was ist

In den vergangenen Tagen haben die großen Tech-Plattformen reihenweise rassistische, rechtsradikale und gewaltverherrlichende Kanäle, Gruppen, Seiten und Konten verbannt. Auch der Twitch-Account von Donald Trump wurde vorübergehend gesperrt (wobei man durchaus der Meinung sein kann, dass mindestens zwei der Adjektive auch auf den US-Präsidenten zutreffen, sodass er gar nicht einzeln aufgezählt werden müsste).

Wer wen gekickt hat

Ganz aktuell:

• Twitter hat Konten der rechtsextremen Identitären Bewegung gesperrt. Facebook und Instagram haben bereits vor zwei Jahren durchgegriffen.

• Verfassungsschutz-Präsident Thomas Haldenwang hatte kurz zuvor explizit vor der Gefahr der sogenannten Neuen Rechten gewarnt und sie als „Superspreader von Hass und Gewalt“ (SZ) bezeichnet.

• Die Sperrung der Twitter-Profile sei für die Identitäre Bewegung „ein erheblicher Einschnitt“, sagt Extremismusforscher Jakob Guhl (DLF) vom Londoner Institute for Strategic Dialogue.

• „Der Versuch der Identitären Bewegung, rechtsextreme Positionen mit einem bürgerlichen Anstrich zu tarnen, ist gescheitert“, sagt Miro Dittrich (ZDF) von der Amadeu-Antonio-Stiftung.

• Neben deutschen Extremistïnnen wurden auch Ableger in Italien und Dänemark verbannt, außerdem die rechtsradikale belgische Studierendenorganisation Schild en Vrienden (Politico).

Von vergangener Woche (auch schon in Briefing #651 zu lesen)

• Reddit hat r/The_Donald, r/ChapoTrapHouse und rund 2000 weitere rassistische und extremistische Subreddits dicht gemacht (The Verge).

• Twitch hat den Account von Trump vorübergehend verbannt (Heise).

• Facebook hat Hunderte Konten, Seiten und Gruppen gelöscht (NYT), die mit der gewaltverherrlichenden Boogaloo-Bewegung in Zusammenhang standen.

• YouTube hat sechs rechtsextreme Kanäle gelöscht (Spiegel).

Warum das wichtig ist

In einer Telefonkonferenz mit Journalistïnnen sagte Reddit-Chef Steve Huffman:

„I have to admit that I’ve struggled with balancing my values as an American, and around free speech and free expression, with my values and the company’s values around common human decency.“

Dieses Zitat beschreibt das Dilemma, in dem Facebook, YouTube, Twitter, Reddit und andere Unternehmen stecken. Genauer gesagt: das Dilemma, in dem sie glauben zu stecken. Denn tatsächlich hat vieles von dem, was die Plattformen jahrelang stillschweigend duldeten, nichts mit Meinungs- oder Redefreheit zu tun. Kein Mensch der Welt hat ein Anrecht darauf, dass ihm jedes private Unternehmen ein Mikrofon unter die Nase hält.

Huffman hat entschieden: Reddit soll keine Plattform für Hass und Menschenfeindlichkeit mehr sein. Isoliert betrachtet wäre das nur der überfällige Sinneswandel eines jungen Gründers, der allmählich erwachsen wird. Doch wenn binnen einer Woche fünf Großkonzerne ähnliche Entscheidungen treffen, steht das für mehr.

„Goodbye to the Wild Wild Web“, verabschiedet Kevin Roose (NYT) die Ära der nahezu unbeschränkten Redefreiheit:

„But arriving all at once, they felt like something much bigger: a sign that the Wild Wild Web — the tech industry’s decade-long experiment in unregulated growth and laissez-faire platform governance — is coming to an end. In its place, a new culture is taking shape that is more accountable, more self-aware and less willfully naïve than the one that came before it.“

Warum das gut ist

Das Wild Wild Web hat dem World Wide Web schwer geschadet. Wenige Großkonzerne haben das Sagen – und Extremistïnnen spielen Katz und Maus mit ihnen. Sie kapern die Plattformen, Pöbeln, Provozieren und loten die Grenzen des Sagbaren aus. Sie profitieren von Algorithmen, die das Laute und Schrille weiter verstärken und Nuancen und Differenzierung unsichtbar machen.

Netzwerke wie Facebook sind weder neutral noch ein Spiegel der Gesellschaft. Was auf YouTube trendet, bestimmen nicht nur die Nutzerïnnen, sondern auch YouTubes mächtige Empfehlungsmaschine. John Herrman drückt es so aus (NYT):

„YouTube isn’t so much the marketplace of ideas as a marketplace for some ideas, if those ideas work well in video format, in the context of a subscription-driven social environment consumed mostly on phones, in which compensation is determined by viewership, subject matter and potential for sponsorship.“

Es war immer ein Mythos, dass ein Minimum an Regeln (gepaart mit einem noch viel eklatanteren Defizit an Durchsetzung jener Regeln) allen die gleichen Chancen gibt, ihre Ideen und Überzeugungen zu verbreiten. Im Zeitalter der Aufmerksamkeitsökonomie gewinnt meist, wer am vehementesten meint, am lautesten schreit oder am skrupellosesten auf Andersdenkende losgeht.

Die vergangenen Jahre haben gezeigt, dass Deplatforming helfen kann, den besonders wüsten Schreihälsen dauerhaft die Bühne zu entziehen. Alex Jones und Milo Yiannopoulos haben massiv an Einfluss verloren (Vice), nachdem YouTube und Twitter ihre Kanäle und Konten dicht gemacht haben. In Briefing #614 haben wir ausführliche über eine Studie geschrieben, die unter anderem die Wirksamkeit von Deplatforming belegt.

Wenn Facebook, Twitter, YouTube, Reddit und Twitch nun durchgreifen, ist das weder Zensur, noch bedroht es die Meinungsfreiheit. Es ist ein erster von vielen nötigen Schritten, um das Wild Wild Web zu zähmen und zu entgiften.

Wie sich das Timing erklärt

Was hat sich geändert? Warum hat Reddit nach vielen Jahren entschieden, dass der Großteil der rund 800.000 Menschen, die r/The_Donald bevölkern, doch nicht harmlos ist? Warum greift Twitter ausgerechnet jetzt durch, obwohl Sellner und seine Gefolgsleute die Plattform immer wieder für ihre menschenfeindlichen Aktionen missbraucht haben?

Wir zitieren erneut John Herrman, der in erster Linie wirtschaftliche Motive sieht:

„These areas of previously unfettered growth – in far-right content, in groups with a tendency to harass and intimidate other users and in certain political circles — are, finally, more trouble than they’re worth. Maybe they alienate a platform’s own employees, making them uncomfortable or ashamed. Maybe they’ve attracted the wrong kind of attention from advertisers or even a critical mass of users.“

Das ist sicher ein Grund – aber nicht der einzige. Reddit-Chef Huffman sagt (NYT):

„We have advertisers who care about these things. But this was a decision — a series of decisions, really — to make Reddit better.“

Das ganze Interview ist absolut lesenswert. Huffman erläutert darin nachvollziehbar, welcher interne Diskussionsprozess zur Entscheidung führte und gesteht offen seine eigene Naivität ein:

„When we started Reddit 15 years ago, we didn’t ban things. And it was easy, as it is for many young people, to make statements like that because, one, I had more rigid political beliefs and, two, I lacked perspective and real-world experience.“

Was er sagt, klingt glaubwürdig. Auch Nilay Patel, der Chefredakteur von The Verge, nimmt Huffman den Idealismus ab (Twitter):

„Sometimes the answer is as simple as people looking at the thing they’ve made and deciding they would like to be more proud of it than they are.“

Es ist zu einfach, Tech-Konzerne und ihre Chefs immer nur auf finanzielle Motive oder Machtstreben zu reduzieren. Mark Zuckerberg, Jack Dorsey, Susan Wojcicki und Steve Huffman haben Werte und Überzeugungen. Natürlich wollen sie, dass ihre Produkte die Welt verbessern.

Man kann darüber streiten, ob das gelingt. Man kann den Moralkompass von Zuckerberg kritisieren, der Redefreiheit fast schon verabsolutiert. Man kann den Konzernen vorwerfen, dass ihre Handlungen oft nicht mal den eigenen Regeln entsprechen. Aber manchmal entscheiden mächtige Managerïnnen auch einfach, weil sie überzeugt sind, dass es wichtig und richtig ist – und nicht, weil das dem Aktienkurs hilft.

Wir wissen natürlich nicht, was genau in den aktuellen Fällen den Ausschlag gegeben hat. Neben Altruismus gibt es eine Reihe weiterer möglicher Gründe:

• Die Welt verändert sich rasant. Gerade die „Black Lives Matter“-Proteste haben ein neues Bewusstsein geschaffen. In diesem Klima riskieren Konzerne, die Rassistïnnen eine Bühne bieten, Nutzerïnnen und Werbekunden zu verärgern.

• Der Werbeboykott, der derzeit Facebook trifft, zeigt, dass Unternehmen bereit sind, ihre Budgets umzuverteilen. Ob bei allen moralische Überzeugungen ausschlaggebend sind, ist fraglich. Fakt ist aber, dass Aktionen wie #StopHateforProfit den öffentlichen Druck erhöhen, hasserfüllte Inhalte konsequenter zu löschen. (mehr dazu: #649)

• Auch die Angestellten der Konzerne können Druck machen: Hunderte Facebook-Mitarbeiterïnnen streikten, weil Zuckerberg ein Posting von Trump unverändert stehen ließ. Gerade im (für US-Verhältnisse) linksliberalen Silicon Valley, in dem viele große Unternehmen um die klügsten Köpfe konkurrieren, kann eine solche Haltung junge, politisch denkende Entwicklerïnnen abschrecken. (mehr dazu: #643)

• Die Corona-Pandemie hat bei den Plattformen ein Umdenken bewirkt: Es gibt Inhalte, die vielleicht nicht strafbar sind, aber doch so eindeutig gefährlich („Wassertrinken hilft gegen Covid 19“, „5G verbreitet das Virus“), dass sie gelöscht werden müssen (mehr dazu: #633). Und das gilt nicht nur für unwissenschaftlichen Unsinn, sondern auch für politische Inhalte. Forscherin Joan Donovan schreibt (Wired):

„It’s no coincidence that this newfound boldness on the part of social media companies is coming in the middle of a global pandemic. The past few months of work dealing with medical misinformation surrounding Covid-19 has taught these companies an important lesson: They must – and they can – take decisive action to control who and what is on their sites. It’s about time, and it had better be just the beginning.“

Ja, aber

Aus drei Gründen ist es zu früh für große Freude:

1. Die Ereignisse der vergangenen Woche allein bewirken kaum etwas. Sie bekommen erst dann eine größere Bedeutung, wenn sich der Trend, der sich abzuzeichnen scheint, bewahrheitet. Bis dahin bleiben es fünf Entscheidungen, die nur Symptome bekämpfen – Symptome des Wild Wild Web, das die Plattformen selbst hervorgebracht haben.
2. Viele der verbannten Extremistïnnen rufen dazu auf, sich woanders neu zu formieren. Sie ziehen sich auf Plattformen zurück, wo noch weniger moderiert wird – und wo die Öffentlichkeit noch weniger davon mitbekommt. Vor allem bei großen Accounts wirkt Deplatforming. Wenn aber die Boogaloo-Bewegung zu Telegram umzieht, ist wenig gewonnen. r/The_Donald hat sich seit Jahren auf die Sperre vorbereitet und wird alles versuchen, den harten Kern zusammenzuhalten.
3. Bei den aktuellen Fällen waren die Entscheidungen eindeutig und überfällig. Es gibt aber einen großen Graubereich. „Hass“ und „Hatespeech“ sind schwammige Begriffe. Sollen die Plattformen selbst entscheiden, wo die Grenze liegt? Wer schreibt die Regeln für das Netz, das nach dem Wild Wild Web kommt? Es braucht demokratische und juristische Kontrolle – und Institutionen wie das Facebook-Oversight-Board, das zumindest einen kleinen Teil der Entscheidungsgewalt externalisiert.

Be smart

Vergangene Woche gab es noch einen sechsten Massenban: Indien hat 59 chinesische Apps gesperrt, darunter TikTok. Jetzt erwägen auch die USA, TikTok zu verbieten (WSJ).

Vielleicht folgt auf das globale Wild Wild Web kein zivilisiertes World Wide Web – sondern ein „Splinternet“ (Future Today Institute), das Jannis Brühl heraufziehen sieht (SZ):

„Wie unter einem Brennglas zeigt sich in Hongkong, wie die sozialen Medien zu Kampfplätzen der Geopolitik geworden sind. Das soziale Web von Facebook bis Tiktok lebt von den Inhalten seiner Nutzer, seien es Fotos vom Familienausflug oder politische Parolen. Der Versuch der Staaten, diese Datenströme zu kontrollieren, verändert das Netz. Regierungen errichten digitale Mauern und sabotieren die Globalisierungsmaschine Internet.“

Was ist

Es vergeht keine Woche, ohne dass in diesem Briefing die Worte Hass, Rassismus und Menschenfeindlichkeit auftauchen. Die jüngsten Beispiele: #StopHateforProfit in Briefing #650 und das Deplatforming rechtsradikaler Kanäle, Gruppen und Subreddits durch YouTube, Facebook, Twitch und Reddit in Briefing #651.

Das ist traurig, denn eigentlich schreiben wir über soziale Medien. Doch zumindest in der öffentlichen Wahrnehmung überwiegen die negativen Folgeerscheinungen die positiven Effekte – die es zweifellos gibt. Social Media vernetzen Menschen auf der ganzen Welt und geben Leuten eine Stimme, die lange nicht gehört wurden, wie etwa #MeToo und #BlackLivesMatter zeigen.

Was das bedeutet

Das Potenzial, das soziale Netzwerke haben, ist groß. Die Realität zeichnet ein anderes Bild. Doch statt abzubilden und zu beklagen, was ist, wollen wir an dieser Stelle einen konstruktiven Blick auf Social Media werfen: Wir sammeln Vorschläge, was Plattformen, Politik und Nutzerïnnen tun könnten, damit kulturpessimistische Feuilletonistïnnen nicht mehr halbironisch von "sogenannten sozialen Medien" schreiben müssen.

Woher die Idee kommt

Unabhängig voneinander haben mehrere kluge Menschen in den vergangenen Tagen Texte veröffentlicht, die sich damit beschäftigen, wie soziale Netzwerke kleinteilig verbessert, grundlegend reformiert oder komplett neu gedacht werden könnten – auch wenn die Überschriften nicht alle danach aussehen:

1. Nick Punt: „De-escalating Social Media” (nickpunt.com)
2. Shira Ovice: „Bogus Ideas Have Superspreaders, Too” (NYT)
3. Charlie Warzel: „Facebook Can’t Be Reformed” (NYT)
4. Will Oremus: „What a Better Social Network Would Look Like” (OneZero)

Punt und Ovide machen konkrete und operationalisierbare Vorschläge. Warzel und Oremus aggregieren jeweils Ideen, die teils unrealistisch bis utopisch anmuten. Nummer 1 und 2 behandeln wir separat, die beiden anderen bündeln wir, da sie inhaltlich zusammenhängen. Wir haben alle vier Texte mit Gewinn gelesen und empfehlen sie weiter.

1. Twitter Mea Culpa

Die Ausgangsthese von Nick Punt lautet: "Social media has a conflict problem." Aus unterschiedlichen Gründen, die er nachvollziehbar herleitet, fällt es vielen Menschen in sozialen Netzwerken besonders schwer zuzugeben, dass sie im Unrecht sind und einen Fehler gemacht haben.

Eines der größten Probleme: Wenn einen Hunderte Menschen auf einmal teils aggressiv zurechtweisen, sinkt die Bereitschaft zur Selbstkritik massiv. Auf Twitter gibt es nur drei Optionen:

1. Die Antworten ignorieren
2. Den Tweet löschen
3. Den Tweet online lassen und eine Korrektur posten

Nichts davon ist wirklich zielführend. Deshalb schlägt Punt eine neue Funktion vor – Twitter Mea Culpa:

"Twitter Mea Culpa is a way for a poster to flag their tweet as a mistake and de-escalate a situation, using the same action menu that deleting a post uses, and the same visual design as flagged tweets."

Wer auf diese Art eingesteht, einen Fehler gemacht zu haben, schränkt die Reichweite seines Ursprungstweets ein und verhindert weitere direkte Antworten. Der Tweet bleibt aber online und kann zitiert werden.

In seinem Gedankenspiel wägt Punt weitere Optionen ab (die Möglichkeit, ein Follow-up zu verschicken oder eine Funktion, mit der andere Nutzerïnnen Vergebung signalisieren können), beleuchtet mögliche Schattenseiten (etwa den Missbrauch durch Trolle) und erklärt, warum eine Mea-Culpa-Möglichkeit besser wäre als ein Edit-Button, den Twitter (aus durchaus nachvollziehbaren Gründen) ablehnt.

Unsere Einschätzung: Ein Twitter Mea Culpa verändert garantiert nicht die Welt – und vermutlich auch Twitter nur geringfügig. Dafür ließe sich die Idee wohl relativ einfach umsetzen, könnte Nutzerïnnen in bestimmen Situation unangenehme Erfahrungen ersparen und Twitter zu einem etwas angenehmeren Ort machen. R U Listening, Jack?

2. Aus großer Reichweite folgt große Verantwortung

Shira Ovide beschreibt den Status Quo:

"If the Rock encouraged his 58 million Facebook followers to vandalize a fast-food restaurant, Facebook’s policies would treat it the same as if your neighbor blasted this to his 25 friends."

Und leitet daraus ab:

"But whether they intend it or not, celebrities, politicians and others with large online followings can be superspreaders — not of the coronavirus but of dangerous or false information. And I wonder whether these prominent people need to be held to stricter rules."

Anders ausgedrückt: Ovide wünscht sich, dass Plattformen bei der Content-Moderation nicht nur auf den Inhalt, sondern auch auf die Absenderïnnen achten. Sie erinnert an Beispiele wie die üble "Momo Challenge", die erst groß wurde, nachdem Kim Kardashian den Unsinn auf Instagram verbreitete.

Auch die Analyse aktueller Corona-Verschwörungsmythen stützt diese Theorie: In Briefing #636 haben wir erklärt, wie wenige Influencerïnnen, Prominente und Politikerïnnen den viralen Unsinn befeuern.

Deshalb schlägt Ovide vor:

• Für Accounts mit mehr als einer halben Million Follower sollen verschärfte Regeln gelten.
• Wer Inhalte postet, die gegen die Richtlinien der Plattform verstoßen oder die von unabhängigen Faktenprüferïnnen widerlegt wurden, erhält einen Strike (ähnlich dem YouTube-System).
• Ab einer gewissen Anzahl von Strikes wird die Reichweite des Accounts eingeschränkt. Facebook könnte seinen Algorithmus entsprechend anpassen, Twitter könnte etwa Retweets blockieren.
• Einflussreiche Nutzerïnnen könnten immer noch alles sagen, was sie wollen (Freedom of Speech), aber sie erreichten nicht mehr alle Menschen, die sie adressieren wollen (Freedom of Reach).
• Eine noch radikalere Idee wäre es, Inhalte von besonders großen Accounts nur noch nach vorheriger Prüfung freizugeben.
• YouTube macht das bereits, bevor es Videos für bestimmte Werbeschaltungen freigibt. Medien machen es ohnehin jeden Tag. Die Plattformen entwickelten sich dann noch mehr in Richtung „Publishern“.

Unsere Einschätzung: Das Gegenargument liefert George Orwell, ausnahmsweise nicht im zu Tode zitierten 1984, sondern in seiner Fabel Farm der Tiere: "Alle Tiere sind gleich, aber manche sind gleicher."

Natürlich ist es riskant, wenn Nutzerïnnen anders behandelt werden, nur weil sie ein größeres Publikum adressieren. Aber schon Spiderman wusste: "Aus großer Kraft folgt große Verantwortung." Und wenn wir Kraft durch Reichweite ersetzen, lässt sich das auf Social Media übertragen.

Für globale Plattformen ist es unmöglich, alle Beiträge perfekt zu moderieren. Content-Moderation kann immer nur darauf bedacht sein, Fehler zu minimieren und Folgeschäden zu begrenzen. Alles richtig zu entscheiden, ist aufgrund der Menge der Inhalte, die Milliarden Nutzerïnnen täglich produzieren, schlicht ausgeschlossen.

Auch deshalb sind Plattformen wie Twitter bereits dazu übergegangen (Twitter-Blog), auch den möglichen Schaden als ein Entscheidungskriterium zu berücksichtigen ("If it is likely to cause harm, it should be removed"). Ein Nutzer mit elf Followern, der ein manipuliertes Video von Kim Jong-un hochlädt, ist ein bisschen egal – wenn Trump es tut, könnte die Welt ins Chaos stürzen.

Aus diesem Grund halten wir die Anregung von Shira Ovide zumindest für bedenkenswert und verweisen zudem auf Casey Newton, der bereits vor einigen Monaten schrieb (The Interface):

"Looking at the outcome is a useful frame for making individual policy decisions. There are lots of terrible pieces of social content that are essentially harmless, because no one sees them. And then there are the small few that go viral and do lots of damage. It makes sense that Twitter would focus its moderation efforts at that level. Promising to intervene in cases where there is serious harm isn’t just sensible – it’s also scalable."

3./4. Es braucht keine Reform, es braucht eine Revolution

Wer über Facebook berichtet, hat den Satz Dutzende Male gehört: "We know we have more work to do." So reagiert nicht nur Mark Zuckerberg, wenn Facebook sich von russischen Trollen hat manipulieren lassen, versehentlich Nutzerdaten weitergegeben oder Rechtsradikalen eine Plattform gegeben hat. Charly Warzel drückt es so aus:

"We Know We Have More Work to Do (let’s call it W.K.W.H.M.W.T.D. for short) is the definitive utterance of the social media era, trotted out by executives whenever their companies come in for a public shaming."

Diese lapidare Beschwichtigung soll Kritik abblocken und guten Willen signalisieren. Der Satz ist mächtig – und gefährlich:

"In Facebook’s case, what is most dangerous about W.K.W.H.M.W.T.D. is that it glosses over the fundamental structural flaws in the platform. The architecture of the social network – its algorithmic mandate of engagement over all else, the advantage it gives to divisive and emotionally manipulative content – will always produce more objectionable content at a dizzying scale."

In seinen Reaktionen auf Fehler oder Kritik folgt Facebook dem Design-Thinking-Prozess und beschränkt sich auf die Minimum Viable Action, die kleinstmögliche Reaktion. Das Kardinalproblem – die auf maximales Engagement ausgerichteten Algorithmen, kombiniert mit personalisierter Werbung, Microtargeting und massenhafter, plattformübergreifender Datensammlung – bleibt dabei immer außen vor.

Nun könnte man sagen: Eine globale Plattform wie Facebook spiegelt die Gesellschaft wider – und die besteht nun mal nicht nur aus netten Menschen, die Flausch verteilen.

Oder man fragt: Wie kann Facebook weniger toxisch werden? Wie lassen sich Plattformen entwerfen, die positive Emotionen verstärken, statt Hass zu verstärken?

Genau das hat Warzel vergangene Woche getan (Twitter):

"odd question but: what are your most far fetched utopian ideas for fixing social media platforms? the stuff that’s likely never ever gonna happen"

Es folgten mehr als 1100 Antworten, die Warzel im letzten Drittel seiner Kolumne (NYT) selbst kurz zusammenfasst. Den viel besseren und ausführlicheren Überblick liefert aber Will Oremus (OneZero), der unter anderem folgende Ideen-Cluster bildet und jeweils einordnet:

• Soziale Netzwerke in gemeinnützige NGOs verwandeln
• Algorithmen durch Redakteure ersetzen
• Datensammlung und verhaltensbasierte Werbung einschränken
• Weiße Managerïnnen durch Schwarze, queere Frauen ersetzen
• Alternative Plattformen fördern

Zu jedem Vorschlag liefert Oremus nachvollziehbare Pro- und Contra-Argumente, weshalb wir seine Analyse dringend empfehlen (das sagten wir schon, oder?).

Auch wenn ein Großteil der Antworten auf Warzels Tweet wohl nie umgesetzt werden wird, hat das öffentliche Brainstorming zumindest eines gezeigt: Eine Plattform, auf der man eine schnoddrige Frage ohne Punkt und Komma stellt und binnen Stunden Hunderte Antworten von klugen Menschen auf der ganzen Welt erhält, ist ein Ort, für den es sich zu kämpfen lohnt – mit kleinen Verbesserungen und mit großen Utopien.

Was ist

In den vergangenen Tagen sind drei Dinge passiert, die drei ungewöhnliche Monate beenden:

• Twitter hat unter zwei Tweets von Donald Trump einen kleinen Hinweis eingeblendet.

• Das Wall Street Journal (WSJ) hat eine Recherche über Facebook veröffentlicht.

• Das US-Berufungsgericht in Washington hat ein Urteil gefällt.

Seit Ausbruch der Corona-Krise haben Facebook, Twitter und Google eine ganz neue Erfahrung gemacht. Sie wurden gelobt – oder zumindest nicht aus allen Richtungen kritisiert. Auch in unserem Briefing haben wir den Plattformen für ihre Bemühungen (Witness) Respekt gezollt, die Infodemie einzudämmen. In Ausgabe #633 schrieben wir etwa:

"Facebook hat etliche Maßnahmen angekündigt und umgesetzt, die helfen sollen, das Virus aufzuhalten. Die Schlagzahl ist beeindruckend, und die Entschlossenheit ist ungewohnt. In der Vergangenheit reagierte Facebook oft nur zögerlich und nach massivem öffentlichen Druck."

Natürlich war trotzdem nicht alles perfekt: Mehr als 100 Medizinerïnnen und Gesundheitsexpertïnnen forderten die Plattformen in einem offenen Brief (Avaaz) auf, mehr gegen Lügen und Gerüchte zu unternehmen, die sich über das Coronavirus verbreiten. Doch obwohl eine Welle der Desinformation das Netz flutete, richtete sich der Großteil der Aufmerksamkeit nicht auf die Plattformen, sondern auf die Verbreiterïnnen.

Die kurze Ära ist seit Dienstag Geschichte: Die Monate, in denen die Pandemie vergleichsweise unpolitisch war, sind vorbei. In den USA hat der Wahlkampf begonnen, und egal, was Facebook und Twitter tun – sie werden es nicht allen recht machen können.

Warum das wichtig ist

Bevor wir die drei Ereignisse im Einzelnen analysieren, erklären wir, warum wir uns überhaupt so ausführlich mit dem Thema beschäftigen. Was auf den ersten Blick nach einem weiteren Wutanfall des US-Präsidenten aussieht, an die man sich nach dreieinhalb Jahren eigentlich schon gewöhnt hat, wirft grundlegende Fragen auf:

• Wie positioniert sich das Silicon Valley zu Trump, gerade mit Hinblick auf den kommenden Wahlkampf?

• Sollen private Unternehmen entscheiden, was demokratisch gewählte Politikerïnnen verbreiten können?

• Können Plattformen tatsächlich so neutral sein, wie Mark Zuckerberg das propagiert?

Was Twitters Faktencheck ausgelöst hat

Seit Dienstag ist so viel in so schneller Abfolge passiert, dass man leicht den Überblick verlieren kann. Deshalb zunächst eine Timeline der Ereignisse:

• Trump hat zum wiederholten Mal nachweislich falsche Behauptungen über Briefwahlen verbreitet (Twitter)

• Twitter hat zum ersten Mal reagiert und blendet unter den beiden Tweets einen blauen Hinweis ein: "Get the facts about mail-in ballots".

• Wer darauf klickt, landet auf einer Faktencheck-Seite (Twitter), auf der Twitter Artikel mehrerer Medien verlinkt und bilanziert: Trump makes unsubstantiated claim that mail-in ballots will lead to voter fraud."

• Daraufhin wütet der weltweit einflussreichste Twitter-Nutzer auf Twitter über Twitter und droht Twitter mit Konsequenzen, weil es die freie Rede gefährde, indem es Desinformation nicht etwa löscht, sondern um Fakten ergänzt.

• Trump-Beraterin Kellyanne Conïn identifiziert in der TV-Sendung "Fox & Friends" den Twitter-Mitarbeiter Yoel Roth als Übeltäter (Protocol) und sagt: "Somebody in San Francisco go wake him up. Tell him he's about to get more followers."

• Obwohl der "Head of Site Integrity" gar nichts mit dem Faktencheck zu tun hat, wird er bedroht und beleidigt (BuzzFeed).

• Trump weitet seine Drohungen auf alle Social-Media-Plattformen aus (Twitter), die angeblich konservative Stimmen unterdrückten, und kündigt an, sie hart zu regulieren oder abzuschalten.

• Der präsidiale Wutausbruch setzt sich in Großbuchstaben und mit vielen Ausrufezeichen fort, weil "Big Tech" angeblich alles unternehme, um im Vorfeld der US-Wahl zu ZENSIEREN (Twitter).

• Das hätten die Unternehmen bereits 2016 versucht und verloren – "Now they are going absolutely CRAZY. Stay Tuned!!!"

• Tatsächlich setzt das Weiße Haus eine Executive Order auf (TechCrunch), die "Online-Zensur" verhindern soll.

• Während wir diesen Newsletter schreiben, kursieren zunächst nur Entwürfe (PDF), etwa eine kommentierte Version (Google Docs) der Stanford-Forscherin Daphne Keller, die das Dekret für juristisch fragwürdig hält.

• Twitter lässt sich davon nicht einschüchtern und versieht Hunderte weitere Tweets mit Hinweisen auf Faktenchecks (NYT).

• In der Nacht von Donnerstag auf Freitag unterschreibt Trump die Verordnung (White House) und eskaliert damit den Konflikt: aus einer Privatfehde wird ein Machtkampf zwischen dem mächtigsten Mann der Welt und einigen der mächtigsten Unternehmen der Welt, der Auswirkungen auf das gesamte Netz haben könnte.

That escalated quickly. Der Versuch einer Einordnung:

• Es gibt gute Gründe, Twitter zu kritisieren. Der Faktencheck ist handwerklich schlecht gemacht, die Auswahl der überwiegend liberalen Medien dürfte Trump-Fans kaum überzeugen, wie Patrick Beuth kommentiert (Spiegel).

• Generell ist der Nutzen von Faktenchecks umstritten (Zeit), weil unklar ist, ob Richtigstellungen etwas bewirken.

• Wer Trumps Timeline durchscrollt, sieht Dutzende Lügen und Falschbehauptungen. Warum Twitter ausgerechnet diesen Tweet auswählt und andere unangetastet lässt, erschließt sich nur eingeschränkt.

• Erst vor wenigen Tagen wandte sich etwa der Witwer von Lori Klausutis in einem offenen Brief an Twitter (NYT) und bat das Unternehmen inständig, bestimmte Tweets von Trump zu löschen, weil dieser haltlose Unterstellungen über den Tod ihrer Frau verbreitete, um einem politischen Rivalen zu schaden (Washington Post).

• Offenbar war sich Twitter der Konsequenzen bewusst: "The company needed to do what’s right, and we knew from a comms perspective that all hell would break loose", sagt Twitters Kommunikations-Chef (OneZero).

• Demnach hätten die Policy-Änderungen im Zuge der Pandemie eine wichtige Rolle bei der Entscheidung gespielt: "Covid was a game changer", sagt eine Sprecherin (Politico). "We now have the tools in place to label content that may contain misleading claims that could cause offline harm."

• Trumps Drohung, Twitter oder andere Plattformen abzuschalten, muss man nicht ernst nehmen: Selbst ein US-Präsident kann sich keine rechtliche Grundlage dafür basteln kann, eigenhändig Unternehmen zu schließen, die vollkommen legal handeln.

• Der erste Verfassungszusatz, der in den USA die Meinungsfreiheit garantiert, schützt nicht etwa Trump vor Twitter – er schützt Twitter vor Trump.

• Außerdem würde sich Trump damit seines liebsten Spielzeugs und wichtigsten Sprachrohrs berauben, über das er 80 Millionen Menschen erreicht und Politik macht.

• Die Executive Order erweckt den Anschein eines persönlichen Rachefeldzugs, der auf einem jahrelangen Streit mit Twitter aufsetzt (Technology Review), aber wohl eher Aktionismus darstellt: "The direction from on high was: 'Do something'", sagt ein führender Beamter im Weißen Haus (Protocol). "They picked this order off the shelf and essentially rammed it through."

• Wir konnten uns das Dekret am frühen Freitagmorgen noch nicht in Ruhe anschauen und sind selbst keine Juristen. Allem Anschein nach dürfte Trump aber schlechte Chancen haben, die Verordnung durchzusetzen.

• Das schreiben etwa The Verge, Wired, NPR und Vox, die jeweils mehrere Expertïnnen zitieren, die darin reine Symbolpolitik sehen.

• Axios hat etliche Reaktionen von Politikerïnnen, Bürgerrechtsorganisationen und Unternehmen wie Twitter, Google und Facebook gesammelt, die Trumps Entscheidung größtenteils scharf kritisieren.

• Trump will Section 230 beschneiden (Washington Post), einen wichtigen Bestandteil des Communications Decency Act, der Webseitenbetreibern, die Inhalte von Nutzerïnnen hosten, weitgehend von der Verantwortung für diese Inhalte ausnimmt.

• Falls sich im Laufe der kommenden Tage herausstellt, dass Trumps Angriff auf "the legal backbone of the internet" (Vox) tatsächlich Erfolg hat, werden wir das Gesetz natürlich nochmal ausführlicher erklären und die Konsequenzen analysieren.

Was hinter Trumps Vorwürfen steckt

An dieser Stelle kommen die beiden anderen Ereignisse ins Spiel, die wir erwähnt haben: die Recherche des WSJ und das Urteil des US-Berufungsgerichts in Washington (Bloomberg). Beide zeigen, wie Republikaner seit Jahren behaupten, das Silicon Valley kuschle mit und kusche vor den Demokraten. Obwohl die Vorwürfe haltlos sind, versucht vor allem Facebook, Trump zu besänftigen.

Das Gerichtsurteil ist schnell zusammengefasst:

• Die Richterïnnen weisen die Klage einer rechtsgerichteten NGO und einer rechtsradikalen Youtube-Influencerin ab.

• Die Klägerinnen hatten Facebook, Twitter, Google und Apple vorgeworfen, konservative Sichtweisen bewusst von ihren Plattformen zu verbannen.

• Diesen Rechtsstreit mögen die Unternehmen vorerst gewonnen haben. Es gibt aber Dutzende weitere Klagen (The Verge), die zwar allesamt schlechte Chancen haben, aber verdeutlichen, wie verbreitet die Auffassung ist, das Silicon Valley behandle Republikaner unfair.

Der WSJ-Artikel ist komplexer:

• Unter normalen Umständen wäre die Recherche eine eigene Analyse Wert gewesen – angesichts der aktuellen Entwicklungen gehen wir vorerst nur am Rande darauf ein.

• Jeff Horwitz und Deepa Seetharaman werfen Facebook vor, interne Untersuchungen weitgehend ignoriert zu haben, wonach die Plattform die Polarisierung beschleunige und die Gesellschaft spalte.

• Demnach habe Facebook die Empfehlungen seiner eigenen Forscherïnnen nicht umgesetzt und die Ergebnisse unter Verschluss gehalten.

• Wir haben in den vergangenen Tagen selbst mit ehemaligen und aktuellen Facebook-Mitarbeiterïnnen gesprochen und werden die Vorwürfe kommende Woche in Ruhe einordnen, falls nicht erneut andere Themen dazwischenkommen.

• Für den Moment verweisen wir auf die Entgegnung von Facebook-Manager Guy Rosen (Facebook-Newsroom), der zwar keine einzige Behauptung des WSJ explizit dementiert, der Gesamtaussage dennoch vehement widerspricht: "The piece uses a couple of isolated initiatives we decided against as evidence that we don’t care about the underlying issues — and it ignored the significant efforts we did make."

• Interessant ist auch ein Detail, das Casey Newton nennt (Revue): "Among the reasons the company was frustrated with the story, according to an internal Workplace post I saw, is that Facebook had spent 'several months' talking with the Journal reporters about their findings."

• Im aktuellen Zusammenhang ist vor allem die Rolle wichtig, die Joel Kaplan spielt: Der Bericht beschreibt unter anderem den großen Einfluss, den der Republikaner und ehemalige Bush-Berater bei Facebook hat.

• Im Laufe der vergangenen Jahre habe Kaplan demnach darauf gedrängt, Projekte zu stoppen, die verhindern sollten, dass Facebook dazu beiträgt, die Gesellschaft zu polarisieren. Seine Sorge: Die dafür nötigen Änderungen am Empfehlungsalgorithmus könnten vor allem konservativen Medien und Persönlichkeiten schaden.

• Das deckt sich mit Recherchen des Journalisten Judd Legum, der bereits im vergangenen Jahr über den wachsenden republikanischen Einfluss auf Facebook berichtete (Popular Information).

• Ein ehemaliger Facebook-Mitarbeiter sagte damals: "Es wurden Entscheidungen getroffen, von denen Republikaner profitieren, weil sie sich so große Sorgen um ihren Ruf bei rechten Republikanern machen, vor allem bei Trump."

• Das hat Folgen: In Washington arbeiten einflussreiche Republikaner als Lobbyistïnnen für Facebook, Zuckerberg traf sich mehrfach mit Trump zum Abendessen und schmeichelte ihm im kleinen Kreis (NYT), die weit rechts stehende Plattform Daily Caller darf Fakten checken (Vox) und missbraucht diese Macht angeblich (Popular Information), um Trump zu helfen.

Wie Facebook sich von Twitter abgrenzt

Während Trump Twitter attackiert, versucht Zuckerberg, bloß nicht in den Streit mit hineingezogen zu werden:

• In einem Interview mit Trumps Haussender Fox News kritisiert er Twitters Faktencheck und sagt, Unternehmen sollten sich nicht als "Arbiter of Truth" aufspielen.
• Später wiederholt er die Aussagen bei CNBC: "Political speech is one of the most sensitive parts in a democracy, and people should be able to see what politicians say."

• Auf einer Aktionärsversammlung sagt Zuckerberg, Facebook halte die Meinungsfreiheit hoch (Deadline). Demnach werde man nur Beiträge löschen, die "unmittelbaren Schaden" auslösen könnten. "Harm down the line" sei dagegen kein Grund, Inhalte zu entfernen.

• Die öffentlichen Aussagen von Zuckerberg wirken wie Profilierung auf Kosten von Twitter: Tatsächlich ähneln sich die Richtlinien der beiden Unternehmen, was Desinformation über Wahlen angeht. Zuckerberg erweckt aber den Eindruck, dass Facebook vollkommen anders handle als Twitter.

• Im konkreten Fall hat Twitter Trumps Aussagen mit einem Hinweis versehen und Facebook nicht – in der Vergangenheit hat aber auch Facebook schon falsche Beiträge von Politikern entfernt, etwa von Brasilien Präsident Jair Bolsonaro.

• Der Unterschied ist also nicht so groß, wie Zuckerberg Glauben machen will. Man kann durchaus der Meinung sein, dass Twitters Entscheidung ein Fehler war, zumal der Zeitpunkt etwas willkürlich wirkt – Zuckerbergs Abgrenzung zu einem Zeitpunkt, an dem Trump zum Angriff auf das gesamte Silicon Valley bläst, ist aber fragwürdig.

• Zumindest wirtschaftlich ergibt die Positionierung wohl Sinn: Es lohnt sich einfach nicht, sich mit dem US-Präsidenten und der Hälfte der Bevölkerung anzulegen.

Zuckerberg übersieht oder ignoriert dabei aber drei Dinge:

1. Facebooks Algorithmen entscheiden zwar nicht, was wahr oder falsch ist, wohl aber, was vermeintlich "relevant" ist. Damit beeinflussen sie, welche Inhalte Milliarden Menschen täglich sehen. Das wichtigste Kriterium dabei sind Likes und Kommentare, die wiederum stark von Emotionen der Nutzerïnnen beeinflusst werden. Keine Plattform, die Inhalte maschinell gewichtet, ist neutral – auch Facebook nicht.
2. Die Vorwürfe aus dem Lager der Republikaner sind unbegründet: Trump dominiert mit seinen Inhalten die sozialen Netzwerke, konservative Medien wie Fox News und noch weiter rechtsstehende Portale sammeln die meisten Interaktionen. Es gibt keine inhaltlichen Gründe, Trump so weit entgegenzukommen – nur machtpolitische.
3. Zwischen Tatenlosigkeit und vermeintlicher Zensur gibt es einen Mittelweg: Twitter hat Trumps Tweets ja eben nicht gelöscht, sondern einen zurückhaltend formulierten Hinweis eingeblendet. Auch Facebook könnte zumindest die Sonderbehandlung überdenken, die Beiträge und vor allem Anzeigen von Politikerïnnen genießen: Derzeit wird politische Werbung explizit von Faktenchecks ausgenommen – Trump kann also dafür bezahlen, dass Facebook seine Lügen einem noch größeren Publikum ausspielt.

Be smart

Der Guardian nennt zwölf Gründe, warum Twitter Trump komplett von seiner Plattform verbannen sollte. Das klingt nachvollziehbar, ist aber unrealistisch. Die aktuellen Ereignisse zeigen, dass bereits ein viel kleinerer Anlass zu einer maßlosen Überreaktion führt – wir können und wollen uns nicht vorstellen, was passieren würde, sollte Twitter Trumps Account schließen.

Charlie Warzel zieht ein pessimistisches Fazit:

"The damage — at least for this generation of world leaders — is nearly impossible to reverse. Banning Mr. Trump from Twitter, just like fact-checking one or two of his lying tweets, might feel good and might make the platform feel less toxic for a while. But it’s still just tinkering on the margins. It won’t fix the deeper structural problems that have created our information apocalypse. For that, we’re going to need a far bigger reckoning — one that certainly includes but also goes well beyond the platforms."

Warten wir auf den 3. November 2020 – dann wird in den USA gewählt.