Was ist

In den vergangenen Tagen haben die großen Tech-Plattformen reihenweise rassistische, rechtsradikale und gewaltverherrlichende Kanäle, Gruppen, Seiten und Konten verbannt. Auch der Twitch-Account von Donald Trump wurde vorübergehend gesperrt (wobei man durchaus der Meinung sein kann, dass mindestens zwei der Adjektive auch auf den US-Präsidenten zutreffen, sodass er gar nicht einzeln aufgezählt werden müsste).

Wer wen gekickt hat

Ganz aktuell:

  • Twitter hat Konten der rechtsextremen Identitären Bewegung gesperrt. Facebook und Instagram haben bereits vor zwei Jahren durchgegriffen.
  • Verfassungsschutz-Präsident Thomas Haldenwang hatte kurz zuvor explizit vor der Gefahr der sogenannten Neuen Rechten gewarnt und sie als „Superspreader von Hass und Gewalt“ (SZ) bezeichnet.
  • Die Sperrung der Twitter-Profile sei für die Identitäre Bewegung „ein erheblicher Einschnitt“, sagt Extremismusforscher Jakob Guhl (DLF) vom Londoner Institute for Strategic Dialogue.
  • „Der Versuch der Identitären Bewegung, rechtsextreme Positionen mit einem bürgerlichen Anstrich zu tarnen, ist gescheitert“, sagt Miro Dittrich (ZDF) von der Amadeu-Antonio-Stiftung.

Von vergangener Woche (auch schon in Briefing #651 zu lesen)

  • Reddit hat r/The_Donald, r/ChapoTrapHouse und rund 2000 weitere rassistische und extremistische Subreddits dicht gemacht (The Verge).

Warum das wichtig ist

In einer Telefonkonferenz mit Journalistïnnen sagte Reddit-Chef Steve Huffman:

„I have to admit that I’ve struggled with balancing my values as an American, and around free speech and free expression, with my values and the company’s values around common human decency.“

Dieses Zitat beschreibt das Dilemma, in dem Facebook, YouTube, Twitter, Reddit und andere Unternehmen stecken. Genauer gesagt: das Dilemma, in dem sie glauben zu stecken. Denn tatsächlich hat vieles von dem, was die Plattformen jahrelang stillschweigend duldeten, nichts mit Meinungs- oder Redefreheit zu tun. Kein Mensch der Welt hat ein Anrecht darauf, dass ihm jedes private Unternehmen ein Mikrofon unter die Nase hält.

Huffman hat entschieden: Reddit soll keine Plattform für Hass und Menschenfeindlichkeit mehr sein. Isoliert betrachtet wäre das nur der überfällige Sinneswandel eines jungen Gründers, der allmählich erwachsen wird. Doch wenn binnen einer Woche fünf Großkonzerne ähnliche Entscheidungen treffen, steht das für mehr.

„Goodbye to the Wild Wild Web“, verabschiedet Kevin Roose (NYT) die Ära der nahezu unbeschränkten Redefreiheit:

„But arriving all at once, they felt like something much bigger: a sign that the Wild Wild Web — the tech industry’s decade-long experiment in unregulated growth and laissez-faire platform governance — is coming to an end. In its place, a new culture is taking shape that is more accountable, more self-aware and less willfully naïve than the one that came before it.“

Warum das gut ist

Das Wild Wild Web hat dem World Wide Web schwer geschadet. Wenige Großkonzerne haben das Sagen – und Extremistïnnen spielen Katz und Maus mit ihnen. Sie kapern die Plattformen, Pöbeln, Provozieren und loten die Grenzen des Sagbaren aus. Sie profitieren von Algorithmen, die das Laute und Schrille weiter verstärken und Nuancen und Differenzierung unsichtbar machen.

Netzwerke wie Facebook sind weder neutral noch ein Spiegel der Gesellschaft. Was auf YouTube trendet, bestimmen nicht nur die Nutzerïnnen, sondern auch YouTubes mächtige Empfehlungsmaschine. John Herrman drückt es so aus (NYT):

„YouTube isn’t so much the marketplace of ideas as a marketplace for some ideas, if those ideas work well in video format, in the context of a subscription-driven social environment consumed mostly on phones, in which compensation is determined by viewership, subject matter and potential for sponsorship.“

Es war immer ein Mythos, dass ein Minimum an Regeln (gepaart mit einem noch viel eklatanteren Defizit an Durchsetzung jener Regeln) allen die gleichen Chancen gibt, ihre Ideen und Überzeugungen zu verbreiten. Im Zeitalter der Aufmerksamkeitsökonomie gewinnt meist, wer am vehementesten meint, am lautesten schreit oder am skrupellosesten auf Andersdenkende losgeht.

Die vergangenen Jahre haben gezeigt, dass Deplatforming helfen kann, den besonders wüsten Schreihälsen dauerhaft die Bühne zu entziehen. Alex Jones und Milo Yiannopoulos haben massiv an Einfluss verloren (Vice), nachdem YouTube und Twitter ihre Kanäle und Konten dicht gemacht haben. In Briefing #614 haben wir ausführliche über eine Studie geschrieben, die unter anderem die Wirksamkeit von Deplatforming belegt.

Wenn Facebook, Twitter, YouTube, Reddit und Twitch nun durchgreifen, ist das weder Zensur, noch bedroht es die Meinungsfreiheit. Es ist ein erster von vielen nötigen Schritten, um das Wild Wild Web zu zähmen und zu entgiften.

Wie sich das Timing erklärt

Was hat sich geändert? Warum hat Reddit nach vielen Jahren entschieden, dass der Großteil der rund 800.000 Menschen, die r/The_Donald bevölkern, doch nicht harmlos ist? Warum greift Twitter ausgerechnet jetzt durch, obwohl Sellner und seine Gefolgsleute die Plattform immer wieder für ihre menschenfeindlichen Aktionen missbraucht haben?

Wir zitieren erneut John Herrman, der in erster Linie wirtschaftliche Motive sieht:

„These areas of previously unfettered growth – in far-right content, in groups with a tendency to harass and intimidate other users and in certain political circles — are, finally, more trouble than they’re worth. Maybe they alienate a platform’s own employees, making them uncomfortable or ashamed. Maybe they’ve attracted the wrong kind of attention from advertisers or even a critical mass of users.“

Das ist sicher ein Grund – aber nicht der einzige. Reddit-Chef Huffman sagt (NYT):

„We have advertisers who care about these things. But this was a decision — a series of decisions, really — to make Reddit better.“

Das ganze Interview ist absolut lesenswert. Huffman erläutert darin nachvollziehbar, welcher interne Diskussionsprozess zur Entscheidung führte und gesteht offen seine eigene Naivität ein:

„When we started Reddit 15 years ago, we didn’t ban things. And it was easy, as it is for many young people, to make statements like that because, one, I had more rigid political beliefs and, two, I lacked perspective and real-world experience.“

Was er sagt, klingt glaubwürdig. Auch Nilay Patel, der Chefredakteur von The Verge, nimmt Huffman den Idealismus ab (Twitter):

„Sometimes the answer is as simple as people looking at the thing they’ve made and deciding they would like to be more proud of it than they are.“

Es ist zu einfach, Tech-Konzerne und ihre Chefs immer nur auf finanzielle Motive oder Machtstreben zu reduzieren. Mark Zuckerberg, Jack Dorsey, Susan Wojcicki und Steve Huffman haben Werte und Überzeugungen. Natürlich wollen sie, dass ihre Produkte die Welt verbessern.

Man kann darüber streiten, ob das gelingt. Man kann den Moralkompass von Zuckerberg kritisieren, der Redefreiheit fast schon verabsolutiert. Man kann den Konzernen vorwerfen, dass ihre Handlungen oft nicht mal den eigenen Regeln entsprechen. Aber manchmal entscheiden mächtige Managerïnnen auch einfach, weil sie überzeugt sind, dass es wichtig und richtig ist – und nicht, weil das dem Aktienkurs hilft.

Wir wissen natürlich nicht, was genau in den aktuellen Fällen den Ausschlag gegeben hat. Neben Altruismus gibt es eine Reihe weiterer möglicher Gründe:

  • Die Welt verändert sich rasant. Gerade die „Black Lives Matter“-Proteste haben ein neues Bewusstsein geschaffen. In diesem Klima riskieren Konzerne, die Rassistïnnen eine Bühne bieten, Nutzerïnnen und Werbekunden zu verärgern.
  • Der Werbeboykott, der derzeit Facebook trifft, zeigt, dass Unternehmen bereit sind, ihre Budgets umzuverteilen. Ob bei allen moralische Überzeugungen ausschlaggebend sind, ist fraglich. Fakt ist aber, dass Aktionen wie #StopHateforProfit den öffentlichen Druck erhöhen, hasserfüllte Inhalte konsequenter zu löschen. (mehr dazu: #649)
  • Auch die Angestellten der Konzerne können Druck machen: Hunderte Facebook-Mitarbeiterïnnen streikten, weil Zuckerberg ein Posting von Trump unverändert stehen ließ. Gerade im (für US-Verhältnisse) linksliberalen Silicon Valley, in dem viele große Unternehmen um die klügsten Köpfe konkurrieren, kann eine solche Haltung junge, politisch denkende Entwicklerïnnen abschrecken. (mehr dazu: #643)
  • Die Corona-Pandemie hat bei den Plattformen ein Umdenken bewirkt: Es gibt Inhalte, die vielleicht nicht strafbar sind, aber doch so eindeutig gefährlich („Wassertrinken hilft gegen Covid 19“, „5G verbreitet das Virus“), dass sie gelöscht werden müssen (mehr dazu: #633). Und das gilt nicht nur für unwissenschaftlichen Unsinn, sondern auch für politische Inhalte. Forscherin Joan Donovan schreibt (Wired):

„It’s no coincidence that this newfound boldness on the part of social media companies is coming in the middle of a global pandemic. The past few months of work dealing with medical misinformation surrounding Covid-19 has taught these companies an important lesson: They must – and they can – take decisive action to control who and what is on their sites. It’s about time, and it had better be just the beginning.“

Ja, aber

Aus drei Gründen ist es zu früh für große Freude:

  1. Die Ereignisse der vergangenen Woche allein bewirken kaum etwas. Sie bekommen erst dann eine größere Bedeutung, wenn sich der Trend, der sich abzuzeichnen scheint, bewahrheitet. Bis dahin bleiben es fünf Entscheidungen, die nur Symptome bekämpfen – Symptome des Wild Wild Web, das die Plattformen selbst hervorgebracht haben.
  2. Viele der verbannten Extremistïnnen rufen dazu auf, sich woanders neu zu formieren. Sie ziehen sich auf Plattformen zurück, wo noch weniger moderiert wird – und wo die Öffentlichkeit noch weniger davon mitbekommt. Vor allem bei großen Accounts wirkt Deplatforming. Wenn aber die Boogaloo-Bewegung zu Telegram umzieht, ist wenig gewonnen. r/The_Donald hat sich seit Jahren auf die Sperre vorbereitet und wird alles versuchen, den harten Kern zusammenzuhalten.
  3. Bei den aktuellen Fällen waren die Entscheidungen eindeutig und überfällig. Es gibt aber einen großen Graubereich. „Hass“ und „Hatespeech“ sind schwammige Begriffe. Sollen die Plattformen selbst entscheiden, wo die Grenze liegt? Wer schreibt die Regeln für das Netz, das nach dem Wild Wild Web kommt? Es braucht demokratische und juristische Kontrolle – und Institutionen wie das Facebook-Oversight-Board, das zumindest einen kleinen Teil der Entscheidungsgewalt externalisiert.

Be smart

Vergangene Woche gab es noch einen sechsten Massenban: Indien hat 59 chinesische Apps gesperrt, darunter TikTok. Jetzt erwägen auch die USA, TikTok zu verbieten (WSJ).

Vielleicht folgt auf das globale Wild Wild Web kein zivilisiertes World Wide Web – sondern ein „Splinternet“ (Future Today Institute), das Jannis Brühl heraufziehen sieht (SZ):

„Wie unter einem Brennglas zeigt sich in Hongkong, wie die sozialen Medien zu Kampfplätzen der Geopolitik geworden sind. Das soziale Web von Facebook bis Tiktok lebt von den Inhalten seiner Nutzer, seien es Fotos vom Familienausflug oder politische Parolen. Der Versuch der Staaten, diese Datenströme zu kontrollieren, verändert das Netz. Regierungen errichten digitale Mauern und sabotieren die Globalisierungsmaschine Internet.“