Wie Expertïnnen die Gefahr digitaler Desinformation in Deutschland einschätzen

Was ist

Die Vodafone-Stiftung hat 63 Menschen aus Medien, Wissenschaft, Zivilgesellschaft, Politik und Tech-Branche gefragt, für wie gefährlich sie Desinformation in Deutschland halten – und was man dagegen tun könnte. (Pressemitteilung, PDF)

Unsere Offenlegung gleich zu Beginn: Fiete Stegers, der die Studie durchführte, hat dabei auch mich (Simon) um meine Einschätzung gebeten. Da die Befragung im Frühjahr und Sommer 2020 durchgeführt wurde, kann ich mich nicht mehr an meine Antworten erinnern. Meine Zitate, die in der Studie auftauchen, finde ich überraschend vernünftig. Darüber hinaus haben wir nichts mit der Vodafone-Stiftung zu tun. Wir hätten auch über die Ergebnisse berichtet, wenn das Social Media Watchblog keine Erwähnung gefunden hätte.

Warum das wichtig ist

In zwei Monaten wird in Deutschland gewählt. Seit anderthalb Jahren führt eine Pandemie zu einer Infodemie. In diesen Zeiten ist es besonders schwer, im Netz zwischen Lüge und Wahrheit zu unterscheiden, weil Menschen mit fragwürdigen Motiven versuchen, Wählerïnnen zu beeinflussen oder Angst zu schüren.

Welche Auswirkungen gezielt gestreute Lügen und Gerüchte aber wirklich habe, ist umstritten und kaum erforscht. Auch die Studie "Desinformation in Deutschland" liefert keine abschließenden Erkenntnisse. Das ist bei so einem vielschichtigen Thema, bei dem etliche Faktoren eine Rolle spielen, auch nicht möglich. Doch die Meinung von mehr als 60 Menschen, die sich beruflich damit beschäftigen, gibt zumindest einige Anhaltspunkte.

Was die Studie ergeben hat

Wenn du unsere Briefings regelmäßig liest, dann dürfte dir das Meiste bekannt vorkommen. Die Einschätzungen der Befragten decken sich weitgehend mit dem, was wir seit Jahren schreiben. Dennoch sind einige interessante Details und Abweichungen dabei. Wir konzentrieren uns auf sechs zentrale Erkenntnisse:

1. "Fake News" ist ein ungeeigneter Begriff für ein wichtiges Thema

  • Spätestens seit Donald Trump den Ausdruck nutzt, um seriöse Medien zu diskreditieren, sollte klar sein: "Fake News" ist zum Kampfbegriff geworden.
  • Das war absehbar. Darunter kann man fast alles verstehen, von schlechtem Journalismus bis zu bewusst lancierten Falschbehauptungen.
  • Fast alle Befragten halten den Ausdruck deshalb für "problematisch" oder "eher problematisch". Auch wir meiden den Begriff in unseren Newslettern.
  • Stattdessen versuchen wir, möglichst präzise auszudrücken, was wir meinen: Missinformation (versehentlich geteilte Falschmeldungen), Desinformation (bewusst geteilte Falschmeldungen), Lügen, Gerüchte, fehlerhafte Recherchen … Es gibt genug andere Begriffe, die sich weniger leicht instrumentalisieren lassen.
  • Trotzdem können wir die Zahnpasta nicht in die Tube zurückdrücken. "Fake News" hat sich etabliert, viele Menschen nutzen die Bezeichnung umgangssprachlich. Wir hoffen, dass sich Medien nicht davon anstecken lassen und die Fachterminologie irgendwann Einzug in die Alltagssprache hält.

2. Cheap Fake sind gefährlicher als Deep Fakes

  • In der Theorie klingt es furchteinflößend: Neuronale Netzwerke und maschinelles Lernen ermöglichen es, Audioaufnahmen und Videos fast nach Belieben zu fälschen. Es braucht nicht viel Fantasie, um sich vorzustellen, welch üble Konsequenzen manipuliertes Material haben könnte.
  • In der Praxis hält sich der Schaden bislang in Grenzen. Deep Fakes haben noch keine Wahlergebnisse beeinflusst, Kriege ausgelöst oder auch nur größere Verwirrung gestiftet. Die bekanntesten Beispiele sind relativ harmlos, etwa der Tom-Cruise-Imitator Miles Fisher, der mithilfe des belgischen Videokünstlers Chris Umé im März auf TikTok viral ging (SZ).
  • Das spiegelt sich in den Antworten der befragten Expertïnnen wider. Nur fünf Prozent (also 3 von 63) sind der Meinung, dass Deep Fakes in Deutschland verbreitet sind und derzeit eine reale Gefahr darstellen.
  • Der wichtigste Grund: Es braucht gar keine technisch aufwendigen Fälschungen. Menschen glauben ohnehin, was sie glauben wollen. Dafür reichen billige Photoshop-Fakes.
  • Zudem benötigen perfekte Deep Fakes immer noch jede Menge technische Expertise und Rechenpower. Die erschreckende Vorstellung, dass alle Menschen mit wenigen Mausklicks Videos manipulieren können, hat sich bislang nicht bewahrheitet. Wir unterhalten uns dann 2023 noch mal.
  • Weit verbreitete Formen von Miss- oder Desinformation sind der Umfrage zufolge verzerrte Darstellungen, suggestive Deutungen, Gerüchte oder Journalismus mit handwerklichen Fehlern.

3. Wir müssen über Messenger reden

  • Wenn es um Risiken und Nebenwirkungen sozialer Netzwerke ging, dominierte jahrelang Facebook die mediale Berichterstattung. Obwohl viele Menschen längst mehr Zeit auf YouTube verbringen und auch Instagram die blaue App überholt hat, erhielt Facebook die meiste Aufmerksamkeit.
  • Fast völlig unter dem Radar fliegen dabei Messenger. Dabei ist WhatsApp der mit großem Abstand am weitesten verbreitete Kommunikationskanal in Deutschland. Allerdings lässt sich die Desinformation dort von außen deutlich schlechter aufspüren und entlarven, schließlich sind Nachrichten privat und Ende-zu-Ende-verschlüsselt.
  • Diese abgeschlossenen Kommunikationsräume bergen nach Einschätzung der Studienteilnehmerïnnen große Risiken. 92 Prozent halten WhatsApp für relevant oder sehr relevant für die Verbreitung von Desinformation.
  • Dicht dahinter folgen Facebook (89 %) und YouTube (88 %) – und auch Telegram (85 %), obwohl der Messenger deutlich weniger Nutzerïnnen hat als die anderen Plattformen.
  • Das dürfte auch an der Rolle liegen, die Telegram während der Pandemie für die Vernetzung der Corona-Leugnerïnnen und anderer, teils militanter Verschwörungideologïnnen und Extremistïnnen gespielt hat.
  • Die Befragung fand zwischen Mai und Juli 2020 statt, damals zeichnete sich schon ab, dass sich Telegram-Gruppen und öffentlichen Kanäle zur zentralen Plattform für Bewegungen wie Querdenken entwickelt.
  • Immerhin hat sich das Bundesjustizministerium dazu durchgerungen, das NetzDG auch auf Telegram anzuwenden. Dass die laufenden Bußgeldverfahren Gründer Pavel Durov beeindrucken werden, bezweifeln wir aber (#728).

4. Wir müssen über klassische Medien reden

  • Viele Medien halten es mit Jean-Paul Sartre: "Die Hölle, das sind die anderen." Statt ihre eigene Rolle zu hinterfragen, zeigen sie auf Plattformen, die angeblich zu wenig tun.
  • Dabei bereiten vermeintlich seriöse Medien den Falschbehauptungen oft erst die große Bühne. Teils sogar mit bester Absicht: Sie wollen Gerüchte widerlegen, hängen bleibt aber nicht das Debunking, sondern die Fehlinformation.
  • Folglich halten auch acht von zehn Befragten die "Verstärkung der Reichweite durch Medienberichterstattung" für einen relevanten Faktor für die Verbreitung von Desinformation. 92 Prozent sagen dabei, dass "Medien in jedem Fall genau abwägen sollten, ob sie mit einer Berichterstattung zu einer Amplifikation beitragen".
  • Die Frage, ob Faktenchecks hilfreich sind, spaltet das Panel. Eine knappe Mehrheit (57 %) glaubt, dass Debunking nur eine sehr kleine Anzahl der Nutzerïnnen erreiche. Gleichzeitig sagen aber auch 52 Prozent, dass Medien häufiger über Miss- und Desinformation schreiben sollten, um ihre Leserïnnen aufzuklären.
  • Einig ist sich das Panel aber, dass es noch viel Verbesserungsbedarf gibt. Nur zehn Prozent sind der Meinung, dass Medien gelernt haben, wie sie über Desinformation berichten können und dabei möglichst wenig zur Amplifikation beizutragen.
  • Wir empfehlen in diesem Zusammenhang (mal wieder) "The Oxygen von Amplification" von Whitney Philips – schon drei Jahre alt, aber nach wie vor aktuell.
  • Interessante Randnotiz: Nur 26 % halten den Einsatz automatisierter Social Bots für einen relevanten Faktor für die Verbreitung von Desinformation – die befragten Vertreterïnnen großer Social-Media-Plattformen sehen darin allerdings den zweitwichtigsten Faktor nach der Berichterstattung klassischer Medien. Die Innen- und Außenwahrnehmung unterscheidet sich stark.
  • Da aber nur zwei Angestellte von Tech-Unternehmen befragt wurden, wollen wir das nicht überbewerten. Eine mögliche Erklärung wäre auch, dass sie die Frage anders interpretieren. Natürlich gibt es Hunderttausende Fake-Accounts, die Tweets und Posts teilen. Wir bezweifeln aber, dass diese Bots allzu großen Schaden anrichten. Je nachdem, ob man auf Quantität oder Qualität der Verbreitung achtet, verändern sich also die Antworten.

5. Wir müssen über ältere Menschen reden

  • Jede Podiumsdiskussion über Desinformation kann sich auf eine Forderung einigen: Wir brauchen mehr Bildung und Medienkompetenz. Wie das funktionieren soll und wer "wir" sind, bleibt dabei meist offen.
  • Unserer Wahrnehmung nach denken dabei viele an Schülerïnnen oder junge Erwachsene, denen man angeblich digitale Kompetenzen beibringen müsste. Das schadet sicher nicht – aber größeren Nachholbedarf hat eine andere Altersgruppe.
  • Rund drei Viertel der Studienteilnehmerïnnen sagen, dass ältere Menschen anfällig oder sehr anfällig für Desinformationskampagnen seien. Dagegen glauben das nur 40 Prozent von Jugendlichen und jungen Erwachsenen.
  • Politikerïnnen (20 %) und Journalistïnnen (13 %) werden als weniger anfällig eingeschätzt als Bürgerïnnen allgemein (27 %). Wir lassen das lieber unkommentiert.

6. Keine direkte Wahlmanipulation, aber Polarisierung und Radikalisierung

  • Fast alle Befragten sind der Meinung, dass Miss- und Desinformation negative Auswirkungen haben – global, aber auch in Deutschland. Bei jedem einzelnen Punkt wird die Gefahr in Deutschland aber als geringer eingeschätzt als in anderen Ländern.
  • Nur 20 Prozent glauben, dass Desinformation hierzulande dazu beiträgt, Wahlen direkt zu manipulieren. Fast die Hälfte sieht global betrachtet ein solches Risiko.
  • Für deutlich realer halten die meisten andere Folgen, etwa die Polarisierung der Gesellschaft (79 % in Deutschland/ 87 % weltweit), die Radikalisierung Einzelner (74 %/ 85 %) oder den Glaubwürdigkeitsverlust von Medien (71 %/77 %).
  • Besonders groß ist die Diskrepanz bei der Frage, ob Desinformation das politische System destabilisiert. Ein Drittel befürchtet das in Deutschland, zwei Drittel sieht diese Auswirkung global betrachtet.

Be smart

Die Einschätzung der Expertïnnen unterscheidet sich deutlich von der Meinung der meisten "normalen" Menschen. 82 Prozent der Befragten bei einer Forsa-Umfrage im Auftrag der NRW-Landesmedienanstalt (PDF) stimmten der Aussage zu: "Ich habe Sorge, dass durch politische Desinformationskampagnen das Wahlergebnis manipuliert wird."

Auch das Rheingold Institut hat Menschen im Auftrag des Tabakkonzerns Philip Morris für die Studie "Wir wir wirklich leben" befragt. Wir warnen davor, einzelne Umfragen überzubewerten, zu stark unterscheiden sich die Ergebnisse in Abhängigkeit von Methodik und Fragestellung.

Trotzdem finden wir die Antworten spannend, die auf folgende Frage gegeben wurden: "Welche der folgenden Informationsangebote nutzen Sie, bevor Sie Ihre Wahlentscheidung treffen?" Nur etwas mehr als die Hälfte der Befragten informiert sich demnach in Medien, dagegen sagen fast zwei Drittel der 18-34-Jährigen, dass sie die Wahlprogramme der Parteien heranziehen (hallo, soziale Erwünschtheit?).

Und angeblich spielen soziale Medien fast gar keine Rolle für die Wahlentscheidung: Gerade mal 30 Prozent der Jüngeren, 16 Prozent der 35-54-Jährigen und zehn Prozent der älteren Befragten sagen, dass sie Facebook, Instagram, Twitter, YouTube oder andere Plattformen dafür nutzen.

Facebook will das Metaverse dominieren

Was ist

Wenn Menschen digital kommunizieren, hat Facebook mit großer Wahrscheinlichkeit seine Finger im Spiel: die blaue App, Instagram, WhatsApp – kein anderes Unternehmen der Welt kontrolliert einen so großen Teil der Plattformwelt.

Darauf will sich Mark Zuckerberg nicht ausruhen. Er glaubt, dass nach dem Internet das Metaverse kommt – und natürlich soll Facebook auch da eine entscheidende Rolle spielen.

Was das Metaverse ist

In einem Interview mit Casey Newton (The Verge) beschreibt Zuckerberg die Vision folgendermaßen:

You can think about the metaverse as an embodied internet, where instead of just viewing content — you are in it. And you feel present with other people as if you were in other places, having different experiences that you couldn’t necessarily do on a 2D app or webpage, like dancing, for example, or different types of fitness.

Das Metaverse soll mehr sein als virtuelle Realität, sondern VR und AR kombinieren. Es geht nicht nur um Gaming oder Entertainment, irgendwann könnte sich das gesamte Leben ins Metaverse verlagern, alle Menschen begegnen sich als Avatare.

Das klingt nach abgedrehter Science-Fiction, die weit in der Zukunft liegt. Die Idee ist aber fast 30 Jahre alt: Der Begriff stammt aus dem Roman "Snow Crash", den Neal Stephenson 1992 veröffentlichte. Für eine ausführlichere Erklärung verweisen wir auf John Herrman und Kellen Browning (NYT).

Mark Zuckerberg sieht darin jedenfalls keinen Moonshot, sondern eine sehr konkrete Entwicklung, an der Facebook eng beteiligt sein soll:

I think over the next five years or so, in this next chapter of our company, I think we will effectively transition from people seeing us as primarily being a social media company to being a metaverse company.

Wie Facebook das Metaverse prägen will

Mit seinen Oculus-Brillen mischt Facebook bereits kräftig im VR-Markt mit (Cnet), doch es geht um mehr. Wenige Tage, nachdem Zuckerberg seine Vision skizziert hatte, zeigte Facebook, dass es wirklich ernst ist: Instagrams bisheriger Produktchef Vishal Shah wird künftig ein eigenes Metaverse-Team leiten. Die Abteilung soll eng mit Facebooks Gaming-Ableger zusammenarbeiten und direkt an Andrew Bosworth berichten, der den Bereich AR und VR leitet.

Facebook hat große Pläne: Zu den Tausenden Angestellten, die bereits bei Facebook Reality Labs arbeiten, sollen Hunderte weitere kommen, die das Metaverse-Team vergrößern. Zuckerberg investiert also signifikante Ressourcen in eine Vision, die den meisten Menschen noch sehr fremd ist.

Das liegt auch daran, dass er einen Fehler der Vergangenheit nicht wiederholen möchte. Im Gegensatz zu Apple und Google sind Facebooks Versuche gescheitert, die mobile Revolution mit einem eigenen Betriebssystem zu begleiten. Jetzt hat Zuckerberg eine neue Chance:

One of the reasons why we’re investing so much in augmented and virtual reality is mobile phones kind of came around at the same time as Facebook, so we didn’t really get to play a big role in shaping the development of those platforms. So they didn’t really develop in a very natural way, from my perspective.

Als Facebook am Mittwochabend seine Quartalszahlen für das zweite Quartal (Investor Facebook) verkündete, nutzte Zuckerberg die Gelegenheit, um Aktionärïnnen und Analystïnnen das Metaverse nahezubringen – und noch mal deutlich zu machen, dass Facebook viel Geld ausgeben wird, um dort präsent zu sein:

It is going to require very significant investment over many years. This is going to create a lot of value for a lot of companies up and down the stack. Over the long term, I think that there's going to be a very big digital economy.

Warum das Metaverse bereits beginnt

Tatsächlich entwickelt sich das Metaverse schon vor unseren Augen. Die Roblox-Plattform und Fortnite-Entwickler Epic Games schicken Nutzerïnnen längst in eine erweiterte virtuelle Realität. Bekannte Musikerïnnen wie der Rapper Lil Nas geben dort Konzerte, Menschen hängen dort gemeinsam ab, und man kann sich gut vorstellen, wie diese Welt in einigen Jahren Einzug in den Alltag hält, wie es auch mit dem Netz und Smartphones passiert ist.

Investorïnnen glauben jedenfalls daran: Roblox wurde im März mit 45 Milliarden Dollar bewertet (IGN). Johannes Klingebiel schreibt in seinem Newsletter über das Metaverse als Marketingvision:

Die Idee des Metaverse ist derzeit also vor allem Marketing, um Investitionen einzusammeln. Es ist das Standardvorgehen des Silicon Valleys.

  1. Skizziere einen großen Zukunftstrend, der angeblich unvermeidbar ist.
  2. Sammle mit diesem Argument Geld und Talent ein.
  3. Baue diese von dir skizzierte Zukunft und habe eine Monopol-Stellung in ihr.

Be smart

All das wirft viele Fragen auf: Wird sich die Vorstellung von Matthew Ball durchsetzen, der auf seinem Blog in einer Essay-Serie unter anderem Interoperabilität und ein offenes Ökosystem als Kriterien für das Metaverse beschrieb – oder steuern wir auf die nächsten Walled Gardens zu, in der wenige Unternehmen nach dem Netz auch das Metaverse dominieren? Und was ist eigentlich mit Werbung, wie will Facebook dort Geld verdienen?

Wir werden uns künftig wohl noch öfter und ausführlicher mit dem Metaverse beschäftigen. Schließlich sind Zuckerbergs Wetten auf die Zukunft oft aufgegangen. Bis dahin halten wir es mit Johannes:

Es ist durchaus möglich, dass das Metaverse tatsächlich die nächste Version des Internets ist, aber dazu fehlt es noch gewaltig an Technologie. Und es wäre mir dann doch lieber, wenn diese nicht von Facebook gebaut wird.

Header-Foto von Betzy Arosemena bei Unsplash