Salut und herzlich Willkommen zur 580. Ausgabe des Social-Media-Watchblog-Briefings. Heute vertrete ich Martin, der beruflich in Bayern unterwegs ist. Ausnahmsweise ist das Briefing heute monothematisch: Beim Schreiben habe ich gemerkt, dass bei Facebook in den vergangenen Tagen so viel passiert ist, dass es lohnt, sich ausführlich damit zu beschäftigen. Wer sich gar nicht dafür interessiert, findet am Ende zumindest noch zwei allgemeine Newsletter-Empfehlungen. Kommende Woche kommt der Newsletter wieder von Martin oder uns beiden – und wird sicher auch andere Themen umfassen. Habt ein schönes Wochenende! Simon

Facebooks neuer Aufsichtsrat

Was ist: Facebook hat die Pläne für sein „Oversight Board“ konkretisiert. Es ist eine Mischung aus Ethikrat und Verfassungsgericht und soll unabhängig von Facebook entscheiden.

Warum das wichtig ist: Das Gremium wird maßgeblichen Einfluss darauf haben, was im größten sozialen Netzwerken der Welt gesagt werden darf und was nicht. Es kann selbst Mark Zuckerberg überstimmen, der in vielen anderen Fragen das letzte Wort hat und Facebook quasi allein regiert.

Wie der Aufsichtsrat entstand: Bereits im April 2018 brachte Zuckerberg erstmals die Idee eines Verfassungsgericht ins Spiel, das Facebook kontrollieren solle. Im Frühjahr und Sommer gab es sechs Workshop und 22 Roundtables mit Wissenschaftlerïnnen, Journalistïnnen und Aktivistïnnen. Mein SZ-Kollege Max Hoppenstedt war in Berlin dabei und hat seine Eindrücke hier aufgeschrieben.

Wie das Gremium entscheidet: In zwei längeren Blogposts (Mitglieder, Struktur und Ziele) erklärt Facebook, wie der Aufsichtsrat funktionieren soll. 40 Menschen mit möglichst diversen Hintergründen sollen unabhängig von Facebook entscheiden, welche Inhalte online bleiben. Bis Ende des Jahres sollen mindestens elf Posten besetzt sein, 2020 sollen die weiteren Mitglieder folgen.

Nutzerïnnen können sich an den Aufsichtsrat wenden und Facebooks Entscheidungen anfechten. „The board will be an advocate for our community“, schreibt Zuckerberg. In einem Hintergrundgespräch sagte Facebook, dass sich das Gremium eher mit einigen Dutzend grundlegender Entscheidungen befassen werde, als Tausende Einzelfälle zu behandeln.

Welche Leitlinien gelten: Grundlage für die Entscheidungen sind Facebooks Community Standards. Vergangene Woche veröffentlichte Monika Bickert, Leiterin des Global Policy Management, einen Blogpost, der fast völlig untergegangen ist, weil er auf den ersten Blick unspektakulär aussieht. Tatsächlich könnte die Ankündigung weitreichende Auswirkungen haben.

Bickert beschreibt darin die Werte, auf denen die Community Standards und damit auch die Entscheidungen des Aufsichtsrats beruhen. Ursprünglich hatte Facebook Sicherheit, Gleichheit, Würde, Gerechtigkeit, Privatsphäre und Voice (Ausdrucksmöglichkeit? Mitspracherecht? Öffentlichkeit? Ich belasse es beim präziseren englischen Ausdruck) genannt. Das sind alles wichtige Werte, die aber teils miteinander in Konflikt stehen.

Jetzt ist klar, welcher Wert der wichtigste ist: Voice. Alle anderen Standards müssen sich unterordnen. Aus Facebooks Sicht ist das nachvollziehbar: Es ist eine Plattform, die Milliarden Menschen eine Stimme geben will – und die ein großes finanzielles Interesse daran hat, dass sich möglichst viele Menschen äußern und vernetzen.

Be smart: Facebook betritt unbekanntes Terrain. Noch nie hat sich ein großes Unternehmen einem solchen Gremium unterworfen. Natürlich gibt es Kritiker: zu spät, zu zahm, zu zaghaft, zu wenig Ressourcen. Aber es ist Unsinn, Facebook reflexhaft für jede Entscheidung zu kritisieren, nur weil Facebook in der Vergangenheit viele Fehler gemacht hat. Ich halte es zumindest für den richtigen Ansatz.

Natürlich wird der Aufsichtsrat keine perfekten Entscheidungen treffen. Die Grenze zwischen Meinungsfreiheit und Hetze, die besser entfernt sollte, ist fast nie trennscharf. Es wird immer Menschen geben, die anderer Meinung sind. Oft sind sich bei solchen Fragen selbst Juristïnnen nicht einig.

Die wichtigste Verbesserung, die das Gremium bringen könnte: Transparenz. Studien zeigen, dass Menschen Entscheidungen eher akzeptieren, wenn sie den Prozess und die Beweggründe nachvollziehen können, die zu dieser Entscheidung führten – selbst wenn das Resultat nicht ihrer Meinung entspricht.

Bislang ist Facebook eine Black Box. Nutzerïnnen wissen fast nie, mit wem sie kommunizieren und warum Inhalte verschwinden oder online bleiben. Die Content-Moderatorïnnen folgen zwar umfangreichen Regelwerken und komplizierten Flow-Charts, die sich ständig verändern. Diese Unterlagen sind aber nicht einsehbar. Ab und zu veröffentlichen Medien einige Auszüge, die aber immer nur eine unvollständige Bestandsaufnahme darstellen.

In den bisherigen Dokumenten betont Facebook mehrfach, dass der Aufsichtsrat seine Abwägungen begründen und erklären soll, in einfacher Sprache und bezugnehmend auf vorhergehende Entscheidungen. Das könnte die (scheinbar) willkürlichen Urteile etwas nachvollziehbarer machen.

Wer tiefer einsteigen will: Harvard-Forscherin Evelyn Douek hat die beiden besten Texte zu dem Thema geschrieben, die ich gelesen habe. Im Lawfare-Blog seziert sie Bickerts Blogeintrag, und im Atlantic analysiert sie Facebooks Aufsichtsrat.

Facebooks neue Währung

Was ist: Politikerïnnen und Aufsichtsbehörden versuchen, Libra zu stoppen, bevor Facebook bei seiner Währung Tatsachen schafft. Vor allem Deutschland und Frankreich haben Bedenken.

Das fordern die Libra-Gegner: Frankreich will Facebook verbieten, Libra in Europa einzuführen. Finanzminister Bruno Le Maire schlägt stattdessen eine alternative digitale Währung vor, die er gemeinsam mit der EZB entwickeln möchte. Auch viele deutsche Politikerïnnen sind skeptisch und setzen auf eigene Kryptowährungen. Wenn ich mir das Protokoll der Bundespressekonferenz zur deutschen Blockchain-Strategie ansehe, zweifle ich aber an der Kompetenz einiger Beteiligter.

Das sagt Facebook: Der zuständige Manager David Marcus wehrt sich gegen die Vorwürfe. Libra werde die staatliche Souveränität bei der Geldschöpfung nicht untergraben. Facebook wolle ein einfacher Zahlungsnetzwerk entwickeln, das auf bestehenden Währungen aufsetze.

Be smart: In Briefing #556 und #557 habe ich mich ausführlich mit Libra beschäftigt. Ich halte es nach wie vor für ein faszinierendes Projekt, das jedoch an seinen Ambitionen scheitern könnte. Im Gegensatz zu den manchmal schlafmützigen Politikerïnnen, die jahrelang zugesehen haben, wie Facebook immer mächtiger wurde, reagieren Finanzinstitutionen wie die EZB, das Bundeskartellamt und die Bafin offenbar deutlich schneller – und ihre Kritik ist drastisch. Auch in den USA gibt es größere Widerstände.

Kürzlich war ich auf einer internen Facebook-Veranstaltung und habe mit Mitarbeiterïnnen gesprochen. Das hat meine Eindrücke bestätigt: Das Projekt ist riesig und wird auch von Facebook entsprechend priorisiert behandelt. Doch als Facebook Libra im Juni vorstellt, war es nur ein vages Konzept – wurde aber präsentiert wie ein konkreter Plan.

Das halte ich rückblickend für einen schweren Kommunikationsfehler: Was als Gesprächsangebot gedacht war, wurde öffentlich als Bedrohung wahrgenommen. Statt mit Facebook über Risiken und Nebenwirkungen zu diskutierten, gingen Politikerïnnen und Aufsichtsbehörden in eine Abwehrhaltung.

In den kommenden Monaten wird viel Überzeugungsarbeit auf Facebook zukommen. Ich halte es für nahezu ausgeschlossen, dass Libra so umgesetzt wird, wie es ursprünglich gedacht war. Das ist ein wichtiges Signal: Facebook kann eben nicht machen, was es will.

Facebooks neue Herausforderungen

Was ist: Mark Zuckerberg tourt durch Washington und spricht mit wichtigen Politikerïnnen. Am Donnerstagabend traf er sich zum Dinner mit Senatorïnnen und anderen hochrangigen Abgeordneten. Offenbar hatte er auch ein Meeting mit Präsident Donald Trump.

Warum das wichtig ist: Zuckerbergs Besuch zeigt, wie groß der Druck ist, den Facebook spürt. Normalerweise meidet der Facebook-Chef solche Begegnungen und schlägt Einladungen (oder eher: Vorladungen) der meisten Parlamente aus. Dass er sich jetzt im Hintergrund mit hochrangigen US-Politikerïnnen trifft, deutet daraufhin, wie ernst die Lage ist.

Was dahinter steckt: Diese hervorragende Übersicht der New York Times (dringende Bookmark-Empfehlung!) zeigt, dass derzeit allein in den USA elf verschiedene Ermittlungen und Verfahren laufen: Anwälte etlicher Bundesstaaten untersuchen Kartell- und Datenschutzaspekte, mehrere Kongressausschüsse beschäftigen sich ebenfalls mit Facebook. Trump greift zwar ständig alles und jeden an, aber seine aggressiven Kommentare zu Facebook sind in den vergangenen Monaten häufiger und – aus Facebooks Sicht – bedrohlicher geworden.

Offiziell ist nicht bekannt, wie das Dinner und das Treffen mit Trump abgelaufen sind und was dort besprochen wurde. Die oben verlinkten Artikel von Bloomberg und der Washington Post klingen aber so, als habe sich Zuckerberg etliche kritische Fragen anhören müssen. Demnach ging es um Datenschutz, die Wahl 2020, Facebooks Währung Libra und Forderungen, Whatsapp und Instagram zu verkaufen, um das Unternehmen zu entflechten.

Be smart: 2020 wird für Facebook ein entscheidendes Jahr. Weltweit ermitteln Datenschützer, Kartellämter und andere Aufsichtsbehörden. Die Cambridge-Analytica-Affäre und das folgende Skandaljahr haben gezeigt, dass sich Facebook fast alles erlauben kann, ohne dass Nutzerïnnen davonlaufen. Doch zum ersten Mal in der Geschichte des Unternehmens könnte die Politik Facebooks scheinbar unaufhaltsamen Wachstum Grenzen setzen.

Facebooks neues Smart-Display

Was ist: Facebook bringt eine zweite Version von Portal auf den Markt. Das Gerät ist ein Smart-Display, mit dem Nutzerïnnen Videoanrufe über den Facebook-Messenger und Whatsapp starten können.

Warum das erstaunlich ist: Im vergangenen Oktober schrieb ich in Briefing #493 über die erste Portal-Generation:

Der Elefant im Raum ist die Privatsphäre. Ursprünglich sollte Portal bereits im Frühjahr auf den Markt kommen. Doch dann wurde bekannt, dass Cambridge Analytica auf Datensätze von Millionen Facebook-Nutzern zugegriffen hatte. Inmitten dieser Turbulenzen wollte Facebook kein Gerät veröffentlichen, das einer Mischung aus Wanze und Überwachungskamera ähnelt.

Ich war skeptisch, ob sich Menschen tatsächlich ein Mikrofon und eine Kamera ins Wohn- oder Schlafzimmer stellen wollen, die direkt mit Facebook kommunizieren. Offenbar zurecht: Glaubt man Analysten, soll Facebook zwischen 54.000 und 300.000 Geräten verkauft haben. Verglichen mit Amazons Echo und den Smart-Displays von Google ist das Flop. Und jetzt ein zweiter Versuch?

Was Facebook bezweckt: „This product is the very core essence of what Facebook does“, sagt Andrew Bosworth, der Facebooks Hardware-Sparte leitet. „It connects you meaningfully with the people you care most about.“

Facebook will nicht tatenlos zusehen, wie Amazon und Google den Markt für Smart-Displays unter sich aufteilen. Ich glaube nicht, dass es darum geht, mit der Hardware selbst Geld zu verdienen. Vielmehr kann Facebook darüber wertvolle Metadaten sammeln (wer telefoniert wann mit wem) und seine eigenen Dienste stärken: Portal-Käuferïnnen nutzen den Messenger oder Whatsapp, während Google standardmäßig Duo vorgibt.

Be smart: Facebooks bisherige Versuche, nicht nur Software, sondern Geräte zu bauen, lassen sich so zusammenfassen: Hardware ist hart. Das eigene Smartphone ist gefloppt, die Oculus-Übernahme zahlt sich im Gegensatz zu den Whatsapp- und Instagram-Käufen noch nicht aus, und das interne Hardware-Lab Building 8 wurde nach anderthalb Jahren geschlossen.

„Wer Google-Geräte ins Schlafzimmer stellt, muss Vertrauen haben“, sagte mir Rishi Chandra, Leiter von Googles Hardware-Sparte Nest, im Juli. „Ohne Vertrauen sind die besten Produkte wertlos.“ In den vergangenen Monaten wurde bekannt, dass alle großen Tech-Konzerne Mitarbeiterïnnen beschäftigen, die Sprachaufnahmen anhörten und transkribierten, um die maschinelle Spracherkennung zu trainieren. Auch der Facebook Messenger und Portal waren betroffen.

Und jetzt will ausgerechnet Facebook massenhaft Menschen davon überzeugen, sich potenzielle Wanzen in die Wohnung zu holen? Ich bleibe skeptisch.

Facebooks neue Regeln

Was ist: Facebook verschärft sein Vorgehen gegen Terroristïnnen, Extremistïnnen und Organisationen, die Hass verbreiten. In einem langen Blogeintrag erklärt das Unternehmen, welche Maßnahmen es in den vergangenen Monaten ergriffen hat, um das Netzwerk zu einem angenehmeren, friedlicheren Ort zu machen und Radikalisierung zu verhindern.

Was Facebook tut: Facebook hat seine Definition von „Gefährlichen Personen und Organisationen“ erweitert, um nicht nur Terrororganisationen wie den sogenannten IS zu erfassen, sondern auch White-Supremacy-Gruppen. Nach dem Terroranschlag von Christchurch wurde Facebook Live eingeschränkt. Außerdem arbeitet Facebook mit Microsoft, Twitter, Google und Amazon zusammen, um terroristische Inhalte schneller zu erkennen und entfernen.

Die USA und Großbritannien stellen Facebook Bodycam-Aufnahmen zu Verfügung. Damit will Facebook seine Erkennungssysteme trainieren, um künftig Livestreams und Videos von First-Person-Shootern zu identifizieren. Die automatischen Frühwarnsysteme haben in Christchurch nicht angeschlagen, weil sie die Aufnahme für ein Videospiel gehalten hatten.

Wer nach bestimmten Begriffen sucht, die mit White Supremacy oder anderen extremistischen Bewegungen in Zusammenhang stehen, wird automatisch zu Aussteigerprogrammen und Deradikalisierungs-Initiativen weitergeleitet. Ein Team aus 350 Mitarbeiterïnnen bemüht sich, Facebook frei von Hass und Gewalt zu halten.

Be smart: „None of these changes are silver bullets“, sagt Brian Fishman, der für Facebooks Richtlinien in Bezug auf Terrororganisationen verantwortlich ist. „There’s still tons of work to do.“ Er hat Recht: Es ist unmöglich, Terroristïnnen und Extremistïnnen komplett daran zu hindern, Facebook und andere Plattformen zu missbrauchen.

Aber Facebooks Bemühungen sind ein Schritt in die richtige Richtungen. Plattformen müssen alles tun, um nicht zu unfreiwilligen Helfern von Menschen zu werden, die Hass säen und Entsetzen verbreiten wollen, indem sie fürchterliche Taten in die ganze Welt übertragen.

Facebook-Newsflash

  • „Stück Scheiße“, „Drecks Fotze“, „Sondermüll“. Wenn es nach dem Berliner Landgericht geht, sind solche Facebook-Kommentare nicht verboten, sondern „haarscharf an der Grenze des noch hinnehmbaren“. Mit dieser Begründung haben die Richter eine Klage von Renate Künast abgewiesen. (Zusammenfassung: Tagesspiegel / Juristische Einordnung: LTO)
  • Seitenbetreiber können sich bald eine mobile und eine Desktop-Vorschau anzeigen lassen, bevor sie Postings abschicken. (AllFacebook)
  • Im Juni 2018 hat Facebooks Policy-Chef Elliot Schrage seinen Abgang verkündet. 15 Monate später arbeitet er immer noch für Facebook. (Bloomberg)
  • Facebook wird Werbekunden davon abhalten, die Überschriften von Links zu ändern, die sie in Anzeigen teilen. In Großbritannien hatten die Tories einen BBC-Artikel irreführend entstellt. (CBC)
  • Seit Jahren ist bekannt, dass viele Content-Moderatorïnnen unter ihrer Arbeit leiden. Alex Hern hat mit Menschen gesprochen, die in Berlin für Facebook grauenhafte Inhalte sichten und löschen. Demnach werden manche süchtig, andere radikalisieren sich. (Guardian)
  • Datenschützer dürfen Fanpage-Betreiber verpflichten, ihre Facebook-Seite abzuschalten, falls der Datenschutzbehörde „keine anderweitige Möglichkeit zur Herstellung datenschutzkonformer Zustände offensteht“. (Golem)
  • Unternehmen, die Wohnungen vermieten, sollen Facebooks Anzeigensystem missbraucht haben, um ältere Menschen zu diskriminieren. Sie sollen ihre Angebote gezielt nur jüngeren Facebook-Nutzerïnnen angezeigt haben. (Washington Post)

Newsletter-Empfehlungen fürs Wochenende

In den vergangenen Tagen sind zwei neue Newsletter gestartet, die ich euch ans Herz legen möchte:

  • Im August hatte Evgeny Morozov seinen Newsletter The Syllabus auf Twitter angekündigt. Nach einigen Wochen in der Betaphase ist das Projekt jetzt offiziell gestartet. Ihr könnt kuratierte Leselisten zu bestimmten Themengebieten abonnieren oder den Newsletter nach eigenen Wünschen konfigurieren, thematische Schwerpunkte setzen und auswählen, ob ihr eher journalistische oder akademische Texte lesen wollt. Die bisherigen Ausgaben sind weniger dystopisch und technologiefeindlich, als man es bei Morozov befürchten könnte. Ich habe etliche spannende Links gefunden, die ich sonst vermutlich verpasst hätte. Hier geht’s zum Abo.
  • Seit Anfang September verschickt die Factchecking-NGO First Draft tägliche und wöchentliche Briefings. Die Newsletter fassen wichtige Entwicklungen zu gezielter Desinformation und Medienmanipulation zusammen. Vor allem für Journalistïnnen, die sich mit diesen Themen beschäftigen, ist das wertvoll. Erst Probelesen? Das Archiv. Gleich abonnieren? Hier entlang.

Header-Foto von Diem Nhi Nguyen bei Unsplash