Salut und herzlich Willkommen zur 628. Ausgabe des Social Media Briefings. Heute beschäftigt uns das neue NetzDG: Helfe Gesetze gegen Hass im Netz? Zudem lernen wir, dass Zoom beim Datenschutz nachbessern möchte, was es mit Pan European Privacy-Protecting Proximity Tracing auf sich hat ( 🤓 ) und warum es so schwer ist, einen TikTok-Rivalen zu bauen. Herzlichen Dank für das Interesse an unserer Arbeit und ein angenehmes Wochenende – Tilman, Simon und Martin

Das neue NetzDG: Helfen Gesetze gegen Hass im Netz?

Was ist: Die Bundesregierung will das NetzDG ändern. Dafür hat sie den „Entwurf eines Gesetzes zur Änderung des Netzwerkdurchsetzungsgesetzes“ beschlossen. Auf der Webseite des Justizministeriums gibt es einen Überblick der wichtigsten Neuregelungen sowie ein ausführliche Q&A mit 25 Fragen und Antworten. Wer am Wochenende noch nichts vorhat, kann die 61 Seiten Gesetzestext auch als PDF lesen.

Warum das wichtig ist: Das NetzDG zählt zu den umstrittensten Gesetzvorhaben der Bundesregierung. Der Grundgedanke ist richtig: Wer im Internet bedroht und beleidigt wird, soll das nicht tatenlos hinnehmen müssen. Große Plattformen wie Facebook und YouTube sollen strafrechtlich relevante Inhalte schneller entfernen und Meldeprozesse transparenter machen.

Die Umsetzung war aber kritikwürdig: Obwohl die ersten Entwürfe mehrfach nachgebessert wurden, enthält das fertige Gesetz viele vage Formulierungen, sieht keine Beschwerdemöglichkeiten vor, überlässt den Plattformen die Ausgestaltung der Meldewege und Transparenzberichte, verlagert staatliche Aufgaben auf private Anbieter und bietet keinen wirksamen Schutz vor Overblocking (Netzpolitik).

Das NetzDG wurde zwar zum Vorbild für autokratische Regime (SZ), die große Furcht vor Zensur hat sich in Deutschland aber nicht als begründet erwiesen (Heise). Allerdings war es auch nicht besonders wirksam: Ursprünglich ging die Bundesregierung von 25.000 Beschwerden pro Jahr aus – 2020 waren es gerade einmal 489.

Das könnte natürlich auch daran liegen, dass sich die Plattformen fast vorbildlich verhalten und gar keinen Anlass dafür bieten. Wahrscheinlicher ist aber, dass nur wenige Menschen die teils komplizierten Beschwerdewege kennen und nutzen.

Was sich ändern soll: Der Regierungsentwurf geht auf einige der zentralen Kritikpunkte am bestehenden NetzDG ein:

  • Beschwerden: Nutzerïnnen können verlangen, dass Entscheidungen überprüft werden. Das gilt für gemeldete Inhalte, die nicht gelöscht werden, aber auch für eigene Beiträge, die das soziale Netzwerk womöglich zu Unrecht gesperrt hat. Dafür müssen die Plattformen ein sogenanntes Gegenvorstellungsverfahren etablieren und ihre Entscheidungen individuell begründen.
  • Kürzere Klagewege: Wer nach einer Beschwerde mit der Entscheidung nicht einverstanden ist, soll sich an einen Zustellungsbevollmächtigten in Deutschland wenden können. Bislang sind dafür teils komplizierte Klagen in Irland oder anderen Ländern nötig.
  • Schlichtungsstelle: Private Schlichtungsstellen sollen helfen, Streitpunkte zwischen Nutzerïnnen und Unternehmen außergerichtlich beizulegen. Das kann helfen, Gerichtskosten zu reduzieren.
  • Meldewege: Einige Plattformen (hallo, Facebook) verstecken ihr Meldeformular auf einer Unterseite im Hilfebereich – das dürfte eine rechte effektive Methode sein, die Zahl der Beschwerden zu minimieren. Künftig sollen die Formulare leichter zugänglich sein und direkt vom jeweiligen Beitrag aus aufgerufen werden können.
  • Transparenzberichte: Die regelmäßigen Berichte sollen aussagekräftiger werden. Soziale Netzwerke müssen künftig etwa offenlegen, wie sie mit Gegenvorstellungsverfahren umgehen und angeben, wie viele Inhalte sie nach Beschwerden wiederherstellen. Außerdem sollen die Unternehmen aufführen, ob und inwiefern sie unabhängigen Forschungseinrichtungen Zugang zu anonymisierten Daten für wissenschaftliche Zwecke gewähren.

Was sich sonst noch ändert: Derzeit versucht die Bundesregierung, mit mehreren Intiatitiven gegen Hasskriminalität im Netz vorzugehen. Neben der Novellierung des NetzDG gibt es den Gesetzentwurf „zur Bekämpfung des Rechtsextremismus und der Hasskriminalität“, der im Februar im Kabinett verabschiedet wurde. Das Paket soll insgesamt sechs Gesetze ändern, darunter auch das NetzDG.

Dieses zweite Vorhaben wird seit Monaten kontrovers diskutiert. Zwischenzeitlich enthielt ein Referentenentwurf Formulierungen, die den Schluss zuließen, die Bundesregierung wolle auf Passwörter im Klartext zugreifen.

Solche Frontalangriffe auf Grundrechte wurden mittlerweile entfernt, vor allem die Meldepflicht für Plattformen, die bestimmte Inhalte automatisch ans BKA übermitteln sollen, bleibt aber heftig umstritten (Heise). Einen guten Überblick zum Gesetz gegen Hasskriminalität hat Patrick Beuth im Februar geschrieben (Spiegel).

Wie es weitergeht: Beide Gesetzentwürfe wurden bislang erst im Kabinett verabschiedet. Bevor der Bundestag zustimmt, stehen parlamentarische Verfahren an, sodass noch Änderungen vorgenommen werden können. Das Innenministerium wünscht sich etwa eine Regelung für Plattformen, die nicht unter das NetzDG fallen, weil sie weniger als zwei Millionen Nutzer in Deutschland haben.

Be smart: Die Überarbeitung ist sinnvoll und überfällig. Bei einigen Änderungen fragt man sich: Warum erst jetzt? Insbesondere die fehlenden Beschwerdemöglichkeiten gegen zu Unrecht gesperrte Beiträge waren von Anfang an ein Kritikpunkt des NetzDG – das vor mehr als zwei Jahren verabschiedet wurde.

Trotzdem bleiben grundsätzliche Probleme bestehen. Das zeigt sich in den Stellungnahmen, die das BMJV veröffentlicht hat (ganz unten). Dort üben nicht nur Facebook und Google Fundamentalkritik, auch zivilgesellschaftliche Organisation wie die Amadeu-Antonio-Stiftung (AAS) und HateAid haben Bedenken. Sie fürchten Eingriffe in die Meinungsfreiheit, kritisieren die Auslagerung staatlicher Aufgaben an private Unternehmen und fordern generell ein langsameres Vorgehen mit mehr Einfluss der Zivilgesellschaft.

Die Organisationen Das Nettz, Campact, das No-Hatespeech-Movement und die AAS schreiben etwa:

„Die eilige Veröffentlichung der jüngsten Referentenentwürfe wirkt auf uns wie politischer Aktionismus, der nicht zu überlegten Entscheidungen führen kann. Völlig unverständlich ist, warum die in Arbeit befindliche wissenschaftliche Evaluierung zum NetzDG nicht abgewartet wird, bevor Veränderungs-Entwürfe vorgelegt werden.„

Auch die Grünen-Politikerinnen Renate Künast und Tabea Rößner fordern (Grün-Digital):

„Allerdings muss Ministerin Lambrecht nun auch die lange angekündigte Evaluierung des Gesetzes vorlegen, das 2017 im Galopp durch den Bundestag getrieben wurde. Diese war nämlich bisher stets das Argument, schon lange bekannte Fehler im NetzDG nicht abzuändern und grüne Anträge zu vertagen. Jetzt sollten nicht nur die von Anfang an bekannten Fehler beseitigt werden, sondern mit der Evaluierung auch eine grundsätzliche Debatte über Meinungsfreiheit und Persönlichkeitsrechte im Gesetz erfolgen.„

Update 1: Zoom will beim Datenschutz nachbessern

Was war: In Briefing #627 haben wir über den rasanten Aufstieg von Zoom geschrieben – und über die teils massiven Datenschutzpannen, die sich der Dienst geleistet hat.

Was ist: Zu den Kritikpunkten sind in der Zwischenzeit weitere Sicherheitslücken hinzugekommen (Wired). Mittlerweile hat auch das Unternehmen reagiert. In einem Blogeintrag verspricht Zoom-Chef Eric S. Yuan, dass man sich in den kommenden drei Monaten auf Sicherheit und Datenschutz fokussieren werde.

Be smart: Innerhalb weniger Monate ist die Zahl der Menschen, die Zoom nutzen, von 10 auf 200 Millionen gewachsen. Es ist verständlich, dass das Unternehmen an der Belastungsgrenze arbeitet und von der Situation teils überfordert ist. Doch die unrühmliche Geschichte der Sicherheitslücken reicht weiter zurück, und es gibt wenig Grund für einen großen Vertrauensvorschuss.

Yuans Ankündigung liest sich gut, bislang ist sie aber nur ein Versprechen. Entscheidet ist, was in den kommenden Wochen geschieht. Bis dahin gilt: Auch andere Unternehmen haben schöne Videokonferenz-Software – Zeit Online und The Verge stellen die besten Alternativen vor.

Update 2: Handydaten gegen Covid-19

Was war: In Briefing #627 haben wir über eine App geschrieben, mit der Robert-Koch-Institut (RKI) und Heinrich-Hertz-Institut (HHI) die Ausbreitung des Coronavirus verlangsamen wollen.

Was ist: Mittlerweile ist die Sperrfrist vorbei und weitere Details bekannt. Tatsächlich geht es nicht nur um eine App, und es sind nicht nur die beiden deutschen Institute beteiligt.

Hinter dem sperrigen Begriff „Pan European Privacy-Protecting Proximity Tracing”, kurz Pepp-PT, verbirgt sich eine europäische Plattform, an der mehr als 130 Wissenschaftlerïnnen wochenlang gearbeitet haben. Die wichtigsten Eckpunkte:

  • Das Projekt ist der bislang größte und ambitionierteste Versuch, die Pandemie mit moderner Technik zu bekämpfen – ohne in die Privatsphäre der Nutzerïnnen einzugreifen.
  • Beteiligt sind Forscherïnnen aus Belgien, Dänemark, Deutschland, Frankreich, Italien, Österreich, Spanien und der Schweiz.
  • Pepp-PT ist ein Framework, auf dem Apps aufsetzen können. Wenn zu viele unterschiedliche Apps entstehen, erreicht keine eine kritische Größe, die nötig ist, um als wirksames Warnsystem zu funktionieren.
  • Das System ist ein Gegenentwurf zu den teils repressiven und invasiven Ansätzen anderer Länder. Statt massenhaft sensible Standortdaten zu sammeln, Nutzerïnnen zu überwachen oder Infizierte an einen digitalen Corona-Pranger zu stellen, soll Pepp-PT komplett freiwillig und datenschutzfreundlich sein.
  • Um Infektionsketten wirksam zu unterbrechen, streben die Forscher eine Nutzerbasis von 60 Prozent der Bevölkerung an – in Deutschland wären das 50 Millionen Menschen.
  • Die Plattform soll am 7. April fertiggestellt sein, mit den ersten Apps wird eine Woche später gerechnet. Für Deutschland entwickeln RKI und HHI diese App.
  • Die Funktionsweise der App, die auf dem Bluetooth-Low-Energy-Standard beruht und lokal anonyme, temporäre IDs der Kontaktpersonen speichert, entspricht der Analyse aus Briefing #627.

Be smart: Es wird eine gewaltige Herausforderung, genug Menschen zu überzeugen, sich freiwillig eine solche App zu installieren. Zum Vergleich: Nicht mal WhatsApp hat in Deutschland 50 Millionen Nutzerïnnen.

Was das Vorhaben zusätzlich erschwert, sind Berichte, wonach die Polizei – datenschutzrechtlich höchst fragwürdige – Infizierten-Listen erstellt (Netzpolitik). Auch solche Aussagen von CDU-Politikern wie dem Bundestagsabgeordneten Tino Sorge dürften eher Misstrauen auslösen als Vertrauen stiften (Handelsblatt):

„Dass der Standard nur auf Freiwilligkeit und Anonymisierung beruht, zeigt leider, dass es sich um einen Kompromiss mit den Datenschützern handelt – obwohl der lebensrettende Nutzen außer Frage steht. Weil die App von freiwilligen Downloads abhängig ist, wird sie stets nur lückenhafte Daten liefern.„

Auch Hansjörg Durz, der digitalpolitische Sprecher der CSU, droht jetzt schon:

„Wenn Grundrechte wie die Bewegungsfreiheit im absoluten Notfall eingeschränkt werden können, darf auch die Einschränkung von Datenschutzrechten kein Tabu sein – insbesondere wenn dadurch andere Grundrechte zurückgewonnen werden können.„

Zumindest Angela Merkel gibt sich Mühe (Spiegel), das ambitionierte Projekt nicht schon vor dem Start zu sabotieren. Wenn sich das Konzept als wirksam erweise, um Kontaktpersonen zu warnen, dann sei sie „natürlich auch bereit, das für mich selber anzuwenden und damit vielleicht anderen Menschen zu helfen”.

Shorts: YouTube plant TikTok-Rivalen

Was ist: YouTube plant, Ende des Jahres eine neue Kurzvideo-Funktion in die reguläre YouTube-App zu integrieren. Das neue Feature soll Shorts heißen und TikTok Konkurrenz machen (The Information $).

Was genau soll Shorts können? Bislang ist zu den Funktionen noch nicht all zu viel bekannt. The Information berichtet lediglich, dass das Feature Nutzerïnnen ermöglichen soll, ihre Videos mit Musik aus der YouTube-Library zu verbinden. Ob es TikToksche Editing-Funktionen, Filter, Challenges und dergleichen geben wird, ist völlig offen.

Warum ist das interessant?

  • Bislang tun sich die etablierten Social-Media-Unternehmen schwer damit, den Erfolg von TikTok einzubremsen. 2019 hat das Unternehmen aus China mit Blick auf Umsätze und neu registrierte Accounts Monat für Monat bessere Ergebnisse erzielt. Nach Erfolgen in Europa und USA, soll die App nun in weiteren Ländern der Welt mit Nachdruck expandieren (Reuters).
  • TikTok zeigt in der aktuellen Krise, dass sie sich längst am westlichen Markt etabliert haben. Nicht nur Kids und Möchtegern-Influencer nutzen die App, sondern etliche (Alt-) Stars und Sternchen haben sich jüngst bei TikTok angemeldet (von Arnold Schwarzenegger über Jennifer Lopez bis zu Jack Black). Auch setzen Unternehmen wie die WHO auf TikTok, um Teens besser über Covid-19 aufzuklären. Sogar der saarländische Ministerpräsident nutzt jetzt TikTok ¯\_(ツ)_/¯

Be smart:

  • Facebook versucht bereits mit Lasso und Instagram Reels, eigene Kurzvideo-Apps in ausgewählten Märkten zu etablieren.
  • Ob solche Standalone-Apps besser funktioneren können als Features, die einfach nur in bereits bestehende Apps gepflanzt werden, muss sich zeigen. Da wir über Facebook Lasso im November 2018 zum ersten Mal berichtet haben (siehe Briefing #499) und seitdem nicht wirklich etwas passiert ist, gibt es eigentlich keinen Grund anzunehmen, dass die App noch einmal wirklich abhebt. Selbiges dürfte womöglich auch für Instagram Reels gelten, über die wir im November 2019 berichteten (Briefing #591).
  • Am Ende sind es aber wohl auch nicht so sehr die Features, die darüber entscheiden, ob es eine App aus dem Hause Facebook oder Google schafft, TikTok nachhaltig aufzumischen.
  • Den größten Vorteil, den TikTok genießt, ist der „content network effect“ – je mehr Menschen die App bereits nutzen, desto mehr Inhalte gibt es, die für eigene Inhalte als Vorlage genutzt werden können – egal ob bei Duetts, Challenges, Parodien, Reaction-Videos, etc.
  • Was Facebook mit Blick auf den traditionellen Netzwerk-Effekt erreicht hat (je mehr Menschen die App nutzen, desto größer ist das Incentive, dass ich mich für die App auch anmelde), hat TikTok mit seinen Inhalten geschafft.
  • YouTube könnte das auch. Dafür braucht es aber mehr als nur den Zugriff auf die Musikbibliothekt. YouTube müsste für Shorts all seine bereits hochgeladenen Videos zum Remix freigeben. Das wäre ein Fest.

Neue Features bei den Plattformen

Facebook

Instagram

Empfehlungen fürs Wochenende

Tipps for Social Distancing gab es ja die Tage zuhauf. Diese Hinweise machen auf uns aber einen besonders kredibilen Eindruck – sie beruhen auf 50 Jahren Erfahrung mit Social Distancing (NPR).

Hier. Du. Machen. Das Internet ist ein Großmeister darin, einem ein schlechtes Gewissen einzureden. Gerade in diesen Zeiten gibt es eine Flut an Artikeln, was nun alles mit der Zeit zuhause angefangen werden könnte. Taylor Lorenz meint: Stop trying to be productive. Diesem Aufruf wollen wir uns gern anschließen.

Dokus ohne Ende: Vielleicht einfach mal die Füße hochlegen und eine fantastische Doku aus dem Archiv des International Documentary Film Festival Amsterdam gucken – das wäre doch fein.

Header-Foto von Tedward Quinn bei Unsplash