Facebook zähmt die Gruppen

Was ist

Facebook hat "Änderungen, um Gruppen sicher zu halten" (Facebook-Newsroom) angekündigt. Der Entscheidung war heftige interne und externe Kritik vorausgegangen: Gruppen könnten zur Radikalisierung beitragen.

Warum das wichtig ist

Vor genau zwei Jahren entwarf Mark Zuckerberg "A Privacy-Focused Vision for Social Networking" (Facebook). Er nannte damals unter anderem drei große Trends:

Today we already see that private messaging, ephemeral stories, and small groups are by far the fastest growing areas of online communication.

Die Voraussagen sind gut gealtert. Von LinkedIn bis Twitter gibt es kaum noch eine große Plattform, die keinen Story-Klon gebaut hat, immer mehr Menschen kommunizieren über Messenger – und Gruppen haben den Newsfeed abgehängt.

Diese Entwicklung bietet die Chance, Menschen mit ähnlichen Interessen zu vernetzen und fokussierte, engagierte Diskussionen mit guter Debattenkultur zu befördern. Gleichzeitig besteht das Risiko, dass sich Nutzerïnnen in geschlossene Räume zurückzuziehen, um dort ungestört zu hetzen, Verschwörungserzählungen zu verbreiten, sich gegenseitig in ihrem Rassismus zu bestätigen oder den Sturm auf das Kapitol zu planen.

Genau das ist passiert – und dagegen will Facebook nun (endlich) entschlossener vorgehen.

Was Facebook unternimmt

  • Die jüngsten Schritte setzen eine Entwicklung fort, die vor Jahren begann. "How Do We Help Keep Private Groups Safe?" (08/2019) und "Our Latest Steps to Keep Facebook Groups Safe" (09/2020) beinhalten bereits erste Maßnahmen.
  • Im vergangenen Oktober hörte Facebook in den USA bis auf Weiteres auf, politische Gruppen zu empfehlen (BuzzFeed), im November wurden Gruppen, die Desinformation teilten, auf Bewährung gesetzt (Washington Post), im Januar verkündete Facebook, aus der vorübergehenden Empfehlungspause einen dauerhaften Stopp zu machen (CNBC).
  • Nun sollen die oben genannten Maßnahmen im Laufe der kommenden Monate global eingeführt werden. Bislang galten sie nur in den USA.
  • Zudem gibt es feinere Abstufungen: Wenn Gruppen gegen Facebooks Richtlinien verstoßen, werden sie künftig sukzessive abgestraft und seltener empfohlen.
  • Je mehr Verstöße Facebook erkennt, desto drastischer wird die Drosselung. Schließlich wird die Gruppe komplett entfernt.
  • Falls bestimmte Gruppen Facebooks Ansicht nach eine unmittelbare Bedrohung darstellen, sollen diese Schritte übersprungen werden. Dann löscht Facebook sofort und ohne Vorwarnung.
  • Menschen, die einer Gruppe beitreten, die in der Vergangenheit gegen die Community-Standards verstoßen hat, werden benachrichtigt und somit vorgewarnt. Wer bereits Mitglied einer solchen Gruppe ist, sieht deren Inhalte seltener in seinem Newsfeed.
  • Administratorïnnen und Moderatorïnnen müssen jeden einzelnen Beitrag freischalten, sofern eine signifikante Anzahl der Gruppenmitglieder gegen Richtlinien verstoßen hat oder Teil einer anderen Gruppe ist, die Facebooks Standards verletzt.
  • Falls trotzdem wiederholt Postings zugelassen werden, die Facebook als illegal erachtet, entfernt Facebook die Gruppe.
  • Wer mehrfach in einer Gruppe gegen Richtlinien verstößt, kann eine Zeit lang in gar keiner Gruppe mehr posten und auch keine neuen Gruppen erstellen.

Warum Facebook jetzt handelt

  • In den vergangenen Monaten haben sowohl Facebook-Angestellte als auch Forscherïnnen und Medien immer wieder vor den Risiken gewarnt, die von Gruppen ausgehen.
  • Unter anderem sagte ein Entwickler im September (The Verge): "A user enters one group, and Facebook essentially pigeonholes them into a lifestyle that they can never really get out of."
  • Die QAnon-Sekte, die gewalttätige Boogaloo-Bewegung (TechCrunch) und "Stop the Steal"-Aktivistïnnen koordinierten sich maßgeblich in Facebook-Gruppen (WSJ).
  • Ende Januar enthüllte das Wall Street Journal, dass 70 der 100 aktivsten Civic-Groups in den USA Hass, Desinformation, Mobbing oder Belästigungen beinhalteten und deshalb nicht in Facebooks Empfehlung auftauchten.
  • Die Zahl stammt aus einer internen Facebook-Präsentation. Die Facebook-Wissenschaftlerïnnen bilanzierten deshalb: "We need to do something to stop these conversations from happening and growing as quickly as they do. (…) Our existing integrity systems aren’t addressing these issues."
  • Erst am vergangenen Wochenende berichtete die Washington Post über eine weitere interne Studie. Demnach ist eine kleine Anzahl der Nutzerïnnen für einen Großteil der Anti-Impf-Desinformation verantwortlich – und diese seien besonders in Gruppen mit QAnon-Bezug aktiv.

Be smart

Die Änderungen sind überfällig und klingen grundsätzlich sinnvoll. Allerdings enthält der Blogeintrag viele vage Wörter und Angaben. Facebook argumentierte in der Vergangenheit meist, dass es allzu präzise Festlegungen vermeide, um Extremistïnnen nicht die Möglichkeit zu geben, haargenau bis an die Grenze des Erlaubten zu gehen.

Evelyn Douek hält das für wenig überzeugend. Sie sieht eine verpasste Chance (Twitter):

Some good ideas here but vague language ("restrictions getting more severe as they accrue more violations"; penalties when a "substantial number" what is that? of members violate rules) is too opaque & misses an opportunity to shape user behavior. Groups are a known problem and a strikes system is a good idea, but without details it becomes a "just trust us (…)" and diminishes the deterrence and educational effects for users.

Wenn Facebook und Google den Account sperren

Was ist

In den vergangenen Wochen sind einige Fälle von Kontosperrungen bekannt geworden (SZ), für die es keinen öffentlich nachvollziehbaren Grund gibt. Für die Betroffenen ist das eine Katastrophe: Von einem auf den anderen Tag stehen sie ohne ihre E-Mails, Fotos, Dokumente oder privaten und beruflichen Kontakte dar. Es ist schwierig, bis unmöglich, mit den Konzernen in Kontakt zu kommen, um die angeblichen Ursachen zu erfahren und sich gegen die Sperre zu wehren.

Warum das wichtig ist

Es mögen nur Einzelfälle sein, doch sie zeigen, wie gefährlich es ist, sein digitales Leben in die Hand weniger Tech-Konzerne zu legen. Die meisten Menschen realisieren erst, wie abhängig sie sind, wenn es zu spät ist.

Was Samira Djidjeh erlebte

  • Samira Djidjeh ist Digitalunternehmerin und erste Vorsitzende der Digital Media Women.
  • Vor drei Wochen wurde sie plötzlich aus ihrem Facebook-Konto ausgeloggt und konnte sich nicht mehr anmelden. Facebook forderte sie auf, ihren Ausweis oder ein anderes offizielles Dokument hochzuladen, um ihr Alter zu bestätigen.
  • Logisch erklären kann man sich das nicht: Djidjeh ist seit zwölf Jahren bei Facebook angemeldet. Das Mindestalter ist 13. Djidjeh ist fast dreimal so alt.
  • Djidjeh ist für ihre Arbeit auf Facebook angewiesen. Die Digital Media Women vernetzen dort knapp 18.000 Frauen, es ist die wichtigste Plattform.
  • Djidjeh sieht nicht ein, warum sie nach zwölf Jahren plötzlich Personalausweis oder Führerschein herzeigen soll. "Mich ärgert vor allem die Art und Weise, wie dieser Nachweis eingefordert wird. Kein Grund, keine Erklärung, nichts", sagt sie.
  • Zudem füttert sie Facebook ohnehin schon mit ihren Daten und will dem Datenschatz nicht auch noch offizielle Dokumente hinzufügen.
  • Sie steht in Kontakt mit Facebook, erhält aber nach wie vor nur die Auskunft, dass sie ihr Alter verifizieren solle.

Was Facebook sagt

  • Facebook kommentiert Einzelfälle nicht öffentlich, legt aber nahe, dass Djidjeh doch einfach ein Dokument hochladen solle, statt sich und dem Unternehmen wochenlang so viel Mühe zu machen.
  • Tatsächlich hat Facebook gute Gründe, Menschen nach ihrem Alter zu fragen. Ende Januar starb in Italien eine Zehnjährige, die sich selbst strangulierte, um andere Nutzerïnnen auf Tiktok zu beeindrucken.
  • Seitdem erhöhen Verbraucherschützerïnnen den Druck auf die Plattformen. Sie müssten sicherstellen, dass sich keine Kinder anmelden können.

Was anderen Menschen widerfährt

  • Die Erfahrungen von Djidjeh sind kein Einzelfall: Immer wieder sperren große Plattformen Nutzerïnnen ohne offensichtlichen Grund – und nur selten reicht es, einen Ausweis hochzuladen, um wieder auf das Konto zugreifen zu können.
  • Googles Support-Foren sind voll mit verzweifelten Menschen, die nicht mehr weiterwissen. Sie können Beschwerde einlegen, wissen aber gar nicht (Twitter / Miguelyto), was ihnen vorgeworfen wird.
  • Teils trifft es Nutzerïnnen, die sich seit 15 Jahren auf Gmail verlassen (Business Insider) und von einem auf den anderen Tag den Zugriff auf alle Nachrichten verlieren.
  • Vergangenes Jahr trug Golem knapp 40 Fälle von Microsoft-Nutzerïnnen zusammen, deren Konten ohne Vorwarnung gesperrt wurden.
  • Noch härter hat es den US-Amerikaner Chris getroffen, der gegen Googles Richtlinien verstoßen haben soll, aber keine Ahnung hat, was er falsch gemacht haben könnte.
  • Auf Twitter beklagt er sich, dass er neben E-Mails und Dokumenten auch den Zugriff auf Google Fi, Google Fiber und Google Pay verloren habe – und damit seinen Telefonvertrag, Internetzugang und die App, mit der er Schulden bezahle.
  • Über Nacht habe ihn Google benachrichtigt, erzählt er. "Und als ich morgens aufgewacht bin, war alles weg." Er sei arbeitslos und sehe nun nicht mehr, wenn ein Unternehmen auf seine Bewerbung antworte.

Warum nicht alle Vorwürfe berechtigt sind

  • Viele Schilderungen lassen sich schlecht überprüfen, da die angeblichen Opfer womöglich Aspekte verschweigen oder versehentlich gegen Richtlinien verstoßen haben.
  • 2019 wurden etwa Hunderte Google-Konten vorübergehend gesperrt (Android Police), nachdem die Nutzerïnnen während eines YouTube-Livestreams allzu eifrig mit Emojis kommentiert hatten.
  • YouTubes Algorithmus hatte den echten Enthusiasmus für Spam gehalten und die vermeintlichen Bots verbannt.
  • Zudem kommentieren die Plattformen die Fälle fast nie öffentlich. Das hat auch juristische Gründe, lässt aber Raum für Spekulationen – die nicht immer gerechtfertigt sind.
  • Oft machen solche Einzelfälle dann eine große Welle und lösen Empörung aus. Wenn das Problem einige Tage später gelöst wird, bekommt das kaum noch jemand mit. Hängen bleibt die angeblich willkürliche Sperre.

Wo die Plattformen versagen

  • Wenn man mit Betroffenen spricht oder ihre Schilderungen auf Twitter, Reddit und anderen Foren liest, zeigt sich eine Gemeinsamkeit: Die mächtigsten Kommunikationsplattformen der Welt bieten kaum Kommunikationskanäle für Menschen, denen der Zugang zu dieser Infrastruktur verwehrt wird.
  • Manchmal hilft Öffentlichkeit: Ein Autor und Fotograf erhielt sein Apple-Konto zurück, nachdem er seine Funktion als IT-Chef von Quartz nutzte, um seinen Fall dort zu schildern.
  • Der Entwickler des Videospiels Terraria stritt sich mehr als einen Monat mit Google um seinen Account, den das Unternehmen blockiert hatte. Er drohte, das Spiel nicht wie geplant bei Googles Streaming-Dienst Stadia zu veröffentlichen.
  • Ende Februar hatte er Erfolg (Terraria-Forums): Sein Konto wurde entsperrt, Terraria erscheint nun doch.
  • Doch die meisten normalen Menschen können von solchen Hebeln nur träumen. Sie können sich nicht wehren und haben oft das Gefühl, der Willkür der Algorithmen hilflos ausgeliefert zu sein.
  • Einerseits drängen die Konzerne Menschen dazu, sich mit Haut, Haar und allen Daten in die geschlossenen Ökosysteme zu begeben. Andererseits bieten sie kaum Unterstützung, Jahre oder Jahrzehnte des digitalen Lebens wiederzuerlangen, wenn man aus der Online-Welt ausgesperrt wird.
  • Ob es sich um einen Irrtum der Plattformen oder einen Fehler der Betroffenen handelt, bleibt oft unklar: Der Grund für die Sperre wird erst gar nicht genannt.

Be smart

Unserer Meinung nach wären drei Dinge sinnvoll:

  1. Die Plattformen müssten gesetzlich verpflichtet werden, effektive Beschwerdewege zu Verfügung zu stellen, wenn Konten gesperrt werden. Das bedeutet: keine nutzlosen, automatisch erstellten Antworten mit Verweisen auf den Hilfebereich, sondern Menschen, die sich zeitnah um Einsprüche kümmern und sich jeden Fall individuell und vor allem zeitnah anschauen.
  2. Außerdem sollten Transparenzberichte verpflichtend auch aussagekräftige Zahlen über Kontensperrungen enthalten. Blockierte Bots und Spam-Accounts zählen nicht dazu. Es geht darum, wie viele echte Konten gesperrt werden, wie viele Betroffene sich beschweren – und wie oft sie Recht bekommen.
  3. Auf Grundlage dieser Zahlen ist eine Bewertung möglich: Wie verbreitet ist das Problem? Und braucht es zusätzliche Sanktionen, um Konzerne wie Facebook und Google zu zwingen, sich endlich besser um Menschen zu kümmern, die ihre Dienste gern nutzen würden, es aber nicht mehr dürfen.

Audio Boom

Swell – eine App für asynchrone Unterhaltungen:

Der Audio-Boom ist weiter ungebrochen. Swell stellt eine spannende Alternative zum aktuellen Platzhirschen Clubhouse (Techcrunch) dar.

  • Im Gegensatz zum boomenden Konkurrenten läuft die Kommunikation bei Swell nicht in Echtzeit. Man muss nicht live dabei sein, um in dem neuen audiozentrierten Netzwerk nichts zu verpassen. Ganz im Gegenteil: Swell konzentriert sich auf asynchrone Kommunikation.
  • User der App nehmen einen auf eine Maximallänge von fünf Minuten begrenzten Audioclip auf und versehen die Nachricht mit einem Bild oder Link. Anderen Userïnnen steht nun frei, ob und wann sie antworten möchten.
  • Swell bietet neben privaten, asynchronen Audiochats und Gesprächen in der Gruppe die „Swellcasts“, öffentlich zu findende Mini-Podcasts, an.
  • Das Versprechen der App: Weniger FOMO und eine deutliche Qualitätssteigerung der Gespräche. Geschäftsführerin Sudha Varadarajan drückt es so aus: “People really think about what they’re going to say.” Na, das wäre ja mal was…

Ah, übrigens

Schon einmal im Briefing davon gehört

Instagram für Kids

Facebook arbeitet laut BuzzFeed an einer Instagram-Version für Kids. Das Unternehmen schreibt in einem internen Instagram Post: „We have identified youth work as a priority for Instagram and have added it to our H1 priority list“. Konkret soll es um eine Version gehen, die sich explizit an Kinder unter 13 Jahre richtet. Uns gefällt das gar nicht.

Smartes Armband

Facebook arbeitet an einem neuronalen Armband (BuzzFeed), das die elektrischen Signale von Händen lesen und an eine Augmented-Reality-Schnittstelle senden kann. Im Kern geht es um ein Armband, mit dem man ohne Tastatur tippen kann. Die Übertragung könnte sogar funktionieren, ohne die Finger zu bewegen, hört man. Zudem ließe sich mit dem Armband auch eine von Facebook angekündigte AR-Brille steuern. Nächste Woche mehr dazu.

Neue Features bei den Plattformen

Facebook

  • Publishing Plattform: Jetzt geht Facebook in Sachen Creator Economy in die Vollen: Das Unternehmen plant ein Programm, mit dem "Writer" für ihr Tun bezahlt werden können – und zwar auf einer speziellen "Publishing Platform“ (Axios). Konkretes ist noch nicht bekannt. Wir ahnen aber schon jetzt, dass uns dieses Thema künftig arg beschäftigen könnte. Denn was sollte schon schiefgehen, wenn Facebook eine weitere Plattform plant, auf der Menschen Dinge veröffentlichen können…

YouTube

  • YouTube Shorts startet diese Woche in den USA: Bislang hatten wir noch keine Möglichkeit, YouTubes TikTok-Konkurrenten zu testen. Sobald das passiert ist, blicken wir ausführlicher auf das Thema.
  • YouTube warnt Creator beim Upload vor Copyright-Verletzungen: Creator bekommen nun im Voraus mitgeteilt, ob das hochzuladende Video urheberrechtlich geschütztes Material enthält (The Verge). Schlägt das Tool an, erhält der Uploader die Möglichkeit den betreffenden Teil zu entfernen. Das neue Vorgehen könnte theoretisch dazu beitragen, dass YouTuber ihre Inhalte schneller monetarisiert bekommen.

Instagram

  • Mehr Schutz für junge Nutzerïnnen: Instagram hat eine Reihe von Maßnahmen angekündigt, um junge Nutzerïnnen besser zu schützen:
    • In Zusammenarbeit mit dem Child Mind Institute und ConnectSafely wurde für US-Nutzerïnnen ein Leitfaden erstellt. Der Leitfaden beinhaltet Sicherheitstools, Datenschutzeinstellungen sowie Tipps für den Einstieg ins Gespräch mit den Kindern rund um das Thema Online-Präsenz auf Instagram.
    • Zudem möchte Instagram mittels Machine Learning das tatsächliche Alter der Nutzerïnnen erfassen.
    • Auch sollen junge Nutzerïnnen vor unerwünschtem Kontakt geschützt werden: Erwachsene Personen werden nun daran gehindert, Nachrichten an Kinder und Jugendliche zu versenden, die ihnen nicht folgen.
    • Instagram warnt Personen unter 18 via DMs vor verdächtigen Accounts, die beispielsweise viele Freundschaftsanfragen an Kinder und Jugendliche schicken.
    • Erwachsenen, die ein verdächtiges Verhalten gezeigt haben, wird es von Instagram schwieriger gemacht, mit Teenagern in Kontakt zu treten.
    • Die Plattform führt für junge Menschen zudem eine neue Funktion ein, die dazu führen soll, dass Nutzerïnnen unter 18 bei der Registrierung ein privates Profil wählen.

TikTok

  • Gruppen-Funktion in Planung: Der chinesische Mutterkonzern ByteDance plant für TikTok die Implementierung einer Funktion für Gruppennachrichten (Reuters). Im chinesischen Ableger der App – Douyin – ist die Funktion bereits seit 2019 verfügbar. Laut einer Quelle, die Reuters vorliegt, soll TikTok zu einer App für soziale Interaktion heranwachsen. Eine Weitere Quelle vermutet, dass der Gruppenchat wahrscheinlich ohne Verschlüsselung daher kommen wird. US-Beiratsmitglied von TikTok und Experte für digitale Forensik, Hany Farid, berichtet, er sei nicht über die Einführung einer Gruppenchatfunktion informiert worden, lässt aber verlauten, dass die Plattform auf Gefahren vorbereitet sein müsse, die eine solche Funktion mit sich bringe. Ja, bitte!

One more thing

Zoom Escaper: Falls du einen Grund brauchst, um ein Meeting schnell zu verlassen: von Echo über weinende Babys (und weinende Männer) bis zu Toilettengeräuschen ist alles dabei. Hier geht es zum Tool: zoomescaper.com. Hier geht es zur Anleitung bei YouTube.

Header-Foto von Convertkit bei Unsplash / Credits: Kati, xilophotography.com