Nebraska und der BlenderBot: Diese Kritik hat Facebook nicht verdient

Was ist

Über Facebook ergießen sich mal wieder Hohn, Häme und heftige Vorwürfe. Dafür gibt es zwei Anlässe:

  • In Nebraska gab Facebook Chatverläufe an Strafverfolgungsbehörden heraus. Auf Grundlage dieser Daten wurde Anklage gegen eine 17-Jährige und ihre Mutter erhoben. Die Tochter soll ihre Schwangerschaft in der 28. Woche abgebrochen haben.
  • Metas neuer Chatbot verbreitet Verschwörungserzählungen, Fehlinformationen und Antisemitismus.

In beiden Fällen scheint es nahezuliegen, Facebooks Mutterkonzern Meta verantwortlich zu machen. Wir sehen das etwas anders und erklären, warum Meta unserer Meinung nach ausnahmsweise zu Unrecht kritisiert wird.

Was in Nebraska geschah

  • Am 7. Juni forderten lokale Strafverfolgungsbehörden Daten von Facebook an. Sie legten einen richterlichen Beschluss vor, der Facebook zur Herausgabe verpflichtete.
  • Der Beschluss war mit einem NDA verbunden. Facebook durfte also nicht öffentlich über die Herausgabe der Daten sprechen.
  • Es geht um den Chatverlauf zwischen Jessica B. und ihrer Tochter Celeste. Die 17-Jährige soll mithilfe ihrer Mutter zwei Präparate mit den Wirkstoffen Mifepriston und Misoprostol gekauft haben, um ihre Schwangerschaft zu beenden. Der Polizei sagte Jessica, sie habe eine Fehlgeburt gehabt.
  • Sie war in der 28. Woche. In Nebraska ist Schwangerschaftsabbruch von der 20. Woche an strafbar.
  • Anfang der Woche berichteten Forbes und Vice über den Fall. Es folgten heftige Anfeindungen. Facebook habe der Polizei und den Behörden wissentlich geholfen, Beweismaterial für die Strafverfolgung zu sammeln.

Warum Facebook keine Wahl hatte

  • Kurz nach den ersten Berichten und der heftigen Kritik, die vor allem auf Twitter geäußert wurde, nahm Facebook selbst Stellung (Meta-Newsroom).
  • Zwei Sätze sind wichtig:

The warrants did not mention abortion at all. Court documents indicate that police were at that time investigating the alleged illegal burning and burial of a stillborn infant.

  • Facebook wusste also gar nicht, dass es um Ermittlungen wegen eines mutmaßlichen Schwangerschaftsabbruchs ging. Der richterliche Beschluss bezog sich auf den Verdacht, die beiden Frauen hätten ein totgeborenes Kind illegal eingeäschert und begraben.
  • Hätte Facebook sich wirklich widersetzen sollen? Die gleichen Leute, die jetzt wütende Tweets und Kommentare schreiben, regen sich sonst darüber auf, dass Facebook sich Regierungen und Behörden widersetzt, und fordern mehr Regulierung und staatliche Eingriffe.
  • In der öffentlichen Debatte geht noch mehr durcheinander. Der Fall wird als Beleg angeführt, dass die großen Plattformen nach dem Ende von Roe v Wade zu bereitwilligen Gehilfen der Strafverfolgungsbehörden werden.
  • Keine Frage: Das Urteil des Supreme Courts ist fürchterlich, wir halten die Kriminalisierung von Schwangerschaftsabbrüchen für falsch.
  • Facebooks Handeln in Nebraska hat damit aber nichts zu tun: Die Anfrage der Behörden erfolgte vor dem Urteil. Nebraska stellt Schwangerschaftsabbruch nach der 20. Woche unter Strafe, Roe v Wade hat daran nichts geändert.

Was sich aus dem Fall lernen lässt

  • Die Sorge von Bürgerrechtlern und Aktivistinnen ist absolut berechtigt. Nach Roe v Wade könnten Polizei und Behörden versuchen, digitale Daten als Beweismittel zu nutzen, um Frauen strafrechtlich zu verfolgen.
  • Zyklus-Tracker, Bewegungsdaten, Chatverläufe, all das könnte auf einen mutmaßlichen Schwangerschaftsabbruch hindeuten und vor Gericht verwendet werden.
  • Auch wenn Facebook im konkreten Fall wenig hätte anders machen könnten, muss Meta dringend handeln (Wired): Nach wie vor sind Nachrichten bei Instagram und im Facebook Messenger standardmäßig nicht Ende-zu-Ende-verschlüsselt. Seit Jahren arbeitet der Konzern daran, doch die Umsetzung ist komplex.
  • Auf Wunsch lassen sich Messenger-Chats sicher verschlüsseln, die Option muss aber manuell aktiviert werden. Ähnlich wie bei Telegram bedeutet das: Kaum jemand chattet wirklich sicher, die Daten werden auf den Servern des Betreibers gespeichert und können weitergegeben werden.
  • Passenderweise hat Meta am heutigen Donnerstag damit begonnen (Meta-Newsroom), standardmäßig verschlüsselte Chats an einem kleinen Kreis von Nutzerïnnen zu testen. Flächendeckend und auf allen Plattformen soll E2EE für DMs und Anrufe im kommenden Jahr eingeführt werden.
  • Bis dahin gilt: Wer sich privat und sicher unterhalten möchte, sollte zu Signal oder Threema greifen. Selbst WhatsApp ist eine brauchbare Alternative, dort fallen allerdings Metadaten an.

Warum der BlenderBot vergleichsweise harmlos ist

Today, we’re releasing a new AI research project called BlenderBot 3, a chatbot that can search the internet to talk about nearly any topic. (…) BlenderBot 3 is designed to improve its conversational skills and safety through feedback from people who chat with it, focusing on helpful feedback while avoiding learning from unhelpful or dangerous responses.

  • Im selben Blogeintrag befindet sich auch eine Warnung:

Since all conversational AI chatbots are known to sometimes mimic and generate unsafe, biased or offensive remarks, we’ve conducted large-scale studies, co-organized workshops and developed new techniques to create safeguards for BlenderBot 3. Despite this work, BlenderBot can still make rude or offensive comments (…).

  • Genau das bewahrheitete sich. Etliche Journalistïnnen machten sich einen Spaß daraus, den BlenderBot zu triggern. Daraus resultierten virale Twitter-Threads (Twitter / Jeff Horwitz) und reihenweise Schlagzeilen, auf die Meta wohl lieber verzichtet hätte:
  • "Der neue Chatbot des Facebook-Konzerns Meta verbreitet Verschwörungstheorien" (Handelsblatt)
  • "Meta's AI chatbot has some election-denying, antisemitic bugs to work out after the company asked users to help train it" (Insider)
  • "Facebook's AI Chatbot: ‘Since Deleting Facebook My Life Has Been Much Better’" (Vice)
  • Der Bot hält Angela Merkel für die amtierende Bundeskanzlerin, erklärt Trump zum Sieger der Wahl 2020, äußert sich antisemitisch, leugnet den menschengemachten Klimawandel und kritisiert lustigerweise auch Facebook.
  • Trotzdem halten wir es für richtig, dass Meta dieses Experiment wagt und den BlenderBot der Öffentlichkeit zugänglich macht. Dafür gibt es drei Gründe:
  • Erstens scheint der BlenderBot im Großen und Ganzen recht gut zu funktionieren. Natürlich ziehen die Gegenbeispiele Spott auf sich, aber Metas Software funktioniert um Längen besser als Microsofts Chatbot Tay, der sich 2016 binnen weniger Stunden in einen rassistischen Misanthropen verwandelte (The Verge). Casey Newton hat sich mit Joelle Pineau unterhalten, die Metas Forschungslabor für AI leitet, und nennt folgende Zahlen (Platformer):

But by and large, the bot seems to have performed reasonably well. In more than 70,000 conversations, so far there has been no Tay-style public meltdown, the company told me. Of some 260,000 messages exchanged with the bot, just 0.11 percent were flagged as inappropriate, and 1.36 percent were marked as "nonsensical."

  • Zweitens ist es sinnvoll, bei solchen Projekten die Öffentlichkeit möglichst frühzeitig und transparent mit einzubeziehen. Seit der mittlerweile entlassene Google-Entwickler Blake Lemoine (Ars Technica) im Juni behauptete, Googles Chatbot LaMDA habe ein Bewusstsein entwickelt (Washington Post), ist die Debatte um angeblich intelligente Software neu entbrannt. Deshalb ist es gut, dass Meta das Sprachmodell, die Daten und den Code mit Forscherïnnen teilt und den Bot zum Experimentieren freigibt. Das hilft, Fehler und Probleme zu erkennen und bessere Software zu entwickeln. Pineau sagt Newton dazu:

I want to be leading a lab that can actually be held accountable by the wide community — researchers, but also the general public. And that can put all the cards on the table of where we are with these kinds of systems. It's challenging to do. You can imagine the challenge of doing that in a way to get the buy-in we need from all the teams across the company. But we got to the point that we felt that this was the right next step for our research.

  • Drittens bedient sich der BlenderBot an öffentlich verfügbaren Daten, um Unterhaltungen zu führen. Das Problem ist in dem Fall weniger die Technik als vielmehr das Trainingsmaterial – die Gesellschaft der USA (SZ):

So kam es, wie es kommen musste. Wenn eine Software in einem Land, das derart gespalten ist wie die USA, aus Konversationen und aus dem Internet lernt, lernt sie neben sinnvollen Dingen eben auch die extremen Meinungen und das dumme Geschwätz, das viele sich nicht entblöden in die Welt hinauszuposaunen.

Content Moderation

Video / Audio

  • Pivot bei Clubhouse: Erinnert sich noch jemand an Clubhouse? 2020 hatte die App mal drei gute Wochen. Mittlerweile sind die Download-Zahlen um 86 Prozent zurückgegangen, das Social-Audio-Tool längst von anderen Hype-Apps wie BeReal und Co abgelöst. Um die App zu retten, kommt nun der Pivot: Weniger Öffentlichkeit, mehr private Social-Audio-Räume (The Verge). Nicht mehr ein Clubhouse für alle, sondern thematische "Häuser“. Schauen wir mal, wie das funzt.

AR / VR / Metaverse

  • Nackte im Metaverse: Wir befinden uns noch ganz am Anfang der Reise, ist klar. Aber was es auch alles zu bedenken gibt: Etwa die Frage wie viel Nacktheit im Metaverse eigentlich ok sein soll. Bei Metas Horizon Worlds VR soll es jedenfalls demnächst „mature worlds“ geben (uploadvr) – Orte, die „near nudity“ erlauben und nur für Menschen jenseits des 18. Lebensjahrs zugänglich sind. Nun ja, fast nackt also. Hihi. Die Amis, ey.

Was wir am Wochenende lesen

Neue Features bei den Plattformen

WhatsApp

  • Neue Privacy-Features: WhatsApp hat eine Reihe neuer Privacy-Features am Start (Meta / Newsroom): Zum einen können Nutzerïnnen die App bald nutzen, ohne dass alle direkt sehen, dass sie online sind. Zudem lässt sich künftig der Status vor bestimmten Kontakten verbergen. Auch können User Gruppen verlassen, ohne dass alle darüber informiert werden. Ferner wird eine “view once”-Funktion getestet, mit der sich Nachrichten verschicken lassen, die direkt wieder verschwinden, wenn sie einmal geöffnet wurden. Wir supporten das.

LinkedIn

  • Discover Feed: Auch LinkedIn testet jetzt einen neuen Feed – The Information zufolge sollen darin sowohl kuratierte Inhalte von LinkedIns News-Team als auch algorithmisch sortierte Posts auftauchen.

Snapchat

TikTok

  • Bestellcenter: Yes, die Sache ist eindeutig: TikTok möchte in Sachen E-Commerce ganz vorne mit dabei sein. Eine UI-Entdeckung (Social Media Today) unterstreicht diese Ambitionen. Bei einigen ausgewählten Usern ist bereits ein Bestellcenter aufgetaucht, das Nutzerïnnen analog zu anderen Plattform einen Überblick über die bestellte Ware bietet.

Spotify

  • Neuer Startbildschirm: Spotify gönnt seinem Startbildschirm ein Update (Techcrunch). Neben den Musik-Empfehlungen wird es künftig auch Optionen zum Teilen und Liken von Musik geben. Mehr Social also. Höchste Zeit – jetzt wo TikTok womöglich mit einem eigenen Streaming-Dienst um die Ecke kommt.
  • Ticketverkauf: Apropos Konkurrenz durch TikTok. In der letzten Ausgabe berichteten wir von einer neuen Kooperation zwischen Ticketmaster und TikTok. Heute erfahren wir, dass Spotify jetzt ebenfalls die Option testet, Tickets direkt über die eigene Plattform zu vertreiben (Techcrunch). Move fast and break things…

Header-Foto von Lucas Kapla