Lügen, Hass und Desinformation: War da was?

Was ist

Das bestimmende Thema des Jahres 2023 ist der beeindruckende Fortschritt bei der Entwicklung von Sprachmodellen und anderen Technologien, die viele Menschen als KI bezeichnen. Dabei gerät gern mal aus dem Blick, dass Konzerne wie Meta oder YouTube auch noch ein recht lukratives Tagesgeschäft betreiben. Milliarden Menschen schauen sich dort Werbung an, nebenbei veröffentlichen und konsumieren sie auch noch ein paar Inhalte.

Das geht erwiesenermaßen mit Risiken und Nebenwirkungen einher, etwa strafbare und gefährliche Beiträge in allen Formen und Farben: Hass und Hetze, Drohungen, Verschwörungserzählungen und medizinische Desinformation.

Nach vielen Jahren des weitgehenden Wegschauens begannen die Plattformen 2020, ihre Verantwortung ernster zu nehmen. Das hing zusammen mit Donald Trump und der US-Wahl sowie der Corona-Pandemie. Wir beschrieben etwa, wie das Silicon Valley (ein bisschen) das Wild Wild Web zähmte (#654), Twitter Trump verbannte (#694) und Facebook sich dazu durchrang, Impf-Unsinn konsequent zu löschen (#701).

Diese Maßnahmen wurden in den vergangenen Monaten immer weiter beschnitten. Wir beobachten das mit Sorge.

Kommando zurück

• Trump darf längst wieder posten, was und wo er will. (#855)
• Der drastische Personalabbau bei den großen Tech-Konzernen traf Teams besonders hart, die für Trust & Safety sowie den Kampf gegen Desinformation zuständig sind. (Anchor Change)
• Über Twitter unter Elon Musk ist alles gesagt – dort bleiben gefährliche Halbwahrheiten und antisemitisches Geraune nicht nur unkommentiert online, der Eigentümer setzt sie persönlich in die Welt.
• Anfang Juni entschied sich YouTube, Verschwörungserzählungen über die vermeintlich manipulierte US-Wahl 2020 wieder zu erlauben. (YouTube-Blog)
• Am vergangenen Wochenende gab Meta Robert F. Kennedy Jr. sein digitales Mikrofon zurück, nachdem der persönliche Instagram-Account des demokratischen Politikers 2021 gesperrt worden war, weil dieser Desinformation über die COVID-Impfung verbreitet hatte. (Washington Post)

Welche Überlegung dahintersteckt

• Wir unterstellen den Tech-Konzernen nicht, dass es ihnen egal ist, was auf ihren Plattformen geschieht (Musk sei an dieser Stelle ausgeklammert). Sie scheinen aber überzeugt zu sein, dass die Nachteile der Maßnahmen mittlerweile die Vorteile überwiegen.
• Sprich: Die Einschränkung der Redefreiheit ist in ihren Augen ein größeres Problem als die Gefahr, die Fehlinformationen mit sich bringen können. Das gilt insbesondere für Akteure aus dem politischen Bereich, etwa kandidierende Politikerinnen oder gewählte Repräsentanten.
• Das ist kein komplett abwegiges Argument. Jeder Eingriff muss sorgsam abgewogen werden. Zudem gibt es neben der Entfernung von unerwünschten Inhalten weitere wirksame Maßnahmen, etwa Faktenchecks und den Entzug von Reichweite. Bevor man die Freedom of Speech beschneidet, fängt man lieber bei der Freedom of Reach an.
• YouTube nennt das "The Four Rs of Responsibility" (YouTube-Blog): Remove, Raise, Reward, Reduce.
• Damit sollen vertrauenswürdige Stimmen mehr Sichtbarkeit bekommen und Videos gedrosselt werden, die die Grenzen des Erlaubten austesten, aber nicht überschreiten. Andere Plattformen gehen ähnlich vor.

Bitte keine Panik

• Wir haben in den vergangenen Jahren mehrfach davor gewarnt, die Gefahr von Desinformation zu überschätzen. In Ausgabe #742 schrieben wir etwa:

Man kann die Verbreitung von Desinformation analysieren, aber es ist schwierig, die Auswirkungen zu erforschen. Teils lässt sich nicht zwischen Korrelation und Kausalität unterscheiden. Werden Menschen in Social Media radikalisiert? Oder machen Social Media nur sichtbar, dass es schon immer eine Menge ziemlich unangenehmer Menschen gab, die ihre Meinung bislang nicht in die Welt hinausposaunen konnten? Am Ende steht und fällt alles mit der Frage, für wie manipulierbar wir Menschen halten. Seit dem Aufkommen des Fernsehens in den 50er-Jahren behaupten Werbetreibende, sie könnten Zuschauerïnnen beinahe nach Belieben manipulieren. Dabei stützen sie sich auf fragwürdige psychologische Studien, die teils schlecht gealtert sind.

• Anfang des Jahres fassten wir eine Studie über den kaum messbaren Einfluss von Twitter-Bots zusammen (#852):

Das ist eine faszinierende und erschreckende Beobachtung: Die größte Gefahr von Desinformation könnte nicht von ihrem direkten Einfluss auf die öffentliche Meinung ausgehen – sondern von den ständigen Diskussionen und Warnungen vor angeblich ach so gefährlicher Desinformation. Dadurch verlieren Menschen das Vertrauen in Wahlergebnisse und politische Prozesse. Die Tatsache, dass so viele Trump-Anhängerïnnen dessen Lüge über die manipulierte Wahl 2020 glauben, könnte also darauf zurückzuführen sein, dass der russische Versuch aufflog, die Wahl 2016 zu manipulieren.

Also alles halb so wild? Leider nein

• Trotzdem beunruhigen uns die Entwicklungen der vergangenen Monate. Das liegt nicht nur an der US-Wahl 2024, auf die sich etwa Casey Newton in seiner Analyse konzentriert (Platformer):

We are in for an ugly time. And should the worst happen, I hope we remember this: the moment when tech platforms, having briefly banded together to do the right thing, looked each other in the eye and one by one all gave up.

• Wir denken dabei auch an Dutzende Wahlen in Ländern, die weniger im Fokus der Öffentlichkeit stehen. Was im Globalen Süden und der Arabischen Welt geschieht, war der westlichen Welt schon immer etwas egaler – und damit auch den meisten großen Konzernen.
• Vereinzelt wurde durch Klagen der Rohingya (Amnesty International) oder Leaks wie die Facebook-Files (Politico) klar, wie sehr sich etwa Meta um seine Verantwortung drückt. Content-Moderation in Hunderten Landes- und Stammessprachen? Im Silicon Valley hat das offenbar keine Priorität.
• Die Plattformen verlassen sich zunehmend auf KI, das ist bislang aber keine zuverlässige Lösung (Wired). Gleichzeitig werden massenweise Expertïnnen gekündigt, in erster Linie aus wirtschaftlichen Gründen (CNBC):

The slashing of teams tasked with trust and safety and AI ethics is a sign of how far companies are willing to go to meet Wall Street demands for efficiency, even with the 2024 U.S. election season — and the online chaos that’s expected to ensue — just months away from kickoff. AI ethics and trust and safety are different departments within tech companies but are aligned on goals related to limiting real-life harm that can stem from use of their companies’ products and services.

• Erst gestern enthüllte eine verstörende Recherche (Wall Street Journal), dass auf Instagram massenweise Darstellungen von Kindesmissbrauch angeboten und gehandelt werden, auch auf Twitter findet man diese Inhalte (Stanford Cyber Policy Center).
• Das liegt nicht an zu laxen Richtlinien, sondern an der fehlenden Durchsetzung. Meta hat schnell gehandelt und eine Taskforce ins Leben gerufen (Washington Post). Das ist die richtige Reaktion – aber wie so oft nur reaktiv, nicht proaktiv.
• Natürlich möchten wir diesen Fall nicht mit Flacherdlern, Corona-Quatsch oder der Lüge der manipulierten Wahl vergleichen. Kindesmissbrauch ist ein fürchterliches Verbrechen, über das es keine zwei Meinungen gibt, viele Verschwörungserzählungen fallen in einen Graubereich.
• Trotzdem gibt es eine Gemeinsamkeit: Wenn die zuständigen Teams weiter ausgedünnt werden, steigt die Gefahr, dass mehr illegale Inhalte durchrutschen oder falsche Moderations-Entscheidungen getroffen werden. Wir hoffen, dass wir uns umsonst Sorgen machen.

Be smart

Zum Glück gibt es nach wie vor Organisationen, die sich den kursierenden Fehlinformationen entgegenstellen. Dazu zählt etwa das Faktencheck-Team der dpa, das am Dienstag eine internationale Faktencheck-Allianz mit Partnerorganisationen aus der Ukraine, Lettland, Litauen, Polen, Rumänien und Bulgarien startete: dpa Innovation. Bitte mehr davon.

Social Media & Politik

• Vorwurf: Hat TikTok den US-Kongress getäuscht? Die Senatoren Richard Blumenthal und Marsha Blackburn haben TikToks Chef, Shou Chew, einen Brief geschrieben. Darin beschuldigen sie das Unternehmen, gegenüber dem Kongress irreführende Behauptungen darüber aufgestellt zu haben, wie TikTok amerikanische Nutzerdaten speichert und behandelt (New York Times). Bei einer Anhörung im März hatte Chew dargelegt, dass US-Nutzerdaten weder in China gespeichert, noch von dortigen Mitarbeiterïnnen eingesehen werden könnten. Neue Recherchen der New York Times und Forbes legen das Gegenteil nahe.
• Vorschlag: Plattformen sollen KI-Inhalte kennzeichnen: Um der Verbreitung von Desinformationen Herr zu werden, sollen künftig alle Unternehmen, die freiwillig an der Charta der EU zur Bekämpfung von Desinformation teilnehmen (z.B. Meta und TikTok, nicht aber Twitter), Kennzeichnungen entwickeln, die aufzeigen, wenn es sich um KI-generierte Texte, Bilder und Videos handelt (Guardian). TikToks Schwesterapp Douyin hat ein entsprechendes Label bereits eingeführt (Semafor). Google bietet im englischsprachigen Raum eine Option, um bei Bildern zu überprüfen, ob es sich um KI-Erzeugnisse handelt (Google / Blog).
• Vortrag: Wie soll KI reguliert werden? Mit dem AI Act wird in der EU zurzeit über das in den nächsten Jahren wohl wichtigste KI-Gesetz verhandelt. Wenn es schnell geht, könnte es noch Ende dieses Jahres beschlossen werden und dann nach einer zweijährigen Übergangsfrist gelten. Das Science Media Center Germany zeigt, wo der AI Act steht, welche Regulierungsansätze es gibt und wie sinnvoll Selbstregulierung sein kann. (Science Media Center)

Follow the money

• TikTok: Mehr Umsätze mit E-Commerce: TikTok strebt eine Vervierfachung seines E-Commerce-Geschäfts an. 20 Milliarden Dollar Umsatz lautet die Zielsetzung. Eines Tages solle TikTok Shop sogar Amazon Konkurrenz machen. (Bloomberg)
• Reddit: Weniger Personal: Reddit trennt sich von 90 Mitarbeiterïnnen, was ca. fünf Prozent der Belegschaft entspricht. Es sei zudem geplant, auf absehbare Zeit sehr viel weniger neue Leute einzustellen. Das große Ziel: im nächsten Jahr endlich die Gewinnzone erreichen. (Wall Street Journal)
• Reddit: Ausnahmen bei API-Preiserhöhungen: Reddit sah sich nach zahlreichen Protesten veranlasst, seine neue API-Preisstruktur zu verteidigen. Die Plattform müsse „fair bezahlt“ werden, heißt es. Ganz unbekümmert zeigt sich Reddit von den Subreddits-Streiks aber auch nicht: Einige Ausnahmen seien bei der Preiserhöhung denkbar. (Bloomberg)
• Linktree: Fast ein Drittel der Mitarbeiter muss gehen: Beim Link-in-Bio-Anbieter Linktree müssen 220 Mitarbeiterïnnen (27 Prozent) ihren Hut nehmen. Das Unternehmen aus Australien wolle sich künftig ausschließlich auf den US-Markt konzentrieren, heißt es in einer öffentlich geteilten Botschaft an die Belegschaft (Linktree). Ob die Entlassungen im Zusammenhang mit Instagrams Entscheidung, ebenfalls fünf Links in der Bio zuzulassen (9to5Mac), stehen, ist unklar.

Next (AR, VR, KI, Metaverse)

• Apple Vision Pro: Reviews, die wir nützlich fanden: Wie in Briefing #884 dargestellt, trauen wir uns selbst noch keine Prognose zu, ob Tim Cook mit der Vorstellung der Vision Pro seinen iPhone-Moment hatte. Aber auch wenn das nicht der Fall ist: Warum sollte man Apple-Produkte eigentlich immer am iPhone-Maßstab bewerten? Wenn Apple in den kommenden Jahren ein paar Millionen Exemplare verkauft, ist es ein enormer Erfolg – und tut Meta dermaßen weh, dass es sich für Cook und Co allein dafür lohnt. Folgende Videos und Texte haben uns ein besseres Verständnis davon vermittelt, was Apple mit Vision Pro für einen Wurf gelandet hat:
  • Apple Vision Pro Impressions! (YouTube / Marques Brownlee)
  • First Impressions of Vision Pro and VisionOS (Daring Fireball)
  • Apple Vision (Stratechery)
• Wie KI die Welt retten wird — zumindest laut Multi-Milliardär Marc Andreessen: Es gibt im Silicon Valley nur wenige Menschen, die so viel Einfluss auf die Tech-Industrie haben wie der Mitgründer von Netscape. Marc Andreessen gehört seit Jahren zu den wichtigsten Risikokapitalgebern der Branche, sein Wort hat Gewicht. Wenn er also einen maximal optimistischen Blogpost darüber schreibt, wie KI die Welt retten wird, dann kann man das natürlich schnell als Teil des Hype-Train-Circles abtun. Es kann aber auch nicht schaden, sich mit den Positionen auseinanderzusetzen, um zu verstehen, wie Teile des Valleys ticken. Klar, man muss dann an Passagen vorbei, die echt schmerzen. Aber es hilft trotzdem bei der Einordnung. (a16z) Urrgs:

Every child will have an AI tutor that is infinitely patient, infinitely compassionate, infinitely knowledgeable, infinitely helpful. The AI tutor will be by each child’s side every step of their development, helping them maximize their potential with the machine version of infinite love.

• Warum keiner den KI-Mythen glauben sollte: Den Counterpart zu Marc Andreessen nimmt gewissermaßen Meredith Whittaker ein. Die ehemalige Google-Forscherin und scharfsinnige Big-Tech-Kritikerin hat in ihrer neuen Funktion als Präsidentin der Signal Foundation bei der Republica einen sehenswerten Vortrag gehalten (YouTube, Transkript bei Netzpolitik). Darin legt sie dar, warum es so wichtig ist, die Erzählungen der KI-Unternehmen (KI könnte die Menschheit ausrotten / etc..) zu korrigieren und als Mythen zu entlarven.

(…) einer der zentralen Gründe, warum die Unternehmen und ihre Verbündeten das existenzielle Risiko von KI geradezu herbeifantasieren. Sie hoffen offenbar, die öffentliche Meinung und politische Lösungsansätze auf die ferne Zukunft auszurichten, statt den Status quo zu regulieren.

• Bookmark: Prompts-Verzeichnis: Wer bereits heute täglich mit Tools wie ChatGPT zu tun hat, könnte an dieser Prompt-Sammlung Gefallen finden: Prompts for Work & Play: Launching the Wolfram Prompt Repository (Stephen Wolfram)

Neue Features bei den Plattformen

Meta

• Neue Kontenübersicht: Meta-User können künftig frei darüber entscheiden, ob sie die Dienste WhatsApp, Facebook und Instagram isoliert oder miteinander verknüpft nutzen wollen (Bundeskartellamt). Ein beachtlicher Erfolg für die Politik.

WhatsApp

• Neue Kanal-Funktionen: Bei WhatsApp können User bald von einer neuen Kanal-Funktion Gebrauch machen, um „Updates von Einzelpersonen und Unternehmen direkt in WhatsApp zu erhalten“ (WhatsApp). Hier ein erster Überblick:
  • Updates können Text, Fotos, Videos, Sticker oder Umfragen beinhalten und sind bis zu 30 Tage abrufbar. Danach werden sie automatisch gelöscht.
  • Als Admin kannst du festlegen, wer dem Kanal folgen kann und ob der Kanal in einem öffentlichen Verzeichnis auffindbar sein soll oder nicht.
  • Das Feature ist explizit dafür gedacht, ein möglichst breites Publikum anzusprechen.
  • Lediglich in der Einführungsphase sei eine Begrenzung der Kanalgröße geplant. (Spiegel)
  • Vorerst gibt es die Kanäle nur in Kolumbien und Singapur, weitere Länder sollen laut WhatsApp in den kommenden Monaten folgen.
  • Zu finden sind die Kanäle in einem neuen Tab mit dem Namen „Aktuelles“.
  • Die Einführung der WhatsApp-Kanäle erinnert stark an die Channel-Features bei Telegram.
  • Ob es dann auch bei WhatsApp dazu kommt, dass sich fragwürdige Akteure die Funktion zunutze machen, um ihre kruden Botschaften zu verbreiten? Garantiert.
  • Wie WhatsApp damit umgehen will? Nun, die Posts sind in den Kanälen — anders als bei Einzelchats — nicht verschlüsselt. Das hilft, um dem allergrößten Schmutz automatisiert beizukommen. Der Rest muss sich zeigen.
  • Die Einführung von Kanälen ist aber ohnehin erstaunlich: WhatsApp hatte einst aus Angst, die Plattform könne genutzt werden, um massiv Desinformationen zu verbreiten, die WhatsApp-Newsletter-Funktion zurückgenommen. Bald also die Neuauflage.

Instagram

• Broadcast Channels jetzt auch in Deutschland: Was bei WhatsApp erst noch kommen soll, wird bei Instagram schon einige Wochen live getestet (Instagram / Adam Mosseri) und nun auch in Deutschland gestartet: Watchblog-Leser Morten Wenzek, beim Tagesspiegel für Social Media zuständig, beschreibt die Funktion als „eine Art Newsletter in Instagram DMs – ohne Antwort-Funktion. Also eine One-to-many-Kommunikation“.
  • Nur Erstellerïnnen des Channels sowie eingeladene Konten können Nachrichten senden.
  • Nutzerïnnen können mit Emojis reagieren und an Umfragen teilnehmen.
  • In Deutschland ist zum Start z.B. der Tagesspiegel mit dabei. Wer sehen möchte, wie das Feature funktioniert, kann hier Teil der Tagesspiegel-Community werden (Link geht nur via Mobile).
  • Die Broadcast Channels geben schon einmal einen Vorgeschmack darauf, wie Instagrams neuer Twitter-Herausforderer aussehen könnte. Ganz ehrlich: Wir sind sehr gespannt.

TikTok

• 20 Minutes of Fame: TikTok ermöglicht jetzt mehr Usern, die Serien-Funktion zu nutzen, um 20-minütige Videos hochzuladen. (The Verge)

Twitter

• Eine Stunde hast du jetzt als Paid-User Zeit, um deine Tweets zu korrigieren. Na, wenn das kein Incentive ist, endlich die acht Euro an Elon zu überweisen. #Nicht (The Verge)

LinkedIn

• Neuer KI-Assistent: Bei LinkedIn gibt es jetzt KI-Support, um InMails zu verfassen. (LinkedIn / Pulse)
• Direktnachrichten für Unternehmensseiten: Wo jetzt alle auf One-To-Many machen, gibt es bei LinkedIn ebenfalls ein neues Feature, um mit der Unternehmensseite Direktnachrichten zu verschicken. (Social Media Today)

One more thing

WordPress ist 20 geworden: Wir gratulieren recht herzlich und hoffen, dass die nächsten zwanzig Jahre auch noch sehr, sehr viele Menschen ganz wunderbare Blogposts schreiben, anstatt KI-Tools gänzlich die Arbeit zu überlassen. (WordPress, The Verge)