Was ist

Eine Recherche und eine Anklage werfen ein schlechtes Licht auf Meta:

  • Die beiden Wall-Street-Journal-Reporterïnnen Jeff Horwitz und Katherine Blunt zeigen, wie Instagrams Algorithmen reihenweise Reels mit sexualisierten Videos von Minderjährigen empfehlen – und dazwischen die Werbung großer Marken platzieren.

  • Meta soll jahrelang Warnungen ignoriert haben, dass Millionen Kinder die Plattform nutzten. Das geht aus einer Klage Dutzender US-Bundesstaaten hervor, die der kalifornische Generalstaatsanwalt ungeschwärzt veröffentlichte (oag.ca.gov).

Wir fassen beide Vorwürfe zusammen und ordnen sie ein.

Wie Instas Algorithmen frei drehen

  • Das Experiment ist simpel: Man erstelle Testaccounts, folge jungen Cheerleaderinnen, Turnerinnen sowie anderen Influencerinnen im Teenager-Alter und lasse sich von Instagram Reels empfehlen.

  • Das Ergebnis ist erschreckend: Der Stream füllt sich mit hochgradig sexualisierten Inhalten, die häufig Minderjährige oder sogar Kinder zeigen und offensichtlich Erwachsene mit pädophilen Neigungen ansprechen.

  • Auf die Idee kamen die Reporterïnnen des WSJ, nachdem sie entdeckt hatten, dass ein Gutteil der Follower minderjähriger Influencerinnen aus erwachsenen Männern besteht, die gleichzeitig weiteren Accounts folgen, die sexualisierte oder pornografische Inhalte teilen.

  • Ihr Versuch bestätigte die Befürchtungen. Es braucht nur wenige Klicks, um in einen Strudel fragwürdiger Videoempfehlungen gezogen zu werden. Das Canadian Centre for Child Protection kam in eigenen Experimenten zu ähnlichen Ergebnissen.

  • Als Zyniker könnte man sagen: Offenbar funktioniert Instagrams Empfehlungssystem genauso, wie es gedacht ist. Es identifiziert zuverlässig die Interessen und schlägt dann passende Inhalte vor.

  • Doch was beim Großteil der Milliarden Nutzerïnnen erwünscht und weitgehend harmlos ist, wird in diesem Fall zum PR-Desaster.

  • Erst im Juni offenbarte eine weitere WSJ-Recherche, wie Instagram daran scheitert, Kinder zu schützen. Auf der Plattform vernetzen sich Kriminelle, nutzen explizite Hashtags und tauschen Darstellungen von Kindesmissbrauch aus.

  • Obwohl Meta damals eine Taskforce bildete, um Instagram zu einem sichereren Ort für Minderjährige zu machen, scheint die Plattform ihre eigenen Algorithmen immer noch nicht unter Kontrolle gebracht zu haben.

  • Aktuelle und ehemalige Mitarbeiterïnnen von Meta sagten dem WSJ, dass die Problematik intern seit Langem bekannt gewesen sei. Umfassende Änderungen der Algorithmen seien aber unerwünscht gewesen:

Preventing the system from pushing noxious content to users interested in it, they said, requires significant changes to the recommendation algorithms that also drive engagement for normal users. Company documents reviewed by the Journal show that the company’s safety staffers are broadly barred from making changes to the platform that might reduce daily active users by any measurable amount.

Welche Rolle Werbung spielt

  • Zwischen den anzüglichen und oft unangemessenen Reels spielt Instagram Werbung aus. Die Journalistïnnen entdeckten unter anderem Anzeigen von Disney, Walmart, der Match Group (Tinder, OkCupid, Hinge) und Werbung ihres eigenen Arbeitgebers, dem Wall Street Journal.

  • In einer Zeit, in der Marketing-Abteilungen verstärkt auf Brand Safety und ein geeignetes Werbeumfeld achten, birgt das Katastrophenpotenzial für Instagram.

  • "We have no desire to pay Meta to market our brands to predators or place our ads anywhere near this content", sagte etwas die Sprecherin von Match, das die Reels-Werbung für sämtliche Dating-Apps stoppte.

  • Disney und weitere Unternehmen haben Meta mit den Rechercheergebnissen konfrontiert und verlangen Antworten.

  • Instagram kann solche Nachrichten gar nicht gebrauchen. Die Plattform konkurriert mit TikTok um Werbebudgets und brauchte lange, um das Reels-Format bei Anzeigenkunden zu etablieren.

  • Erst im vergangenen Quartal durchbrach Reels die Gewinnschwelle (Stratechery). Recherchen wie die des WSJ könnten dazu führen, dass sich große Unternehmen doch lieber TikTok zuwenden.

Wie Instagram bei der Altersprüfung versagt

  • Noch unangenehmer könnte für Meta eine Sammelklage von 33 US-Bundesstaaten werden, die bereits im Oktober eingereicht wurde (Washington Post). Die nun veröffentlichte, ungeschwärzte Klageschrift enthüllt neue Details, über die zuerst die New York Times berichtete. Wir empfehlen die zwei Tage später veröffentlichte, deutlich ausführlichere Analyse von TechCrunch.

  • Demnach soll Meta mehr als eine Million Warnungen erhalten haben, dass Instagram von Kindern genutzt wird. Das offizielle Mindestalter für die Plattform beträgt 13 Jahre. Den Generalstaatsanwälten zufolge soll Meta nur einen Bruchteil der fraglichen Accounts deaktiviert haben.

  • In der Anklage heißt es:

Within the company, Meta’s actual knowledge that millions of Instagram users are under the age of 13 is an open secret that is routinely documented, rigorously analyzed and confirmed, and zealously protected from disclosure to the public.

  • Die Vorwürfe basieren auf internen Mails, Chats und Präsentationen. Meta soll sich jahrelang bestenfalls unzureichend um angemessene Maßnahmen zur Altersprüfung gekümmert haben. Stattdessen habe man massenhaft sensible Daten von Kindern eingesammelt.

  • "If we detect someone might be under the age of 13, even if they lied, we kick them off", sagte Mark Zuckerberg bei einer Kongressanhörung im März 2021. "If a child is under the age of 13, they are not permitted on Instagram", sagte Adam Mosseri einige Monate später.

  • Hinter beide Aussagen muss man nach Lektüre der Klageschrift ein Fragezeichen setzen. 2018 soll Zuckerberg einen internen Bericht erhalten haben, der Zahlen für 2015 enthielt. Angeblich nutzten in den USA damals bereits vier Millionen Kinder die Plattform. Acht Jahre später dürfte sich das Problem deutlich verschärft haben.

  • Mehrere interne Studien erwähnen ausdrücklich die Existenz von Kindern auf der Plattform und das PR-Risiko, das damit einhergehe. Meta ignorierte offenbar alle Indizien:

Even when Meta learns of specific children on Instagram through interviews with the children, Meta takes the position that it still lacks actual knowledge of that it is collecting personal information from an under-13 user because it does not collect user names while conducting these interviews. In this way, Meta goes through great lengths to avoid meaningfully complying with COPPA, looking for loopholes to excuse its knowledge of users under the age of 13 and maintain their presence on the Platform.

Be smart

Beide Vorwürfe sind im Kern nicht neu. Algorithmen können problematische Auswirkungen haben, Nutzerïnnen reihenweise fragwürdige Inhalte vorsetzen und tiefer ins Rabbit Hole treiben. Das gilt für politische Radikalisierung, Essstörungen (SZ) oder eben sexualisierte Videos von Minderjährigen. Auch die Tatsache, dass sich Millionen Kinder ohne Aufsicht und Wissen ihrer Eltern auf Instagram herumtreiben, sollte niemanden überraschen.

Damit ist Meta nicht allein. Erst vor zwei Wochen beschrieben wir, wie TikToks Algorithmen teils antisemitische Inhalte empfehlen (#920). Und wenn Instagram an der Durchsetzung des Mindestalters scheitert, dann gilt das für TikTok genauso.

Trotzdem wäre es falsch, die aktuellen Vorwürfe als altbekannt abzutun. Man kann gar nicht oft genug auf die Verantwortung von Milliardenkonzernen wie Meta hinweisen. Dort arbeiten zwar viele Menschen, die sich um die gesellschaftlichen Auswirkungen der Plattformen sorgen und versuchen, Nutzerïnnen zu schützen. Doch in vielen Fällen setzt das Management andere Prioritäten. Wenn es hart auf hart kommt, zählt der Umsatz mehr als die Sicherheit.

Social Media & Politik

  • Russland setzt Meta-Sprecher auf Fahndungsliste: Nachdem Wladimir Putin veranlasst hatte, dass das Mutterhaus von Instagram und Facebook auf die staatliche Terrorliste gesetzt wird, wurde nun Metas prominentester Unternehmenssprecher, Andy Stone, zur Fahndung ausgeschrieben (Axios). In der Logik von Putin ist das natürlich nur konsequent 😮‍💨

Follow the money

  • TikTok benötigt längere Videos: Der Kurzvideo-Dienst aus China erfreut sich zwar weiterhin großer Beliebtheit, ausreichend viel Geld lässt sich mit kurzen Videos allein aber anscheinend nicht verdienen. Anders ist TikToks Vorhaben, Creator von der Produktion längerer Videos zu überzeugen, jedenfalls nicht zu verstehen. Läuft doch eigentlich, oder nicht? Nun ja, anscheinend nicht gut genug. Ende Oktober hatte das Unternehmen daher zahlreiche Creator nach New York geladen. Die Message an die Video-Kreativen: Macht mehr lange Videos, dann kann TikTok endlich auch Pre- und Mid-Roll-Ads à la YouTube schalten und Creator im Umkehrschluss besser an den Werbeeinnahmen beteiligen. (Und dem Fernsehmarkt, Alphabet und Meta mehr Umsatz streitig machen.) Dass die User bei TikTok überhaupt längere Videos wollen, ist zwar noch gar nicht abschließend bewiesen. Das Unternehmen frohlockt aber mit vielversprechenden (und von außen nicht zu überprüfenden) Zahlen (The Information, $):

“TikTok told creators that users are now spending half their time on the app watching content that’s longer than a minute. And over the past six months, creators who post videos longer than a minute have five times the growth rate in followers of those who post only short videos.”

  • Auch Meta denkt über „mehr Video“ nach: Im Investor-Call Q3 (PDF) Ende Oktober hatte Mark Zuckerberg bereits betont, dass Reels zwar ein echter Wachstumstreiber sei, das Thema Video aber künftig ganz grundsätzlich eine noch viel größere Rolle spielen solle. Kommt jetzt Instagram TV zurück?

„In many ways, Reels has now graduated from being an early initiative to now being a core part of our apps. So going forward, we’re going to continue focusing on Reels, but we'll also look at growing it as part of our overall portfolio of video services, which make up more than half of time spent on Facebook and Instagram. There's a lot more to do across all of these.“

  • YouTube steigt in Spielebranche ein: Was Netflix kann, kann YouTube schon lange, oder? Künftig sollen Premium-Subscriber auf der Plattform bis zu 30 Mini-Spiele zocken können (The Verge). Mehr time spent, make it sticky und bestimmt noch drei weitere Dinge aus der Silicon-Valley-Bibel „Wie kann ich Menschen möglichst lange auf der Plattform halten?!“ von Nir Eyal (YouTube).
  • ByteDance beerdigt Gaming-Ambitionen: Interessanterweise zieht sich ByteDance gerade wieder aus der Spielebranche zurück. Nach zwei ambitionierten Jahren sieht TikToks Mutter keine Zukunft mehr für die hauseigene Abteilung. (BBC)
  • TikTok launcht Creative Cards für alle, denen so langsam die Ideen für Anzeigen ausgehen. Wir haben uns das Set nicht weiter angeschaut, können uns aber gut vorstellen, dass einige von euch die skizzierten Vorschläge interessieren könnten. (TikTok for Business)
  • Tumblr beerdigt Tumblr+ Ab dem 1.12. können Tumblr-User nicht länger von der Paywall-Funktion Tumblr+ Gebrauch machen. Posts, die bereits mit einer Paywall versehen sind, bleiben noch bis Ende des Jahres bestehen. Ab dem neuen Jahr sind die vormals mit einer Paywall versehenen Posts dann privat (Tumblr). Automattic-Chef Mullenweg zufolge hätten einfach zu wenig Menschen die Funktion genutzt. Schade eigentlich. Aber wie in Ausgabe #920 dargestellt, steht es um die Zukunft des Microblogging-Dienstes leider ohnehin nicht allzu gut.
  • Reddit flirtet mal wieder mit der Idee eines Börsengangs: Ist es 2024 tatsächlich so weit? Oder doch erst 2025? Nun ja, so richtig wissen kann man das bei Reddit nie. Aber das Unternehmen fühlt mal wieder in den Markt 🤑 (Bloomberg)

X-Watch

  • X könnte aufgrund des aktuellen Werbeboykotts bis zu 75 Millionen Dollar an Einnahmen verlieren, berichtet The New York Times. Internen Unterlagen zufolge zählt X mehr als 200 „ad units“ von Unternehmen wie Airbnb, Amazon, Coca-Cola und Microsoft, die vorerst nicht ausgespielt werden sollen.
  • X-Odus hält weiter an: Prominente Hollywood-Studios wie Disney, Paramount, Lionsgate, Sony Pictures, Universal und Warner Bros. Discovery verstummen (Heise), immer mehr Medien, staatliche Behörden, Universitäten und zivilgesellschaftliche Organisationen machen Schluss mit X — Netzpolitik hat eine aktuelle Liste.
  • Zwar gibt es weiter keine Anzeichen dafür, dass sich X-Boss Elon Musk für seine Posts und dafür, dass er Twitter in eine rassistische und antisemitische Jauchegrube namens X verwandelt hat, entschuldigen wird. Er ist aber in „damage control mode“ nach Israel gereist, um mit Premier Benjamin Netanyahu einen von der Hamas angegriffenen Kibbuz zu besichtigen und zu prüfen, inwieweit sein Satelliten-Internet Starlink im Gazastreifen Verwendung finden soll. (Reuters)
  • Allerdings kann Musk den Trip nicht gerade als PR-Erfolg verbuchen. Der israelische Staatspräsident Isaac Herzog sagte Musk, „(X) is a harboring of a lot of old hate which is Jew hate, which is antisemitism.". (Times of Israel)
  • Und die Chefredakteurin der israelischen Tageszeitung Haaretz, Esther Solomon, nennt Musk bei X „(a) Blatant antisemite & publisher of antisemitism“. Eigentlich sollte Musk, so Solomon, eine Persona non grata in Israel sein. (The Hill)

Next (VR, AR, KI, Metaverse)

  • Unverbindliches Abkommen zum Schutz vor KI-Missbrauch: Um Künstliche Intelligenz sicherer zu machen, haben Deutschland, die USA und 16 weitere Länder ein internationales Abkommen zum Schutz vor dem Missbrauch von Künstlicher Intelligenz präsentiert. Quintessenz: Sicherheit ist am wichtigsten (Tagesschau). Okay.

Neue Features bei den Plattformen

Instagram

  • Instagram muss weiter wachsen und bastelt daher an einem neuen Gefäß, indem Anzeigen platziert werden können. Die neueste Idee: Stories von 24 Stunden auf 7 Tage ausweiten. „My Week“ ist bislang nicht live, kommt aber bestimmt. Sollten Stories nicht eigentlich dazu dienen, flüchtige Posts zu verfassen? Bei den Social-Media-Unternehmen geht doch mehr oder weniger immer alles full circle. (Digital Information World)