Terror im Livestream, Journalismus bei TikTok, Myspace lost it all

martin Briefing

Salut und herzlich Willkommen zur 533. Ausgabe des Social-Media-Watchblog-Briefings. Heute blicken wir ausführlich auf die Debatte um Terror im Social-Media-Zeitalter. Zudem beschäftigen wir uns mit Journalismus bei TikTok. Die Kollegen von 1LIVE wagen nämlich derzeit die ersten Experimente: ein Werkstattgespräch zum Potential von TikTok für Medienanbieter. Wir wünschen eine gewinnbringende Lektüre und bedanken uns für das Interesse, Simon & Martin



Wie Facebook und Youtube den Terror in die Welt tragen

Was ist: Am Freitag hat ein rechtsradikaler Terrorist Dutzende unschuldige Menschen in einer Moschee im neuseeländischen Christchurch erschossen. Er wollte, dass ihm die Welt beim Morden zusieht: Die Tat wurde auf dem Imageboard 8chan angekündigt, auf Facebook live gestreamt, auf Youtube und Twitter hochgeladen, auf Reddit kommentiert und binnen Stunden auf Dutzenden kleineren Seiten dupliziert.

Was das bedeutet: Soziale Medien und Online-Plattformen bieten Extremisten ein riesiges Publikum. Terroristen versetzen Millionen Menschen in Angst und Schrecken, während die reichsten und mächtigsten Unternehmen der Welt fast hilflos zuschauen, wie sich das Video im Netz verbreitet.

Wie Facebook versagt: In dem Moment, in dem der Terrorist seinen Livestream beendet, ist es zu spät: Andere Nutzer laden das Video herunter und veröffentlichen es neu. Im Schneeballsystem breiten sich die Kopien im Netz aus und bahnen sich den Weg in die Massenmedien. Eigentlich hätten Facebooks Algorithmen die Gewalt im Livestream erkennen und einen menschlichen Content-Moderator benachrichtigen müssen. Dieser hätte das Video prüfen und sofort blockieren müssen. Doch Facebook löscht das Video erst, nachdem die neuseeländische Polizei das Unternehmen darauf hinweist.

Warum Facebook und Youtube danach machtlos sind: Beide Plattformen setzen auf Upload-Filter, um zu verhindern, dass bestimmte Inhalte überhaupt erst hochgeladen werden. Dazu zählen Darstellungen von Kindesmissbrauch oder extremistische und terroristische Propaganda. Facebook und Youtube erstellen Hash-Werte und gleichen künftige Uploads mit diesen digitalen Fingerabdrücken ab. Doch die Maschinen erkennen nur exakte Kopien. Wer das Video ein wenig bearbeitet, überlistet das System. Genau das tun viele Nutzer, die die Aufnahmen aus Christchurch weiterverbreiten. Sie filmen ihren Bildschirm ab, unterlegen andere Tonspuren oder verfremden das Video, sodass es aussieht wie der Livestream eines Videospiels. Facebook und Youtube erstellen immer neue Hashes für jedes verfremdete Video, das sie löschen. Doch die Plattformen werden im Sekundentakt von neuen Variationen geflutet, die nicht automatisch erkannt und einzeln von menschlichen Content-Moderatoren geprüft und entfernt werden müssen.

Was Facebook sagt: In den ersten 24 Stunden nach dem Anschlag löschen die automatisierten Systeme 1,2 Millionen Videos, noch bevor Nutzer die Aufnahmen hochladen können. Insgesamt habe man anderthalb Millionen Videos gelöscht, sagt Facebook. Das bedeutet, dass mindestens 300.000 Aufnahmen erst nach der Veröffentlichung gesperrt wurden – und das sind nur jene Videos, die überhaupt erkannt wurden. Wie viele Menschen den Terroranschlag gesehen haben, ist unklar: Facebook nennt keine Zahlen.

Was Youtube sagt: Die Plattform habe eine "beispiellose" Zahl von neuen Uploads festgestellt, bis zu eine Neuveröffentlichung pro Sekunde. Diese Flut überfordert offenbart selbst die größte Videoplattform der Welt. Youtube greift zu einer Maßnahme, die es noch nie zuvor eingesetzt hat: Kurz nach dem Anschlag entmachtet das Unternehmen seine Content-Moderatoren und überträgt alle Entscheidungen den Maschinen. Normalerweise alarmiert die Software einen Menschen, der das Video prüft. Seit Freitag werden auf Youtube alle Inhalte sofort gesperrt, sobald die Maschinen glauben, darin den Christchurch-Livestream wiederzuerkennen. Außerdem schränkt Youtube die Suchfunktion ein, sodass sich Ergebnisse nicht mehr nach dem Upload-Datum filtern lassen. Die Maßnahmen sind am späten Montagabend immer noch in Kraft.

Was Massenmedien zum Terror beitragen: Es ist einfach, Unternehmen wie Facebook und Youtube zu kritisieren, dass sie grauenhaften Videos eine Plattform bieten. Diese Kritik ist völlig berechtigt: Sie verdienen Milliarden, indem sie Inhalte verbreiten und alles auf Interaktion und Reichweite maximieren – und versagen völlig, wenn es darum geht, die Aufmerksamkeitslawine zu stoppen. Das ist aber nur ein Teil des Problems: Große Medien in aller Welt haben Ausschnitte des Livestreams gezeigt und detailliert nacherzählt, wie der Attentäter Menschen erschießt. In diesem Moment hat der Terrorist sein Ziel erreicht. Es ist mir wirklich unbegreiflich, was manche Kollegen in den vergangenen Tagen veranstaltet haben.

Wofür Tech-Unternehmen Verantwortung tragen: Wenn wir schon mit dem Finger auf Facebook und Youtube zeigen, dürfen wir nicht nur den Moment des Terroranschlags betrachten. Ihre Verantwortung beginnt viel früher. Youtubes Algorithmen führen Nutzer zu immer extremeren Inhalten und schlagen rechtsradikale Verschwörungstheorien vor. Die Plattform schraubt permanent an seinen Empfehlungssystemen, bekommt das System aber nur langsam in den Griff. Von Facebooks Newsfeed und den geschlossenen Gruppen ganz zu schweigen. Kurzum: Soziale Medien und Online-Plattformen tragen teils maßgeblich dazu bei, dass sich einzelne Menschen mit radikalem Gedankengut beschäftigen und schließlich auf 8chan landen.

Be smart: Ich habe in den vergangenen drei Tagen zu viel Zeit auf 8chan und anderen unschönen Ecken des Netzes verbracht. Ich habe wirre Manifeste gelesen und Menschen dabei zugesehen, wie sie sich selbst dabei filmen, wie sie sich vor Lachen gar nicht einkriegen, weil sie einem Terroristen dabei zusehen, wie dieser einen Massenmord begeht. Sofern ihr keine Journalisten seid und euch beruflich damit auseinandersetzen müsst: Lasst die Finger davon. Es macht euch nicht klüger, es lässt euch nur schlechter schlafen. Das beste Mittel gegen Rassisten, die versuchen, soziale und klassische Medien zu hacken, ist Aufmerksamkeitsentzug.

Zum Weiterlesen:

  • Dirk von Gehlen fordert dazu auf, einen "Ignorestorm" gegen den Terror zu starten: dirkvongehlen.de
  • Sascha Lobo erklärt, warum der rassistische Attentäter ein "Troll-Terrorist" ist – und wie Nutzer und Medien es verhindern können, Teil der Inszenierung zu werden: Spiegel Online
  • Mit Kollegenschelte halte ich mich zurück, das kann Boris Rosenkranz besser: Er analysiert die sensationslüsterne Berichterstattung der Bild-Zeitung über den Anschlag von Christchurch: Übermedien
  • Joseph Cox beschreibt detailliert anhand von internen Schulungsunterlagen, wie Facebooks Content-Moderatoren Livestreams mit terroristischen Inhalten moderieren sollen: Motherboard
  • Elizabeth Dwoskin und Craig Timberg geben Einblick in Youtubes "War Room", in dem Produktchef Neal Mohan am Freitag die Entscheidung trifft, die menschliche Prüfung außer Kraft und Maschinen ans Steuer zu setzen: Washington Post

Autor: Simon Hurtz



Journalismus bei TikTok

Geht das? In unseren Social-Media-Briefings #524 und #531 hatten wir ja bereits ausführlich über TikTok berichtet. Unter anderem stand dabei die Frage im Raum, wann und wie deutsche Medienhäuser auf den TikTok-Hype reagieren und erste journalistische Experimente wagen. Zu den ersten professionellen Medienanbietern, die TikTok ausprobieren, gehört 1Live. Der kreative Kopf dahinter ist Robert Rack. Freundlicherweise lässt er uns an den ersten Eindrücken teilhaben. Ein Werkstattgespräch:

Be smart: Gern darf dieses Interview auch auf Twitter, Facebook oder per Email geteilt werden. Hier ist das Interview als Artikel auf unserem Blog zu finden: Journalismus bei TikTok: 1Live wagt die ersten Experimente.

Robert, was war für euch der Anstoß, auf TikTok mitzumischen?

Wir beobachten die Plattform bereits seit einigen Monaten. Angestoßen wurde unsere Neugierde dabei insbesondere durch diesen Artikel von Akash Senapaty, der sich mit den Besonderheiten der neuen Plattform analytisch auseinandersetzt, und natürlich durch die Zahlen zu TikTok, die dir auch bekannt sind. Anfang 2019 haben wir dann eine Potentialanalyse durchgeführt, in der wir uns insbesondere auf User-Generated-Content konzentriert haben: Was produzieren, kommentieren und liken deutsche TikTok-User*innen? Wir wollten herausfinden, ob und welcher 1LIVE-Content TikTok geeignet ist. Dabei haben sich spannende Potentialfelder ergeben, die wir seit einigen Wochen im Rahmen einer Pilotphase erproben. Unser primäres Ziel ist es dabei, Erfahrungen mit TikTok und den Pattform-spezifischen Dynamiken zu sammeln, um anschließend Erfolgsmerkmale definieren. Dafür haben wir einen Fragenkatalog mit qualitativen Fragen erarbeitet.

Als öffentlich-rechtliche Medienmarke für junge Menschen in Nordrhein-Westfalen, ist 1LIVE jeden Tag mit dem veränderten Mediennutzungsverhalten seiner Zielgruppe konfrontiert. Statt nur der erfolgreichste Radiosender für junge Deutsche zu sein, ist es deshalb auch unser Auftrag (zukünftige) Beitragszahler*innen im Digitalen zu erreichen, und dort, aus unserer Perspektive, relevante Inhalte und Themenwelten zu schaffen. Möglicherweise ist TikTok ein weiterer Schritt, um neue und alte 1LIVE-User*innen zu erreichen und mit ihnen auf Augenhöhe zu kommunizieren; So wie wir es schon erfolgreich bei Facebook, Instagram, YouTube und Twitter tun.

Gibt es andere redaktionelle / journalistische Accounts, die euch als Vorbild dienen?

Natürlich beobachten wir die Angebote anderer professioneller Publisher. Ein konkretes Vorbild gibt es dabei allerdings nicht. Wir haben das Gefühl, dass bei TikTok viele Sender und Marken in der Findungsphase sind, genau wie wir. Radio ESKA bietet sehr authentische Einblicke in Backstage-Anmutung, BBC Radio 1 beschränkt sich auf einige wenige Studio-Interviews und Filtr Germany produziert Originäres, usw. – da lassen wir uns natürlich gerne inspirieren.

Wie hoch ist der Aufwand für euch?

Der Aufwand, den wir für die TikTok-Pilotphase betreiben, ist moderat. Die redaktionelle Betreuung ist an einen Digitalredakteur angedockt und das alltägliche Social-Media-Management des Kanals geschieht durch freie Mitarbeiter*innen im Tagesdienst. Da wir bisher fast ausschließlich auf Zweit- / Drittverwertung setzen, hält sich der produktionelle Aufwand in Grenzen und die meisten Inhalte werden langfristig vorgeplant. Allerdings optimieren wir Plattform-spezifisch und experimentieren auch mit originären Inhalten. Hier liegt in unseren Augen ein großes Potential, da TikTok’s Funktionen und Dynamiken eine neue Form von Social Media ermöglichen – das finden wir verdammt spannend!

Gibt es ähnliche Möglichkeiten wie bei Facebook oder Instagram, um den eigenen Erfolg auf der Plattform zu überprüfen?

Ja. Es gibt einen Insights-Tab, den uns TikTok Deutschland freigeschaltet hat. Dieser befindet sich aktuell in einer Beta-Phase. Hier werden die täglichen Views (auch rückwirkend), die erreichten User*innen und ihr Standort aufgeschlüsselt (nach Nationen). Außerdem gibt es Insights zum Follower-Wachstum (täglich, auch rückwirkend), Follower-Geschlecht und Follower-Standorten (Nationen). Rückwirkend für die letzten zehn Videos werden Zahlen zur durchschnittlichen Wiedergabezeit und zur Entwicklung der Aufrufe, Likes, Kommentare und Shares angezeigt.

Seid ihr in Kontakt mit TikTok Deutschland?

Ja. Wir befinden uns im netten und offenen Austausch auf Augenhöhe und haben eine feste Ansprechpartnerin. Sie sitzt in London und unterstützt uns bei Fragen und Ideen. Dieser direkte Austausch war ein wichtiger Faktor dafür, dass wir die Pilotphase tatsächlich angestrebt haben.

Wie reagieren die Künstler, wenn ihr ihnen sagt, wir müssten noch was für TikTok produzieren?

Da wir unsere Produktionen mit den Künstler*innen und ihren Managements vor ihrem Besuch abstimmen, kommt es hier zu keinen bösen Überraschungen. Die meisten stehen unseren Ideen dabei sehr offen gegenüber.

Last but not least: Ab wann würdet ihr sagen, dass es sich lohnt, mit TikTok weiterzumachen?

Wenn wir den Zahlen von TikTok trauen, haben wir in den ersten 2,5 Wochen der Pilotphase circa 7,3 Millionen Views mit unseren Inhalten erzielt und dabei hunderttausende User*innen erreicht. Inzwischen haben wir rund 90K Fans, 1Mio Likes und es wurden zehntausende User-Videos mit 1LIVE Comedy-Sounds erstellt. Das sind natürlich Zahlen, die erstmal für sich sprechen und interessant sind. Das Ziel unserer Pilotphase war von Anfang an lediglich die Beantwortung einiger qualitativer Fragen. Allem voran: Wo liegt der Mehrwert / USP für 1LIVE in der Nutzung von TikTok?

Grundsätzlich können wir aber sagen, dass es sich für uns lohnt weiterzumachen, wenn wir hier junge User*innen mit 1LIVE-Inhalten erreichen, die mit uns interagieren und unseren Content als Mehrwert empfinden. Bisher ist das Feedback, das wir von der Community bekommen, sehr positiv. Unser erstes Gefühl: 1LIVE ist hier als Medienmarke willkommen und unsere Inhalte aus den Bereichen Comedy, Stars und Infotainment erfreuen sich großer Beliebtheit. Für eine finale Bewertung ist es allerdings zu früh und wir haben noch viele Ideen, die es in nächster Zeit zu erproben gilt.



Hashtag: Facial Recognition

___STEADY_PAYWALL___

Wenn deine Flickr-Fotos für KI-Trainings genutzt werden: Diese Nachricht ist mir leider letzte Woche durchgerutscht: Die Kollegen bei NBC News berichten, dass sich u.a. IBM an Fotos von CC-lizensierten Fotos bedient, um die hauseigene Gesichtserkennungssoftware zu speisen. Im Falle von IBM sprechen wir von fast einer Million gescrapter Fotos. Während die Creative-Commons-Macher natürlich nicht sonderlich amused über dieses Ausnutzen des Lizenzmodells sind und Datenschützer mehr als besorgt (NBC News) sind, dass die AI später für Überwachungszwecke genutzt werden könnten, zeigen sich Experten wenig beeindruckt und verweisen auf viele andere Projekte, bei denen ähnlich agiert würde (twitter / oliviasolon).

Facebook kann ein VR-Avatar von dir bauen: Bei Facebook gibt es ein Projekt, das sich bereits seit Monaten der Aufgabe widmet, ein VR-Modell zu bauen, das sich exakt so verhält und so aussieht wie Du. Erschrocken? Come on! Es ist Facebook. (Wired)



MySpace lost all your shit

And its gone! Myspace hat wohl bereits vor Monaten versehentlich alle Fotos, Videos und Audios gelöscht, die bis zum Jahr 2015 hochgeladen wurden. Mit Blick auf die geringe Popularität von Myspace in den vergangenen Jahren dürfte die Nachricht also gefühlt 99 Prozent aller Dateien betreffen. Haha. Unfassbar eigentlich. Letztlich zeigt es aber einmal mehr, dass NutzerInnen sich nicht darauf verlassen können, dass ihre Daten vollumfänglich sicher sind, wenn sie bei Dritten hochgeladen werden. BoingBoing hatte mich auf die Nachricht aufmerksam gemacht. Kollege Böhm hat bei SPON mehr dazu aufgeschrieben.



Schon einmal im Briefing davon gehört

Revenge Porn: Bereits in Ausgabe #458 hatten wir berichtet, dass Facebook NutzerInnen im Rahmen eines Pilotprogramms dazu ermutigt, Nacktbilder von sich hochzuladen. Sinn und Ziel dieses Piloten war es, einen Algorithmus zu schreiben, der die Verbreitung von sogenanntem Revenge Porn unterbindet. Jetzt ist der Algorithmus geschrieben und die Technologie implementiert. Fingers crossed – denn sinnvoll ist das Unterfangen ja in jedem Falle! (Techcrunch)



Neues von den Plattformen

Twitter

  • Subscribe: Twitter steht wohl vor der Einführung eines Features, das es erlauben würde, Unterhaltungen zu folgen. So würde mensch darüber informiert, wenn ein neuer Tweet zu einer abonnierten Unterhaltung hinzugefügt wird. (Techcrunch)

Instagram

  • AR Effect: Um das Engagement hochzuhalten, werden ja nun auch bei Instagram bereits seit einiger Zeit fortwährend neue Features gelauncht. Aktuell bastelt Instagram wohl an AR-Effekten (twitter / wongmjane).


Tipps, Tricks und Apps

Firefox Send: Schluss mit beta: Mozilla hat final seinen neuen Service gelauncht, um Dateien zu tauschen. Mit send.firefox.com lassen sich Dateien mit einer Größe von bis zu 2,5 GB verschicken. Das Beste: Der Dienst funktioniert mit End-to-End-Verschlüsselung und Ablaufdatum für die Datei. SPON hat ein bissl was zum Dienst aufgeschrieben.



One more thing

Genderless Voice Assistant: Sprachassistenten erfreuen sich zunehmender Popularität. Um nicht noch mehr Ärger von einem Leser aus Hamburger zu bekommen, werde ich jetzt nicht noch einmal schreiben, dass Voice Search Optimierung das neue SEO ist, aber: Sehr wohl möchte ich darauf hinweisen, dass sich ein paar kluge Köpfe aus Dänemark darüber Gedanken gemacht haben, wie sich ein „Genderless Voice Assistent“ anhören würde – hier bekommt mensch einen Eindruck und hier geht es zur Website. Spannend!



Header-Foto von Alex Knight bei Unsplash