Don't mess with Taylor Swift: Die Grenzen der KI-Fakes

Was ist

Die Nacht von Dienstag auf Mittwoch lief anders, als Donald Trump es sich vorgestellt hatte. Erst ließ er sich von Kamala Harris beim TV-Duell in Grund und Boden diskutieren. Dann stellte ihn eine weitere Frau bloß: Taylor Swift bekannte sich zu Harris und rief ihre Fans dazu auf, wählen zu gehen. Als Motivation für ihren Instagram-Post benannte sie KI-Fakes von ihr, die Swift als Trump-Unterstützer zeigen und von Trump geteilt wurden.

Was Swift sagt

Als Trump die Swift-Fakes Mitte August verbreitete (TechCrunch), fragten sich viele ihrer Fans: Warum lässt sie sich das gefallen? Wann wird sie klarstellen, dass sie Trump nicht unterstützt? Wird Swift mit einer Klage antworten (Techdirt)?

Knapp einen Monat später hat Swift reagiert – nicht juristisch, sondern in einer Form, die Trump vermutlich härter trifft: mit einem Instagram-Post, der zeigt, wie man im Jahr 2024 eine klare Botschaft kommuniziert und trotzdem versucht, Andersdenkende mitzunehmen. Es lohnt sich, die vier Absätze einzeln zu betrachten:

Like many of you, I watched the debate tonight. If you haven’t already, now is a great time to do your research on the issues at hand and the stances these candidates take on the topics that matter to you the most. As a voter, I make sure to watch and read everything I can about their proposed policies and plans for this country.

Swift appelliert dazu, sich selbst eine Meinung zu bilden. "Do you own research" ist eine Formulierung, die im rechten und verschwörungsideologischen Lager häufig genutzt wird. Swift nutzt das geschickt. Wer kann schon etwas dagegen haben, dass Menschen sich informieren?

Recently I was made aware that AI of ‘me’ falsely endorsing Donald Trump’s presidential run was posted to his site. It really conjured up my fears around AI, and the dangers of spreading misinformation. It brought me to the conclusion that I need to be very transparent about my actual plans for this election as a voter. The simplest way to combat misinformation is with the truth.

Swift wurde nicht das erste Mal mithilfe von KI verleumdet. Anfang des Jahres wurde das Netz mit gefälschten Bildern geflutet, die sie in pornografischen Posen zeigen (SMWB). Swift erwähnt diesen digitalen Missbrauch nicht direkt, ihre Fans werden sich aber daran erinnern. Umso mächtiger ist die Überleitung zu ihrem letzten Satz, den Trump wohl als indirekten Angriff empfinden wird: Gegen Lügen helfen nur Fakten.

I will be casting my vote for Kamala Harris and Tim Walz in the 2024 Presidential Election. I’m voting for @kamalaharris because she fights for the rights and causes I believe need a warrior to champion them. I think she is a steady-handed, gifted leader and I believe we can accomplish so much more in this country if we are led by calm and not chaos. I was so heartened and impressed by her selection of running mate @timwalz, who has been standing up for LGBTQ+ rights, IVF, and a woman’s right to her own body for decades.

Swift macht nicht nur klar, dass sie für die Demokraten stimmt – sondern auch, was ihre Gründe dafür sind. Es ist kein Zufall, dass sie Harris' Führungsstil und das Thema Schwangerschaftsabbruch herausstellt. Beide spielen eine wichtige Rolle im Wahlkampf der Demokraten.

I’ve done my research, and I’ve made my choice. Your research is all yours to do, and the choice is yours to make. I also want to say, especially to first time voters: Remember that in order to vote, you have to be registered! I also find it’s much easier to vote early. I’ll link where to register and find early voting dates and info in my story.

Auf ihr eindeutiges Bekenntnis, das republikanische Wählerïnnen verärgern dürfte, folgt ein Versöhnungsversuch. Man solle sich selbst eine Meinung bilden, jede und jeder müsse eigenständig entscheiden. Der anschließende Aufruf, sich zur Wahl zu registrieren, könnte viele Menschen zum Handeln bringen. Als Swift im vergangenen Jahr zum National Voter Registration Day einen ähnlichen Appell veröffentlichte, stieg die Zahl der Registrierungen rapide an (NPR).

Zwei interessante Randnotizen:

• Swift posiert in dem Post mit einer Katze und unterzeichnet mit: "Taylor Swift, Childless Cat Lady" – eine Anspielung auf J. D. Vance, der Harris und andere demokratische Politikerinnen "a bunch of childless cat ladies who are miserable at their own lives" genannt hatte.
• Die Wahl der Plattform spricht für sich (Daring Fireball):

 Swift posted this to Instagram, and Instagram only. In 2020, when endorsing Joe Biden, she posted both to Instagram and Twitter. She has a Threads account but has only posted there three times, all back in April, upon the release of her album The Tortured Poets Department.

Was das bedeutet

• Die wichtigste Botschaft lautet: Trump kommt nicht mit allem durch. Selbst für den professionellen Lügner rächen sich manche Falschbehauptungen.
• Es ist unklar, ob Swift sich ohnehin zu Harris bekannt hätte (vor vier Jahren unterstützte sie öffentlich Biden). Allein die Tatsache, dass sie Trumps Post als Grund für ihre Entscheidung anführt, wird diesen maßlos ärgern.
• Man muss aber auch sagen: Swift ist ein Sonderfall. Der wohl größte Popstar der Welt kann sich gegen Fakes wehren. Ihre Gegendarstellung wird fast immer größere Reichweite haben als die ursprünglichen Fakes.
• In vielen Fällen ist es umgedreht. Die Lügen verbreiten sich, die Wahrheit interessiert am Ende nur noch wenige. Insbesondere Frauen, die durch KI verleumdet werden, haben wenig Möglichkeiten, sich gegen den digitalen Missbrauch zu wehren.
• Auch im politischen Kontext nehmen KI-Fakes zu. Im August sagte ein Rechtsanwalt (TechCrunch):

One of the things I’m seeing a lot of in my practice right now is the rise of AI impersonators across the board for endorsements

Was Trump bezweckt

• Wenn Trump die Swift-Fakes teilt, dann geht es ihm gar nicht unbedingt darum, besonders viele Menschen davon zu überzeugen, dass er die Unterstützung der Sängerin genießt.
• Vielmehr erzeugt sein permanentes Shitposting latentes Misstrauen, Fakten, Fakes und Fiktion verschwimmen. In einem Wired-Podcast drückte es Will Knight kürzlich so aus:

And you saw it very much with Trump talking about AI-generated crowds, and I don't think that really landed that much, but maybe it did with a lot of his supporters. And this idea that you can just deny what is real and that the truth is kind of relative or fungible is something that's been in the works for a while, and it feels like it could turn out to be quite a powerful thing there.

• Trump verschmutzt das Informationsökosystem mit seinen Lügen – mit potenziellen bedrohlichen Langfrist-Folgen (The Atlantic):

It leaves an ecological footprint of sorts on the web. The images are created, copied, shared, and embedded into websites; they are indexed into search engines. It’s possible that, later on, AI-art tools will train on these distorted depictions, creating warped, digitally inbred representations of historical figures. The very existence of so much quickly produced fake imagery adds a layer of unreality to the internet. You and I, like voters everywhere, must wade through this layer of junk, wearily separating out what’s patently fake, what’s real, and what exists in the murky middle.

• Diese Strategie haben sich die Republikaner längst zu eigen gemacht. Man muss Unsinn nur lange genug wiederholen, dann bleibt schon irgendwas hängen – auch, weil Plattformen wie X die virale Desinformation nicht stoppen können oder wollen (New York Times).

Be smart

Der unmittelbare Einfluss von KI-Fakes auf die anstehende Präsidentschaftswahl dürfte überschaubar sein. Trotzdem ist die Gefahr real, dass die Technologie missbraucht wird.