AInfluencer: Die Grenzen zwischen Fame und Fake verschwimmen

Was ist

Der KI-Boom hat längst auch Content-Creator erfasst. Teils posten sie KI-generierte Inhalte oder lassen sich mithilfe von KI klonen. Mittlerweile mischen auch die großen Plattformen mit. Meta und TikTok steigen gerade voll ins Geschäft mit virtuellen Avataren und Chatbots ein, die Stil und Persönlichkeit bekannter Influencerïnnen nachahmen.

Und dann gibt es da noch die Welt der KI-Models: komplett synthetische Personas, denen teils Hunderttausende Menschen folgen. Einige Profile kennzeichnen transparent, dass hier keine realen Menschen zu sehen sind. Andere führen bewusst in die Irre oder stehlen Videos anderer Creator und ersetzen die Gesichter durch KI-Fakes.

Warum das wichtig ist

Man kann AInfluencer für überflüssig, fragwürdig oder gar gefährlich halten. Aufhalten wird man die Entwicklung nicht. Deepfakes und KI-Models waren früher eher in der Pornobranche zu finden, jetzt schwappt die Welle über in soziale Medien und große Plattformen. Es ist nur eine Frage der Zeit, bis virtuelle Influencerïnnen genauso selbstverständlich sind wie Creator aus Fleisch und Blut.

Was Meta plant

• Einem Bericht der NYT zufolge versucht Instagram, prominente Influencerïnnen von einem Projekt namens „Creator A.I.“ zu überzeugen.
• Mithilfe von KI möchte Meta Chatbots erstellen, die ähnlich klingen wie das reale Vorbild. Damit könnten teilnehmende Influencerïnnen einen Teil der Direktnachrichten und öffentlichen Kommentare automatisieren.
• Creator sollen entscheiden können, auf welchen Teil ihrer früheren Posts, Direktnachrichten, Stories und Reels das Sprachmodell zugreifen kann, um ihren Stil zu imitieren.
• Zu Beginn der Unterhaltung soll der Chatbot offenlegen, dass die Nachrichten von KI erzeugt und automatisch verschickt werden. Bislang handelt es sich um einen Test, und es ist unklar, ob und wann das Programm flächendeckend freigeschaltet wird.
• Die Reaktionen fallen bislang gemischt aus. Manche Creator arbeiten ohnehin mit Agenturen zusammen, die für sie posten und Nachrichten beantworten. Einige dieser Dienstleister arbeiten selbst mit KI, in diesem Fall würde sich also gar nicht so viel ändern.
• Es gibt aber auch Influencerïnnen, die fürchten, jeglichen Anschein von Authentizität zu verlieren, wenn sie die Dialoge mit ihren Fans KI überlassen:

Some creators have been hesitant about the notion of automating their interactions with their followers, saying that it could put words in their mouth that they don’t agree with. Others have balked at the notion that a chatbot could replicate the substance of the interactions they have with fans. Many influencers have found success by interacting with people who crave more authentic and direct connections with the online personalities they follow.

Was TikTok plant

• Die Pläne von TikTok gehen einen Schritt weiter als die Experimente von Instagram. Wie The Information berichtet, entwickelt die Plattform virtuelle Influencer, die für Produkte werben sollen.
• Die synthetischen Personas könnten Skripte für Video-Anzeigen vorlesen, die von Werbekunden oder Verkäufern auf TikTok-Shop geschrieben werden.
• Wie bei Instagrams Chatbots handelt es sich um einen Test, der bisher nicht allgemein zugänglich ist. Dafür scheint es gute Gründe zu geben: Bislang erzielen die KI-Avatare offenbar deutlich schlechtere Verkaufszahlen als menschliche Influencerïnnen.
• Trotzdem bleibt die Frage, was geschieht, wenn TikTok die Funktion für alle Interessierten freischaltet. Schließlich ist die KI viel günstiger als reale Menschen.
• Womöglich geben sich manche Unternehmen mit etwas ineffizienter Werbung zufrieden, wenn sie dafür nur einen Bruchteil des Geldes ausgeben müssen. Das könnte das ohnehin angespannte Verhältnis zwischen der Plattform und einem Teil der Creator weiter belasten (The Verge).

Wie Scammer KI missbrauchen

• Hunderttausende Menschen folgen leicht bekleideten Frauen, anzügliche Clips sammeln Millionen Views; auf Portalen wie OnlyFans und Fanvue zahlen überwiegend Männer viel Geld für explizite Bilder und Videos. So weit, so bekannt.
• Neu ist dagegen, was Jason Koebler für 404 Media enthüllt: Hinter manchen dieser vermeintlichen Models stecken Scammer, die Videos realer Frauen von Instagram oder TikTok klauen und ein KI-generiertes Gesicht auf den Körper setzen.
• Die Videos wirken erschreckend real, weil es sich nicht um Deepfakes bekannter Promis handelt, sondern um rundum synthetische Gesichter. Das macht die Manipulation schwerer zu erkennen. Den Kommentaren zufolge ahnen die meisten Follower nicht, dass sie eine Fake-Persona betrachten.
• Die KI-Fakes erzielen große Reichweiten und verkaufen erfolgreich kostenpflichtige Abos auf Patreon oder anderen Fan-Portalen.
• Eine der Quellen des Artikels sagt, dass Instagrams Algorithmen die synthetischen Inhalte pushen, sobald man einmal damit interagiert:

The tipster said that once they had begun interacting with the AI-generated content, they were fed a lot more of it, which is a phenomenon we have previously identified with stolen and fake AI-generated content on Facebook. “Once the IG also sniffs out what you’ve viewed, it starts to serve you more and more,” they said. “My buddy and I basically turn identifying AI fakery into an ad-hoc mini game.”

• Auf YouTube gibt es etliche Anleitungen, wie man echte Videos in KI-Fakes verwandeln kann. Manche wurden millionenfach angesehen. In den Videos und Kommentaren wird klar, wie toxisch die Szene ist und wie die Zielgruppe tickt:

The video ends with the YouTuber explaining how this tactic can be used to make more money on OnlyFans. “It is a fact that faceless OnlyFans accounts earn three times less than ones with a face,” they said. “This opens up a lot of possibilities for a lot of people to start earning more in different ways imaginable. And now it’s up to you. Build your own AI influencer and start monetizing your swaps. Grow your social media accounts, get an account, start an OnlyFans, and make it rain.”
The comments make clear what viewers think this is a big development for men on the internet: “can finally take all the simps money while being a male, so comfy,” one top-ranked comment reads. Another: “this may just be the end of influencers and the constant quest for internet fame and vanity. love this.”

Warum KI-Models boomen

• Virtuelle Influencerïnnen gab es schon lange vor GPT-4 und der Begeisterung für generative KI. Der Instagram-Avatar Lil Miquela wurde etwa 2016 von einer US-Agentur erschaffen. Aktuell hat die Kunstfigur 2,6 Millionen Follower. Etliche Unternehmen und große Konzerne sind in den vergangenen Jahren Kooperationen eingegangen.
• Doch die KI-Welle hat die Entwicklung rasant beschleunigt. Zum einen ist die Qualität der Inhalte drastisch gestiegen. Zum anderen braucht es keine professionellen Designer mehr, um synthetische Bilder und Videos zu erzeugen.