Wie Generative AI Social Media verändern könnte

Was ist

Binnen weniger Stunden haben sowohl Mark Zuckerberg als auch Evan Spiegel verkündet, dass sie AI in ihre Plattformen integrieren möchten. Metas Pläne für Facebook und Instagram sind noch vage. Snapchat ist einen Schritt weiter und hat bereits einen Chatbot veröffentlicht.

AI wird in den kommenden Jahren viele Berufe und Gesellschaftsbereiche verändern (#858). In den vergangenen Wochen lag der Fokus auf Suchmaschinen, wo Microsoft zum ersten Mal einen kleinen Vorsprung vor Google zu haben scheint (#859).

Die aktuellen Ankündigungen zeigen: Der AI-Boom wird auch Social Media prägen – und zwar nicht in einer fernen Zukunft, sondern schon bald (Digiday). Wir geben einen Überblick der aktuellen Pläne und werfen einen Blick in die Zukunft: Was bedeutet Generative AI für Plattformen – und worauf müssen sich Nutzerïnnen einstellen?

Was Snapchat macht

• Als erste Plattform baut Snapchat ein Large Language Model (LLM) direkt in sein Kernprodukt ein (Snap-Newsroom). My AI basiert auf der Technologie von OpenAI, die auch hinter ChatGPT steckt.  Snapchat skizziert einige Anwendungsbeispiele für den Bot:

My AI can recommend birthday gift ideas for your BFF, plan a hiking trip for a long weekend, suggest a recipe for dinner, or even write a haiku about cheese for your cheddar-obsessed pal.

• My AI ist vorerst nur für die rund 2,5 Millionen Abonnentïnnen von Snapchat+ zugänglich. Mittelfristig soll der Dienst für alle Snapchat-Nutzerïnnen geöffnet werden (Verge).
• Im Vergleich zu ChatGPT gibt es einige Anpassungen. Snapchat hat dem Bot einen lockeren Tonfall verpasst und enge Grenzen gezogen. Flüche, Gewalt, anzügliche Inhalte und kontroverse Themen sind tabu.
• Diese Limitierungen besitzt ChatGPT zwar ebenfalls, mit den richtigen Prompts lassen sich viele Vorgaben aber umgehen. Mit Blick auf die teils minderjährigen Nutzerïnnen muss Snapchat die Regeln noch strikter durchsetzen.
• Offenbar will Snapchat verhindern, dass Schulen My AI verbannen, so wie es etwa in New York geschehen ist (Chalkbeat). Deshalb spuckt das LLM etwa keine akademischen Essays aus.
• Snapchat gibt My AI eindeutig menschliche Züge. Man kann dem Bot einen Namen geben und den Hintergrund personalisieren. Die Profilseite ähnelt der anderer Kontakte. My AI ist eher ein Freund als eine Suchmaschine.
• Spiegel und sein Unternehmen scheinen sich bewusst zu sein, welche Risiken die AI-ntegration mit sich bringt. Der Blogeintrag besteht aus vier Absätzen. Zwei davon drehen sich um Unzulänglichkeiten und Gefahren von My AI:

As with all AI-powered chatbots, My AI is prone to hallucination and can be tricked into saying just about anything. Please be aware of its many deficiencies and sorry in advance! All conversations with My AI will be stored and may be reviewed to improve the product experience. Please do not share any secrets with My AI and do not rely on it for advice.

While My AI is designed to avoid biased, incorrect, harmful, or misleading information, mistakes may occur. Please press and hold on any message from My AI to submit feedback. We look forward to hearing about your experience with My AI.

• "Sorry in advance" klingt zwar nett, bedeutet übersetzt aber: Wir werfen gerade ein Produkt auf den Markt, dessen Verhalten wir nicht kontrollieren können. Wir garantieren für nichts, aber wir probieren es trotzdem mal aus.
• Microsoft hat sich mit Bing für einen ähnlichen Weg entschieden, Google ist mit Bard deutlich zögerlicher. Früher oder später muss man LLMs für einen großen Personenkreis öffnen, um weiteres Trainingsmaterial zu generieren und Fehler zu erkennen, die in geschlossenen Betatests unentdeckt bleiben. Die kommenden Wochen werden zeigen, ob es klug war, diesen Schritt ausgerechnet auf einer Plattform zu wagen, auf der sich Millionen Kinder und Jugendliche tummeln.

Was Meta plant

• Im Vergleich zu Snaps Blogeintrag ist Zuckerbergs Ankündigung vage (Facebook). Sein Post enthält in erster Linie Ankündigungen, aber noch keine konkreten Anwendungen.
• Man werde ein neues Team für Generative AI schaffen (Axios), um "reizvolle Erlebnisse rund um diese Technologie" für unterschiedliche Produkte zu bauen. Dazu zählten Text (WhatsApp und Messenger), Bilder (Instagram-Filter und Anzeigen) sowie Video und multimodale Erfahrungen.
• Kurzfristig will man sich auf Werkzeuge für Kreativität und Ausdrucksmöglichkeiten konzentrieren. Langfristig sollen AI Personas und "wirklich futuristische Erfahrungen" folgen.
• Allzu viel Rückschlüsse lassen diese Aussagen nicht zu. Meta investiert seit Jahren in AI, hat bislang aber wenig Anwendungen veröffentlicht, die sich an Nutzerïnnen richten. Das soll sich offenbar bald ändern.
• Ende vergangener Woche stellte Meta bereits ein eigenes Sprachmodell vor (Facebook AI). LLaMA soll genauso leistungsfähig sein wie ChatGPT, aber deutlich weniger Ressourcen benötigen.
• Das Sprachmodell ist kein öffentlich zugänglicher Chatbot, sondern hat in erster Linie NGOs, Unternehmen sowie Forschungs- und Bildungsinstitutionen im Blick:

We believe that the entire AI community — academic researchers, civil society, policymakers, and industry — must work together to develop clear guidelines around responsible AI in general and responsible large language models in particular. We look forward to seeing what the community can learn — and eventually build — using LLaMA.

Wie Twitter und TikTok auf AI blicken

• Zu den Menschen, die 2015 an der Gründung von OpenAI beteiligt waren, zählt neben dem heutigen CEO Sam Altman auch Elon Musk. Drei Jahre später zog sich der Tesla-Chef wegen möglichen Interessenkonflikten aus dem Aufsichtsrat zurück.
• Jetzt möchte Musk offenbar in Konkurrenz zu seinem ehemaligen Unternehmen treten. Angeblich baut er ein Forschungslabor auf, das eine Alternative zu ChatGPT entwickeln soll (The Information). Musks Motivation: Er fürchtet, dass die aktuellen AI-Anwendungen "woke" seien.
• In den vergangenen Monaten interagierte er auf Twitter mehrfach mit dubiosen Accounts, die in ChatGPT eine linksliberale Verschwörung witterten. Unter anderem schrieb er (Twitter): "The danger of training AI to be woke – in other words, lie – is deadly".
• TikToks Mutterkonzern ByteDance hat e…