AIshittification: KI-Content flutet und vermüllt das Netz

Was ist

Cory Doctorow hat den Begriff „Enshittification“ geprägt, der mittlerweile einen eigenen Wikipedia-Eintrag hat. Damit beschreibt er die Tendenz, dass Plattformen und Tech-Konzerne zuerst ein nützliches Produkt anbieten, sich nach der initialen Wachstumsphase aber hauptsächlich nach den Interessen ihrer Anzeigenkunden richten. Schließlich verprellen sie selbst die Werbetreibenden, bis es nur noch einen Profiteur gibt: sie selbst. (Kürzlich hat die Zeit seine These auf Deutsch veröffentlicht und den Ausdruck mit „Verschlimmscheißerung“ übersetzt – wir bezweifeln, dass sich das durchsetzen wird.)

Jetzt wird es Zeit, den Begriff zu weiten: Das Zeitalter der AIshittification hat begonnen. Mithilfe generativer KI lassen sich gratis und mit geringem Aufwand alle möglichen Formen von synthetischen Inhalten erzeugten: Online-Kommentare und E-Books, Stimmen und Musik, Porträtfotos und Gemälde, Video-Nachrufe und Lernvideos für Kinder.

Menschen haben eine bemerkenswerte Fähigkeit, ihre Umwelt zu verschmutzen. Sie vermüllen die Atmosphäre mit CO₂, die Ozeane mit Plastik – und das Netz mit KI-Trash. Die meisten setzen dabei auf Masse statt Klasse, sie wollen Geld verdienen oder Propaganda verbreiten. Dafür eignet sich generative KI perfekt.

Doch das hat Folgen. Die AIshittification könnte nicht nur das Netz verstopfen, sondern gefährdet Kunst, Kultur und Wissenschaft. Wir beschreiben die KI-Flut und erklären, warum sich KI am Ende an sich selbst verschlucken könnte.

World Wide AI-Bullshit

Ende Februar schrieb der Neurowissenschaftler und Science-Fiction-Autor Erik Hoel (The Intrinsic Perspective):

The amount of AI-generated content is beginning to overwhelm the internet. Or maybe a better term is pollute. Pollute its searches, its pages, its feeds, everywhere you look. (…) Now that generative AI has dropped the cost of producing bullshit to near zero, we see clearly the future of the internet: a garbage dump.

Vergangene Woche erschien der Text in einer überarbeiteten Fassung in der New York Times. Auf Deutsch haben Johannes Kuhn und Gregor Schmalzried seine Beobachtungen aufgegriffen und erweitert.

„Software Is eating the world“, schrieb Marc Andreessen vor zwölf Jahren. Heute müsste es heißen: „AI is eating the web“. Und so sieht die AIshittification aus:

• Wissenschaftliche Fachmagazine akzeptieren Fachartikel, die von ChatGPT geschrieben wurden. (The Daily Beast)
• Sogar bei Peer-Reviews, die wissenschaftliche Qualität sicherstellen sollen, wird auf Sprachmodelle zurückgegriffen. (404 Media)
• Fake-Sachbücher vermüllen die Amazon-Suche. (Washington Post)
• Amazon verkauft Produkte mit Namen wie: „I Cannot Fulfill This Request It Goes Against OpenAI Use Policy“. (Futurism)
• Unter viralen Tweets kommentieren Dutzende Accounts mit Chat-GPT-Prompts. (X / @focusfronting)
• KI-generierte Nachrufe fluten YouTube. (The Verge)
• TikTok-Spammer verdienen Zehntausende Dollar pro Monat mit automatisiertem Video-Müll. (404 Media)
• Auch Videos für Kinder lassen sich wunderbar mit KI erzeugen, manche Kanäle erreichen damit Millionen Views. (Wired)
• Vermeintlich seriöse Medien veröffentlichen KI-Mist von Fake-Autoren. (Futurism)
• Google-News empfiehlt KI-generierten Quark. (404 Media)
• Synthetische Bilder tauchen prominent in Googles Suchergebnissen für Fotos auf. (Bloomberg)
• SEO-Bros brüsten sich damit, Konkurrenten mithilfe von KI Millionen von Klicks zu stehlen. (Twitter / Jack Ward)
• Monat für Monat entstehen mehr KI-Content-Farmen, die versuchen, Werbetreibende abzuzocken. (Newsguard)
• Hunderttausende Menschen folgen KI-Influencerïnnen auf Instagram. (Handelsblatt, OMR)
• Etsy quillt über vor KI-Müll. (The Atlantic)

Das Netz nähert sich immer mehr jener Dystopie an, die Max Read bereits 2018 beschrieb (New York Magazine):

Fake people with fake cookies and fake social-media accounts, fake-moving their fake cursors, fake-clicking on fake websites.

Wie sich der Widerstand formiert

• In manchen Communitys ist generative KI zum Schimpfwort geworden. Künstlerinnen und Kreative sehen ihre Werke und ihr Einkommen in Gefahr.
• Anfang April haben mehr als 200 bekannte Musikerïnnen einen offenen Brief unterzeichnet, in dem sie fordern (Artist Rights Alliance):

This assault on human creativity must be stopped. We must protect against the predatory use of AI to steal professional artists' voices and likenesses, violate creators' rights, and destroy the music ecosystem.

• Das ist nur eine von Dutzenden ähnlichen Beschwerden und Klagen, die in den vergangenen Monaten veröffentlicht und eingereicht wurden.
• Bislang gibt es nur wenige Künstlerïnnen wie Grimes, die generative KI als Chance sehen (NPR). Die meisten Kulturschaffenden empfinden synthetische Inhalte nicht als Kunst, sondern als einen billigen Abklatsch menschlicher Kreativität, der in vielen Fällen das Urheberrecht missachtet (SMWB).

Warum KI sich an sich selbst verschlucken könnte

• Um Sprachmodelle zu trainieren, benötigt man Daten. Viele Daten. Hochwertige Daten. Deshalb haben sich OpenAI und Google alles einverleibt, was nicht bei drei die KI-Crawler ausgesperrt hat (SMWB).
• Doch wenn jeder Wikipedia-Eintrag gescrapt, jeder Reddit-Post verarbeitet und jeder Online-Artikel analysiert wurde, könnten Sprachmodelle an ihre Grenzen stoßen.