Ausgabe #871 | 30.3.2023
Was ist
Hunderte Forscher, Expertinnen und bekannte Persönlichkeiten aus der Tech-Branche haben den offenen Brief "Pause Giant AI Experiments" unterschrieben (Future of Life). Darunter sind kluge Menschen, die aktiv an KI arbeiten, fragwürdige Selbstdarsteller und Elon Musk.
Man könnte sagen: Eine Petition, unter der Musks Name an dritter Stelle auftaucht, muss man ohnehin nicht besonders ernst nehmen. Das würde dem Anliegen nicht gerecht. Dafür ist das Thema KI zu wichtig, dafür haben sich zu viele einflussreiche und respektierte Forscherïnnen beteiligt.
Obwohl wir den Forderungen in Teilen zustimmen, halten wir den Brief als Ganzes für kontraproduktiv bis gefährlich. Was will die Petition genau? Was stört uns daran? Read on!
Welche Forderungen der Brief enthält
- Die Unterzeichnenden sind überzeugt, dass KI "tiefgreifende Risiken für die Gesellschaft und die Menschheit" mit sich bringe. So weit, so wenig kontrovers – wir kennen niemanden, der das nicht unterschreiben würde.
- Der Fokus der Petition liegt dabei auf "human-competitive intelligence". Solche Systeme sollten erst entwickelt werden, wenn sicher sei, dass ihre Auswirkungen positiv und ihre Risiken überschaubar sind.
- Der Brief enthält vier zentrale Fragen:
Should we let machines flood our information channels with propaganda and untruth? Should we automate away all the jobs, including the fulfilling ones? Should we develop nonhuman minds that might eventually outnumber, outsmart, obsolete and replace us? Should we risk loss of control of our civilization?
- Die Fragen sind offensichtlich rhetorisch, die Antwort lautet viermal nein. Deshalb fordern die Unterstützerïnnen, dass mindestens sechs Monate lang nicht weiter an KI geforscht werden solle, die mächtiger ist als GPT-4, das aktuelle LLM von OpenAI. Falls sich die Industrie weigere, müssten Regierungen ein Moratorium erzwingen.
- In dieser Zeit sollen KI-Firmen und unabhängige Expertïnnen Sicherheitsstandards für KI-Design und Entwicklung erarbeiten. Damit könne das Wettrennen um immer größere, mächtigere LLMs vorerst gebremst werden. Die Sprachmodelle seien Black Boxes, deren Auswirkungen sich nicht vorhersagen ließen.
- Gleichzeitig müssten sich KI-Entwicklerïnnen mit Regierungen zusammentun, um gemeinsam Leitlinien für effektive KI-Regulierung zu implementieren. Es benötige neue, spezialisierte Aufsichtsbehörden, Kontrolle und Aufsicht, ein Kennzeichnungssystem für synthetische Medien, Haftung für durch KI verursachte Schäden, öffentliche Förderung für KI-Sicherheitsforschung sowie Institutionen, um die wirtschaftlichen und politischen Umwälzungen zu bewältigen, die KI auslösen werde.
Warum die Petition problematisch ist
Vorab: Wir können verstehen, warum respektierte Forschende den Brief unterzeichnet haben, obwohl sie nicht mit dem gesamten Inhalt übereinstimmen. Emad Mostaque, der Chef von Stability.AI, schreibt etwa (Twitter):
So yeah I don't think a six month pause is the best idea or agree with everything but there are some interesting things in that letter. It has no force but will kick off an important discussion that will hopefully bring more transparency & governance to an opaque area.
Gary Marcus, Professor für Neurowissenschaft an der Universität New York, erklärt seine Beteiligung so (Reuters):
The letter isn't perfect, but the spirit is right: we need to slow down until we better understand the ramifications. The big players are becoming increasingly secretive about what they are doing, which makes it hard for society to defend …