OpenAI ist auch nur ein stinknormales Tech-Unternehmen

In eigener Sache: Wir sprechen am kommenden Montag bei der re:publica24 mit Patricia Cammarata, Dirk von Gehlen, Katharina Nocun und Johnny Haeusler über den Status quo von Social Media. Direkt um 11:15 auf Bühne 2. Hier gibt es die Infos, der Teaser lautet wie folgt:

Für viele von uns war Twitter für Jahre der zentrale Ort im Netz, der sowas wie eine digitale Heimat darstellte. Wir lernten uns teilweise dort kennen, wir verfolgten dieselbe Debatten, wir kommunizierten dort und informierten uns. Irgendwann wurde es ungemütlicher, nicht mehr so beschaulich, für viele sogar richtig unangenehm oder sogar gefährlich. Mit der Machtübernahme durch Elon Musk war der Traum endgültig aus und wir verteilten uns auf die Plattformen, die es auch noch gab oder die neu hinzukamen, um Twitter zu ersetzen.

Aber wo stehen wir heute, 18 Monate nachdem eine Toilette in das Twitter Hauptquartier getragen wurde? Werden wir noch eine gemeinsame Heimat zwischen Mastodon, Threads, Bluesky, Instagram, TikTok und LinkedIn finden? Was ist der Stand von sozialen Medien in Deutschland und ist unsere Sehnsucht nach dem früheren Twitter vielleicht nur Nostalgie an eine vergangene Zeit, die in der Zukunft ganz anders werden wird?

Es wäre uns eine große Freude, wenn wir dich dort treffen!

OpenAI ist auch nur ein stinknormales Tech-Unternehmen

Sam Altman inszeniert sich und seine Firma gern als etwas Besonderes. Dabei verkörpert OpenAI vieles, was im Silicon Valley schiefläuft.

Was ist

OpenAI hat eine miese Woche hinter sich. Zuerst ließ man sich für das neue Modell GPT-4o feiern (SMWB), doch es folgte ein PR-Desaster nach dem nächsten:

• Scarlett Johansson fühlt sich vor den Kopf gestoßen und droht mit Klage.
• Mehrere Führungskräfte kündigen, das Superalignment-Team implodiert.
• Recherchen enthüllen extrem restriktive NDAs, mit denen OpenAI Ex-Angestellte zur Verschwiegenheit verpflichtet.

Wir beschreiben kurz, was gerade bei OpenAI los ist. Dann widmen wir uns der spannenderen Frage: Was sagt das alles über Sam Altman und sein Unternehmen?

Warum Johansson sauer ist

• Vergangene Woche schrieben wir über Sky, wie OpenAI die Stimme seines Sprachmodells nennt (SMWB):

Es ist wohl kein Zufall, dass GPT-4o klingt wie Scarlett Johansson im Film Her. Technikchefin Mira Murati streitet diesen Zusammenhang ab (The Verge), doch Altman selbst ließ auf X mit einem Ein-Wort-Post tiefer blicken: "her"

• Die Schauspielerin sieht das offenbar ähnlich. Am Dienstag teilte sie mit (X / Bobby Allyn):

When I heard the released demo, I was shocked, angered and in disbelief that Mr. Altman would pursue a voice that sounded so eerily similar to mine that my closest friends and news outlets could not tell the difference.

• Altman habe sie bereits im September 2023 gefragt, ob sie die Stimme von ChatGPT werden wolle:

He told me that he felt that by my voicing the system, I could bridge the gap between tech companies and creatives and help consumers to feel comfortable with the seismic shift concerning humans and Al. He said he felt that my voice would be comforting to people.

• Sie habe lange überlegt, schließlich aber abgesagt. Nach neun Monaten Funkstille habe sich Altman erneut bei Johanssons Agenten gemeldet und gefragt, ob sie es sich nicht doch anders überlegen wolle. Diese Kontaktaufnahme erfolgte zwei Tage vor der Vorstellung von GPT-4o.
• Obwohl Johansson das Angebot ausschlug, veröffentlichte OpenAI mit Sky eine Stimme, die auffällige Ähnlichkeiten zum Charakter Samantha aus Her aufweist.
• Johansson engagierte einen Anwalt, der in zwei Briefen an OpenAI und Altman um Aufklärung bat. Das Unternehmen veröffentlichte einen ausführlichen Blogeintrag, in dem Altman behauptet:

The voice of Sky is not Scarlett Johansson's, and it was never intended to resemble hers. We cast the voice actor behind Sky’s voice before any outreach to Ms. Johansson. Out of respect for Ms. Johansson, we have paused using Sky’s voice in our products. We are sorry to Ms. Johansson that we didn’t communicate better.

• Trotzdem gab OpenAI nach. Auf X verkündete das Unternehmen, dass man die Stimme Sky vorerst pausieren werde, bis alle Fragen geklärt seien.
• Das Thema ging tagelang groß durch US-Medien, Altman und OpenAI kamen dabei nicht gut weg. Anwältïnnen gehen davon aus, dass Johansson im Fall einer Klage gute Chancen hätte (Wired, The Verge).
• Tatsächlich scheint Altman aber zumindest in einem Punkt die Wahrheit zu sagen. Der Washington Post zufolge stammt die Stimme von einer Schauspielerin, die lange vor Johansson angefragt wurde:

But while many hear an eerie resemblance between “Sky” and Johansson’s “Her” character, an actress was hired to create the Sky voice months before Altman contacted Johansson, according to documents, recordings, casting directors and the actress’s agent.

• Demnach habe OpenAI in den Gesprächen mit der Schauspielerin den Film Her kein einziges Mal erwähnt, geschweige denn darum gebeten, Johansson zu imitieren. Ihrer Meinung nach klinge ihre Stimme auch anders:

In a statement from the Sky actress provided by her agent, she wrote that at times the backlash “feels personal being that it’s just my natural voice and I’ve never been compared to her by the people who do know me closely.”

• Trotzdem kann man festhalten: Altman möchte Johansson als Stimme gewinnen. Sie sagt nein. OpenAI veröffentlicht eine Stimme, die viele Menschen stark an Johansson erinnert. Altman kommentiert: „her“.
• Zufall? Tja.

Wie sich das Superalignment-Team auflöste

• Vergangene Woche verkündeten Ilya Sutskever (X) und Jan Leike (X), dass sie OpenAI verlassen. Die beiden leiteten das Superalignment-Team, das garantieren soll, dass KI im Sinne der Menschheit agiert, statt sich gegen ihre Schöpfer zu richten.
• Man kann den Doomer-Blick auf Artificial General Intelligence für überzogen halten und die Abgänge trotzdem mit Sorge betrachten. Denn Sutskever und Leike sind nur zwei von sieben Sicherheitsforschern (alles Männer), die OpenAI kürzlich verlassen haben oder gefeuert wurden.
• Dieses Muster zieht sich durch die vergangenen Jahre. Ein Großteil der Forschenden, die sich um AGI und Sicherheit kümmerten, arbeitet mittlerweile nicht mehr bei OpenAI.
• Wir kennen keine Details und wissen nicht, was hinter den einzelnen Abgängen steckt. Wenn man aber liest, was Leike und andere Ex-Angestellte sagen, wirft das ein schlechtes Licht auf den Führungsstil von Altman.
• Zvi Mowshowitz hat den Exodus mit Dutzenden weiterführenden Links zusammengefasst und analysiert. Sein Fazit:

It is quite bad because of the larger pattern. Sutskever’s and Leike’s departures alone would be ominous but could be chalked up to personal fallout from the Battle of the Board, or Sutskever indeed having an exciting project and taking Leike with him.
I do not think we are mostly reacting to the cryptic messages, or to the deadening silences. What we are mostly reacting to is the costly signal of leaving OpenAI, and that this cost has now once again been paid by so many of its top safety people and a remarkably large percentage of all its safety employees.

Wie OpenAI Ex-Angestellte mundtot macht

• Am Freitag berichtete Vox über die fragwürdigen Verträge, mit denen OpenAI ehemalige Mitarbeitende für den Rest ihres Lebens zur Verschwiegenheit verpflichten will:

I have seen the extremely restrictive off-boarding agreement that contains nondisclosure and non-disparagement provisions former OpenAI employees are subject to. It forbids them, for the rest of their lives, from criticizing their former employer. Even acknowledging that the NDA exists is a violation of it. If a departing employee declines to sign the document, or if they violate it, they can lose all vested equity they earned during their time at the company, which is likely worth millions of dollars.

• Kurz darauf entschuldigte sich Altman (X). OpenAI habe noch nie Anteile zurückgefordert, wenn jemand die NDAs nicht unterschrieben habe. Die Klauseln seien ein Fehler, der ihm leidtue: