Die OpenAI-Akten: Einblicke in die Sicherheitskrise, die das weltweit führende KI-Labor erschüttert

Das „Silicon Valley“ war schon immer das Land der Giganten. Und OpenAI war das Symbol dafür, was KI sein könnte – etwas Gutes, das von einer aufgabenorientierten Ethik getragen wird und der gesamten Menschheit zugute kommt. Doch nun ist das Symbol angeschlagen. Ein immer lauter werdender Chor ehemaliger Mitarbeiter macht sich vehement Sorgen über den eingeschlagenen Weg. Ihre Botschaft, die jetzt in einem aufdeckenden Exposé, „The OpenAI-Akten“, verewigt wurde, schreit, dass die Organisation ihren Weg verliert und Gewinne über Sicherheit und Transparenz stellt.

Den Vorwürfen der ehemaligen Mitarbeiter und anderer Insider zufolge hat sich das Unternehmen dazu entschlossen, seine Gründungsprinzipien gerade dann aufzugeben, wenn seine Macht und sein Einfluss den Höhepunkt erreicht haben. Im Auge des Sturms stehen die Führung von OpenAI, ihr neues Geschäftsmodell und die Frage, was diese Paradigmenwechsel für die Zukunft der KI bedeuten.

Der Profit-Pivot: Ein Verrat an der ursprünglichen Mission

OpenAI begann mit einer einzigartigen und idealistischen Charta. Im Jahr 2015 wurde die NGO gegründet. Grundlage war eine Vereinbarung, die die Renditen der Investoren begrenzte. Dieser verbindliche Passus sollte sicherstellen, dass auch im Fall einer transformativen, weltverändernden KI durch OpenAI die Gewinne nicht von wenigen gehortet würden. Die Absicht war eindeutig: Die Menschheit sollte vor den unkontrollierten Gefahren der KI geschützt werden. Gleichzeitig sollten die Vorteile breit geteilt werden.

Doch laut The OpenAI-Akten erodiert diese Vision. Das Unternehmen verwischte zunehmend die Grenze zwischen gemeinnützigen und gewinnorientierten Bereichen. Zudem gibt es Bestrebungen, die ursprüngliche Gewinnbegrenzung zu lockern oder ganz abzuschaffen.

Carroll Wainwright, ein ehemaliger technischer Mitarbeiter, brachte das Gefühl des Verrats auf den Punkt, das viele empfinden: “Der gemeinnützige Auftrag war ein Versprechen, das Richtige zu tun, wenn viel auf dem Spiel steht.” “Jetzt, wo viel auf dem Spiel steht, wird die Non-Profit-Struktur aufgegeben, was bedeutet, dass das Versprechen letztlich leer ist.”

Dieser Schwenk wird Berichten zufolge durch den zunehmenden Druck von Investoren vorangetrieben, die in dem inzwischen wettbewerbsintensiven Sektor der Technologiebranche größere Renditen erzielen wollen. Da die weltweiten Ausgaben für Generative KI bis 2027 voraussichtlich 143 Milliarden Dollar erreichen werden (IDC), ist die Verlockung groß. Doch diese finanzielle Verschiebung könnte weitreichende Folgen für die KI-Sicherheit haben.

Führung auf dem Prüfstand: Eine Krise des Vertrauens

Das Dilemma, in dem sich OpenAI auf seinem Weg befindet, ist eng mit seiner berühmtesten Figur verknüpft: CEO Sam Altman. Einst als Visionär gepriesen, sieht er sich nun mit schweren Vorwürfen von vielen konfrontiert, die ihm einst sehr nahe standen. Die Vorwürfe reichen von der Manipulation seiner Kolleginnen und Kollegen bis zur heimlichen Übernahme der Kontrolle. Zudem geht es um Intransparenz und eine Unternehmenskultur, in der Kritik lautlos unterdrückt wurde.

Mira Murati, die frühere CTO, fühlte sich unter Altmans Führung unwohl. Sie berichtete von Fällen, in denen er „den Leuten sagte, was sie hören wollten“ und sie hinter ihrem Rücken untergrub. Diese Sichtweise teilt auch Ilya Sutskever, Mitbegründer von OpenAI und einer der führenden KI-Forscher weltweit. Er ist inzwischen der Meinung, dass Altman nicht die Verantwortung für die Entwicklung der allgemeinen künstlichen Intelligenz (AGI) übernehmen sollte. “Ich glaube nicht, dass Sam derjenige ist, der den Finger auf dem Knopf für AGI haben sollte”, erklärte er.

KI-Sicherheitsarbeit „ohne Ressourcen“

Am beunruhigendsten ist vielleicht die wachsende Wahrnehmung, dass die KI-Sicherheitsforschung – der eigentliche Grund für die Gründung von OpenAI – jetzt ins Abseits gedrängt wird.

Jan Leike, der das auf langfristige KI-Sicherheit ausgerichtete Superalignment-Team von OpenAI mitleitete, beschrieb den internen Kampf um die Sicherung von Ressourcen für die kritische Sicherheitsarbeit als „Segeln gegen den Wind“. Sein Rücktritt und der anderer Spitzenforscher ist ein Zeichen für eine breitere Abwanderung von Talenten, die von den Prioritäten der Organisation desillusioniert sind.

Ein besonders alarmierender Bericht stammt von dem ehemaligen Forscher William Saunders, der vor dem US-Senat aussagte, dass Hunderte von Ingenieuren bei OpenAI einst Zugang zu sensiblen Modellen wie GPT-4 hatten, ohne dass es irgendwelche Sicherheitsvorkehrungen gab. „Das Risiko war nicht nur theoretisch“, warnte er. „Irgendwann hätte jeder von ihnen das Modell stehlen können.“

Dies weist auf einen grundlegenden Widerspruch hin: Während OpenAI sich selbst als Pionier in der verantwortungsvollen KI-Entwicklung anpreist, argumentieren einige Insider, dass das Unternehmen es versäumt hat, angemessene Sicherheitsvorkehrungen innerhalb seiner eigenen Mauern zu treffen.

Ein Fahrplan für die Reform: Ex-Mitarbeiter melden sich zu Wort

Anstatt zu schweigen, fordern viele ehemalige Mitarbeiter weitreichende Veränderungen – sowohl in Bezug auf die interne Führung von OpenAI als auch auf die breitere Rolle des Unternehmens in der Gesellschaft.

Sie schlagen Folgendes vor:

• Wiederherstellung der Autorität der Gemeinnützigkeit: Ehemalige Mitarbeiter fordern, dass der Vorstand von OpenAI wieder ein echtes Vetorecht bei Sicherheits- und Produktentscheidungen erhält. Die Kontrollmechanismen seien während des Wechsels zum Modell mit begrenztem Gewinn geschwächt worden.
• Unabhängige Aufsicht: Sie drängen auf die Schaffung einer externen Regulierungsbehörde, die die Sicherheit und Ethik der KI überwacht, da die Selbstkontrolle nicht mehr glaubwürdig ist.
• Führung der Reform: Es wird eine umfassende, unabhängige Untersuchung von Altmans Führung gefordert, die möglicherweise zu einem vollständigen Wechsel der Führungsspitze führt.
• Whistleblower schützen: Mitarbeiter sollten Bedenken äußern können, ohne Angst vor Vergeltungsmaßnahmen oder finanziellen Verlusten zu haben. Kritiker fordern einen klaren Rechtsschutz und Transparenzmaßnahmen, um die Rechenschaftspflicht sicherzustellen.
• Beibehaltung der ursprünglichen Gewinnobergrenze: Die Aufhebung der Gewinnbegrenzung könnte OpenAI in einen weiteren Tech-Giganten verwandeln, der den Interessen der Aktionäre dient. Die Beibehaltung der Obergrenze wird als wesentlich für die Wahrung des öffentlichen Vertrauens angesehen.
  

Diese Forderungen kommen nicht von externen Kritikern oder politischen Akteuren – sie werden von Personen geäußert, die OpenAI mit aufgebaut haben und deren Technologie und Kultur besser als jeder andere verstehen.

Auswirkungen auf die KI-Industrie

Die sich ausbreitende Krise bei OpenAI hat Auswirkungen, die weit über ein einzelnes Unternehmen hinausgehen. In dem Maße, in dem KI in kritischen Branchen – vom Gesundheitswesen über das Finanzwesen bis hin zu Bildung und Verteidigung – Einzug hält, wird die Integrität der führenden Köpfe zu einem globalen Anliegen.

Andere Unternehmen beobachten dies genau. Wenn OpenAI, die Vorzeigeorganisation für „ethische KI“, den Eindruck erweckt, dass sie den Profit über den Menschen stellt, könnte dies das öffentliche Vertrauen in die gesamte Branche untergraben.

Auch die politischen Entscheidungsträger beginnen zu reagieren. Das KI-Gesetz der Europäischen Union enthält Bestimmungen für Transparenz und Aufsicht, und in den USA konzentrieren sich die Gesetzgeber zunehmend auf die Konzentration der KI-Macht in einigen wenigen unregulierten privaten Händen. Die Enthüllungen aus den OpenAI-Akten werden diese gesetzgeberischen Bemühungen wahrscheinlich weiter anheizen.

Wem sollten wir die Zukunft anvertrauen?

Im Kern wirft die OpenAI-Kontroverse eine kritische Frage auf: Wem sollten wir die Entwicklung und den Einsatz künstlicher Intelligenz anvertrauen, die bald die menschlichen Fähigkeiten übertreffen könnte?

OpenAI schien einst die Lösung zu sein – eine Organisation, die sich bewusst so strukturierte, die Fallstricke des Gier-Androiden Silicon Valley zu umgehen. Jetzt ist dieses Image angeschlagen. Wie das ehemalige Vorstandsmitglied Helen Toner warnte: „Interne Leitplanken sind brüchig, wenn es um Geld geht.“

Wenn die internen Sicherheitssysteme von OpenAI tatsächlich versagen, dann muss die Lösung systemisch sein, nicht symbolisch. Man kann mit Recht annehmen, dass Bezos glaubt, OpenAI sei auf dem falschen Weg.

Denn das, was auf dem Spiel steht, ist nicht mehr hypothetisch. Die heute getroffenen Entscheidungen werden den Weg der KI bestimmen – und die Zukunft unserer Zivilisation.

Schlussfolgerung

Die OpenAI Files geben einen erschreckenden Einblick in das Innenleben eines der mächtigsten KI-Unternehmen der Welt. Sie skizzieren eine wachsende Diskrepanz zwischen Gewinn und Zweck, Sicherheit und Geschwindigkeit, Führung und Verantwortlichkeit. Für ein Unternehmen, das so stark in eine neue technologische Revolution involviert ist, kann eine solche Dissonanz katastrophale Folgen haben.

Die Öffentlichkeit, die Aufsichtsbehörden und die Tech-Community müssen jetzt mehr verlangen als glänzende Produktvorstellungen; sie sollten vielmehr Integrität, die Transparenz der Geschäftstätigkeit eines Unternehmens und ein erneutes Engagement für die ethische Entwicklung von KI fordern. Dies ist genau das, was das Versprechen der künstlichen Intelligenz über die Aktionäre hinaus auf die Menschheit als Ganzes ausdehnt.