Die Open Secure AI Alliance ist ein von NVIDIA am 27. Juli 2026 ins Leben gerufenes Bündnis, das Dutzende von Technologieunternehmen zusammenbringt, um Open-Source-Tools zum Schutz von Software und KI-Agenten vor Cyberangriffen zu entwickeln und gemeinsam zu nutzen. In der offiziellen Ankündigung von NVIDIA wird die Allianz als „Open Secure AI Alliance for AI Safety and Security“ bezeichnet. Ihr zentrales Argument lautet, dass Cyber-Sicherheitsexperten offene, überprüfbare KI-Systeme benötigen – und nicht nur geschlossene Modelle, auf die über die API eines Anbieters zugegriffen wird –, um mit KI-gestützten Bedrohungen Schritt halten zu können.
Hier erfahren Sie, was die Allianz konkret tut, warum sie gerade jetzt ins Leben gerufen wurde, wer daran beteiligt ist und was dies für Unternehmen bedeutet, die KI-Sicherheitsstrategien entwickeln.
In diesem Artikel geht es um:
Was die Open Secure AI Alliance ist und welche Kernaufgabe sie im Bereich KI-Sicherheit und Cybersicherheit hat
Warum NVIDIA die Allianz im Jahr 2026 ins Leben gerufen hat und welcher konkrete Auslöser dahintersteckt
Der Sicherheitsvorfall bei Hugging Face und wie er die Philosophie der Allianz geprägt hat
Das Konzept des „Full Agent Stack“ – Identität, Berechtigungen, Schutzmaßnahmen, Protokolle und Bewertung
Wichtige Gründungsmitglieder und warum große KI-Labore wie OpenAI, Google und Anthropic fehlen
Die wichtigsten vorgestellten Technologien: NOOA, Safetensors, MDASH, SPIFFE/SPIRE, Lightwell und Grok Build
Wie die Allianz einen offenen KI-Sicherheitsstack zum Schutz von Agenten und Software aufbaut
Die Debatte um offene vs. geschlossene KI und die Position von NVIDIA zur Transparenz in Sicherheitsfragen
Risiken und Kritikpunkte an Open-Weight-KI-Modellen in Cybersicherheitsumgebungen
Was dies für Unternehmen bedeutet, die im Jahr 2026 KI-Sicherheitsstrategien entwickeln
Aufkommende Trends: herstellerübergreifende KI-Sicherheit, Einführung offener Tools und regulatorischer Druck
Herausforderungen bei der Governance, Haftungsfragen und offene Fragen zur KI-Sicherheit
Häufig gestellte Fragen (FAQs) zur Allianz, ihren Mitgliedern, Technologien und den Auswirkungen auf die Branche
Was ist die Open Secure AI Alliance?
Die Open Secure AI Alliance ist ein von NVIDIA geführter Branchenverbund, der gegründet wurde, um offene Technologien, Verfahren und Werkzeuge zur Absicherung von Software und KI-Agenten zu entwickeln und gemeinsam zu nutzen. Dabei baut sie auf bestehenden Open-Source-Sicherheitsinitiativen auf – insbesondere auf der Akrites-Initiative der Linux Foundation und der Open Source Security Foundation (OpenSSF) –, anstatt ganz von vorne anzufangen.
Sein Anwendungsbereich umfasst das, was NVIDIA als „vollständigen Agent-Stack“ bezeichnet: Identität, Berechtigungen, Harnesses, Schutzmechanismen, Protokolle und Bewertung. Dahinter steht die Überlegung, dass ein KI-Agent nicht nur ein Sprachmodell ist – er ist ein komplexes System aus Modellen, Harnesses und Schutzmechanismen, die zusammenwirken, und echte Sicherheit muss jede Ebene abdecken, nicht nur die Frage, ob die Gewichte eines Modells offen oder geschlossen sind.
Die erklärte Mission der Allianz ist klar: Sie soll sicherstellen, dass Sicherheitsverantwortliche überall über offene, wegweisende KI-Tools verfügen, denen sie vertrauen und die sie kontrollieren können, anstatt sich vollständig auf Systeme verlassen zu müssen, die sie nicht überprüfen können.
Warum gerade jetzt: Der „Hugging Face“-Vorfall, der den Anstoß gab
Das Gründungsargument der Allianz geht auf ein konkretes Ereignis aus jüngster Zeit zurück. Bei einem Sicherheitsvorfall bei Hugging Face – einem der weltweit größten Anbieter von Open-Source-KI-Modellen – erwiesen sich geschlossene KI-Tools als unfähig, Angreifer von Verteidigern zu unterscheiden, was die dringend benötigte forensische Analyse des Unternehmens verhinderte.
Die Reaktion von Hugging Face wurde zur Fallstudie, auf der die gesamte Allianz aufbaut: Das Unternehmen führte das Open-Weight-Modell GLM 5.2 auf seiner eigenen Infrastruktur aus, analysierte mehr als 17.000 Aktionen und konnte den Angriff eigenständig eindämmen. Der Blogbeitrag von NVIDIA betrachtet dies als Beweis für ein allgemeineres Prinzip: Wenn Verteidiger fortschrittliche KI auf der von ihnen kontrollierten Infrastruktur nicht überprüfen, anpassen und ausführen können, ist ihre Reaktionsfähigkeit genau in dem Moment eingeschränkt, in dem es am meisten auf Geschwindigkeit ankommt.
Dieser Vorfall, der sich nur wenige Tage vor dem Start der Allianz ereignete, verlieh dem Argument von NVIDIA eine dringliche Realität und machte es zu mehr als nur einer abstrakten politischen Rahmenaussage.
Gründungsmitglieder und Tätigkeitsbereich
Die Open Secure AI Alliance wurde mit mehr als drei Dutzend Gründungspartnern ins Leben gerufen und ist seitdem rasant gewachsen. Laut der jüngsten Aktualisierung der Ankündigung durch NVIDIA umfasst die Partnerliste mittlerweile mehr als 70 Organisationen aus den Bereichen Cloud-Computing, Cybersicherheit, Unternehmenssoftware, Open-Source-Stiftungen und KI-Forschung – darunter Microsoft, Cisco, Cloudflare, CrowdStrike, IBM, Red Hat, Hugging Face, Databricks, Palantir, SAP, Siemens, Salesforce, Dell Technologies, HPE, Okta, Fortinet, Snowflake, ServiceNow, Mistral, Cohere, Perplexity, Elastic, GitHub, Docker und die Linux Foundation sowie viele andere.
Ein Detail hat in der Branche große Aufmerksamkeit erregt: OpenAI, Google und Anthropic – drei der größten Pionierlabore im Bereich der KI – fehlen auffällig in der Liste der Gründungsmitglieder. Der Blog von NVIDIA erklärt diese Auslassung nicht direkt, doch die Darstellung der Allianz selbst liefert einen Hinweis: Ihr Kernargument spricht sich für offene, überprüfbare Modelle speziell für den defensiven Einsatz in der Cybersicherheit aus – eine Position, die in gewissem Widerspruch zu den Labors steht, deren Flaggschiffprodukte weiterhin geschlossen sind.
Einige führende Sicherheitsexperten haben diese Lücke als echte Einschränkung bezeichnet. Ein CISO merkte öffentlich an, dass die großen Entwickler von Pioniermodellen in die Diskussion einbezogen werden müssten und dass es der Branche nach wie vor an einheitlichen Regeln zur Haftung fehle, wenn ein KI-Agent seinen vorgesehenen Anwendungsbereich überschreite – eine Frage der Governance, die die Allianz selbst noch nicht vollständig beantwortet hat.
Was NVIDIA und seine Partner beitragen
Die Allianz wurde nicht nur als politisches Bekenntnis ins Leben gerufen, sondern brachte bereits konkrete technische Beiträge mit, die sich bereits in der Umsetzung befanden:
NOOA (NVIDIA Labs Object-Oriented Agent) – ein neues Open-Source-Forschungsframework von NVIDIA, das nun auf GitHub verfügbar ist und dazu dient, die Integration von Agenten-Harnesses in Modelle zu erleichtern, sodass das Verhalten von Agenten einfacher getestet, nachverfolgt, geprüft und gesteuert werden kann.
Safetensors – das sichere Speicherformat für Modellgewichte von Hugging Face, das der PyTorch Foundation zur Verfügung gestellt wurde, um dateibasierte Angriffsvektoren zu schließen, von denen KI-Lieferketten zuvor betroffen waren.
MDASH – Microsofts agentenbasiertes Multi-Modell-Scan-Framework, das spezialisierte KI-Agenten koordiniert, um ausnutzbare Softwarefehler aufzudecken, zu diskutieren und nachzuweisen, bevor Angreifer sie finden**.**
SPIFFE/SPIRE – ein von HPE unterstütztes Zero-Trust-Identitäts-Framework, das KI-Agenten und -Dienste kryptografisch verifiziert, sodass nur autorisierte Workloads auf Unternehmensressourcen zugreifen können.
Lightwell – eine Initiative von IBM und Red Hat, die die Sicherheit mithilfe digital signierter Patches auf die gesamte Open-Source-Lieferkette ausweitet.
Grok Build – der als Open Source verfügbare, terminalbasierte Codierungsagent von SpaceXAI, mit dem erklärten Ziel, die Gewichte seiner Grok-Modellreihe langfristig als Open Source zur Verfügung zu stellen.
Insgesamt beschreibt NVIDIA dies als einen „offenen Sicherheitsstack für Agenten“, der die Bereiche Identitätsprüfung und Isolierung, sichere Modellformate, Multi-Modell-Scans sowie sichere Programmier-Workflows umfasst.
Die Debatte um offene versus geschlossene KI
NVIDIA vertritt die Position – die auch CEO Jensen Huang in einem Brief bekräftigte, der kurz vor der Gründung der Allianz von mehr als 100 Organisationen unterzeichnet wurde –, dass offene und geschlossene Modelle nebeneinander bestehen müssen. Sich ausschließlich auf geschlossene Systeme zu verlassen, so das Argument, schaffe einzelne Fehlerquellen – der Fehler eines Unternehmens werde so zu einem branchenweiten Problem.
NVIDIA leugnet die Risiken offener Modelle nicht. Im eigenen Blog räumt das Unternehmen ein, dass offene Systeme missbraucht werden können, beispielsweise durch Versuche, Sicherheitsvorkehrungen zu umgehen oder Funktionen für Angriffe umzuwidmen. Es argumentiert jedoch, dass diese Risiken nicht ausschließlich bei offenen Systemen auftreten und nicht einfach verschwinden, nur weil die Gewichte eines Modells geheim bleiben. Als Lösung schlägt das Unternehmen vor, Offenheit mit starken Sicherheitsvorkehrungen, klaren Regeln gegen Missbrauch, strenger Bewertung und schneller Abhilfe zu verbinden – anstatt den Zugang zu „Open Frontier“-KI gänzlich einzuschränken.
Nicht jeder ist davon überzeugt, dass dieser Ansatz in der Praxis Bestand hat. Einige Sicherheitsforscher haben darauf hingewiesen, dass bei Modellen mit offenen Gewichten, die isoliert und ohne jegliche Aufsicht durch den Anbieter laufen, die Sicherheitskontrollen verändert, entfernt oder durch erneutes Training vollständig außer Kraft gesetzt werden können – eine strukturelle Einschränkung, die keine Allianz-Charta vollständig beheben kann.
Was dies für Unternehmen bedeutet
Für Sicherheitsteams in Unternehmen signalisiert die Open Secure AI Alliance einige praktische Veränderungen, die es zu beobachten gilt:
Es kommen neue offene Tools auf den Markt, nicht nur Positionspapiere – NOOA, Safetensors, MDASH und SPIFFE/SPIRE sind echte, einsatzfähige Projekte, die bereits verfügbar sind.
Eine herstellerunabhängige KI-Sicherheit wird als Standard und nicht als Ausnahme betrachtet, wodurch die Abhängigkeit von einem einzelnen, geschlossenen Anbieter für kritische Sicherheitsinfrastrukturen verringert wird.
Der politische Druck nimmt zu – die Allianz fordert die Regulierungsbehörden ausdrücklich dazu auf, offene Modelle und Tools als defensive Vermögenswerte und nicht als Verbindlichkeiten zu behandeln, was wahrscheinlich die künftige Gesetzgebung zur KI-Sicherheit prägen wird.
Lücken in der Governance bleiben offene Fragen – da OpenAI, Google und Anthropic nicht mit am Tisch sitzen und es keine festgelegten Regeln zur Haftung von Agenten gibt, sollten Organisationen die Allianz als einen sich entwickelnden Rahmen betrachten und nicht als fertigen Standard.
FAQs
Was ist die Open Secure AI Alliance?
Es handelt sich um einen von NVIDIA angeführten Zusammenschluss von Technologieunternehmen, der gegründet wurde, um Open-Source-Tools zur Sicherung von Software und KI-Agenten zu entwickeln und gemeinsam zu nutzen. Diese Tools decken die Bereiche Identität, Berechtigungen, Sicherheitsvorkehrungen und Bewertung über den gesamten Agent-Stack hinweg ab.
Wer hat die Open Secure AI Alliance gegründet?
NVIDIA leitete die Gründung, an der sich mehr als drei Dutzend Gründungspartner beteiligten, darunter Microsoft, Cisco, IBM, Red Hat, CrowdStrike, Hugging Face, Cloudflare und die Linux Foundation. Die Partnerliste wuchs bereits kurz nach dem Start auf über 70 Organisationen an.
Warum wurde die Open Secure AI Alliance gerade jetzt ins Leben gerufen?
Auslöser war ein Sicherheitsvorfall bei Hugging Face, bei dem geschlossene KI-Tools eine dringende forensische Analyse nicht unterstützen konnten, während ein auf der eigenen Infrastruktur von Hugging Face ausgeführtes Open-Weight-Modell erfolgreich dazu beitrug, den Einbruch einzudämmen.
Warum sind OpenAI, Google und Anthropic nicht Teil der Allianz?
NVIDIA hat keinen offiziellen Grund genannt. Branchenbeobachter weisen darauf hin, dass die Haltung der Allianz zugunsten offener Modelle möglicherweise nicht mit den Interessen von Labors vereinbar ist, deren Flaggschiffprodukte weiterhin auf geschlossenen Gewichten basieren, und einige Sicherheitsverantwortliche haben deren Abwesenheit als bemerkenswerte Lücke bezeichnet.
Was ist NOOA?
NOOA, das „NVIDIA Labs Object-Oriented Agent“-Framework, ist ein Open-Source-Forschungsprojekt, das die Integration von Agenten-Harnesses in KI-Modelle unterstützt, damit das Verhalten von Agenten effektiver getestet, nachverfolgt, geprüft und gesteuert werden kann.