KI in der Wirtschaft: Steigerung des ROI und Management von Sicherheitsrisiken im Jahr 2025

Während sich Unternehmen mit der digitalen Transformation auseinandersetzen, entwickelt sich künstliche Intelligenz (KI) nicht nur zu einem Wettbewerbsvorteil, sondern zu einer grundlegenden geschäftlichen Notwendigkeit. Mit ihrem transformativen Potenzial für alle Geschäftsbereiche verspricht KI beträchtliche Erträge – allerdings nicht ohne Herausforderungen. Im Vorfeld der TechEx North America am 4. und 5. Juni bietet Kieran Norton, US Cyber AI & Automation Leader bei Deloitte, einen Einblick in das komplexe Zusammenspiel von KI-Einsatz, Cybersicherheit und Governance.

Norton, der seit über 25 Jahren im Bereich Cybersicherheit tätig ist und bei Deloitte eine führende Rolle einnimmt, bringt zum Ausdruck, was viele Führungskräfte in Unternehmen erst jetzt zu begreifen beginnen: Die Vorteile von KI können immens sein, aber auch ihre Risiken. Das aktuelle Gebot? Über experimentelle Implementierungen und Hype hinauszugehen und KI-Strategien zu entwickeln, die auf Sicherheit, Governance und realem Return on Investment (ROI) basieren.

KI im Unternehmen: Chancen und Entwicklung

KI hat sich schnell von der konzeptionellen Nutzung zur konkreten Anwendung entwickelt. Ursprünglich durch Tools wie Chatbots oder Kundensegmentierungsmodelle eingeführt, wird KI nun tiefer in Kerngeschäftsprozesse integriert – von der Lieferkettenprognose bis hin zur Cybersecurity-Sichtung. Diese Entwicklung bedeutet, dass KI nicht mehr optional oder experimentell ist. Sie muss verantwortungsvoll und sicher eingesetzt werden, und zwar so, dass sie einen messbaren ROI liefert.

Unternehmen erleben KI-gesteuerte Effizienz in Bereichen wie:

• SOC (Security Operations Center) Automatisierung: KI reduziert den Zeitaufwand für die Bearbeitung von Tickets um 60-80 %, so dass menschliche Analysten sich auf höherwertige Aufgaben konzentrieren können.
• Vorausschauende Wartung: Fertigungsunternehmen nutzen KI zur Analyse von Sensordaten, um Ausfallzeiten zu reduzieren und jährlich Millionen zu sparen.
• Optimierung des Kundendienstes: Intelligente Agenten bieten 24/7-Support, verkürzen die Lösungszeiten und erhöhen die Zufriedenheit.

Diese Vorteile sind jedoch an Bedingungen geknüpft: neue Angriffsvektoren, komplexere Integration und dringende Governance-Anforderungen.

Die doppelte Rolle der KI für die Cybersicherheit

KI ist gleichzeitig ein mächtiger Verbündeter bei der Abwehr von Bedrohungen und ein potenzielles neues Werkzeug im Arsenal von böswilligen Akteuren. Norton zeigt auf, wie KI-gestützte Tools Unternehmen dabei helfen, Phishing-Angriffe und Netzwerkanomalien in Echtzeit zu erkennen. Er unterstreicht aber auch, dass sich die Bedrohungslandschaft schnell verändert.

KI als Verteidigungsmechanismus

Moderne Sicherheitsplattformen nutzen heute maschinelles Lernen (ML), um riesige Datensätze zu analysieren und abnormales Verhalten zu erkennen – lange bevor ein menschlicher Analyst die gleiche Anomalie entdecken könnte. KI-gesteuerte Tools können zum Beispiel:

• Erkennen von Querbewegungen innerhalb von Netzwerken.
• Kennzeichnung von Datenexfiltrationsversuchen.
• Überwachen Sie Endpunkte auf unübliche Nutzungsmuster.
  

Laut dem IBM Cost of a Data Breach Report 2023 waren Unternehmen, die KI und Automatisierung umfassend nutzen, in der Lage, Datenschutzverletzungen im Durchschnitt 108 Tage schneller zu erkennen und einzudämmen als Unternehmen ohne KI.

KI als Bedrohungsvektor

Genauso wie Verteidiger nutzen auch Angreifer KI. Wir erleben das Aufkommen von KI-gestützter Malware, die in der Lage ist, herkömmliche Erkennungssysteme zu umgehen, und ausgeklügelte Phishing-Betrügereien, die mit generativen KI-Modellen erstellt werden. Diese Asymmetrie zwingt Unternehmen dazu, nicht nur technologisch, sondern auch strategisch die Nase vorn zu haben.

Der Governance-Imperativ: Mehr als Checklisten

Norton zieht Parallelen zwischen dem aktuellen Stand der KI-Einführung und den Anfängen des Cloud-Computing. Damals wie heute sahen die Unternehmen das Versprechen, unterschätzten aber die strukturellen Veränderungen, die notwendig waren, um neue Technologien sicher und in großem Umfang zu integrieren.

Die Integration von KI erfordert heute:

• Aktualisierte Governance-Rahmenwerke: Herkömmliche Cybersicherheitsrichtlinien berücksichtigen häufig nicht die Risiken von Modellverzerrungen, Halluzinationen oder prompten Injektionen.
• Funktionsübergreifende Aufsicht: Recht, Compliance, Risiko und IT müssen zusammenarbeiten, um Richtlinien zu erstellen, die Datenhoheit, Zustimmung und Fairness berücksichtigen.
• Modell-Lebenszyklus-Management: Die Überwachung von Leistungsverschlechterungen, Umschulungsplänen und Prüfprotokollen ist jetzt ein zentrales Element der KI-Governance.
  

Er warnt davor, parallele Governance-Strukturen nur für KI zu schaffen. Stattdessen sollten Unternehmen ihre bestehenden Cybersicherheits- und Risikomanagementprogramme weiterentwickeln, um KI-spezifische Nuancen zu behandeln.

„Sie sollten nicht noch ein weiteres Programm nur für die KI-Sicherheit zusätzlich zu dem erstellen, was Sie bereits tun“, rät Norton. „Sie sollten Ihr Programm modernisieren, um die mit KI-Workloads verbundenen Nuancen zu berücksichtigen“.

Daten: Das Lebenselixier der KI und eine neue Sicherheitsgrenze

Daten sind nach wie vor das Herzstück der KI, sowohl was ihren Wert als auch ihr Risiko betrifft. Damit KI-Systeme etwas leisten können, müssen sie Zugang zu hochwertigen, sauberen und umfassenden Datensätzen haben. Doch mit diesem Zugang kommt auch Verantwortung.

Unternehmen müssen das tun:

• ihre Datenumgebungen abbilden, um sicherzustellen, dass sie wissen, welche Daten von KI verwendet werden und wo sie sich befinden.
• Strenge Zugriffskontrollen und Verschlüsselungsprotokolle anwenden, um Datenlecks und unbefugten Zugriff zu verhindern.
• Sicherstellung der Einhaltung von Datenschutzgesetzen wie GDPR, CCPA und neuen KI-spezifischen Vorschriften.
  

Werden Daten nicht gesichert, besteht nicht nur das Risiko von Compliance-Verstößen, sondern es wird auch die Integrität der KI-Ergebnisse untergraben – vor allem, wenn die Daten an der Quelle vergiftet oder beschädigt werden.

Klein anfangen: Der praktische Fahrplan zum ROI von AI

Eine der wertvollsten Empfehlungen von Norton ist es, mit kleineren, gut eingegrenzten KI-Implementierungen zu beginnen, die geringe Betriebs- und Reputationsrisiken bergen. Chatbots, Tools zur Dokumentenzusammenfassung und interne Empfehlungsmaschinen sind ideale Ausgangspunkte.

Er differenziert zwischen:

• Chatbots: Geringeres Risiko, in erster Linie dazu bestimmt, Informationen auf der Grundlage von Trainingsdaten zu liefern.
• Agenten (agentische KI): Höheres Risiko, insbesondere wenn sie an der Ausführung von Transaktionen beteiligt sind oder folgenreiche Entscheidungen treffen (z. B. im Finanz- oder Gesundheitswesen).
  

„Wenn man 5, 6, 10, 50 oder hundert Agenten zusammenbringt, entsteht ein Netzwerk von Agenturen“, sagt Norton. “Die Interaktionen werden ziemlich komplex und werfen verschiedene Probleme auf.

Um eine Überfrachtung mit Risiken zu vermeiden, müssen Unternehmen KI zunächst in einem engen Rahmen mit klar definierten KPIs und unter Aufsicht testen. Erst nach der Validierung der Wirksamkeit und dem Verständnis des Risikos kann KI skaliert werden.

Fallstudie: Deloitte’s SOC AI Implementierung

Ein herausragendes Beispiel dafür, dass KI einen greifbaren Nutzen bringt, ist der interne Einsatz von KI bei Deloitte zur Bearbeitung von Sicherheitstickets der Stufe I. Da täglich Tausende von Ereignissen gemeldet werden, waren die menschlichen Analysten überfordert. Die KI wurde so trainiert, dass sie eine vorläufige Ticket-Sichtung vornimmt und nur die Vorfälle klassifiziert und eskaliert, die die Aufmerksamkeit eines Menschen erfordern.

Die Ergebnisse umfassen:

• Deutliche Verringerung der Ermüdung von Analysten.
• Schnellere Reaktionszeiten auf echte Bedrohungen.
• Ein operativer Prototyp mit hohem Vertrauen und messbarem ROI.
  

Diese KI hatte keinen Kundenkontakt, was das Reputationsrisiko reduzierte, und Experten waren in den Prozess eingebettet, um Entscheidungen zu validieren – ein Beispiel für das Prinzip der verantwortungsvollen Ergänzung, nicht des Ersatzes.

Die Zukunft gestalten: Sichere KI durch Design

Damit KI ihr Versprechen nachhaltig einlösen kann, müssen Unternehmen Sicherheit und Governance von Anfang an in den Design- und Implementierungszyklus einbeziehen.

Zu den wichtigsten Empfehlungen gehören:

1. Einrichtung von multidisziplinären KI-Governance-Ausschüssen, um die verantwortungsvolle Entwicklung und Nutzung zu steuern.
2. Integrieren Sie sichere KI-Entwicklung ähnlich wie DevSecOps – „SecAIops“ -, um sicherzustellen, dass Schwachstellen frühzeitig erkannt werden.
3. Educate stakeholders across the business on risks such as bias, hallucinations, and adversarial attacks.
4. Verwendung von Sandbox-Umgebungen für agentenbasierte KI-Experimente, um unbeabsichtigte Folgen zu minimieren.
5. Kontinuierliche Überwachung von KI-Systemen mithilfe von Echtzeit-Telemetrie und Festlegung klarer Eskalationspfade für anomales Verhalten.

Wie Norton betonte, sollten sich die Unternehmen nicht von theoretischen Werten verführen lassen und sich stattdessen auf reale Probleme im Zusammenhang mit KI konzentrieren, bei denen man den Erfolg messen und Vertrauen schaffen kann.

Schlussfolgerung: KI-ROI bringt Verantwortung mit sich

Da KI weiter reift und ihre Auswirkungen auf das Geschäft zunehmen, wird sie nicht länger auf IT-Abteilungen oder Innovationslabore beschränkt sein. Jede Funktion, vom operativen Geschäft über die Rechtsabteilung bis hin zur Vorstandsetage, muss die Auswirkungen von KI verstehen und sich darauf einstellen. Der wirkliche ROI ergibt sich nicht einfach aus dem Einsatz von KI, sondern aus der sicheren, ethischen und strategischen Umsetzung.

Nortons Überlegungen liefern eine Blaupause: Gehen Sie bei der Integration von KI vorsichtig vor, fangen Sie klein an, entwickeln Sie Sicherheits- und Governance-Modelle und schaffen Sie reale Auswirkungen, nicht nur Möglichkeiten. Unternehmen, die sich diesen Ansatz zu eigen machen, werden die Vorteile der KI nutzen und gleichzeitig ihre Fallstricke vermeiden können.