Die Digitalisierung von Unternehmen entwickelte sich über Jahre hinweg stetig und vergleichsweise unauffällig. Es gab keinen einzelnen Moment der Disruption. Ohne großes Aufsehen hielt sie in nahezu allen Bereichen der Organisation Einzug.
Natürlich brachte sie auch Bedrohungen mit sich, die zuvor kaum jemand vorhergesehen hatte. Doch Unternehmen passten sich an. Sie entwickelten Cybersecurity-Modelle, um ihre vernetzten Systeme und Prozesse zu schützen, und arbeiteten weiterhin innerhalb dieser abgesicherten Umgebungen.
Mit KI ist die Situation jedoch eine andere. Sie verändert ganze Branchen und führt zu völlig neuen Angriffsvektoren, Vertrauensfragen und Governance-Lücken, und das schneller, als bestehende Sicherheitsprogramme darauf reagieren können.
In einem kürzlich durchgeführten Webinar mit Prakash Narayanamoorthy, Global Capacity Leader: Emerging Technology (Cyber) bei NTT DATA, und Peter Bailey, Senior Vice President und General Manager: Security bei Cisco, haben wir darüber gesprochen, was passiert, wenn die Einführung von KI schneller voranschreitet, als Sicherheitsmaßnahmen mithalten können. Werfen wir einen Blick auf einige der zentralen Themen aus dieser Diskussion.
Die Lücke zwischen Anspruch und Realität
Da KI weltweit Wachstum und Innovation beschleunigt, ist eines klar: Unternehmen kommen nicht umhin, sie einzusetzen, wollen sie weiterhin im Wettbewerb bestehen.
Weniger klar ist jedoch, wie sich das sicher umsetzen lässt.
Die Ergebnisse aus dem NTT DATA Guide „Der Balanceakt der KI-Sicherheit: Zwischen Risiko und Innovation“ basieren auf Gesprächen mit mehr als 2.300 GenAI-Entscheider:innen in 34 Ländern und 12 Branchen und zeichnen ein konsistentes Bild: Zwar erkennen nahezu alle Unternehmen die Bedeutung von KI, doch nur wenige verfügen über eine klare Strategie, um sie sicher einzuführen und zu nutzen.
Führungskräfte bewegen sich auf einem schmalen Grat. Einerseits müssen sie KI schnell implementieren und ihren Mehrwert sichtbar machen. Andererseits gilt es, Vertrauen und Transparenz zu schaffen und einen Missbrauch der Technologie zu verhindern. Vielen Organisationen fällt es jedoch schwer, diese Leitplanken zu etablieren.
Ihre KI-Ambitionen wachsen schneller als die Strukturen, die notwendig sind, um Risiken, Vertrauen und Verantwortlichkeit zu steuern.
LESEN SIE AUCH → Die neuen Regeln des Vertrauens: Governance, Risk und Compliance im KI-Zeitalter
Vom Ziel her denken
Die meisten Unternehmen beginnen ihre KI-Reise nicht mit der Frage nach den Risiken, sondern mit der Suche nach neuen Chancen und Möglichkeiten. Sie wissen, dass sie klein anfangen müssen, um etwa mit einem vielversprechenden Anwendungsfall, einem Pilotprojekt oder einem Proof of Concept den Nutzen zu testen und eine erste Dynamik aufzubauen. Governance und Sicherheit geraten dabei jedoch oft zur Nebensache und werden erst berücksichtigt, wenn der Mehrwert klar erkennbar ist.
Sicherheit erst im Nachhinein zu berücksichtigen, ist grundsätzlich keine gute Idee. Bei KI ist dieser Ansatz jedoch besonders riskant, weil sich KI-Systeme ständig weiterentwickeln.
KI bleibt nicht statisch. Systeme lernen, passen sich an und beeinflussen zunehmend Entscheidungen und Arbeitsabläufe. Häufig auf eine Weise, die sich später nur schwer wieder zurückdrehen lässt. Wenn Risiken zutage treten, ist KI oft bereits tief im Unternehmen verankert. Deshalb darf das Thema Sicherheit nicht erst nachgelagert betrachtet werden.
Wer KI verantwortungsvoll skalieren möchte, sollte zunächst definieren, wie Vertrauen, Governance und Verantwortlichkeit aussehen sollen, wenn das KI-System vollständig implementiert ist.
Darauf aufbauend lassen sich akzeptable Nutzungsregeln festlegen, bevor neue Tools ausgerollt werden. Zuständigkeiten können definiert werden, bevor Modelle produktiv arbeiten. Und Kontrollen lassen sich so gestalten, dass sie die stetige Weiterentwicklung der Systeme von Anfang an berücksichtigen.
Shadow AI: Sichtbarkeit schafft Kontrolle
Shadow AI entsteht in der Regel nicht aus böser Absicht. Häufig beginnt sie mit guten Ideen. Vielleicht lädt ein Teammitglied ein KI-Tool herunter, das Dokumente automatisch zusammenfasst, um so Aufgaben schneller zu erledigen. An sich eine sinnvolle Idee. Doch damit wird KI unbeabsichtigt in die IT-Umgebung eingeführt – ohne Leitplanken oder Governance.
Wenn sich solche Fälle im Unternehmen häufen, verliert das Sicherheitsteam schnell den Überblick: Welche KI-Tools werden genutzt? Wer hat welche Daten geteilt? Und wie könnte die falsche Verwendung dieser Daten Entscheidungen, Empfehlungen oder automatisierte Abläufe im Unternehmen beeinflussen?
Genau deshalb ist Sichtbarkeit so entscheidend. Sie schafft die Grundlage, um zu verstehen, wo und wie KI im Unternehmen eingesetzt wird. Ohne diese Transparenz bleibt Governance theoretisch und Kontrolle wird inkonsistent.
KI-Sicherheit ist eine kontinuierliche Aufgabe
Die Herausforderung besteht darin, dass KI nicht an einem einzigen Ort existiert. Sie steckt in Daten, Modellen, Integrationen und Anwendungen, zunehmend auch in Form autonomer Agenten.
Da sich jede dieser KI-Formen unterschiedlich verhält, sich im Laufe der Zeit verändert und eigene Risiken mit sich bringt, darf Sichtbarkeit nicht bei der bloßen Entdeckung stehen bleiben. Zu verstehen, wo KI eingesetzt wird, ist nur der erste Schritt. Ebenso wichtig ist es, nachzuvollziehen, wie sich ihr Verhalten verändert, wenn Modelle aktualisiert werden, sich Daten verändern oder sich Nutzungsmuster entwickeln. Genau hier stoßen traditionelle Sicherheitsansätze an ihre Grenzen.
Einmalige Prüfungen reichen in einer Umgebung nicht aus, in der Systeme ständig lernen und sich anpassen.
Diese Systeme müssen regelmäßig getestet und hinterfragt werden: Wo könnten sie versagen? Wie könnten sie missbraucht werden? Und gelten bestehende Kontrollmechanismen überhaupt noch? Sicherheit ist in diesem Kontext eine kontinuierliche Aufgabe und sie beginnt mit Sichtbarkeit als Grundlage für alles Weitere.
Was heute funktioniert, kann morgen versagen
KI-Sicherheit darf sich nicht auf eine einzelne Kontrollmaßnahme stützen. Sie muss in mehreren Ebenen aufgebaut sein und den gesamten KI-Lebenszyklus abdecken. Denn Daten, Modelle, Anwendungen und Integrationen bringen jeweils eigene Risiken mit sich. Jede Ebene muss im jeweiligen Kontext abgesichert werden, insbesondere, da KI-Systeme immer stärker miteinander vernetzt und zunehmend autonom werden.
Da diese Ebenen nicht statisch sind, können Sicherheitsmaßnahmen, die zum Zeitpunkt der Einführung wirksam erscheinen, mit der Zeit an Wirkung verlieren. Modelle entwickeln sich weiter, Nutzungsmuster verändern sich. Genau hier kommt Red Teaming ins Spiel: das gezielte Stresstesten von KI-Systemen.
So lässt sich nachvollziehen, wie sich KI unter Druck verhält, wo Schutzmechanismen versagen könnten und wie Fehlverhalten oder unbeabsichtigte Ergebnisse entstehen können, wenn sich Systeme weiterentwickeln. Es geht darum, KI-Systeme konsequent auf die Probe zu stellen und zu überprüfen, ob die bestehenden Kontrollen tatsächlich dauerhaft das leisten, was sie sollen.
Auch Zero-Trust-Prinzipien spielen dabei eine zentrale Rolle. In einer KI-getriebenen Umgebung darf Vertrauen nicht vorausgesetzt werden. Egal ob eine Interaktion von einer Person, einem System oder einem autonomen Agenten ausgeht: Jede Anfrage, jede Aktion und jede Entscheidung muss überprüft werden.
LESEN SIE AUCH → Cyber Frontiers: Impulse für die drängendsten Herausforderungen der Cybersicherheit
KI skalieren: schnell ist nicht immer richtig
Die Einführung von KI schreitet unvermindert voran und damit wachsen auch die Angriffsflächen. Reaktive Einzelmaßnahmen reichen nicht aus, um diese Risiken zu beherrschen. Gefragt sind kontinuierliche Transparenz, regelmäßige Tests und ein flexiblerer Ansatz für Sicherheit.
NTT DATA arbeitet mit Cisco zusammen, um genau diese Prinzipien in der Praxis umzusetzen. Gemeinsam konzentrieren wir uns darauf, den gesamten KI-Lebenszyklus abzusichern, von Governance und Transparenz über mehrschichtige Schutzmechanismen bis hin zu kontinuierlichen Tests und Zero-Trust-Prinzipien. So entwickelt sich Ihre Sicherheitsarchitektur im gleichen Tempo weiter wie Ihre Technologie.
KI verändert, wie Unternehmen operieren und wird dies auch künftig tun. Doch ihr Nutzen ist nur so groß wie die Leitplanken, die ihren Einsatz steuern. Lassen Sie uns gemeinsam KI-Lösungen entwickeln, denen Sie auch im großen Maßstab vertrauen können.
IHRE NÄCHSTEN SCHRITTE
Sehen Sie sich das vollständige Webinar an und erfahren Sie, wie die Cybersecurity-Lösungen von NTT DATA Ihre Sicherheitsarchitektur stärken und mit der KI-Einführung Schritt halten können.