Warum unkontrollierte autonome Sicherheitsentscheidungen in kritischen Infrastrukturen ein Risiko darstellen

• Automatisierung ist für moderne Workflows in den Bereichen Patching, Priorisierung von Sicherheitslücken, Konfigurationsüberwachung und Fehlerbehebung unverzichtbar.

• Eine unkontrollierte, autonome Sicherheitsausführung – einschließlich der Bereitstellung von Patches, Konfigurationsänderungen oder automatisierter Fehlerbehebung – birgt operative Risiken in Umgebungen, in denen Ausfallzeiten sicherheitsrelevante oder finanzielle Folgen nach sich ziehen.

• Eine Änderung, die zu einem ungünstigen Zeitpunkt in einem Stromnetz, einer Fertigungslinie oder einem Verteidigungsnetzwerk vorgenommen wird, ist keine geringfügige Unannehmlichkeit. Es handelt sich um einen Vorfall.

• Drei Rahmenwerke regeln diesen Bereich: NERC CIP (Energie/Versorgungsunternehmen), IEC 62443 (industrielle Steuerungssysteme) und NIST SP 800-82 (ICS-Sicherheit). Alle drei legen Wert auf eine dokumentierte Autorisierung, Validierung, Prüfung und Nachvollziehbarkeit von Sicherheitsänderungen.

• Autonome Arbeitsabläufe können die Governance unterstützen, wenn Genehmigungsstufen, Richtlinien und Prüfpfade in den Prozess integriert sind. Sie werden jedoch zu einem Risiko, wenn „das System hat entschieden“ an die Stelle einer verantwortungsvollen menschlichen Genehmigung tritt.

• KI bietet den größten Nutzen auf der Analyseebene: nach Risiko gewertete Befunde, Signale für Konfigurationsabweichungen, priorisierte Patch-Liste – nicht auf der Ausführungsebene.

• Das effektive Modell: Die KI liefert Informationen, Menschen genehmigen Maßnahmen, jede Änderung wird unter Angabe einer verantwortlichen Identität protokolliert.

Ein Patch wird außerhalb eines Wartungsfensters in einem Umspannwerk bereitgestellt. Eine Firewall-Regel wird während eines Produktionszyklus von einem automatisierten Korrektursystem geändert. Eine Konfigurationsänderung wird in einem verteilten OT-Netzwerk weitergegeben, bevor ein Bediener sie überprüft.

Die Szenarien unterscheiden sich zwar, doch das Fehlermuster ist immer dasselbe: Ein automatisiertes System hat ohne menschliche Genehmigung gehandelt, und als es jemand bemerkte, war die Änderung bereits in die Produktion gelangt.

Automatisierung ist mittlerweile für den modernen Sicherheitsbetrieb unverzichtbar, insbesondere da die Zeitfenster für Exploits und Patches immer kürzer werden. Das Risiko liegt nicht in der Automatisierung an sich, sondern in der autonomen Sicherheitsausführung, bei der Änderungen vorgenommen werden, die sich auf den Betrieb auswirken, ohne dass eine nachweisbare menschliche Genehmigung, ein betrieblicher Kontext und ein dokumentierter Autorisierungspfad vorliegen.

In Umgebungen mit kritischer Infrastruktur bergen diese Entscheidungen ein Betriebsrisiko, das durch eine strukturierte menschliche Aufsicht verhindert werden soll.

Die aktuelle Welle agentenbasierter KI-Plattformen zeigt, wie die autonome Ausführung den Sicherheitsbetrieb neu gestaltet, insbesondere in IT-Umgebungen von Unternehmen, in denen Geschwindigkeit das vorrangige Ziel ist.

Kritische Infrastrukturen unterliegen grundlegend anderen Rahmenbedingungen.

Ein Schutzrelais in einem Stromnetz kann nicht mitten im Zyklus neu gestartet werden. Eine Konfigurationsänderung an einer SPS, die eine Fertigungslinie steuert, lässt sich nicht innerhalb von Sekunden rückgängig machen. Ein automatisierter Korrekturschritt, der während eines Produktionslaufs ausgelöst wird, wirkt sich auf physikalische Prozesse aus, nicht nur auf Server.

Sicherheitsteams in solchen Umgebungen müssen autonome Funktionen anhand einer anderen Frage bewerten: nicht „Wie schnell kann das System reagieren?“, sondern „Wer trägt die Verantwortung, wenn es zu Fehlern kommt?“

Beantworten Sie vor Ihrem nächsten NERC-CIP- oder IEC-62443-Audit folgende Frage: Erstellt Ihre derzeitige Sicherheitsplattform ein dokumentiertes, mit einem Zeitstempel versehenes Protokoll darüber, wer die einzelnen Sicherheitsänderungen genehmigt hat?

NERC CIP-007 schreibt spezifische Verfahren für das Patch-Management bei jeder Änderung an Cyber-Assets im Stromübertragungsnetz vor: dokumentierte Bewertung, Nachweise für Tests und Zeitpläne für die Bereitstellung. IEC 62443-2-3 definiert die Zuständigkeiten für die Genehmigung von Patch-Management und Konfigurationsänderungen in industriellen Automatisierungs- und Steuerungssystemen, einschließlich der Frage, wer für die jeweilige Maßnahme verantwortlich ist. NIST SP 800-82 legt fest, dass Sicherheitsänderungen an ICS vor der Bereitstellung – und nicht erst danach – eine Risikobewertung, Validierungstests und die Abstimmung mit den operativen Beteiligten erfordern.

Autonome Workflows können dieses Kontrollmodell unterstützen, wenn die Governance durch richtlinienbasierte Genehmigungen, Bereitstellungsringe, Kontrollen der Wartungsfenster und detaillierte Prüfprotokolle in den Prozess integriert ist.

Die autonome Ausführung passt jedoch nicht in dieses Modell, wenn sie die Genehmigungskette verschleiert. Die Änderung findet statt, das Protokoll zeigt, dass das System gehandelt hat, und der Prüfer fragt, wer die Aktion genehmigt hat. Wenn kein nachweisbares menschliches Genehmigungsereignis vorliegt, ist der Datensatz unvollständig.

Von Menschen gesteuerte Plattformen mit protokollierten Autorisierungsschritten erzeugen einen Prüfpfad. Unkontrollierte autonome Plattformen führen zu Haftungsrisiken.

Sicherheitsmanagement-Plattformen verfügen naturgemäß über privilegierten Zugriff. Eine Plattform, die befugt ist, Konfigurationsänderungen zu übertragen, Patches zu installieren und Richtlinien über Hunderte von Bereitstellungen hinweg zu verwalten, ist genau die Art von Ressource, die ein Angreifer vorrangig ins Visier nehmen würde.

Wenn diese Plattform autonom betrieben wird, vergrößert sich die Angriffsfläche erheblich. Ein kompromittiertes autonomes System kann in großem Umfang Aktionen in allen verbundenen Umgebungen ausführen, bevor ein menschlicher Operator den Angriff bemerkt. Der Angreifer übernimmt die Ausführungsberechtigungen der Plattform und nutzt diese gleichzeitig für das Patch-Management, Konfigurationsänderungen und die Durchsetzung von Richtlinien.

Das ist keine theoretische Annahme. Anfang 2026 ermöglichten drei kritische Zero-Day-Schwachstellen in einer weit verbreiteten Patch-Management-Plattform die nicht authentifizierte Remote-Code-Ausführung in Unternehmensumgebungen. Die CISA hat diese und ähnliche Schwachstellen als „Known Exploited Vulnerabilities“ (bekannte, bereits ausgenutzte Schwachstellen ) eingestuft, die eine sofortige Behebung erfordern. Eine autonome Plattform, die über solche Schwachstellen kompromittiert wurde, kann böswillige Änderungen an jeden verbundenen Endpunkt übertragen, bevor auch nur eine einzige Warnmeldung ausgelöst wird.

Eine Plattform, die vor der Durchführung von Änderungen eine manuelle Freigabe erfordert, begrenzt diesen Schadensumfang. Wenn vor der Ausführung eine manuelle Freigabe erforderlich ist, ist es unwahrscheinlich, dass gestohlene Anmeldedaten allein automatisierte Änderungen in großem Umfang auslösen.

Das Argument gegen eine unkontrollierte autonome Ausführung ist kein Argument gegen KI oder Automatisierung im Sicherheitsbereich. KI bietet den größten Nutzen auf den richtigen Ebenen: Analyse, Priorisierung, Unterstützung bei der Koordination und Entscheidungsfindung.

In den Leitlinien der CISA werden Transparenzlücken immer wieder als zentrale Herausforderung für Organisationen mit kritischer Infrastruktur hervorgehoben, die verteilte Ressourcen verwalten. KI geht dieses Problem direkt an: Sie aggregiert Ereignisdaten, korreliert Signale über verschiedene Bereitstellungen hinweg, kennzeichnet Konfigurationsabweichungen und stellt priorisierte Ergebnisse zur Überprüfung durch den Menschen bereit. Die Entscheidung trifft nach wie vor der Analyst, doch die KI hilft ihm dabei, diese schneller und auf der Grundlage besserer Informationen zu treffen.

Am deutlichsten macht sich dies beim risikobasierten Schwachstellen- und Patch-Management bemerkbar. Durch die schnelle Einstufung von Hunderten von Schwachstellen nach Ausnutzbarkeit, Kritikalität für die Systeme und Gefährdungsgrad erhalten Sicherheitsteams eine nach Prioritäten geordnete Liste, auf deren Grundlage sie innerhalb eines Wartungsfensters Maßnahmen ergreifen können – und nicht nur einen Rohdatenstrom, den sie selbst sortieren müssen.

Das gleiche Prinzip gilt für Konfigurationsabweichungen: KI-Oberflächen wandern über Hunderte von Endpunkten hinweg; Menschen entscheiden, welche Änderungen wann rückgängig gemacht werden sollen.

Die entscheidende Frage bei jeder KI-Funktion in einer Sicherheitsplattform lautet nicht: „Kann sie autonom handeln?“, sondern: „Trägt sie dazu bei, die Effektivität des Sicherheitsteams zu steigern?“

Es handelt sich hierbei um unterschiedliche Designphilosophien, und in regulierten Umgebungen ist diese Unterscheidung von Bedeutung.

Ein vom Menschen gesteuertes Sicherheitsmanagement bedeutet nicht, dass es langsam ist. Es bedeutet vielmehr ein strukturiertes Sicherheitsmanagement: KI liefert Informationen, Automatisierung beschleunigt Arbeitsabläufe und Menschen treffen Entscheidungen. Jede Aktion wird unter Angabe einer nachweisbaren Identität protokolliert.

In der Praxis: Ein zentralisiertes Dashboard fasst Sicherheitsereignisse, die Patch-Compliance der Endgeräte, den Konfigurationszustand und Feststellungen zu Anomalien über alle verbundenen Bereitstellungen hinweg zusammen. Administratoren überprüfen die nach Risikograd geordneten Feststellungen, bewerten den betrieblichen Kontext (einschließlich der Frage, ob an einem Zielstandort derzeit ein Wartungsfenster geöffnet ist oder ob eine Konfigurationsänderung für die jeweilige Hardware validiert wurde) und leiten Maßnahmen im Rahmen eines gezielten Autorisierungsschritts ein.

Für Unternehmen, die verteilte Umgebungen verwalten, erfordert dies eine Plattform, die von einer einzigen Schnittstelle aus alle Bereitstellungen abdeckt – einschließlich Air-Gapped- und Offline-Umgebungen, in denen eine cloudbasierte Verwaltung nicht möglich ist. Die Plattform stellt die Daten bereit, die Administratoren benötigen, um sicher handeln zu können.

EPAM Systems (ein globaler Anbieter von Dienstleistungen im Bereich der Entwicklung digitaler Plattformen und der Softwareentwicklung mit rund 40.000 Mitarbeitern in 30 Ländern) sah sich zunehmendem Druck ausgesetzt, die Sicherheit einer verteilten, stark auf BYOD setzenden Belegschaft zu gewährleisten, ohne deren Arbeitsgeschwindigkeit zu beeinträchtigen. Durch den Einsatz von My Central Management MetaDefender erlangte das Unternehmen Transparenz und Compliance-Kontrolle über mehr als 70.000 Geräte, die von Mitarbeitern, Kunden und Auftragnehmern weltweit genutzt werden.

Die Plattform ermöglichte es dem Sicherheitsteam von EPAM, die Gerätekonformität zu überprüfen, unerwünschte Anwendungen zu erkennen, ungepatchte Sicherheitslücken zu identifizieren und Zugriffsrichtlinien durchzusetzen – und das alles, ohne die Produktivität der Nutzer zu beeinträchtigen. EPAM integrierte außerdem MetaDefender , um in den zentralen Speicher hochgeladene Dateien zu scannen, wobei in Spitzenzeiten mehr als 50 Millionen Dateien pro Tag verarbeitet wurden. Die Sicherheitsteams hatten den vollständigen Überblick. Jede Entscheidung lag weiterhin bei ihnen. Lesen Sie hier die ganze Geschichte.

Setzen Sie KI dort ein, wo sie einen Mehrwert schafft, ohne dabei Ausführungsrisiken mit sich zu bringen: risikobasierte Einstufung von Schwachstellen, Erkennung von Konfigurationsabweichungen, Korrelation von Anomalien und priorisierte Befunde zur Überprüfung durch Menschen.

Vermeiden Sie Plattformen, die den analytischen Wert der KI mit uneingeschränkter Ausführungsbefugnis vermischen. Prüfen Sie, ob eine Plattform die Autorisierungsprotokolle erstellt, die Ihr Compliance-Rahmenwerk vorschreibt. Lautet die Antwort „Das System hat entschieden“, so stellt dies in regulierten Umgebungen kritischer Infrastrukturen kein ausreichendes Autorisierungsprotokoll dar.