Ein KI-gestützter Cyberangriff ist ein Angriff, bei dem KI-Tools eine oder mehrere Phasen unterstützen – beispielsweise die Erkundung, das Scannen nach Schwachstellen, die Erstellung von Phishing-Inhalten oder die Codegenerierung –, und nicht ein Angriff, den ein KI-Modell ohne menschliche Anleitung plant und ausführt. Die Warnungen von OpenAI und Anthropic beziehen sich auf dieses unterstützte Modell und nicht auf autonome KI-Angreifer. |
|---|
Wichtigste Erkenntnisse
- OpenAI und Anthropic schlossen sich mehr als 100 anderen Unternehmen an und warnten, dass KI die Einstiegshürde für Cyberangriffe senkt
- CrowdStrike dokumentierte eine KI-gestützte Kampagne gegen südkoreanische Banken unter Verwendung von ARTEX-Tools, die auf einem DeepSeek-Backend basieren, wobei auch Sitzungsverläufe von Claude Code vorhanden waren
- Präventionsmaßnahmen, darunter die Bereinigung von Dateien und die Analyse vor der Ausführung, verringern das Risiko durch KI-generierte Malware, doch neben diesen Maßnahmen sind weiterhin Erkennung und Reaktion erforderlich.
- Sicherheitsverantwortliche können jetzt handeln: Sie sollten offenliegende, besonders risikoreiche Schwachstellen priorisieren, die Zugriffskontrollen verschärfen, nicht vertrauenswürdige Dateien prüfen und bereinigen, bestehende Abwehrmaßnahmen testen und die Bereitschaft zur Reaktion auf Vorfälle überprüfen.
- OpenAI und Anthropic bereiten sich Berichten zufolge auf Szenarien für den „Tag danach“ für öffentliche Gegenreaktionen nach einem großen KI-gestützten Angriff, obwohl dies kein bestätigter Zeitplan von OpenAI ist
Was OpenAI und Anthropic tatsächlich planen
OpenAI und Anthropic betrachten einen groß angelegten, KI-gestützten Cyberangriff als eine Frage der Vorsorge. Im August 2026 schlossen sich die beiden Unternehmen mehr als 100 anderen Organisationen an und unterzeichneten einen offenen Brief , in dem sie davor warnten, dass KI die Kosten- und Kompetenzbarrieren abbaut, die Angreifer einst gebremst haben, und in dem sie die Verteidiger aufforderten, die bereits entstandenen Schwachstellen und Fehlkonfigurationen zu beheben, bevor sich dieser Wandel beschleunigt. Der Brief stellt dies als ein gemeinsames Risiko für jede Organisation dar, die exponierte Infrastruktur betreibt – nicht nur für hochkarätige Ziele.
Diese Vorsorge erstreckt sich auch darauf, wie die Unternehmen die Reaktion der Öffentlichkeit einschätzen. Laut Axiosproben OpenAI und Anthropic hinter verschlossenen Türen Pläne für den „Tag danach“, Kommunikationsstrategien und Reaktionsszenarien für die öffentliche Empörung, die auf einen größeren KI-gestützten Angriff folgen würde, wobei Quellen von einem Zeitrahmen von 6 bis 12 Monaten sprechen. Dieser Zeitrahmen stammt aus den Quellen von Axios und nicht aus einer von OpenAI selbst veröffentlichten Prognose, und OpenAI hat erklärt, dass seine eigenen Vorbereitungsszenarien keine unvermeidlichen Ergebnisse darstellen.
Für Sicherheitsverantwortliche ist die Unterscheidung weniger wichtig als die Richtung, in die die Entwicklung geht. Unabhängig davon, ob der Zeithorizont sechs Monate oder zwei Jahre beträgt – die Unternehmen, die diese KI-Systeme entwickeln, betrachten assistierte Angriffe bereits als kurzfristige operative Realität, was Grund genug ist, den später behandelten Abwehrmaßnahmen Priorität einzuräumen.
Wo bereits KI-gestützte Angriffe auftreten
Abgesehen von den Warnungen vor möglichen zukünftigen Entwicklungen gibt es bereits Belege für KI-gestützte Angriffe. Der deutlichste öffentlich bekannte Fall ist eine Kampagne gegen südkoreanische Finanzinstitute, die CrowdStrike im Rahmen einer Untersuchung zu einem Toolset dokumentiert hat, das das Unternehmen als ARTEX bezeichnet.
Der Bericht von CrowdStrike ergab, dass der Angreifer ARTEX nutzte, ein Framework, das hauptsächlich auf einem DeepSeek-Backend basiert, sowie Claude-Code-Sitzungsverläufe, die in derselben Angreiferinfrastruktur gefunden wurden. Der Bericht stellt außerdem fest, dass die Anzahl der betroffenen Organisationen weiterhin unbestätigt ist.
In der Studie wird kein bestimmtes Antivirenprogramm namentlich genannt, das diese Aktivität nicht erkannt hat, und es werden keine Anhaltspunkte für eine Einschätzung des Ausmaßes eines künftigen Vorfalls geliefert. Die Aufzeichnungen zeigen, dass hinter einer dokumentierten Kampagne eine Vielzahl unterschiedlicher Tools zum Einsatz kam, und liefern keine Bestätigung dafür, dass ein einzelnes KI-Modell jede Phase des Angriffs durchgeführt hat.
In dem im August 2026 veröffentlichten Branchenbrief von OpenAI, Anthropic und mehr als 100 weiteren Organisationen wird jedoch die Sorge darüber zum Ausdruck gebracht, in welche Richtung KI-gestützte Angriffe sich entwickeln könnten, anstatt sich auf bereits beobachtete Angriffe zu konzentrieren.
Was sich durch KI bei Cyberangriffen ändert
KI verändert die wirtschaftlichen Rahmenbedingungen eines Angriffs: Sie reduziert den Zeit- und Fachaufwand, der früher für jede einzelne Phase erforderlich war. Die Schwachstellenforschung ist das deutlichste Beispiel dafür. KI-Tools können Code und Konfigurationen schneller auf Schwachstellen überprüfen als ein einzelner Analyst und anschließend, sobald eine Schwachstelle identifiziert wurde, Exploit-Code erstellen. Dadurch wird ein Prozess verkürzt, für den früher ein spezialisiertes Team mehrere Tage benötigte.
Die Koordination über verschiedene Phasen hinweg ist die zweite Neuerung. Die oben beschriebene ARTEX-Kampagne zeigt, wie KI-Tools die Erkundung, die Vorbereitung und die Durchführung innerhalb eines einzigen Einsatzes unterstützen und dabei Schritte miteinander verknüpfen, für die zuvor ein Team mit unterschiedlichen, separat erworbenen Fähigkeiten erforderlich war.
Insgesamt deuten diese Fähigkeiten darauf hin, dass Angreifer vermehrt Versuche unternehmen und schneller iterieren. Diese Einschätzung stützt sich auf die Forschungsergebnisse von CrowdStrike und die in dem Branchenbrief geäußerten Bedenken, stellt jedoch keine bestätigte Zahl neuer Angriffe dar.
Der von OpenAI initiierte Branchenerklärung argumentiert, dass dieselben zugrunde liegenden KI-Fähigkeiten den Verteidigern helfen können, die bereits aufgetretenen Schwachstellen und Fehlkonfigurationen zu beheben, indem sie die Triage, die Überprüfung von Patches und die Protokollanalyse in einem Umfang automatisieren, den Sicherheitsteams allein mit ihrem Personalbestand bisher nur schwer erreichen konnten. Angriffs- und Verteidigungstools basieren auf derselben Technologie.
Warum Prävention die Früherkennung ergänzen muss
Das Erkennen einer Bedrohung und das Ausschalten der Gefahr sind zwei unterschiedliche Sicherheitsfunktionen. KI-gestützte Angriffe machen diese Unterscheidung entscheidend: Ein Unternehmen, das sich ausschließlich auf die Erkennung verlässt, setzt darauf, dass jeder Angriff so aussieht wie etwas, das es bereits kennt.
Erkennung vs. Prävention: Was beides tatsächlich bewirkt
- Die Erkennung identifiziert böswilliges Verhalten – in der Regel, nachdem eine Datei oder Aktion bereits in der Umgebung vorhanden ist –, indem sie diese mit bekannten Signaturen, Heuristiken oder Verhaltensmodellen abgleicht.
- Prävention verhindert oder schränkt die Funktionen einer Datei ein, noch bevor diese ausgeführt wird – unabhängig davon, ob eine Erkennungs-Engine sie als Bedrohung identifiziert.
Erkennung kann nur das erfassen, was sie sieht oder worauf sie trainiert wurde. Prävention muss eine Bedrohung nicht erkennen, um sie zu neutralisieren.
Wo die Deep CDR™-Technologie zum Einsatz kommt
Deep CDR™-Technologie ist unsere Technologie zur Entschärfung und Rekonstruktion von Inhalten. Anstatt eine Datei auf bekannte schädliche Muster zu scannen, entfernt sie aktive Inhalte und baut die Datei zu einer sauberen, nutzbaren Version wieder auf. Das bedeutet, dass sie auch Dateien abdeckt, für die Erkennungsmodule noch keine Signaturen haben.
Dies gilt auch für Angriffe, die direkt auf KI-Systeme abzielen. Beim „EvilFont“-Angriff sorgt eine speziell angepasste Schriftart dafür, dass ein Dokument für den menschlichen Leser anders dargestellt wird als das, was ein KI-Modell aus derselben Datei extrahiert, ohne dass dabei fehlerhafte Strukturen oder Signaturen erkennbar sind, die eine Erkennung ermöglichen würden. Die Deep CDR™-Technologie entfernt die eingebettete Schriftart während der Rekonstruktion und verhindert so den Angriff, unabhängig davon, ob dieser als bösartig erkannt wird oder nicht.
Die Deep CDR™-Technologie ist eine Komponente innerhalb eines umfassenderen Systems sich ergänzender Kontrollmaßnahmen:
- Bei der Dateiprüfung werden Dateityp und -struktur überprüft, bevor einer Datei Vertrauen geschenkt wird.
- Bei der Analyse vor der Ausführung wird das Verhalten in einer kontrollierten Umgebung bewertet, bevor eine Datei den Benutzer erreicht.
- Die Deep CDR™-Technologie entfernt oder rekonstruiert alle aktiven Elemente in der Datei, unabhängig davon, ob diese als schädlich gekennzeichnet sind.
- Erkennung und Reaktion bleiben auch bei Risiken notwendig, die gar nicht in Form von Dateien auftreten
Das Argument für einen präventiven Sicherheitsansatz
Dieser vielschichtige Fall steht im Mittelpunkt der Debatte um „Cybersecurity Upside Down“, dem Buch von Benny Czarny, dem Gründer und CEO von „ OPSWAT “. Darin wird argumentiert, dass Sicherheitsstrategien, die auf Annahmen zur Erkennbarkeit basieren, aus einem einfachen Grund zunehmend an ihre Grenzen stoßen: Dateien – wie sie von Mitarbeitern geöffnet werden oder per E-Mail eingehen – konnten allein durch Erkennung nie vollständig abgedeckt werden, unabhängig davon, ob sie durch KI generiert wurden oder nicht.
Diese Sichtweise ist wichtiger als jede konkrete Angabe zur Geschwindigkeit. Ganz gleich, ob ein Angreifer die Malware mithilfe von KI generiert oder von Hand geschrieben hat – das Risiko ist dasselbe: Eine Datei gelangt in ein System, bevor jemand prüfen konnte, ob sie sicher ist. Präventionsmaßnahmen beseitigen dieses Risiko, unabhängig davon, wie die Datei erstellt wurde.
MetaDefender -Aether™ – wo es zum Einsatz kommt
Die Deep CDR™-Technologie wurde entwickelt, um eine sichere, wiederhergestellte Kopie einer Datei zu liefern; in drei Situationen ist jedoch ein anderer Ansatz erforderlich.
- Manche Organisationen müssen aus rechtlichen, Compliance- oder forensischen Gründen die ursprüngliche, unveränderte Datei aufbewahren, und eine wiederhergestellte Kopie ist naturgemäß nicht diese Datei.
- Ausführbare Dateien, Installationsprogramme und Skripte sind von ihrer Konzeption her aktiv; würde man also ihre aktiven Inhalte entfernen, würden die Funktionen wegfallen, die die Benutzer benötigen, weshalb hier eher eine Entscheidung als eine Neuentwicklung erforderlich ist.
- Eine bereinigte Datei gibt einem Sicherheitsteam allein auch keinen Aufschluss darüber, um welche Bedrohung es sich handelte, woher sie stammte oder ob sie Teil einer größeren Kampagne ist.
MetaDefender Aether™ löst alle drei Probleme, indem es die Datei analysiert, ohne sie zu verändern. Es handelt sich um unsere fünfschichtige Zero-Day-Erkennungslösung, die speziell für neuartige, schwer zu erkennende Malware entwickelt wurde, die von der signaturbasierten Erkennung übersehen wird. Die statische Analyseebene nutzt „Predictive Alin AI“, um böswillige Absichten bereits vor der Ausführung vorherzusagen – ganz ohne Signaturen oder Detonation. Als sicher eingestufte Dateien werden innerhalb von Millisekunden freigegeben, als sicher identifizierte schädliche Dateien werden blockiert, und bei unsicheren Dateien erfolgt eine Eskalation zur dynamischen Analyse in einer emulationsbasierten Sandbox. Dort bestätigte Zero-Day-Bedrohungen fließen zurück in die „Predictive Alin AI“, sodass jede einzelne die zukünftige Erkennung verbessert.
MetaDefender Mit Aether können Teams zudem zwischen Geschwindigkeit und Tiefe wählen. Die auf Geschwindigkeit ausgerichtete Analyse liefert in kürzester Zeit ein Ergebnis, was sich für Dateiströme mit hohem Volumen eignet, während bei der tiefgehenden Analyse der Schwerpunkt auf der Ermittlung möglichst vieler Indikatoren für Kompromittierungen liegt und nicht auf der Scan-Dauer – was sich für Untersuchungen und Reaktionsmaßnahmen eignet.
LLM Scanning wendet denselben Ansatz auf die KI selbst an; MetaDefender Aether erkennt eingebettete Bedrohungen in Modelldateien, ohne deren Code auszuführen, und überprüft aktive LLMs auf Prompt-Injektionen und die Offenlegung sensibler Daten, sodass Teams, die Open-Source- und Drittanbieter-Modelle in ihre Umgebung integrieren, diese als nicht vertrauenswürdige Dateien behandeln können. Im Zusammenspiel neutralisiert die Deep CDR™-Technologie das, was sicher wiederhergestellt werden kann, während MetaDefender Aether analysiert, was unverändert bleiben muss.
Was Sicherheitsverantwortliche jetzt tun können
Sicherheitsverantwortliche brauchen keinen nachgewiesenen KI-gestützten Angriff, um zu handeln. Dieselben Organisationen, die den Branchenbrief vom August 2026 unterzeichnet haben, verweisen auf fünf Bereiche, die den meisten Sicherheitsteams bereits bekannt sind – auch wenn diese in letzter Zeit nicht im Fokus standen.
- Beheben Sie zuerst die bekannten, hochriskanten Sicherheitslücken: Systeme mit Internetanbindung und bekannte Sicherheitslücken, die bereits ausgenutzt wurden, bieten Angreifern den größten Gewinn. Vergewissern Sie sich, dass die Behebung tatsächlich funktioniert hat, anstatt das Ticket einfach als „gelöst“ zu markieren.
- Übermäßige Berechtigungen einschränken: Verschärfen Sie die Zugriffskontrollen, damit ein kompromittiertes Konto oder ein KI-gestützter Phishing-Versuch keinen Zugriff auf kritische Systeme erlangen kann.
- Überprüfen und desinfizieren Sie nicht vertrauenswürdige Dateien vor der Verwendung: Behandeln Sie dateibasierte Angriffsvektoren wie E-Mail-Anhänge, Downloads und Wechseldatenträger standardmäßig als verdächtig.
- Testen Sie bestehende Sicherheitsmaßnahmen regelmäßig: Veraltete Testzyklen lassen bekannte Schwachstellen länger ungeschützt, als den meisten Teams bewusst ist.
- Überprüfen Sie die Bereitschaft für die Reaktion auf Vorfälle und die Wiederherstellung: Stellen Sie sicher, dass die Reaktionspläne schnellere, KI-gestützte Angriffsabläufe berücksichtigen und nicht nur die langsameren Kampagnen, auf denen die meisten Pläne basieren.
Der US-Kongress hat keine verbindlichen Sicherheitsvorschriften für KI verabschiedet, und die bis 2026 diskutierten Vorschläge für einen „Kill-Switch“ sind nach wie vor ins Stocken geraten. Das ist ein weiterer Grund, diese fünf Punkte direkt anzugehen, anstatt auf eine politische Regelung zu warten, die Jahre dauern könnte.
Sicherheitsteams müssen nach wie vor genau das schützen, worauf KI-gestützte Angriffe abzielen: die Dateien, Zugriffspunkte und Daten, die durch ihre Systeme fließen. Wir integrieren Überprüfungs-, Bereinigungs- und Zugriffskontrollen an den Stellen, an denen nicht vertrauenswürdige Inhalte in ein Unternehmen gelangen, darunter E-Mails, Dateiübertragungen, Wechseldatenträger und Web-Downloads.
Wenn Sie erfahren möchten, inwieweit diese Kontrollmaßnahmen auf die Dateitypen und Zugriffspunkte zutreffen, mit denen Ihr Unternehmen tatsächlich arbeitet, kann unser Team Sie durch eine Workflow-Analyse begleiten.
