Auf Entdeckung ausgelegt: Die Industrialisierung von Cyberangriffen durch KI

• KI hat die wirtschaftlichen Rahmenbedingungen von Angriffen verändert. Die Durchführung einer Kampagne, für die früher ein gut finanziertes Team erforderlich war, ist nun auch für einen einzelnen Akteur möglich.
• Angreifer können ihre Taktiken mittlerweile schneller testen, anpassen und wechseln, als viele Abwehrmechanismen darauf ausgelegt sind, darauf zu reagieren.
• Der Mensch ist nicht mehr das einzige Ziel. Die KI-Systeme, die E-Mails in seinem Namen lesen, sind mittlerweile selbst zu einer Angriffsfläche geworden.
• Verteidigung bedeutet heute mehrschichtige Kontrollmechanismen, die sich kontinuierlich verbessern, wobei KI und maschinelles Lernen den Lernprozess beschleunigen.

Die meisten Sicherheitsverantwortlichen wissen bereits, dass KI das Cyberrisiko verändert. Die schwierigere Frage ist, was diese Veränderung in der Praxis bedeutet. Macht KI Angriffe intelligenter? Manchmal. Wichtiger ist jedoch, dass sie die Kosten für Experimente senkt und die Zeitspanne zwischen Idee, Schadcode, Auslieferung und Iteration verkürzt. Das verändert die Wirtschaftlichkeit des Angriffs.

Das beobachten wir bereits auf dem Markt und hören es auch von unseren Kunden, Partnern und Thinktanks. Laut „The Five Eyes“, einem Geheimdienstbündnis aus den USA, Großbritannien, Kanada, Australien und Neuseeland, „werden bahnbrechende KI-Modelle voraussichtlich die aktuellen Erwartungen der Branche übertreffen und sowohl die offensiven als auch die defensiven Cyberfähigkeiten grundlegend verändern. Dabei geht es nicht um Jahre, sondern um Monate.“

Wenn Sie glauben, dass dies ein Problem der fernen Zukunft ist, finden Sie hier einige aktuelle Statistiken, die darauf hindeuten, dass wir uns mit großen Schritten in diese Richtung bewegen:

• 82,6 % der Phishing-E-Mails enthalten mittlerweile in irgendeiner Form KI (KnowBe4).
• KI kann innerhalb von fünf Minuten eine überzeugende Phishing-E-Mail erstellen, während ein Mensch dafür 16 Stunden benötigen würde (IBM X-Force).
• Vollständig KI-automatisierte Phishing-E-Mails weisen eine Klickrate von 54 % auf, während diese bei herkömmlichen Kampagnen bei 12 % liegt (unabhängige Studie).
• Die durchschnittliche Zeit bis zum Durchbruch bei Cyberkriminalität ist auf 29 Minuten gesunken, wobei der schnellste beobachtete Fall bei 27 Sekunden lag. Bei einem dokumentierten Einbruch begann die Datenexfiltration vier Minuten nach dem ersten Zugriff (CrowdStrike Global Threat Report 2026)

Diese Statistiken zeichnen ein Bild einer Landschaft, die sich schneller verändert, als es die meisten Sicherheitsrichtlinien bewältigen können – und das noch bevor innovative KI-Modelle einer breiteren Öffentlichkeit zugänglich werden. Worauf sollten Sicherheitsverantwortliche also ihren Blick neu ausrichten? Die Antwort beginnt damit, zu verstehen, wie KI die wirtschaftlichen Rahmenbedingungen des Angriffs selbst verändert hat.

Vor dem Zeitalter der KI war die Durchführung einer effizienten Kampagne gegen eine gut geschützte Organisation mit einem erheblichen Aufwand verbunden, der Zeit, Personal und Infrastruktur erforderte.

Heutzutage kann ein versierter Angreifer jede Phase des Angriffs drastisch verkürzen. Die Aufklärung, die früher Tage dauerte, lässt sich nun innerhalb von Stunden oder Minuten abschließen. Phishing-Köder erforderten früher Recherche und Aufwand, lassen sich heute jedoch mit einem einzigen Befehl erstellen. Das Testen der Payloads, für das früher eine Staging-Umgebung und erhebliche Iterationszeiten erforderlich waren, hat sich um ein Vielfaches beschleunigt.

Da KI und maschinelles Lernen das Arsenal erheblich verstärkten, wurde die Bedrohungslandschaft zum Spielfeld der Angreifer. Microsoft dokumentierte, dass Hacker während des gesamten Quartals monatlich ihre Verbreitungsmethoden wechselten, um zu testen, welche Formate die E-Mail-Sicherheitsmaßnahmen am effektivsten umgehen konnten:

• HTML-Anhänge waren die häufigste Methode zur Verbreitung von CAPTCHA-geschütztem Phishing (37 % im Januar), wurden jedoch im Februar nach einem sprunghaften Anstieg auf 49 % von SVG-Dateien vom Thron gestoßen.
• Im März haben sich die PDF-Anhänge mehr als vervierfacht, und die Anzahl der DOC/DOCX-Dateien hat sich fast verfünffacht.
• In PDF-Dateien eingebettete QR-Codes entwickelten sich zum am schnellsten wachsenden Übertragungsweg und machten im Laufe des Quartals 70 % aller QR-basierten Phishing-Angriffe aus.

Eine im Januar kalibrierte Kontrollmaßnahme zum Erkennen von HTML lieferte kaum Anhaltspunkte dafür, was im März zu erwarten war. Das ist kein Versagen der Erkennung. Es ist eine strukturelle Folge der Abwehr gegen einen Angreifer, der schneller testen, messen und seine Methoden anpassen kann, als eine Signatur geschrieben werden kann.

Vor dem Zeitalter der KI war die Personalisierung mit unerschwinglichen Kosten verbunden. Heute liegen diese Kosten nahezu bei null.

Früher war der Posteingang auf einen Hauptnutzer ausgerichtet: den Mitarbeiter. Das ändert sich gerade. KI-Assistenten können E-Mail-Inhalte mittlerweile blitzschnell zusammenfassen, klassifizieren und entsprechend darauf reagieren. Es stellt sich also die Frage: Überprüfen Unternehmen die Inhalte, bevor ein Mensch sie liest und bevor eine Maschine sie verarbeitet?

Microsofts eigene Benchmark-Daten zeigen, dass Defender durchschnittlich 70,8 % der schädlichen E-Mails nach der Zustellung entfernt, also nachdem diese bereits im Posteingang angekommen sind. Während dieser Verweildauer:

• Ein Benutzer kann einen Anhang öffnen, eine Nachricht weiterleiten oder auf einen Link klicken.
• Ein KI-Assistent kann den Inhalt zusammenfassen.
• Ein Copilot kann eingebettete Befehle verarbeiten.

Im Juni 2025 machten Forscher „EchoLeak“ bekannt, eine Zero-Click-Sicherheitslücke in Microsoft 365 Copilot mit einem CVSS-Wert von 9,3 von 10 Punkten hinsichtlich des Schweregrads. Der Angriff funktionierte wie folgt: Ein Angreifer versendete eine speziell gestaltete E-Mail, die versteckte Anweisungen enthielt. Als der Empfänger seinen Copilot bat, seinen Posteingang zusammenzufassen, las die KI die versteckte Anweisung, interpretierte sie als Befehl und exfiltrierte unbemerkt sensible Dokumente auf einen externen Server. Der Nutzer verwendete den KI-Assistenten genau so, wie er dafür vorgesehen war.

Dies verändert das Bedrohungsmodell für E-Mails in einer Weise, die die meisten Sicherheitsarchitekturen bislang noch nicht berücksichtigt haben. Die KI liest ohne die Skepsis, das Kontextbewusstsein oder den Instinkt, über die ein Mensch verfügen könnte. Zudem liest sie in großem Umfang, hat Zugriff auf umfangreichere Daten, verfügt über vom Nutzer geerbte Berechtigungen und ist mitunter in der Lage, Maßnahmen zu ergreifen, die weit über das reine Lesen hinausgehen.

Diese Sicherheitsherausforderung hat noch eine zweite Dimension. Untersuchungen zum Speicher von KI-Agenten haben gezeigt, dass ein speziell gestaltetes Dokument, das von einem KI-Agenten verarbeitet wird, Anweisungen in den persistenten Speicher des Agenten einschleusen kann – Anweisungen, die unbegrenzt lange bestehen bleiben und bei zukünftigen Interaktionen, die nichts mit der ursprünglichen Datei zu tun haben, unbemerkt ausgelöst werden. Dies geht noch einen Schritt weiter als die Prompt-Injektion und wird als „Memory Poisoning“ bezeichnet.

Unternehmen, die KI-Copiloten, Programmierassistenten und agentenbasierte Workflows auf Basis ihrer E-Mail-Infrastruktur einsetzen, haben damit eine zweite, weitgehend ungesicherte Ebene zu einer Angriffsfläche hinzugefügt, deren Abwehr ihnen ohnehin schon Schwierigkeiten bereitet. Die meisten haben ihre E-Mail-Sicherheitsmaßnahmen noch nicht entsprechend angepasst.

Jahrelang wurden viele Sicherheitsprogramme in festgelegten Zyklen optimiert: jährliche Überprüfungen, vierteljährliche Feinabstimmungen, regelmäßige Tabletop-Übungen und planmäßige Aktualisierungen der Richtlinien. Dieser Rhythmus hat nach wie vor seinen Wert. Er wurde jedoch nicht für Angriffe konzipiert, die sich rasant und in großem Umfang wandeln können.

Die Antwort lautet „adaptive Verteidigung“: Sicherheitsschichten, die ebenso lernen wie die Bedrohung selbst, die sich mit jedem abgewehrten Angriff, jedem Fehlalarm und jeder Analyse eines Vorfalls verbessern. Frontier-KI-Modelle, die defensiv eingesetzt werden, können dazu beitragen, die Zeitspanne zwischen Signal und Reaktion zu verkürzen, Muster aufzudecken, die menschliche Analysten nicht mit der erforderlichen Geschwindigkeit verarbeiten können, und Kontrollmaßnahmen so weiterzuentwickeln, dass sie besser mit dem Tempo Schritt halten, in dem sich Angriffe verändern.

Diese Anpassung muss auch den neuen Leser im Posteingang berücksichtigen. Ein Mitarbeiter kann zu Skepsis angeleitet werden, während ein KI-Assistent ohne entsprechende Sicherheitsvorkehrungen auf alles reagiert, was er verarbeitet. Nachrichten und Anhänge müssen als nicht vertrauenswürdig behandelt und neutralisiert werden, bevor ein Leser darauf zugreift – ganz gleich, ob es sich bei diesem Leser um eine Person oder eine Maschine handelt.

KI-basierte Verteidigung muss praxisorientiert sein und ihre Stärken ausspielen: schnellere Triage, frühzeitigere Erkennung verdächtiger Dateien, bessere Korrelation verschiedener Signale und verkürzte Reaktionszeit zwischen dem Auftreten einer Bedrohung und der Anpassung.

Erfolgreich sein werden jene Organisationen, die jeden Vorfall als Informationsquelle betrachten und nicht als abgeschlossenes Ticket. Das Warten darauf, dass Compliance-Rahmenbedingungen nachziehen, ist keine tragfähige Verteidigungsstrategie. Die Angreifer lernen bereits aus jedem Versuch, und die Verteidiger haben begonnen, es ihnen gleichzutun, indem sie KI und maschinelles Lernen einsetzen, um E-Mails zu überprüfen, zu erkennen und zu bereinigen.

Gerade im Bereich der kritischen Infrastruktur besteht eine zusätzliche Verantwortung, die sich nicht allein durch gesetzliche Vorschriften definieren lässt. Mit der zunehmenden Digitalisierung wächst auch die Angriffsfläche dieser Organisationen. Eine Sicherheitsstrategie darf sich nicht nur an den gesetzlichen Mindestanforderungen orientieren.

In der gemeinsamen Erklärung der „Five Eyes“ heißt es unmissverständlich: „Cyberrisiken können nicht länger als rein technisches Problem betrachtet werden. Es handelt sich hierbei um ein zentrales Geschäftsrisiko und eine Aufgabe der Unternehmensführung.“ Und zur Dringlichkeit: „Führungskräfte, die jetzt handeln, werden Risiken mindern, die Widerstandsfähigkeit stärken und Vertrauen bei Kunden, Partnern und Investoren aufbauen. Wer zögert, wird mit wachsenden und vermeidbaren Risiken konfrontiert sein.“

Eine widerstandsfähigere Haltung beginnt mit mehrschichtigen Abwehrmaßnahmen an den Systemgrenzen, einer KI-gestützten Anpassung des Betriebsmodells und der Erwartung, dass kontinuierliche Verbesserung zur Standardpraxis werden muss. Es kommt darauf an, ob sich Ihre Abwehrmaßnahmen schnell genug weiterentwickeln, um Schritt zu halten.

Dies ist vor allem dort von entscheidender Bedeutung, wo am meisten auf dem Spiel steht – nämlich bei der kritischen Infrastruktur und den davon isolierten Netzwerken, die deren Kern bilden –, und genau dort setzt der nächste Artikel an.