Die explosionsartige Zunahme von KI-Dateien verändert die Sicherheit im Finanzdienstleistungssektor grundlegend

Stellen Sie sich einen Überweisungsauftrag vor, der als einwandfreies PDF-Dokument eintrifft. Kein fehlerhafter Code, keine bekanntermaßen ungültige Signatur, ein plausibler Absender, Metadaten, die jede automatisierte Prüfung bestehen – und dabei komplett gefälscht, von einem Modell für wenige Cent generiert, um genau wie das Original auszusehen. Nichts an seiner Herkunft verrät die Fälschung, denn es gab nie einen menschlichen Verfasser. Erfahren Sie mehr über die Technik der PDF-Verkettung

Die meisten heute eingesetzten Maßnahmen zur Dateisicherheit beruhen auf einer seit jeher geltenden Annahme: dass Dateien von Menschen erstellt werden. Diese Annahme bestimmt den Zeitpunkt des Eintreffens, die Geschwindigkeit der Anhäufung und die Definition von „normal“, anhand derer Abweichungen beurteilt werden. Sie galt jahrzehntelang, da die Kosten pro Datei am menschlichen Arbeitsaufwand orientiert waren und die Obergrenze für das Volumen durch die Mitarbeiterzahl festgelegt wurde.

Generative KI hat diese Grenze aufgehoben. Die globale Datensphäre wuchs von 45 Zettabyte im Jahr 2019 auf voraussichtlich 175 bis 2025 (ein Anstieg um 289 %) und wird laut Prognosen bis 2029 527 erreichen (IDC). Doch das Volumen ist nur die weniger wichtige Seite der Medaille. Die bedeutendere Veränderung betrifft die Quelle: Schätzungsweise 40–50 % der neuen Unternehmensdateien werden mittlerweile maschinell generiert, häufig ohne verlässlichen Hinweis auf eine menschliche Urheberschaft.

Die Wachstumsrate bestätigt dies. In der Zeit vor der KI wuchs das Dateivolumen in Unternehmen um etwa 20–23 % pro Jahr. Bei Unternehmen, die KI-gesteuerte Arbeitsabläufe standardisiert haben, wird das gesamte Dateivolumen nun auf 55–68 % pro Jahr geschätzt. Die Einführung generativer KI in Unternehmen hat sich innerhalb eines einzigen Jahres von 33 % auf 71 % (Stanford HAI) nahezu verdoppelt, und zwei Drittel der Unternehmen berichten von messbaren Produktivitätssteigerungen (Deloitte). Die Dateierzeugung hat sich zum ersten Mal von der Mitarbeiterzahl abgekoppelt, und genau in der sich vergrößernden Kluft zwischen diesen beiden Kurven liegt das neue Sicherheitsrisiko.

Die Finanzdienstleistungsbranche hat die Datenexplosion früher erlebt als alle anderen Branchen, da sie über drei Faktoren verfügt, die in den meisten Branchen fehlen und die zur Erzeugung von Daten führen – und generative KI hat alle drei gleichzeitig beschleunigt.

Der erste Faktor sind synthetische Daten – der größte und am wenigsten sichtbare Treiber. Das Training von Betrugs-, AML- und Kreditmodellen erfordert Daten in einem Umfang, der durch Datenschutzbestimmungen eingeschränkt ist; generative KI löst diese Einschränkung, indem sie statistisch realistische synthetische Datensätze erzeugt, die bei AML-Tests eine Nutzäquivalenz von 96–99 % gegenüber Produktionsdaten erreichen. Ein einzelnes Institut kann pro Trainingszyklus Milliarden von Datensätzen generieren, wobei jeder einzelne ein gespeichertes, kontrolliertes und gesichertes Artefakt ist.

Der zweite Bereich sind KYC-Unterlagen – die am besten messbare Kategorie, da sie gesetzlich vorgeschrieben ist. KI steigerte den Durchsatz pro Analysten und führte völlig neue Dokumenttypen ein: maschinengenerierte Risikobeschreibungen, Zusammenfassungen negativer Medienberichte und Eigentumsübersichten. Die weltweiten Ausgaben für KYC-/KYB-Systeme werden bis 2030 voraussichtlich um etwa 40 % auf 30,5 Milliarden US-Dollar steigen (Juniper Research), und die Zahl der weltweit durchgeführten Identitätsprüfungen stieg von 75 Milliarden im Jahr 2024 auf 86 Milliarden im Jahr 2025 – jedes Mal ein Dokument, das erfasst, gespeichert und geprüft werden muss.

Der dritte Faktor ist der direkte Einsatz von LLM in allen Funktionsbereichen (Vertrieb, Marketing, Rechtsabteilung, Personalwesen, Risikomanagement), die bisher nicht zu den Bereichen mit hohem Produktionsvolumen zählten. Die Produktionsleistung pro Funktionsbereich hat sich schätzungsweise verdrei- bis verfünffacht, und Unternehmen berichten von einem Anstieg der zu erstellenden Inhalte um 54 % im Vergleich zum Vorjahr (Deloitte). Drei Viertel der britischen Finanzunternehmen setzen bereits KI ein (Bank of England / FCA), und der Anteil derjenigen, die Produktivitätssteigerungen verzeichnen, hat sich innerhalb eines Jahres auf 59 % fast verdoppelt. Die Institutionen, die die meisten Dokumente erstellen, sind genau diejenigen, die am aggressivsten in die Technologie investieren, mit der diese Dokumente generiert werden.

Dies ist der Wendepunkt, an dem es nicht mehr nur um Produktivität, sondern um Sicherheit geht. Das Tool, mit dem ein Pitchbook erstellt wird, ist dasselbe, mit dem auch eine Schadcode-Ladung erstellt wird.

Seitdem generative KI zum Mainstream geworden ist, hat sich das KI-gestützte Phishing mehr als verzehnfacht (+1.265 %), wobei mittlerweile über 82 % der erkannten Phishing-E-Mails KI-generierte Inhalte enthalten. Die Fälschung digitaler Dokumente stieg im Jahr 2024 im Vergleich zum Vorjahr um 244 %. Kaspersky verzeichnet täglich rund 500.000 schädliche Dateien. Und der Anteil der Unternehmen, die Versuche von Identitätsbetrug mittels Deepfakes melden, stieg innerhalb von zwei Jahren von 37 % auf 49%. Dateibasierte Bedrohungen nehmen im gleichen Maße zu wie legitime Dateien, da beide mit derselben Technologie erzeugt werden.

Der Begriffsapparat, den wir für Dateien verwenden, wird dem, was Dateien heute sind, nicht mehr gerecht. Eine Datei ist kein passiver Behälter mehr, der untätig bleibt, bis jemand sie öffnet. Sie wird zunehmend zu einer „IntelligentFILE“: einer Datei, die eingebettete Intelligenz (einschließlich Daten, Anweisungen, Identität oder Code) enthält, die bei ihrer Verarbeitung, beim Öffnen oder bei der Übertragung eine Folgeaktion auslöst.

Das charakteristische Merkmal von IntelligentFILE ist seine Doppelnatur. Dasselbe Objekt kann eine Triebkraft für das Geschäft, die Compliance und das Vertrauen sein – oder eine Waffe. Ein KYC-Paket hat rechtliche Bedeutung und nachgelagerte Konsequenzen für jede Entscheidung, die auf seiner Grundlage getroffen wird. Ein synthetischer AML-Datensatz wird zur „Quelle der Wahrheit“ für ein Modell, das Millionen von Transaktionen steuert. Ein KI-generierter Compliance-Bericht ist legitim, wenn er ordnungsgemäß gesteuert wird, und ein Angriffsvektor, wenn dies nicht der Fall ist. Ein mit Malware versehene PDF-Datei ist so konzipiert, dass sie die oberflächliche Prüfung besteht und erst im Inneren ausgeführt wird. Eine KI-generierte Überweisungsanweisung ist kontextuell korrekt, auf die Gegenpartei abgestimmt und strukturell vom Original nicht zu unterscheiden.

Der Unterschied zwischen der hilfsbereiten und der feindseligen Variante ist an der Oberfläche kaum erkennbar, und genau darin liegt das Kernproblem.

Die meisten heute eingesetzten Kontrollmechanismen leiten das Risiko aus einer Eigenschaft ab, über die maschinell erzeugte Dateien nicht mehr zuverlässig verfügen. Signaturbasierte Anti-Malware-Engines gehen davon aus, dass die Bedrohung bereits bekannt ist, generative Modelle erzeugen jedoch neuartige Payloads ohne bekannte Signatur. E-Mail-Gateways gehen davon aus, dass gefährliche Dateien per E-Mail eintreffen, doch mittlerweile gelangen Dateien über Cloud-Uploads, APIs, Webformulare, Portale und Tools für die Zusammenarbeit ins System. Bei der Klassifizierung wird davon ausgegangen, dass Dateien Hinweise auf den Urheber und saubere Metadaten enthalten, doch maschinengenerierte Dateien verfügen nicht darüber, und synthetische Daten ahmen echte Kundendaten nach.

Die Herkunftsangabe geht davon aus, dass die Herkunft Aufschluss über die Sicherheit gibt, doch die Herkunft ist zunehmend ein Modell, das außerhalb der Grenzen der Einrichtung liegt.

Das ist die Sicherheitslücke: nicht das Versagen eines einzelnen Tools, sondern eine architektonische Diskrepanz zwischen Kontrollmechanismen, die für Dateien konzipiert wurden, die im menschlichen Tempo erstellt und von Menschen verfasst werden, und einer Dateipopulation, auf die beides nicht zutrifft.

Wenn der Ursprung nicht mehr als vertrauenswürdig angesehen werden kann, muss der Kontrollpunkt angepasst werden. Der Sicherheitsansatz muss sich von der Erkennung von Bedrohungen nach dem Eindringen einer Datei in die Umgebung hin zur Überprüfung und Bereinigung jeder einzelnen Datei zum Zeitpunkt der Aufnahme verlagern – unabhängig vom angegebenen Ursprung und unabhängig davon, ob eine einzelne Engine die Datei als verdächtig markiert. Die Herkunftsnachweisbarkeit wandelt sich von etwas, das man ableitet, zu etwas, das man durchsetzt.

In der Praxis bedeutet das: Prävention vor Erkennung; jeden Kanal als Einstiegspunkt behandeln; Dateien entschärfen, indem man sie neu aufbaut, um aktive Inhalte zu entfernen, anstatt nur bekanntermaßen schädliche Dateien zu erkennen; sich niemals auf eine einzige Erkennungs-Engine verlassen; und maschinengenerierte sowie synthetische Daten als eigenständige, regulierte Datenklasse behandeln.

Der Markt richtet sich bereits auf diese Ausrichtung aus – 96 % der Sicherheitsverantwortlichen betrachten KI mittlerweile als zentralen Bestandteil ihrer Cyberabwehr (EY), während die durchschnittlichen Kosten eines Datenlecks bei fast 4,4 Millionen US-Dollar liegen (IBM).

Angepasste Sicherheitsmaßnahmen müssen den Geschäftsbetrieb nicht verlangsamen – die KI hat ihn sogar beschleunigt. Doch Perimeter-Prüfungen stellen sicher, dass die explosionsartige Zunahme an Dateien die Produktivität steigert, ohne dass sich die ungeschützte Angriffsfläche im gleichen Maße vergrößert.