Betrug mit KI-generierten Rechnungen ist ein Finanzangriff, bei dem generative KI überzeugende gefälschte Rechnungen, Quittungen und Zahlungsaufforderungen erstellt, die keinen Schadcode enthalten. Da es sich bei der Bedrohung um gefälschte Geschäftsdokumente und nicht um eine ausführbare Schadcode-Nutzlast handelt, stufen Standard-Malware-Scans, Antiviren-Engines und PDF-Sicherheitstools das Dokument als unbedenklich ein und lassen es passieren.
Wichtigste Erkenntnisse
- Das Scannen von Dateien bestätigt , dass ein Dokument sicher geöffnet werden kann, nicht jedoch, dass eine Zahlung sicher ist. Malware-Engines und PDF-Prüfungen erkennen ausführbare Bedrohungen; sie können jedoch nicht beurteilen, ob geschäftliche Inhalte authentisch oder gefälscht sind.
- KI erstellt mittlerweile in großem Umfang Rechnungen, die sowohl optisch als auch strukturell überzeugend sind. Anomalien bei den Metadaten , Unstimmigkeiten im Layout und inhaltliche Anhaltspunkte bilden die Erkennungsgrundlage – nicht Malware-Signaturen.
- Um gefälschte Rechnungen zu erkennen, sind Kontrollen auf drei Ebenen erforderlich . Die Echtheitsprüfung auf Dateiebene, die Validierung der Lieferantenstammdaten und die Weiterleitung von Ausnahmen auf Workflow-Ebene müssen zusammenwirken, bevor die Belege die Kreditorenbuchhaltung erreichen.
- OPSWATDer AI Content Inspector fügt innerhalb der bestehenden MetaDefender™-Pipeline eine Bewertung der Authentizität von Inhalten hinzu. Es ist kein neuer Anbieter und keine neue Integration erforderlich, um neben dem Scannen und der Bereinigung auch eine Überprüfung der Dokumentenauthentizität durchzuführen.
Wie sich durch KI generierter Rechnungsbetrug in modernen Finanzworkflows äußert
Angreifer, die generative KI einsetzen, müssen keinen Schadcode in ein Dokument einbetten. Das Ziel besteht darin, ein Dokument zu erstellen, das überzeugend genug ist, um genehmigt zu werden. Generative KI ist mittlerweile in der Lage, das Branding von Lieferanten nachzubilden, plausible Einzelpostenangaben zu erstellen und Transaktionsformate in großem Umfang anzupassen – und das alles ohne jegliche Schadlast, auf deren Erkennung Sicherheitstools ausgelegt sind.
Wie diese Dokumente in Finanzworkflows einfließen
Von KI generierte Rechnungen werden in der Regel über dieselben Kanäle übermittelt wie echte Rechnungen: als PDF-Anhänge per E-Mail, über Lieferantenportale, gemeinsame Finanzpostfächer und manuelle Upload-Warteschlangen, die mit ERP-Systemen verbunden sind.
Das Dokument gelangt in die Prüfungsabwicklung, noch bevor ein Prüfer oder ein automatisiertes Abgleichsystem bewertet hat, ob die Lieferantenbeziehung, die Bestellung (PO) oder die Zahlungsanweisung echt ist.
Wie sich durch KI generierter Rechnungsbetrug von Business-E-Mail-Betrug unterscheidet
Bei „Business E-Mail Compromise“ (BEC) wird in der Regel die Kontrolle über ein Konto übernommen oder die Identität des E-Mail-Absenders missbraucht, um eine Zahlung umzuleiten. Bei durch KI generiertem Rechnungsbetrug ist kein Zugriff auf ein E-Mail-Konto erforderlich. Das Dokument selbst dient als Angriffsinstrument. Eine überzeugende gefälschte Rechnung kann selbst dann erfolgreich sein, wenn sie von einem unbekannten Absender stammt, da der Genehmigende den Inhalt des Dokuments bewertet und nicht den Kontext des Absenders.
Beide Bedrohungen können sich gegenseitig verstärken. Eine gefälschte oder manipulierte E-Mail, die eine KI-generierte Rechnung enthält, verstärkt die Täuschung gleichzeitig auf der Absender- und der Inhaltsebene, wodurch die Erkennung an jedem einzelnen Kontrollpunkt erschwert wird.
Warum beim Scannen von Dateien gefälschte Rechnungsinhalte nicht erkannt werden können
Antiviren-Engines, PDF-Malware-Scanner und Tools zur statischen Dateianalyse erkennen, ob eine Datei bösartigen Code oder Exploits enthält. Eine KI-generierte Rechnung enthält beides nicht. Die Datei ist eine normale PDF-Datei oder ein Bild mit normalen Schriftarten, normaler Struktur und normalem Geschäftstext. Jedes Tool, das prüft, ob eine Datei sicher geöffnet werden kann, wird ein „sauberes“ Ergebnis liefern, da die Datei in dieser Hinsicht tatsächlich sauber ist.
Die Unterscheidung zwischen „Safe-to-Open“ und „Safe-to-Pay“
„Sicher zum Öffnen“ bedeutet, dass eine Datei keine Malware, keine Exploits und keine unsicheren aktiven Inhalte enthält. „Sicher zur Bezahlung“ bedeutet, dass die Rechnung eine echte Verpflichtung eines echten Lieferanten für Waren oder Dienstleistungen darstellt, die tatsächlich bestellt und erhalten wurden. Das sind zwei völlig unterschiedliche Fragen. Tools zur Dateisicherheit beantworten die erste. Finanzkontrollen sollen die zweite beantworten.
Bei durch KI generiertem Rechnungsbetrug wird die Lücke zwischen diesen beiden Fragen ausgenutzt. Ein Dokument, das alle Dateisicherheitsprüfungen besteht, kann dennoch eine betrügerische Zahlungsanweisung enthalten, die von keinem Malware-Scanner erkannt werden kann.
Warum OCR und die Extraktion von Metadaten die Echtheit von Dokumenten nicht belegen
OCR (optische Zeichenerkennung) extrahiert Text präzise, liefert jedoch keine Informationen darüber, ob dieser Text eine tatsächliche Transaktion darstellt. Die Extraktion von Metadaten liefert Hinweise auf das Erstellungswerkzeug und den Zeitstempel, die zwar hilfreich sind, aber keine verlässliche Aussage über die Herkunft des Dokuments zulassen. Beide sind nützliche Eingaben für eine Erkennungs-Pipeline, ersetzen jedoch nicht die Analyse der Authentizität des Inhalts.
Welche Anzeichen können auf KI-generierte Rechnungen hinweisen, bevor diese genehmigt werden?
Von KI generierte Dokumente hinterlassen erkennbare Anzeichen in vier Kategorien. Kein einzelnes Anzeichen ist ausschlaggebend, doch mehrere Anzeichen in Kombination stützen eine mit einer Konfidenzbewertung versehene Echtheitsbeurteilung, durch die verdächtige Dokumente zur Überprüfung durch einen Mitarbeiter weitergeleitet werden können, bevor sie die Kreditorenbuchhaltung erreichen.
Signalkategorie | Worauf Sie achten sollten | Warum es wichtig ist |
Metadaten und Dateistruktur | Erstellungstool stimmt nicht mit der bekannten Software des Lieferanten überein, Unregelmäßigkeiten im Bearbeitungsverlauf, inkonsistente Metadaten des Dokumentenerstellers, ungewöhnliche Rendering-Pfade | Echte Lieferantenrechnungen von etablierten Anbietern weisen vorhersehbare strukturelle Merkmale auf; KI-generierte Dokumente weisen häufig Unstimmigkeiten bei den Tools oder Metadaten auf, die für den menschlichen Prüfer nicht erkennbar sind |
Layout und visuelle Einheitlichkeit | Schriftartabweichungen zwischen den Abschnitten, Unregelmäßigkeiten im Zeichenabstand, Artefakte im Logo, Ausrichtungsfehler, sich wiederholende visuelle Muster aus generativen Ergebnissen | KI-Bild- und Dokumentengeneratoren können visuell überzeugende Ergebnisse liefern, die dennoch subtile Unstimmigkeiten in der Dokumentstruktur aufweisen. |
Inhaltliche und semantische Signale | Positionssummen, die nicht mit den Zwischensummen übereinstimmen, Steuerberechnungen, die nicht den gesetzlichen Vorschriften entsprechen, Überweisungsangaben, die von den Lieferantenstammdaten abweichen, ungewöhnliche Zahlungsbedingungen für den angegebenen Lieferanten | Generative KI kann Zahlen erzeugen, die zwar plausibel erscheinen, aber einer arithmetischen Überprüfung oder einem Vergleich mit den bisherigen Abrechnungsmustern des Lieferanten nicht standhalten. |
So funktioniert die Bilderkennung
Jedes eingereichte Bild wird gleichzeitig anhand von acht unabhängigen Signalen überprüft. Kein einzelner Detektor entscheidet allein über das Ergebnis. Die Engine überprüft, woher eine Datei angeblich stammt – Kameradaten im Vergleich zu KI-generierten Angaben – und sucht nach Komprimierungsspuren, die durch Bearbeitung und erneutes Speichern hinterlassen wurden.
Sie wertet den „Sensor-Fingerabdruck“ aus: das Rauschmuster, das eine echte Kamera erzeugt, das bei KI-generierten Bildern jedoch fehlt. Das Verhalten benachbarter Pixel, Statistiken zu den Farbkanälen und für das menschliche Auge unsichtbare Frequenzmuster werden jeweils als separate Signale ausgewertet. Bei Dateien von bekannten KI-Generatoren prüft die Engine zudem auf eingebettete Wasserzeichen wie beispielsweise Google SynthID.
Eine Betrugserkennungsschicht kennzeichnet risikoreiche Dokumenttypen, bevor eine Entscheidung getroffen wird. In Tests entfernte „ OPSWAT “ die SynthID-Marker aus über 21.000 KI-generierten Bildern. Der Wasserzeichen-Detektor hat keines davon erkannt, doch forensische Signale und Signale aus der Deep-Classification lieferten weiterhin eine Erkennungsgenauigkeit von über 90 %, was bestätigt, dass die Engine nicht allein auf Wasserzeichen oder Metadaten angewiesen ist.
Bei mehr als 1,1 Millionen Bildern, die anhand der Ergebnisse von über 20 KI-Modellen geprüft wurden, lag die Gesamtgenauigkeit bei etwa 95 %. Bei unklaren Ergebnissen wird ein Konfidenzwert ausgegeben und das Bild zur Überprüfung durch einen Menschen weitergeleitet, anstatt es automatisch zu blockieren.
So funktioniert die Texterkennung
Die Textprüfung funktioniert nach dem gleichen Prinzip wie die Bildprüfung: Acht unabhängige Signale lesen dasselbe Dokument gleichzeitig und suchen jeweils nach unterschiedlichen Merkmalen.
Die Wortvorhersagbarkeit misst, wie wahrscheinlich das jeweils nächste Wort ist. Der Satzrhythmus prüft, ob das Tempo so variiert, wie es bei menschlichem Schreiben der Fall ist. KI-Texte bleiben verdächtig gleichmäßig. Token-Statistiken erfassen, wie jedes Wort im Vergleich zu allen möglichen Optionen an dieser Stelle im Text rangiert. Wortschatzmuster bewerten die Bandbreite, Wiederholungen und die Wortwahl im gesamten Dokument. Schreibstil und Struktur suchen nach stilistischen Merkmalen, die sich über das gesamte Dokument hinweg ziehen.
Metadaten und Provenienzprüfung: Inhaltszertifikate und Dokumentenhistorie. Bei der Erkennung von KI-Modellen kommen Klassifikatoren zum Einsatz, die darauf trainiert wurden, zwischen menschlichen und KI-Text zu unterscheiden. Einige Modelle betten zudem statistische Signaturen direkt in ihre Ausgabe ein. Die Engine prüft auch diese. Bei Tests mit Ausgaben von OpenAI-, Anthropic-, Llama-, Mistral- und Meta-Modellen wurde eine Erkennungsgenauigkeit von über 90 % erreicht.
Wie die Validierung von Lieferantendaten eine zweite Erkennungsstufe schafft
Anhand von Signalen auf Dateiebene wird geprüft, ob das Dokument authentisch erscheint. Bei der Überprüfung der Lieferantendaten wird geprüft, ob die angegebene Geschäftsbeziehung tatsächlich besteht.
Durch den Abgleich des Lieferantennamens, der Steuer-Identifikationsnummer, des Überweisungskontos und der Kontaktdaten mit den genehmigten Lieferantenstammdaten lassen sich betrügerische Rechnungen aufspüren, die zwar formal korrekt sind, sich jedoch auf einen Lieferanten beziehen, der nicht existiert, für den andere Bankdaten hinterlegt sind oder der von einer nicht autorisierten Adresse aus kontaktiert wird.
So überprüfen Sie die Echtheit einer Rechnung, bevor die Kreditorenbuchhaltung die Zahlung genehmigt
Abgleich von Bestellungen und Wareneingängen
Beim Zwei-Wege-Abgleich wird überprüft, ob eine Rechnung auf eine tatsächlich vorliegende Bestellung Bezug nimmt. Beim Drei-Wege-Abgleich wird zusätzlich sichergestellt, dass die Waren oder Dienstleistungen eingegangen sind, bevor die Genehmigung erteilt wird.
Rechnungen, die ohne entsprechende Bestellung eingehen, deren Beträge außerhalb des vertraglich vereinbarten Rahmens liegen oder die sich auf Leistungen beziehen, deren Erbringung nicht bestätigt wurde, sollten zur Überprüfung zurückgestellt und nicht direkt in die Zahlungswarteschlange weitergeleitet werden.
Ausnahmebehandlung bei Anträgen auf Änderung der Bankverbindung
Anträge auf Änderung von Bankdaten stellen die Dokumentart mit dem höchsten Risiko in jedem Finanzworkflow dar. Ein Antrag auf Änderung von Empfängerkontodaten, Bankleitzahlen oder Überweisungsanweisungen sollte niemals über den standardmäßigen Genehmigungsweg für Rechnungen bearbeitet werden.
Eine Überprüfung außerhalb des regulären Prozesses, wie beispielsweise ein Rückruf bei einem bekannten Ansprechpartner beim Lieferanten unter Verwendung von Kontaktdaten aus unabhängigen Quellen, eine doppelte Autorisierung sowie eine vorgeschriebene Wartezeit, sind in diesem Szenario angemessene Kontrollmaßnahmen, unabhängig davon, wie überzeugend die Begleitunterlagen erscheinen mögen.
So richten Sie einen Zero-Trust-Rechnungsworkflow ein, bevor Dateien in die Finanzsysteme gelangen
Ein auf Prävention ausgerichtetes Rahmenkonzept zur Bekämpfung von Rechnungsbetrug sieht Kontrollen an jedem Dokumenteneingangsort vor und überprüft die Echtheit der Dokumente, bevor diese in den Posteingängen der Kreditorenbuchhaltung, in den Erfassungswarteschlangen des ERP-Systems (Enterprise Resource Planning) oder in automatisierten Zahlungssystemen landen.
Steuerungsebene | Platzierung | Was dabei bewertet wird | Behandelte Betrugsvektoren |
Prüfung von E-Mails und Anhängen | E-Mail-Gateway oder sichere E-Mail-Plattform | Absender-Reputation, Domain-Authentizität, DMARC-Konformität, Anhangstyp und Namenskonventionen | Gefälschte E-Mails von Lieferanten, ähnliche Domains, erstmalig auftretende Absender mit hohem Wert |
Echtheitsprüfung auf Dateiebene | Punkt für die Belegerfassung vor dem ERP- oder AP-System | Integrität der Metadaten, strukturelle Konsistenz, Beurteilung der Authentizität des Inhalts, Anzeichen für Manipulation | Durch KI erstellte PDF-Dateien, manipulierte Bilder, geänderte Rechnungsdokumente |
Malware-Prüfung und -Beseitigung | Gleiche Prüfkette wie bei der Echtheitsanalyse | Schädlicher Code, Exploits, unsichere aktive Inhalte, Makro-Payloads | Herkömmliche, in Dokumenten versteckte Malware, die zusammen mit betrügerischen Rechnungen versendet wird |
Überprüfung von Lieferanten und Bestellungen | Vor der AP-Genehmigungswarteschlange | Abgleich der Lieferantenstammdaten, Vorhandensein einer Bestellung, Wareneingangsbestätigung, Vergleich mit früheren Rechnungen | Fiktive Lieferantenrechnungen, unbefugte Zahlungsumleitungen, Abrechnungen außerhalb des Vertragsrahmens |
Ausnahmeregelung und Vier-Augen-Prinzip | Warteschlange für Dokumente mit hohem Risiko | Änderungen der Bankverbindung, neue Lieferanten, Beträge über dem Schwellenwert, Echtheitskennzeichnung aus früheren Ebenen | Betrug mit Bankdaten, Vortäuschung einer neuen Lieferantenidentität, Social Engineering unter dem Vorwand dringender Zahlungen |
Wann sind Kontrollen zur Überprüfung der Echtheit von Dokumenten erforderlich?
Prüfungen der Dokumentenechtheit sind an jeder Stelle angebracht, an der ein gefälschtes Dokument eine Geldüberweisung auslösen könnte. Zu den besonders wichtigen Einstiegspunkten zählen der Eingang von Lieferantenrechnungen per E-Mail, Onboarding-Portale für Lieferanten, Formulare zur Änderung von Bankdaten sowie alle manuellen Upload-Warteschlangen, die mit einem ERP- oder Zahlungssystem verbunden sind.
Unternehmen, die ihre Rechnungsbearbeitung auf strukturierte E-Invoicing-Netzwerke umgestellt haben, benötigen während der Übergangsphase sowie für Dokumentenkategorien, die weiterhin außerhalb des strukturierten Netzwerks liegen – wie beispielsweise einmalige Lieferantenrechnungen, Dienstleistungsverträge und Abrechnungen von Auftragnehmern –, weiterhin Authentizitätsprüfungen.
Wie der KI-Content-Inspector von „ OPSWAT“ die Erkennung der Dokumentenechtheit um MetaDefender
OPSWATDer „AI Content Inspector“ von OPSWAT ist eine KI-gestützte Engine zur Überprüfung der Authentizität von Inhalten und zur Erkennung von Dokumentenfälschungen bei Bildern, PDF-Dateien und textbasierten Dateien. Er integriert die Inhaltsüberprüfung direkt in die MetaDefender™-Dateiprüfungs-Pipeline, neben bestehenden Technologien wie Metascan™ Multiscanning, Deep CDR™-Technologie und Proactive DLP™. Unternehmen, die die MetaDefender -Plattform bereits nutzen, können die Überprüfung der Dokumentenauthentizität hinzufügen, ohne einen separaten Anbieter einsetzen, eine neue Vereinbarung aushandeln oder eine neue Integration entwickeln zu müssen.
Bei Arbeitsabläufen im Finanz- und Beschaffungswesen liefert der AI Content Inspector für jede PDF-Rechnung, jeden Beleg oder jeden Antrag auf Änderung der Bankverbindung, der per E-Mail oder über ein Upload-Portal eingeht, eine Bewertung („einwandfrei“, „verdächtig“ oder „KI-generiert“), bevor das Dokument an einen Genehmiger in der Kreditorenbuchhaltung oder in die ERP-Erfassungswarteschlange gelangt. Verdächtige Dokumente werden zur manuellen Überprüfung weitergeleitet und nicht in den Zahlungsworkflow freigegeben.
Laut der Umfrage „2026 Payments Fraud and Control Survey“ der Association for Financial Professionals waren im Jahr 2025 76 % der Unternehmen von versuchten oder tatsächlichen Zahlungsbetrugsfällen betroffen, wobei der durchschnittliche Verlust pro Vorfall 133.000 USD betrug. Präventionsorientierte Kontrollmaßnahmen, die betrügerische Dokumente bereits bei der Erfassung abfangen, verringern das Risiko, ohne die Rechnungsbearbeitung für legitime Lieferanten zu beeinträchtigen.
Erfahren Sie, wie sich der AI Content Inspector von OPSWATmit seiner Funktion zur Erkennung der Dokumentenechtheit in Ihre bestehende Architektur zur Dateiprüfung einbinden lässt.
FAQs
Warum sind KI-generierte Rechnungen schwerer zu erkennen als herkömmliche gefälschte Rechnungen?
Herkömmliche gefälschte Rechnungen wiesen in der Regel Mängel hinsichtlich Formatierung, Markenpräsenz oder Qualität der Transaktionsdetails auf. KI-generierte Rechnungen nutzen generative Modelle, um das Markenbild des Lieferanten nachzubilden, kontextuell plausible Einzelposten zu erstellen und die Produktion ohne manuellen Aufwand zu skalieren. Das Ergebnis ist ein Dokument, das optisch und inhaltlich überzeugend ist und keine Schadsoftware enthält, was bedeutet, dass es alle Sicherheitskontrollen passiert, die lediglich prüfen, ob eine Datei sicher geöffnet werden kann.
Können Antiviren- oder E-Mail-Sicherheitstools durch KI generierten Rechnungsbetrug erkennen?
Herkömmliche Antiviren- und E-Mail-Sicherheitstools sind darauf ausgelegt, schädlichen Code, Phishing-Links und Anzeichen für Identitätsbetrug in Nachrichtenkopfzeilen zu erkennen. Eine KI-generierte Rechnungs-PDF-Datei enthält nichts davon. Zur Erkennung sind Kontrollmechanismen erforderlich, die die Authentizität des Inhalts und den geschäftlichen Kontext bewerten – und nicht, ob die Datei technisch gesehen schädlich ist.
Was ist der Unterschied zwischen der Bereinigung von Dateien und der Überprüfung der Echtheit von Dokumenten?
Die Dateibereinigung mithilfe der Deep CDR™-Technologie entfernt aktive Inhalte, Makros und eingebettete Objekte aus einem Dokument und erstellt eine strukturell bereinigte Version. Bei der Überprüfung der Dokumentauthentizität wird anhand von Metadaten sowie strukturellen und inhaltlichen Merkmalen bewertet, ob es sich bei dem Inhalt um ein echtes Dokument aus der angegebenen Quelle handelt. Beide Kontrollmaßnahmen zielen auf unterschiedliche Angriffsvektoren ab und sollten gemeinsam in derselben Prüfpipeline ausgeführt werden.
Welche Dokumenttypen bergen das höchste Risiko für KI-generierten Betrug?
PDF-Rechnungen, Überweisungsavise, Quittungen und Formulare zur Änderung der Bankverbindung sind die Hauptziele, da sie unmittelbar Finanztransaktionen auslösen. KI kann zudem überzeugende Dokumente für die Lieferantenanmeldung, Vertragsnachträge und Lieferbestätigungen erstellen, die eine betrügerische Geschäftsbeziehung begründen, noch bevor eine Zahlungsaufforderung eingereicht wird. Jedes Dokument, dessen Annahme zu einer Zahlung oder einer Änderung der Zahlungsanweisungen führt, sollte als hochriskant eingestuft werden.
Wie geht man bei einem mutmaßlichen Betrugsversuch mit einer KI-generierten Rechnung vor?
Bewahren Sie die Originaldatei, die E-Mail-Header sowie alle während der Überprüfung extrahierten Metadaten auf. Erfassen Sie das Ergebnis zur Authentizität des Inhalts, die Ergebnisse der Strukturanalyse, die Ergebnisse des Abgleichs mit den Lieferantenstammdaten sowie das Protokoll der Weiterleitungsentscheidung. Vergleichen Sie den angegebenen Lieferanten mit den Datensätzen der zugelassenen Lieferanten und der Bestellhistorie. Die Kombination aus Beweismaterial auf Dateiebene und Workflow-Prüfprotokollen unterstützt sowohl interne Untersuchungen als auch etwaige externe Berichtspflichten.
Der durch KI generierte Rechnungsbetrug nimmt bereits schneller zu, als er durch manuelle Überprüfungen bewältigt werden kann. Durch die Ergänzung Ihrer bestehenden „ MetaDefender “-Prüfungs-Pipeline um eine Überprüfung der Dokumentenechtheit schließen Sie die Lücke zwischen „sicher zum Öffnen“ und „sicher zur Zahlung“, ohne dass neue Anbieter erforderlich sind oder Ihre Finanz-Onboarding-Architektur neu aufgebaut werden muss.
