OPSWAT AI Content Inspector unterstützt Ihr Unternehmen dabei, fundiertere Entscheidungen über eingereichte Inhalte zu treffen, bevor diese genehmigt oder vergütet werden. Durch die Offline-Validierung von C2PA-Inhaltszertifikaten werden verifizierte Zertifikate von nicht verifizierten Kennzeichnungen unterschieden, während die Analyse des Bearbeitungsverlaufs den Einsatz von KI in früheren Bearbeitungsschritten erkennt, einschließlich bei Bildern in Office-Dokumenten und PDF-Dateien. Dank der neuen HTML-Unterstützung wird die Überprüfung auf Seitentext und eingebettete Bilder ausgeweitet, und durch schnelleres paralleles Scannen können Teams größere Einreichungsvolumina bearbeiten. |
|---|
Wichtigste Erkenntnisse
- Umfasst die Dateitypen, über die Betrugsversuche erfolgen: Überprüfung von E-Mail-Nachrichten im .eml- und .msg-Format mit Bildanhängen; Word-, Excel- und PowerPoint-Dateien, einschließlich moderner, älterer und makrofähiger Formate; RTF- und OpenDocument-Dateien; PDF-Dateien mit eingebetteten Bildern; sowie unterstützte Bildformate, darunter WMF und EMF. Die HTML-Unterstützung ist neu in Version 2.4.0.
- Verifizierte Herkunft: Offline-Prüfungen anhand offizieller C2PA-Vertrauenslisten helfen dabei, vertrauenswürdige Content Credentials von unbestätigten oder nicht überprüfbaren Angaben zur Herkunft einer Datei zu unterscheiden
- Frühere KI-Nutzung aufgedeckt: Eine Analyse des Bearbeitungsverlaufs durch C2PA hat ergeben, dass KI bereits in früheren Bearbeitungsschritten zum Einsatz kam, unter anderem bei Bildern in Office-Dokumenten und PDF-Dateien.
- Fundiertere Prüfentscheidungen: Eine schnellere parallele Überprüfung und klarere Ergebnisse helfen den Teams dabei, verdächtige Einreichungen vor der Zahlung, der Genehmigung von Anträgen oder der Kundenaufnahme zu bewerten
Warum die Dateideckung für die Betrugserkennung mittels KI wichtig ist
Eine Rechnung kann in einer Outlook-Nachricht eingehen. Ein Foto eines Schadens kann in eine PDF-Datei eingebettet sein. Ein Lieferant kann eine HTML-Datei einreichen, die generierten Text und Bilder enthält. Jede dieser Dateien kann Malware-Prüfungen bestehen und dennoch gefälschte Inhalte enthalten, die einen Prüfer oder ein automatisiertes Genehmigungssystem in die Irre führen.
OPSWAT Der AI Content Inspector v2.4.0 begegnet diesem Risiko durch eine erweiterte Dateiunterstützung und eine strengere Überprüfung der Herkunft der Inhalte. Aufbauend auf den jüngsten Verbesserungen bei der Dokumentenprüfung, den Erkennungsmodellen und der Scan-Leistung liefert diese Version den Teams in den Bereichen Betrugsbekämpfung, Sicherheit und Betrieb mehr Anhaltspunkte für die Entscheidung, welche Einreichungen weiterbearbeitet werden können und welche einer Untersuchung bedürfen.
Die Engine kombiniert KI-Klassifikatoren, forensische Signale, Metadatenanalyse und Wasserzeichen-Erkennung, um eingereichte Inhalte zu bewerten. Ihr Unternehmen kann Dateien bereits bei deren Eingang prüfen und Überprüfungsrichtlinien anwenden, bevor eine Entscheidung über eine Zahlung, einen Anspruch oder eine Kundenaufnahme getroffen wird.
Überprüfen Sie die Dateien, die Ihr Unternehmen tatsächlich erhält
Inhaltsbasierter Betrug dringt über alltägliche Geschäftsabläufe in Unternehmen ein. Ein Workflow zur Überprüfung hochgeladener Fotos muss auch jene Bilder berücksichtigen, die in Dokumenten enthalten sind oder als Anhang an E-Mails gesendet werden.
Mit Version 2.4.0 wurde die HTML-Unterstützung hinzugefügt, wodurch Seiteninhalte und eingebettete Bilder in .html- und .htm-Dateien auf KI-generierte Inhalte überprüft werden. Zusammen mit den in den letzten Versionen hinzugefügten Funktionen für Dokumente und E-Mails deckt der AI Content Inspector nun Folgendes ab:
- Microsoft Office-Dokumente: Word-Dokumente, Excel-Tabellen und PowerPoint-Präsentationen, einschließlich unterstützter älterer Formate und makrofähiger Formate
- OpenDocument-Dateien: Textdokumente, Tabellenkalkulationen und Präsentationen, die in verschiedenen Office-Anwendungen verwendet werden
- E-Mail-Dateien:.eml- und .msg-Dateien, einschließlich forensischer Analyse der Metadaten von angehängten Bildern
- PDFs, Text und Bilder: Die bestehende Abdeckung wird durch eine forensische Metadatenanalyse der in PDFs eingebetteten Bilder sowie durch zusätzliche Bildformate wie WMF und EMF erweitert.
Für Ihr Unternehmen bedeutet dies eine umfassendere Prüfung von Schadenanträgen, eingereichten Rechnungen und zugehörigen Geschäftsunterlagen, wobei man sich weniger darauf verlassen muss, dass der Absender ein bestimmtes Format wählt.
Überprüfen Sie die Echtheit von Inhaltsnachweisen, bevor Sie diese als Beweismittel verwenden
C2PA-Inhaltszertifikate können dokumentieren, wie Inhalte erstellt und bearbeitet wurden, einschließlich der Angabe, ob KI zum Einsatz kam. Ihr Wert für eine Sicherheitsentscheidung hängt davon ab, ob den Zertifikaten vertraut werden kann.
Der AI Content Inspector v2.4.0 überprüft C2PA-Anmeldedaten offline anhand offizieller C2PA-Vertrauenslisten. Für jede Datei, die Anmeldedaten enthält, gibt er an, ob diese verifiziert sind, von einem nicht verifizierten Unterzeichner signiert wurden, eine abgelaufene Signatur aufweisen oder nicht überprüfbar sind. Analysten erhalten so eine klarere Grundlage, um vertrauenswürdige Herkunftsangaben von nicht validierbaren Kennzeichnungen zu unterscheiden.
Nur vertrauenswürdige C2PA-Zertifikate liefern C2PA-basierte Nachweise, die den KI-Score erhöhen oder die Modellfamilie identifizieren. Zertifikate, die mit Test- oder gesperrten Zertifikaten signiert sind, gelten nicht mehr als KI-Nachweis. Dadurch wird verhindert, dass nicht vertrauenswürdige Herkunftsangaben eine Bewertung so beeinflussen, als wären sie verifiziert.
Das Scan-Ergebnis gibt zudem an, ob der in den Anmeldedaten genannte KI-Anbieter mit dem vom Bilderkennungsmodell identifizierten Anbieter übereinstimmt, was den Prüfern eine weitere Konsistenzprüfung ermöglicht. Diese Prüfungen unterstützen sensible Arbeitsabläufe, die eine lokale Überprüfung erfordern, ohne dass zum Zeitpunkt des Scans eine Online-Validierungsanfrage gestellt werden muss. Eine verifizierte Anmeldeinformation schafft Vertrauen in die Herkunftsangaben; sie belegt jedoch nicht, dass eine Rechnung echt ist oder dass eine Forderung beglichen werden sollte.
Aufgezeichnete KI-Nutzung weiter oben im Bearbeitungsverlauf finden
Ein eingereichtes Bild hat möglicherweise mehrere Bearbeitungsschritte durchlaufen, bevor es einen Prüfer erreicht. Der Einsatz von KI kann bereits früher in diesem dokumentierten Verlauf stattgefunden haben, auch wenn dies im letzten Bearbeitungsschritt nicht erkennbar ist.
Der AI Content Inspector v2.4.0 liest C2PA-Bearbeitungsverläufe aus, um aufgezeichnete KI-Nutzung in früheren Schritten zu ermitteln, einschließlich der Verwendung in Bildern innerhalb von Office-Dokumenten und PDF-Dateien. Sofern dieser Verlauf verfügbar ist, können Ermittler die Herkunft des Inhalts umfassender beurteilen, anstatt sich ausschließlich auf dessen zuletzt aufgezeichneten Zustand zu stützen. Für ein Schadenregulierungsteam, das ein in ein PDF eingebettetes Schadensfoto prüft, kann dies relevante Hintergrundinformationen liefern, bevor die Beweise in eine Schadensschätzung oder Auszahlung einfließen. Fehlen entsprechende Nachweise, bleiben die forensischen und KI-basierten Erkennungssignale der Engine für die Beurteilung weiterhin wichtig.
Erkenntnisse in frühzeitigere Geschäftsentscheidungen umsetzen
Die umfassendere Abdeckung und die Herkunftsprüfungen stärken mehrere gängige Geschäftsabläufe:
- Schadenfälle in der Sach- und Kfz-Versicherung: Prüfen Sie eingereichte Schadensfotos und Belege vor der automatisierten Bewertung oder Auszahlung auf Anzeichen für KI-Generierung und Betrug. Leiten Sie verdächtige Unterlagen an Schadensregulierer oder spezielle Ermittlungsteams weiter.
- Kreditorenbuchhaltung und Kostenmanagement: Prüfen Sie Rechnungen, Belege und per E-Mail eingereichte Nachweise vor der Zahlungsfreigabe oder Kostenerstattung. Legen Sie anhand der Ergebnisse fest, welche Fälle vorrangig mit dem Lieferanten oder Mitarbeiter abgeklärt werden müssen.
- Identitäts- und Kontoeröffnung: Überprüfen Sie unterstützte Identitätsbilder und Adressnachweise auf Anzeichen für synthetische Inhalte, bevor diese in die Workflows zur Identitätsprüfung gelangen, und stellen Sie den KYC-Prüfern entsprechende Belege zur Verfügung.
- Integrität der Zahlungen im Gesundheitswesen: Kennzeichnen Sie verdächtige Belege und Dokumente zur weiteren Überprüfung, noch bevor die Erstattung genehmigt wird – zusätzlich zu den bestehenden Kontrollen zur Gewährleistung der Zahlungsintegrität.
Von KI generierte Inhalte sind nicht automatisch betrügerisch. Der Mehrwert liegt in der Kombination von Erkennungsergebnissen, Herkunftsangaben und geschäftlichem Kontext, damit sich die Teams bei der Überprüfung auf die Bereiche konzentrieren können, in denen dies am sinnvollsten ist.
Die Prüftiefe an den Arbeitsablauf anpassen
Mit den Modi „FAST“ und „FORENSIC“ kann Ihr Unternehmen zwischen einer für schnelle Reaktionen optimierten Analyse und einer gründlicheren Überprüfung wählen, die sich für Ermittlungsabläufe eignet. Aktualisierte Bild- und Textmodelle, eine verbesserte Text-Extraktion aus Dokumenten sowie eine schnellere PDF-Verarbeitung stärken die Analyse, die diesen Optionen zugrunde liegt.
Version 2.4.0 verbessert die Scan-Geschwindigkeit weiter, insbesondere bei der gleichzeitigen Verarbeitung mehrerer Dateien, wobei die Bewertungsergebnisse erhalten bleiben. Zusammen tragen diese Verbesserungen dazu bei, dass Teams die Inhaltsprüfung in stark ausgelasteten Erfassungsworkflows anwenden können, während gleichzeitig die Möglichkeit einer tiefergehenden Analyse für Untersuchungen erhalten bleibt.
Treffen Sie Entscheidungen bei der Begutachtung anhand klarerer Scan-Ergebnisse
Eine zuverlässige Automatisierung muss zwischen einer abgeschlossenen Prüfung und einem unklaren oder nicht verfügbaren Ergebnis unterscheiden können. Dank jüngster Verbesserungen werden diese Unterschiede deutlicher: Texte mit weniger als 45 Wörtern werden als „unbestimmt“ gemeldet, und ein Betrugsdetektor, der nicht ausgeführt wurde, wird als „nicht gescannt“ gemeldet.
Die Versionen der Engine und der Datenbank sind in den Scan-Ergebnissen enthalten, was den Teams hilft, die Ergebnisse auf die verwendeten Erkennungskomponenten zurückzuführen. Die verbesserte Verarbeitung von E-Mails, Office-Dokumenten und Bild-Metadaten reduziert Verarbeitungsfehler. In Version 2.4.0 läuft die C2PA-Analyse in einem isolierten Prozess, sodass eine fehlerhaft formatierte Datei mit Anmeldedaten die Engine nicht zum Absturz bringen kann. Diese Änderungen helfen den Teams dabei, Überprüfungsrichtlinien auf der Grundlage der tatsächlich verfügbaren Beweismittel zu erstellen, einschließlich der Fälle, in denen eine eingereichte Datei einer weiteren Untersuchung bedarf.
Ergänzen Sie Ihren „ MetaDefender ™“-Workflowum die Authentizitätsprüfung von Inhalten
OPSWAT Der AI Content Inspector ergänzt die bestehenden MetaDefender™-Workflows zur Dateiprüfung um Erkenntnisse zu KI-generierten Inhalten und Dokumentenfälschungen – zusätzlich zu den Technologien Metascan™ Multiscanning, Deep CDR™ und Proactive DLP™. Anwendungen können die zurückgegebenen Bewertungen und Konfidenzinformationen nutzen, um Inhalte gemäß den Richtlinien des Unternehmens zuzulassen, zu kennzeichnen, zu blockieren oder weiterzuleiten.
Mit Version 2.4.0 kann Ihr Unternehmen einen größeren Teil der eingehenden Dateien prüfen und deren Herkunft unter Berücksichtigung eines umfassenderen Kontexts bewerten. Dies hilft den Teams in den Bereichen Schadenbearbeitung, Finanzen, Betrugsbekämpfung und Sicherheit, einzugreifen, bevor verdächtige Inhalte zu einer kostspieligen Entscheidung führen.
Entdecken Sie den AI Content Inspector von OPSWAT und wenden Sie sich an Ihren Ansprechpartner bei OPSWAT , um die Integration oder Aktualisierung der Engine in Ihren Workflow zu besprechen. Technische Details zu den veröffentlichten Updates finden Sie lesen Sie die Versionshinweise.
