Wenn KI gegen KI antritt: Was Compliance-Teams jetzt wissen müssen

Generative KI hat die Einstiegshürde für Dokumentenbetrug auf null gesenkt. Der Artikel erklärt, warum klassische Prüfmethoden versagen, wie KI-gestützte Verifizierung die Antwort ist und welche Rolle der CISO im Compliance-Prozess spielen muss.

Jasmin Stollhof

June 16, 2026

—

5 min. Lesezeit

Auf dem Chief Ethics & Compliance Officer Forum in Chicago Anfang Juni begann die Diskussion dort, wo sie fast immer beginnt. KI verändert Compliance-Programme: schnellere Fallpriorisierung, weniger manuelle Arbeit, kürzere Untersuchungszeiten. Alles richtig.

Dann stellte jemand die härtere Frage: Was passiert, wenn die Leute, die Ihr Unternehmen betrügen wollen, dieselben Werkzeuge einsetzen wie Sie?

Der Raum wurde stiller. Es ist die richtige Frage. Und die meisten Programme haben noch keine klare Antwort darauf.

Betrug hat ein Software-Upgrade bekommen

Gefälschte Rechnungen und Belege sind nicht neu. Was sich geändert hat, ist der Aufwand: Er liegt mittlerweile nahe null. Ein generatives Modell erstellt in Sekunden eine überzeugende Lieferantenrechnung mit Logo, Zahlungsbedingungen und realistischen Positionen, ohne dass der Absender technisches Wissen braucht. Vor 2024 bedeutete eine glaubwürdige Fälschung noch stundenlange PDF-Bearbeitung. GPT-4o und ähnliche Modelle haben diese Hürde mit einem einzigen Prompt beseitigt.

Volumen und Qualität steigen gleichzeitig. Laut ACFE-Umfragedaten verzeichneten 75 % der Betrugsbekämpfungsexperten in den letzten zwei Jahren einen messbaren Anstieg von KI-gestütztem Dokumentenbetrug. Ein Anbieter von Screening-Lösungen schätzt, dass bereits jedes 50. Finanzdokument wiederverwendet oder KI-generiert ist. Die Schäden sind real: Das FBI bezifferte Verluste durch KI-gestützte Cyberkriminalität auf 893 Millionen Dollar in einem einzigen Jahr, wie die New York Times berichtete.

In der Praxis kommt das selten als dramatischer Angriff. Es erscheint im Alltagsbetrieb: eine Rechnung in der Kreditorenbuchhaltung, ein Beleg in einer Spesenabrechnung, ein Dokument in einem offenen Fall. Jedes einzelne wirkt routinemäßig. Genau das ist beabsichtigt.

Warum herkömmliche Prüfungen versagen

Die alten Warnsignale sind verschwunden. Schlechter Druck, ungewöhnliche Schriftarten, Rechtschreibfehler. 2026 eliminiert KI diese Merkmale, sodass Fälschungen oberflächliche Sichtprüfungen problemlos passieren. Metadaten lassen sich bereinigen, und selbst der klassische Drei-Wege-Abgleich greift nicht mehr zuverlässig, wenn es sich um eine Identitätsfälschung handelt und nicht nur um ein gefälschtes Dokument.

Der eigentliche Angriff spielt sich oft auf der Kommunikationsebene ab: Business-E-Mail-Compromise, Lieferantenimitation, gefälschte Anfragen zur Änderung von Bankdaten. Eine einzelne falsche Rechnung lässt sich leicht übersehen. Als eine Zeile in einem größeren Datensatz ist sie leichter zu erkennen. Der Prüfmaßstab ist nicht mehr, ob ein Dokument echt aussieht, sondern ob die Transaktionskette drumherum stimmt.

Auf die KI des Betrügers ist kein Verlass

Es kursiert eine beruhigende Annahme: Führende Sprachmodelle verweigern mittlerweile die Erstellung betrügerischer Dokumente, also schließen sich die Sicherheitslücken von selbst. Das stimmt zur Hälfte, und ausgerechnet die andere Hälfte ist das Problem.

Bekannte, geschlossene Modelle verweigern viele solcher Anfragen tatsächlich. Aber das ist nicht der gesamte Markt. Eine Recherche der Financial Times vom Mai 2026 zeigte, dass die Sicherheitsfilter weit verbreiteter Open-Weight-Modelle mit einem kostenlosen Tool in wenigen Minuten entfernt werden können, woraufhin die Modelle Anfragen beantworten, für die sie eigentlich gesperrt sein sollten. Modellsperren sind ein Rückenwind für Verteidiger, aber keine Kontrolle, die ins Risikoverzeichnis gehört. Planen Sie so, als ob die Werkzeuge des Betrügers mit ihm kooperieren.

KI prüft, was KI erstellt

Hier kommt der entscheidende Punkt. KI hat dieses Problem geschaffen, und KI erkennt es auch.

Moderne Verifizierungssysteme setzen KI ein, um eingehende Dokumente auf Muster zu prüfen: Texturen, strukturelle Auffälligkeiten, Bearbeitungsartefakte, wiederverwendete Vorlagen. Sie lernen kontinuierlich dazu, während neue Methoden entstehen. Das ist eine Prüftiefe und -geschwindigkeit, die keine manuelle Kontrolle erreicht.

Die Organisationen, die heute Fortschritte machen, verlangsamen die KI-Einführung nicht. Sie nutzen KI, um zu prüfen, was in ihrem Posteingang landet. Ihr Team kann jedes eingehende Dokument screenen, nicht nur diejenigen, die zufällig verdächtig aussehen. Das ist der Unterschied zwischen Hoffen und Wissen.

Kontrollumgebung und eine neue Stimme am Tisch

Erkennung ist die halbe Arbeit. Die Kontrollumgebung ist die andere Hälfte. Agentische KI-Systeme, die nicht nur analysieren, sondern handeln, schärfen viele bereits vorhandene Kontrollen: Multi-Faktor-Authentifizierung, Verhaltensanomalie-Erkennung, Zugriffskontrollen in Echtzeit und kontinuierliches Monitoring von Genehmigungsketten.

Dieselbe Autonomie birgt aber auch neue Risiken. Laut PwC Digital Trust Insights verzeichneten Organisationen, die autonome Sicherheits-Agenten einsetzen, 2025 einen Anstieg von 43 % bei unerwarteten KI-verursachten Vorfällen, von übermäßig berechtigten Agenten bis hin zu stiller Prompt-Manipulation. Ein Mitarbeiter, der eine Spesenabrechnung einreicht, durchläuft einen mehrstufigen Genehmigungsprozess. Der KI-Agent desselben Mitarbeiters, der mit der Aufgabe "manage my expenses" betraut wurde, könnte Abrechnung, Genehmigung und Buchung selbstständig erledigen, wenn er die entsprechenden Zugriffsrechte hat. Die Lösung ist nicht, Agenten zu verbieten, sondern sie zu steuern: minimale Berechtigungen, eindeutige Agenten-Identitäten für Nachvollziehbarkeit, menschliche Letztentscheidung bei allem, was Geld bewegt oder Zugriff verändert.

Deshalb gehört der CISO heute in die Compliance-Diskussion, nicht als Bedenkenträger, sondern als Architekt der Verteidigungsebene. Analysten beschreiben Betrugsbekämpfung, AML und Compliance zunehmend als eine zusammenhängende Funktion, nicht als Flickenteppich getrennter Tools und Teams. Wenn Ihre Sicherheitsleitung nicht in dem Raum sitzt, in dem Sie Dokumenten- und Offenlegungsprozesse überprüfen, ist das eine Lücke, die Sie in diesem Quartal schließen sollten.

Was das für Ihr Programm bedeutet

Die meisten synthetischen Dokumente tauchen nie in einem Betrugs-Dashboard auf. Sie kommen in normalen Arbeitsprozessen an, eingebettet in Routinegenehmigungen und Berichte. Zwei Dinge schützen Sie, und sie verstärken sich gegenseitig.

Erstens: eine Verifizierung, die jedes Dokument als potenziell synthetisch behandelt und die Transaktion drumherum prüft. Starke Offenlegungs- und Genehmigungsprozesse geben Ihrer ersten Verteidigungslinie eine Grundlage zum Handeln. Zweitens: eine Kultur, in der Menschen mit einem unguten Gefühl einen einfachen Weg haben, es zu melden. Ein vertraulicher, anonymer Meldekanal verwandelt einen stillen Verdacht in einen dokumentierten Fall, bevor Geld fließt.

Technologie prüft Dokumente im großen Maßstab. Menschen entdecken, was kein Modell gelernt hat zu flaggen: den Lieferanten, den niemand kennt, die Genehmigung, die einen Schritt übersprungen hat. Beides auf einer verbundenen Plattform zusammenzubringen ist die praktische Umsetzung von "Doing right, made easy": Machen Sie das Richtige zur einfachen Wahl, für Systeme und Menschen gleichermaßen.

Die Frage für dieses Quartal

Die Werkzeuge sind auf Seiten der Betrüger. Volumen und Qualität steigen, die Einstiegshürde ist gefallen. Das Fenster, um die Lücke zwischen ihren Möglichkeiten und Ihren Verifikationsprozessen zu schließen, ist kleiner als es aussieht.

Ihr Team kann schneller agieren als je zuvor. Die Gegenseite auch. Die Frage auf Ihre Agenda zu setzen ist einfach: Hat Ihre Verifikation mit beidem Schritt gehalten?

Quellen: