KI-Agenten in der Compliance: wo Automatisierung vertretbar ist

Compliance-Funktionen sind ein naheliegendes Ziel für Automatisierung: hohes Volumen, wiederkehrende Arbeit, und der grösste Teil davon ist die Prüfung von Fällen, die sich als unauffällig erweisen. Genau deshalb wird hier schneller eingeführt, als über die Steuerung gesprochen wird.

Der Unterschied zwischen nützlichem und gefährlichem Vorgehen liegt nicht im Modell. Er liegt darin, ob das System vorschlägt oder entscheidet — und ob rekonstruierbar ist, warum es getan hat, was es getan hat.

Die Einführung ist der Steuerungsdiskussion voraus

In den meisten Unternehmen sind die Werkzeuge bereits im Einsatz — zur Zusammenfassung von Hinweisen, zur Vorbereitung von Akten, zur ersten Sichtung von Korrespondenz — bevor festgelegt ist, wer das Ergebnis verantwortet. Das ist für sich genommen kein Verstoss, führt aber dazu, dass die Funktion einer Aufsicht nicht darlegen kann, welche Entscheidung von einem Menschen getroffen wurde.

Der erste praktische Schritt ist eine Bestandsaufnahme: welche Werkzeuge, von wem, auf welchen Daten, mit welcher Wirkung auf die Entscheidung. Sie fördert regelmässig mehr Anwendungen zutage, als die Geschäftsleitung erwartet.

Begrenzte Befugnis ist die Entwurfsentscheidung

Legen Sie je Anwendung fest, ob das Ergebnis ein Vorschlag, eine folgenreiche Einstufung oder eine Handlung ist. Ein Vorschlag, den ein Mensch annehmen muss, verlangt eine Kontrollstufe. Das automatische Schliessen eines Hinweises als unbegründet ist eine Entscheidung und verlangt eine völlig andere — denn der Fehler ist hier unsichtbar: Ein nicht gemeldeter Fall hinterlässt keine Spur, die jemandem auffiele.

Die sinnvolle Regel für die meisten Häuser ist Asymmetrie. Automatisierung darf den Weg zur menschlichen Prüfung beschleunigen, aber keinen Fall davon ausnehmen. Eskalation darf automatisch erfolgen; Abschluss nicht.

Welche Prozesse gute erste Kandidaten sind

Ein guter erster Kandidat hat drei Eigenschaften: hohes Volumen, hoher Anteil offensichtlich unauffälliger Fälle und ein umkehrbarer Fehler. Die Priorisierung von Hinweisen, die Erstellung einer Aktenzusammenfassung zur menschlichen Prüfung und die Vollständigkeitsprüfung von Unterlagen erfüllen alle drei. In jedem dieser Fälle führt ein Fehler zu Verzögerung oder Mehrarbeit, nicht zu einem übersehenen Sachverhalt.

Die schlechten ersten Kandidaten sind das Spiegelbild: geringes Volumen, hoher Anteil komplexer Fälle, nicht umkehrbarer Fehler. Die abschliessende Beurteilung einer Verdachtsmeldung, die Beendigung von Geschäftsbeziehungen und die Einstufung politisch exponierter Personen gehören hierher. Es sind zugleich die Prozesse, bei denen Automatisierung am verlockendsten wirkt, weil sie die meiste Expertenzeit binden — genau deshalb sind sie nicht die ersten.

Nachweise müssen rekonstruierbar sein, nicht nur protokolliert

Ein Protokoll, das die Modellausgabe enthält, ist kein Entscheidungsnachweis. Der rekonstruierbare Nachweis zeigt, welche Daten verwendet wurden, welche Modell- und Regelversion galt, was das System vorgeschlagen hat, was der Mensch entschieden hat und auf welcher Grundlage. Werden diese Elemente nachträglich durch Auslegung von Protokollen gewonnen, sind sie Rekonstruktion.

Die Pflichten aus Verordnung (EU) 2024/1624 und dem Geldwäschegesetz treffen das Unternehmen, nicht das Werkzeug. Dasselbe gilt für die Dokumentations- und Aufbewahrungsanforderungen, die auf Richtlinie (EU) 2015/849 zurückgehen.

Die Kontrolle über Modelländerungen fehlt am häufigsten

Modelle ändern sich — bei Aktualisierungen des Anbieters, bei Nachtraining, bei Parameteranpassungen. Eine Änderung, die die durchschnittliche Leistung verbessert, kann die Leistung bei einer kleinen Fallgruppe verschlechtern, und genau diese ist meist die riskante. Ohne einen Evaluierungsdatensatz, der bei jeder Änderung läuft, fällt die Verschlechterung bei einer Prüfung auf und nicht bei der Einführung.

Legen Sie vorab fest, wer eine Änderung freigibt, welches Ergebnis sie blockiert und wie die Vorgängerversion zurückgeholt wird. Die Funktionen Govern, Map, Measure und Manage des NIST AI Risk Management Framework und das Managementsystem nach ISO/IEC 42001 liefern dafür eine fertige Struktur, ohne dass eine eigene Terminologie entstehen muss.

Falsch positive kosten, falsch negative haben Folgen

Das übliche Versprechen solcher Projekte ist die Senkung falsch positiver Treffer. Sie ist messbar, sichtbar und angenehm zu präsentieren. Das Problem: Die Schwelle, die falsch positive senkt, erhöht fast immer die falsch negativen — und die erscheinen in keiner Auswertung, weil der Fall schlicht nicht betrachtet wurde.

Jede Schwellenänderung gehört deshalb mit einer Gegenprobe verbunden: eine Stichprobe der automatisch geschlossenen Fälle, geprüft von jemandem, der an der Einstellung nicht beteiligt war. Findet diese Stichprobe über Monate nichts, ist das ein Anlass, die Stichprobe zu prüfen, kein Grund zur Zuversicht.

Legen Sie zudem fest, wer die Schwelle ändern darf. Eine Einstellung, die das technische Team ohne Beteiligung der verantwortlichen Fachfunktion vornehmen kann, ist eine Kontrollschwäche — unabhängig davon, wie gut die Änderung dokumentiert ist.

Wer prüft, zählt so viel wie das Ergebnis

Eine maschinell erstellte Zusammenfassung wird schneller und oberflächlicher geprüft als ein Entwurf einer Kollegin. Glatt formulierter Text wirkt fertig, und fertiger Text lädt zur Freigabe ein statt zur Kontrolle. Dieser Effekt ist beschrieben und lässt sich nicht durch die Aufforderung beheben, sorgfältiger zu sein.

Gestalten Sie dagegen an. Zeigen Sie den Quellensatz neben jeder wesentlichen Aussage, damit geprüft und nicht erinnert wird. Verlangen Sie eine ausdrückliche Bestätigung von Zahlenwerten gegen die Quelle statt ihrer Übernahme im Fliesstext. Und trennen Sie die Rollen: Wer die Stichprobe zieht, darf nicht derjenige sein, der die Erstprüfung vorgenommen hat.

Verfolgen Sie ausserdem den Anteil der Änderungen. Ändert die Prüfung fast nie etwas, belegt das nicht die Qualität des Systems — wahrscheinlicher ist, dass die Prüfung zur Formalie geworden ist.

Auslagerung verschiebt keine Verantwortung

Immer mehr dieser Fähigkeiten kommen als Teil einer Plattform und nicht als Eigenentwicklung. Damit wandert ein wesentlicher Teil des Risikos in den Vertrag: Werden Sie über Modelländerungen vorab informiert, können Sie eine Entscheidung von vor sechs Monaten reproduzieren, wo werden die Daten verarbeitet, und was geschieht bei Beendigung des Dienstes?

Die BaFin hat mit ihrem Prinzipienpapier zu Big Data und künstlicher Intelligenz aufsichtliche Erwartungen an den Einsatz von Algorithmen in Entscheidungsprozessen formuliert und die Frage der Fairness automatisierter Entscheidungen in einem Fachartikel zu KI bei Banken und Versicherern vertieft. Der praktisch wichtigste Punkt bleibt: Steuerung, Überwachung und Nachweisführung verbleiben beim beaufsichtigten Unternehmen.

Ein Zwischenfall gehört ebenfalls vorbereitet. Stellt sich heraus, dass eine Schwelle über Monate falsch stand, ist die Frage nicht nur, wie sie korrigiert wird, sondern welche Fälle rückwirkend erneut zu betrachten sind und wer das entscheidet. Häuser, die diesen Ablauf vorher festgelegt haben, beheben den Fehler; Häuser ohne ihn diskutieren zuerst wochenlang über Zuständigkeit.

Steuerung ist Teil des Produkts

Ist die Steuerung ein eigenes Dokument, das nach der Einführung geschrieben wird, veraltet sie vor der ersten Prüfung. Tragfähig ist, die Kontrollen im System selbst umzusetzen: Zugriffsrechte, Grenzen automatischen Handelns, Pflichtfelder bei menschlicher Entscheidung, automatischer Lauf des Evaluierungsdatensatzes bei jeder Änderung.

Fällt die Anwendung in den Anwendungsbereich des KI-Gesetzes, lassen sich auch die Anforderungen an menschliche Aufsicht und Protokollierung am verlässlichsten im Produkt umsetzen. Die Verarbeitung personenbezogener Daten bleibt vollständig von der Datenschutz-Grundverordnung und den Leitlinien des Europäischen Datenschutzausschusses erfasst.

Was dieser Ansatz nicht leisten kann

Automatisierung verringert die regulatorische Verantwortung nicht und ersetzt das Urteil bei schwierigen Fällen nicht. Sie verschiebt die Arbeit: weniger Zeit für das Offensichtliche, höhere Anforderungen an die Entscheidungsqualität beim Schwierigen. Ein Haus, das die gewonnene Zeit für Personalabbau statt für gründlichere Prüfung nutzt, hat ein Risiko übernommen und keine Verbesserung erzielt.

Wenn Sie einen Compliance-Prozess automatisieren und die Kontrollen Teil des Systems sein sollen, beginnen Sie damit, die Steuerung im Prozess zu verankern.

Dieser Beitrag ist eine Adaption des englischen Originals. Im Zweifel gilt die englische Fassung.