KI in der Versicherung: die Entscheidung kontrollieren, nicht nur das Modell

Versicherer arbeiten seit Jahrzehnten mit statistischen Modellen, und das erzeugt ein trügerisches Gefühl der Kontinuität. Maschinelles Lernen im Underwriting und in der Schadenbearbeitung ist nicht die nächste Version des aktuariellen Modells — es verändert, was erklärt werden kann, und was nachgewiesen werden muss.

Die Einstufung gilt nicht für das ganze Portfolio

Die Asymmetrie, die die meisten Häuser übersehen, liegt im Anwendungsbereich. Verordnung (EU) 2024/1689 führt in Anhang III Systeme zur Risikobewertung und Preisbildung gegenüber natürlichen Personen in der Lebens- und Krankenversicherung auf. Grosse Teile der Schaden- und Unfallversicherung fallen auf dieser Grundlage nicht darunter.

Die praktische Folge ist unbequem: Zwei Modelle, entwickelt vom selben Team auf derselben Plattform, können regulatorisch unterschiedlich stehen. Wer einen einheitlichen Ansatz über das gesamte Portfolio legt, wird entweder einen Teil überfrachten oder einen anderen ohne die nötigen Kontrollen lassen. Die Leitlinien für Anbieter und Betreiber von Hochrisikosystemen sind der Ausgangspunkt, aber die Beurteilung muss je Produkt und je Anwendung erfolgen, nicht einmal für das Haus.

Nutzen Sie die Validierung, die Sie schon haben

Versicherer stehen ungewöhnlich gut da, weil sie bereits reife Modellsteuerung betreiben. Modelle für Kapitalanforderung und Reservierung unterliegen Validierungsregimen mit unabhängiger Prüfung, dokumentierten Annahmen, Rückvergleichen und definierter Eskalation bei Abweichungen. Diese Praxis geht auf das Regime der Richtlinie 2009/138/EG und ihre nationale Umsetzung zurück.

Dennoch bauen viele Häuser eine getrennte und deutlich schwächere Linie für KI auf, mit dem Argument, maschinelles Lernen sei eine andere Disziplin. Das ist meist ein organisatorischer und kein sachlicher Fehler. Die Fragen, die ein unabhängiger Validator an ein Reservierungsmodell stellt — welche Annahmen, wie geprüft, was geschieht an den Rändern der Daten, wer hat widersprochen, was würde uns zum Abschalten bringen — sind die richtigen Fragen an ein mit Gradient Boosting gebautes Preismodell. Die Techniken der Antwort unterscheiden sich; das Rückgrat der Steuerung nicht.

Praktisch heisst das, wesentliche KI-Modelle durch die bestehende Validierungsfunktion mit erweitertem Werkzeugkasten zu führen, statt ein KI-Gremium zu schaffen, das getrennt berichtet und weniger Gewicht trägt. Und es heisst, dass die aktuarielle Funktion von Beginn an beteiligt ist, wo ein Modell Preisbildung oder Reservierung beeinflusst.

Was die Aufsicht erwartet

Die Stellungnahme der EIOPA zu KI-Governance und Risikomanagement richtet sich an die nationalen Aufsichtsbehörden — sie beschreibt also, worauf Ihre Aufsicht hingewiesen wurde. Sie baut auf dem früheren Bericht zu Governance-Prinzipien für künstliche Intelligenz auf und betont Verhältnismässigkeit, faire Behandlung der Versicherungsnehmer und eine Erklärbarkeit, die den Folgen entspricht.

Für den deutschsprachigen Markt kommt die aufsichtliche Erwartungshaltung der BaFin hinzu, die im Prinzipienpapier zu Big Data und künstlicher Intelligenz und in einem Fachartikel zu KI bei Banken und Versicherern formuliert ist. Das Nützliche daran: Es wird keine neue Struktur verlangt. Erwartet wird, dass das bestehende Governance-System auch die KI-Modelle erfasst.

Welche Anwendungen gute erste Schritte sind

Die besten ersten Anwendungen in der Versicherung sind jene, bei denen ein Fehler zu Verzögerung führt und nicht zu einer Ablehnung. Die Priorisierung von Schäden nach Komplexität, die Datenextraktion aus Unterlagen bei der Meldung, das Auffinden unvollständiger Akten und die Unterstützung der Sachbearbeitung bei der Suche in den Bedingungen erfüllen diese Bedingung.

Die Anwendungen, die am attraktivsten wirken und die meiste Vorsicht verdienen, sind die automatische Preisbildung nach Einzelrisiko und die automatische Ablehnung von Schäden. Beide haben unmittelbare Folgen für eine Person, beide fallen in den strengsten Teil des Regimes, und bei beiden ist der Fehler von innen schwer zu entdecken.

Ein Zwischenfall ist die Betrugserkennung. Der Nutzen ist real, aber das Modell erzeugt hier einen Verdacht und kein Ergebnis. Führt die Ausgabe zu einer Verzögerung der Zahlung, hat sie Folgen für den Versicherungsnehmer und braucht eine Frist, eine menschliche Entscheidung und einen Nachweis.

Erklärbarkeit hat einen Adressaten

„Das Modell muss erklärbar sein“ ist eine Anforderung ohne Inhalt, solange nicht gesagt wird, für wen. Der Versicherungsnehmer, der eine Ablehnung oder eine höhere Prämie erhält, braucht einen verständlichen Grund und einen Weg zum Widerspruch. Die Aufsicht braucht Methodik, Annahmen und Testnachweise. Der interne Validator braucht ein Drittes — Modellverhalten an den Rändern der Daten und Sensitivität gegenüber einzelnen Merkmalen.

Diese drei Anforderungen werden mit verschiedenen Mitteln erfüllt, und ihre Vermischung ist der übliche Grund, warum Erklärbarkeitsprojekte niemanden zufriedenstellen. Legen Sie die drei Adressaten zu Beginn fest und rechnen Sie mit je einer eigenen Darstellung.

Achten Sie schliesslich auf die Reihenfolge im Projekt. Viele Häuser beginnen mit dem Modell und klären die Einstufung erst, wenn ein Ergebnis vorliegt. Das ist teuer, weil sich Zweckbestimmung und Datenauswahl nachträglich kaum ändern lassen, ohne die Arbeit zu wiederholen. Wird die Einstufung vor der Modellierung festgelegt, steht früh fest, welche Merkmale zulässig sind, welche Nachweise mitzuführen sind und wie die Aufsichtsstruktur aussehen muss — und das Modell wird gleich richtig gebaut.

Im Schaden sind die Folgen am unmittelbarsten

In der Schadenbearbeitung wird schneller automatisiert, weil der Nutzen offensichtlich ist: zügigere Regulierung der klar berechtigten Fälle. Das Risiko liegt im Spiegelbild. Ein automatisch abgelehnter oder gekürzter Schaden trifft eine Person in einem Moment besonderer Verletzlichkeit, und die Spur des Fehlers ist schwach, weil Unzufriedenheit nicht immer zur Beschwerde wird.

Die vernünftige Asymmetrie entspricht der in der Compliance: Automatisierung darf die Zahlung beschleunigen, aber nicht ohne menschliche Entscheidung ablehnen. Wird eine Ablehnung dennoch automatisiert, braucht sie eine ausdrückliche Begründung, einen nachvollziehbaren Nachweis und einen einfachen Weg zum Widerspruch.

Menschliche Aufsicht muss das Ergebnis ändern können

Aufsicht, bei der die Empfehlung vor der eigenen Beurteilung sichtbar ist, ist keine Aufsicht — sie ist Lenkung. Hat die Entscheidung erhebliche Folgen, zeigen Sie zuerst die Tatsachen und erst danach die Empfehlung, und halten Sie fest, ob die Beurteilung abwich. Eine Widerspruchsquote nahe null ist Anlass zur Prüfung, nicht zur Zuversicht.

Prüfen Sie zudem, ob die Person tatsächlich überstimmen darf. Verlangt das Abweichen eine Freigabe von anderer Stelle, während das Folgen der Empfehlung nichts verlangt, entscheidet faktisch das System.

Personenbezogene Daten bleiben vollständig erfasst

Underwriting und Schaden verarbeiten Gesundheits- und andere sensible Daten, womit die Anwendung vollständig unter die Datenschutz-Grundverordnung fällt, einschliesslich der Regeln zu automatisierten Entscheidungen. Die Leitlinien des Europäischen Datenschutzausschusses und die Orientierungshilfen der Datenschutzkonferenz setzen den Rahmen für die Folgenabschätzung.

Fairnessprüfung ist eine andere Arbeit als Genauigkeitsprüfung. Ein Modell kann insgesamt genau sein und bei einer bestimmten Gruppe systematisch schlechter abschneiden — nach Region, nach Alter, nach Vertriebsweg. Das findet nur, wer ausdrücklich danach sucht.

Beachten Sie dabei den Vertriebsweg. Ein erheblicher Teil des Bestands wird über Makler und Vermittler gezeichnet, sodass Kundendaten über einen Kanal eintreffen, den das Unternehmen nicht unmittelbar steuert. Ein darauf trainiertes Modell erbt die Unterschiede in der Praxis der Vermittler — Vollständigkeit der Erfassung, Auslegung von Fragen, Reihenfolge der Eingabe. Das zeigt sich als Ergebnisunterschied je Kanal und nicht als Modellfehler, und es wird nur sichtbar, wenn die Leistung je Kanal betrachtet wird.

Was dieser Ansatz nicht leisten kann

Der Steuerungsrahmen macht das Modell nicht fair und beantwortet nicht, wann Preisdifferenzierung sachlich gerechtfertigt ist und wann nicht. Diese Frage ist teils technisch, teils rechtlich und teils eine Frage der Unternehmenspolitik — sie gehört von Menschen entschieden und nicht aus Daten abgeleitet. Der Rahmen macht die Entscheidung sichtbar und vertretbar; er trifft sie nicht für Sie.

Wenn Sie KI im Underwriting oder in der Schadenbearbeitung einsetzen oder planen, beginnen Sie mit der Bewertung von Einstufung und Kontrollen je Produkt.

Dieser Beitrag ist eine Adaption des englischen Originals. Im Zweifel gilt die englische Fassung.