Das KI-Verzeichnis: steuern lässt sich nur, was aufgezählt ist

Fragt man eine Organisation, wie viele KI-Systeme sie betreibt, kommt meist eine Liste von Projekten zurück. Die tatsächliche Zahl ist höher, und die Abweichung ist selten jemandes Versäumnis. Sie ist eine Folge davon, wie KI heute ankommt: nicht als Beschaffungsentscheidung, sondern als Funktion in Software, die längst im Einsatz ist.

Die Kundenplattform hat im letzten Quartal Zusammenfassungen bekommen. Das Bewerbungswerkzeug sortiert Kandidaten. Der Servicedesk schlägt Lösungen vor. Das Tabellen-Add-in entwirft Formeln. Nichts davon hat ein KI-Freigabeverfahren durchlaufen, weil nichts davon als KI eingekauft wurde.

Warum die Zahl immer zu niedrig ist

Die Verbreitung wächst schnell: Nach Eurostat: Einsatz von künstlicher Intelligenz in Unternehmen nutzten 2025 rund 20 % der EU-Unternehmen ab zehn Beschäftigten KI-Technologien, nach 13,5 % im Vorjahr; bei großen Unternehmen 55 %. Diese Erhebung fragt Unternehmen, was sie wissentlich einsetzen. Eingebettete Funktionen in zugekaufter Software werden systematisch untererfasst – von der Statistik ebenso wie vom internen Register.

Das ist selten ein Wissensproblem. Es ist ein Bestandsproblem. Eine Grundgesamtheit, die man nicht aufgezählt hat, lässt sich schwer verstehen, und die meisten Organisationen steuern auf Basis einer Liste, die durch Herumfragen entstanden ist.

Ein Beispiel, das im großen Maßstab funktioniert

Die Idee, dass man die Liste schlicht veröffentlichen kann, wurde öffentlich erprobt. Amsterdam und Helsinki starteten 2020 kommunale Algorithmenregister und hielten fest, wozu ein System dient, welche Daten es nutzt, wie ein Mensch beteiligt ist und wie es auf Risiken geprüft wurde. Amsterdams Register ist inzwischen in einem nationalen aufgegangen.

Das Algorithmenregister der niederländischen Regierung startete im Dezember 2022 und führt heute über 1.500 Algorithmen, mit Schwerpunkt auf Systemen mit hoher Wirkung einschließlich Hochrisiko-KI, veröffentlicht von Ministerien, Behörden und Kommunen. Was immer man vom Veröffentlichen hält – die Übung belegt einen engeren und nützlicheren Punkt: Algorithmische Systeme in einer großen, föderal organisierten Struktur aufzuzählen ist machbar. Es ist im nationalen Maßstab getan worden, öffentlich, von Stellen mit deutlich weniger unternehmerischer Freiheit als ein privates Unternehmen.

Eine private Organisation wird fast nie veröffentlichen. Die interne Fassung desselben Dokuments bleibt trotzdem das wertvollste Steuerungsdokument, das den meisten Häusern fehlt.

Was ein Eintrag enthalten muss

Ein Bestandsverzeichnis nützt nur, wenn jede Zeile die Fragen beantwortet, die unter Druck gestellt werden. Neun Felder decken nahezu jeden Fall ab.

• Was es tut, in Betriebssprache. Nicht „Machine-Learning-Plattform“, sondern „priorisiert eingehende Schadenfälle für die Zuteilung“.
• Wer es verantwortet. Eine benannte Person mit Befugnis zur Änderung oder Abschaltung – kein Team, kein Gremium.
• Welche Entscheidung es beeinflusst, und ob ein Mensch prüft, bevor das Ergebnis wirksam wird.
• Welche Daten hineingehen, einschließlich der Frage, ob es personenbezogene Daten sind und auf welcher Rechtsgrundlage.
• Wo das Modell läuft und wer der Anbieter ist.
• Welche Version im Einsatz ist und wie eine Änderung daran Sie erreichen würde.
• Welche Belege für die Funktionsfähigkeit vorliegen – eine Auswertung, eine Stichprobe, eine Anbieterzusage oder nichts, was eine zulässige Antwort ist, solange sie festgehalten wird.
• Was passiert, wenn es falsch liegt, beschrieben als Folge für einen Menschen oder das Geschäft, nicht als Schwerestufe.
• Wann zuletzt geprüft wurde.

Widerstehen Sie dem Reflex, gleich zu Beginn eine Risikobewertung anzuhängen. Bewertungen provozieren Streit über Maßstäbe, bevor die Liste überhaupt vollständig ist – und die Liste ist das Wertvolle.

Wie Sie finden, was Sie bereits betreiben

Teams um Selbstauskunft zu bitten, erzeugt die Liste, die Sie ohnehin hatten. Fünf Quellen liefern den Rest.

• Einkaufs- und Finanzunterlagen. Durchsuchen Sie vierundzwanzig Monate Lieferantenausgaben nach KI-Werkzeugen und nach Verlängerungen, bei denen ein bestehendes Produkt KI-Funktionen ergänzt hat.
• Release Notes der Anbieter. Lesen Sie für die zwanzig betrieblich wichtigsten Systeme nach, was im letzten Jahr ausgeliefert wurde. Hier findet sich die meiste nicht erfasste KI.
• Identitäts- und Zugriffsprotokolle. Single Sign-on und Ausgabendaten zeigen, bei welchen Diensten sich Menschen tatsächlich anmelden – auch bei denen, die niemand gemeldet hat.
• Änderungsunterlagen. Schnittstellen zu Kernsystemen werden meist dokumentiert, selbst wenn die dahinterliegende Fähigkeit es nicht ist.
• Ein Gespräch mit jeder operativen Leitung. Kein Formular. Fragen Sie, was in ihrem Ablauf inzwischen einen Vorschlag, eine Rangfolge, eine Bewertung oder einen Entwurf erzeugt – und wer darauf handelt.

Rechnen Sie damit, dass der erste ehrliche Durchgang zwei- bis fünfmal so viele Systeme zutage fördert wie erwartet. Das ist das normale Ergebnis und der Sinn der Übung.

Was mit der Liste zu tun ist

Steuern Sie nicht alles gleich. Sortieren Sie nach Folgen: Was geschieht einer Kundin, einem Beschäftigten oder einer Pflicht, wenn dieses System falsch liegt? Die meisten Einträge erweisen sich als Bequemlichkeiten mit geringen Folgen, die eine verantwortliche Person und ein Prüfdatum brauchen und sonst nichts. Eine kleine Zahl wirkt auf Entscheidungen über Menschen – Kredit, Beschäftigung, Anspruch, Preis, Zugang zu einer Leistung – und verdient echte Arbeit.

Diese Sortierung ist zugleich die Eingangsgröße für fast alles Weitere. Sie bestimmt, was in den Anwendungsbereich des EU-Rechtsrahmens für KI fällt, der Pflichten an die Verwendung knüpft und nicht an die Technik. Sie bestimmt, was ein Managementsystem nach ISO/IEC 42001 abdecken würde. Und sie ist die Map-Funktion des NIST AI Risk Management Framework, das Aufzählung und Kontext bewusst vor Messung und Steuerung stellt – aus dem schlichten Grund, dass die beiden anderen ohne sie unbestimmt sind.

Es ist außerdem das Dokument, das einen Due-Diligence-Fragebogen beantwortet, ein Antragsformular eines Versicherers, eine Sicherheitsprüfung durch einen Kunden oder die erste Frage einer Aufsicht. Solche Anfragen kommen häufiger, und schnell antworten die Häuser, die das erledigt haben, bevor sie gefragt wurden.

Zwei Wochen, kein Programm

Dafür braucht es keinen Lenkungsausschuss. Eine Person mit Zugang zu Einkaufsunterlagen und der Erlaubnis, direkte Fragen zu stellen, erstellt in etwa zwei Wochen ein belastbares erstes Verzeichnis. Fassung eins wird unvollständig sein; veröffentlichen Sie sie intern trotzdem, denn eine unvollständige Liste zieht die Korrekturen an, die ein leeres Blatt nie bekommt.

Setzen Sie dann ein Prüfdatum und halten Sie es ein. Ein einmal zutreffendes Verzeichnis ist ein Dokument. Ein vierteljährlich zutreffendes Verzeichnis ist eine Kontrolle.

Wenn Sie das unabhängig und zügig erledigt haben möchten: Es ist der übliche erste Schritt der Arbeit am KI-Bestand, zugeschnitten als Bestandsaufnahme.

Dieser Beitrag ist eine Adaption des englischen Originals. Im Zweifel gilt die englische Fassung.