KI in der regulierten Pharmadokumentation: jede Aussage braucht eine belegbare Spur

Im regulierten Umfeld ist das Ergebnis nicht das Dokument. Das Ergebnis ist die Fähigkeit, dieses Dokument Jahre später zu verteidigen — zu zeigen, woher jede Aussage stammt, wer sie geprüft hat und was zum Zeitpunkt der Erstellung galt.

Das verändert die Beurteilung generativer Werkzeuge vollständig. Die Frage ist nicht, wie schnell der Entwurf entsteht, sondern ob die Spur unversehrt bleibt.

Welche Anwendungen realistisch sind

Über den Lebenszyklus des Arzneimittels hinweg sind die nützlichen Anwendungen enger als die Werbung und nützlicher als die Skepsis vermuten lässt: Quellmaterial in einen strukturierten Entwurf zusammenfassen, ein Dokument gegen eine Vorlage oder Stilvorgabe prüfen, Widersprüche zwischen zusammenhängenden Dokumenten finden, Präzedenzfälle aus früheren Einreichungen auffinden und zwischen zugelassenen Sprachfassungen übersetzen.

Allen gemeinsam ist ein überprüfbares Ergebnis. Eine Zusammenfassung lässt sich mit der Quelle vergleichen. Ein Widerspruch lässt sich bestätigen oder verwerfen. Anwendungen, deren Ergebnis gegen nichts Bestimmtes geprüft werden kann, erzeugen Risiko ohne entsprechenden Nutzen.

Was die Aufsicht sagt

Das Reflexionspapier der Europäischen Arzneimittel-Agentur zum Einsatz künstlicher Intelligenz im Lebenszyklus von Arzneimitteln formuliert zwei klare Erwartungen: Intransparente Architekturen bringen Risiken für die Patientensicherheit und die Integrität klinischer Studien mit sich, und Massnahmen gegen Verzerrungen müssen aktiv erfolgen, nicht unterstellt werden. Die zugehörige wissenschaftliche Leitlinie entfaltet den Ansatz nach Phasen des Lebenszyklus.

Parallel gilt Verordnung (EU) 2024/1689 unabhängig vom sektoralen Recht. Eine Anwendung, die die Erstellung von Dokumentation unterstützt, ist in der Regel nicht für sich hochriskant, aber die Beurteilung muss vorgenommen und festgehalten werden, nicht stillschweigend angenommen. Der Rahmen des KI-Gesetzes und die Leitlinien zu Hochrisikosystemen sind der Ausgangspunkt.

Automatisierungsbias ist ein belegtes Risiko, keine Schulungsfrage

Ein flüssiger, gut strukturierter Entwurf, der selbstsicher falsch ist, lässt sich schwerer prüfen als ein roher. Die Prüfung maschinell erzeugten Textes findet durchweg weniger Fehler als die Prüfung menschlicher Entwürfe gleicher Qualität, weil Flüssigkeit als Kompetenz gelesen wird und die Prüfung zum Korrekturlesen verkommt.

Gestalten Sie dagegen an, statt dagegen zu schulen. Zeigen Sie die Quellenstelle neben jeder erzeugten Aussage, damit geprüft und nicht erinnert wird. Verlangen Sie eine ausdrückliche Bestätigung von Zahlenwerten gegen die Quelle statt ihrer Übernahme im Fliesstext. Ziehen Sie unabhängige Stichproben aus fertigen Dokumenten, gezogen von jemandem, der die Erstprüfung nicht vorgenommen hat, und verfolgen Sie die Fehlerquote über die Zeit. Ist sie über eine grosse Stichprobe nicht von null zu unterscheiden, deutet das eher auf eine schwache Stichprobe hin als auf einen perfekten Prozess.

Beginnen Sie dort, wo die Quelle bereits kontrolliert ist

Die besten ersten Kandidaten sind Dokumente aus Material, das bereits versioniert und freigegeben ist — eine Zusammenfassung aus einem gesperrten Studienbericht, ein Abschnitt auf Basis einer freigegebenen Prüferinformation, eine Übersetzung eines zugelassenen Textes in eine andere zugelassene Sprache. Die Herkunftsfrage ist geklärt, bevor das Werkzeug beteiligt ist.

Die schlechtesten ersten Kandidaten sind Dokumente, die aus unkontrollierten Quellen synthetisieren: Arbeitstabellen, Mailverläufe, Entwürfe unterschiedlicher Reife. Genau dort wirkt der Erstellungsaufwand am schwersten, weshalb Teams zuerst danach greifen. Dort ist ein erzeugtes Dokument aber auch am schwersten zu verteidigen, weil der Nachweis nicht zeigen kann, worauf sich der Autor tatsächlich gestützt hat.

Übersetzung zwischen zugelassenen Sprachfassungen ist ein Sonderfall

Die Übersetzung wirkt wie die sicherste Anwendung und ist es in gewisser Weise auch — die Quelle ist freigegeben, die Aufgabe begrenzt, das Ergebnis überprüfbar. Gerade deshalb lohnt der Blick darauf, was genau geprüft wird.

Das Risiko liegt bei zugelassenen Texten nicht im allgemeinen Sinn, sondern bei Begriffen mit festgelegter Bedeutung: Bezeichnungen von Endpunkten, Dosierungsangaben, Kategorien unerwünschter Ereignisse, standardisierte Terminologie. Ein auf allgemeinem Text trainiertes Modell bevorzugt die natürlich klingende Variante gegenüber der zugelassenen — und genau dieser Unterschied zählt bei einer Prüfung.

Tragfähig ist ein Glossar fester Entsprechungen, das als Einschränkung wirkt und nicht als Vorschlag, ergänzt um die Prüfung, dass alle festgelegten Begriffe im Ergebnis vorkommen. Damit wird aus freier Übersetzung ein kontrolliertes Befüllen, das sich leichter validieren und leichter verteidigen lässt.

Validiert wird der Prozess, nicht das Modell

Computergestützte Systeme im regulierten Umfeld werden gegen eine Zweckbestimmung und gegen festgelegte Anforderungen validiert. Ein Sprachmodell, dessen Verhalten sich bei Aktualisierungen ändert, passt schlecht in eine einmalige Validierung. Tragfähig ist die Validierung des Prozesses um das Modell herum: die kontrollierten Eingaben, die verpflichtenden Prüfungen, die Nachweise und die Regeln, nach denen ein Ergebnis verworfen wird.

Dazu gehört die Kontrolle über Änderungen. Legen Sie fest, wer den Wechsel auf eine neue Modellversion freigibt, welcher Satz von Dokumenten dabei neu erzeugt und verglichen wird und wer die Vorgängerversion zurückholen darf. Ohne diese Kontrolle verändert sich das System stillschweigend zwischen zwei Audits.

Was der Nachweis enthalten muss

Soll ein Dokument Jahre später verteidigt werden, muss der Nachweis sechs Elemente enthalten: welches Quellmaterial in welcher Fassung; welches Werkzeug in welcher Version; was erzeugt wurde; was die prüfende Person geändert hat; wer wann freigegeben hat; und auf welcher Grundlage jeder Wert übernommen wurde, der sich nicht unmittelbar aus der Quelle ergibt.

Am häufigsten fehlt das vierte Element. Viele Umsetzungen halten Ergebnis und Freigabe fest, aber nicht die Differenz dazwischen. Diese Differenz ist die nützlichste Information im ganzen Nachweis — sie zeigt, wo das System systematisch irrt, und ob die Prüfung tatsächlich wirkt.

Verfolgen Sie zudem Änderungen am Werkzeug. Wird die Version ohne Aufzeichnung aktualisiert, sind vor und nach der Aktualisierung erstellte Dokumente nicht vergleichbar — und diese Erklärung wird bei einer Inspektion verlangt, nicht davor.

Klären Sie zuerst, wer die Verantwortung trägt

Vor der technischen steht die organisatorische Frage: Wer unterzeichnet das Dokument. Im regulierten Umfeld ist die Verantwortung persönlich und ändert sich nicht dadurch, dass ein Teil des Textes erzeugt wurde. Der Einsatz eines Werkzeugs muss der unterzeichnenden Person deshalb bekannt sein und darf keine Entscheidung des erstellenden Teams allein sein.

Praktisch heisst das, im Prozess auszuweisen, welche Abschnitte durch Generierung entstanden sind, damit die Prüfung ihre Aufmerksamkeit verteilen kann. Verdeckte Nutzung ist riskanter als offene — nicht weil sie verboten wäre, sondern weil sie der unterzeichnenden Person die Information vorenthält, die sie zur bewussten Übernahme der Verantwortung braucht.

Eine organisatorische Vorbedingung wird oft übersehen: Der Nachweis muss ausserhalb des Werkzeugs bestehen können. Wird der Dienst gewechselt oder eingestellt, dürfen die Belege für bereits eingereichte Dokumente nicht mit ihm verschwinden. Praktisch heisst das, den Nachweis in die eigene Dokumentenverwaltung zu schreiben und nicht im Protokoll des Anbieters zu belassen — und diese Anforderung gehört in den Vertrag, bevor die erste Einreichung damit erstellt wird.

Personenbezogene und Studiendaten

Ein grosser Teil des Quellmaterials enthält personenbezogene oder Gesundheitsdaten, womit die Anwendung vollständig unter die Datenschutz-Grundverordnung fällt. Die Leitlinien des Europäischen Datenschutzausschusses und die Orientierungshilfen der Datenschutzkonferenz setzen den Rahmen für Folgenabschätzung und grenzüberschreitende Verarbeitung.

Was dieser Ansatz nicht leisten kann

Das Werkzeug verringert die regulatorische Verantwortung nicht und ersetzt die Fachperson nicht. Es verschiebt die Arbeit vom Erstellen zum Prüfen, was bei den schwierigen Stellen mehr und nicht weniger Fachkenntnis verlangt. Es verbessert auch die Qualität des Quellmaterials nicht: Ist das Protokoll widersprüchlich oder sind die Daten unvollständig, präsentiert der erzeugte Entwurf dieses Problem nur in überzeugenderer Form.

Wenn Sie generative Werkzeuge in einem regulierten Dokumentenprozess erwägen, beginnen Sie mit dem Nachweis an einer kontrollierten Quelle.

Dieser Beitrag ist eine Adaption des englischen Originals. Im Zweifel gilt die englische Fassung.