Wie man KI zur Beantwortung von Inspektionsberichten (nicht) einsetzen kann

In einem aktuellen Blog hat die MHRA Beispiele für Antworten auf Inspektionsberichte beschrieben, die durch künstliche Intelligenz (KI) generiert wurden.

Auch wenn die Nutzung von KI Vorteile bieten kann, wie z. B. komplexe technische Sachverhalte zu verdeutlichen, konsistente Antworten zu liefern und die routinemäßige Erstellung von Entwürfen zu beschleunigen, wurden der Behörde auch Antworten auf Inspektionsberichte vorgelegt, die den Anforderungen nicht genügen und zum Teil alarmierende Fehler enthielten. Als Beispiele werden beschrieben:

• Verweise auf nichtexistierende MHRA-Leitlinien
• Zitate aus ungeeigneten regulatorischen Rahmenwerken
• Antworten auf schwerwiegende Mängel, die in die Irre führen, anstatt die zugrunde liegenden Probleme anzugehen.

So umfasste beispielsweise eine bei der MHRA eingegangene Antwort auf eine Inspektion insgesamt über 90 Seiten und ging nicht auf die festgestellten Mängel ein. Dies führte zu einem unverhältnismäßigen Aufwand an Zeit für Prüfung und Beantwortung.
In mindestens einem Fall enthielt eine KI-generierte Antwort auf einen schwerwiegenden Mangel wesentliche Ungenauigkeiten. Der Inhalt dieser Antwort erforderte eine Überprüfung durch multidisziplinäre Teams. Der Zeitaufwand für die Prüfung und Beantwortung stieg hierbei von etwa 4 Stunden auf über 20 Stunden an.

Laut MHRA hat sich der unsachgemäße Einsatz von KI zu einem tatsächlichen, realisierten Risiko entwickelt.

Grundsätzlich sind die Unternehmen für die Richtigkeit ihrer Antworten verantwortlich. Falsche Angaben gegenüber Inspektoren oder der Behörde gelten als Verstöße gegen regulatorische Vorschriften. Diese Verantwortlichkeiten ändern sich nicht, nur weil sich die Tools zur Erstellung von Unterlagen geändert haben.

Der MHRA geht es nicht darum, ob KI eingesetzt wird oder nicht, sondern darum, dass die Antworten korrekt, überprüfbar und unter angemessener Aufsicht erstellt wurden. Die Behörde verlangt hierbei, dass alle Einreichungen/Antworten

• sachlich korrekt und überprüfbar sind,
• von Personen mit entsprechender Fachkompetenz technisch geprüft werden,
• von einer Person mit Entscheidungsbefugnis und Verantwortlichkeit abgezeichnet werden,
• durch Belege für sachliche Aussagen untermauert sind,
• dem jeweiligen regulatorischen Kontext angemessen sind.

Die MHRA bietet nun an, den Einsatz von KI in Antworten an die Compliance-Teams offenzulegen. Dies ist nicht verpflichtend, soll aber der Transparenz zugutekommen. Wie das aussehen kann wird näher im Blog beschrieben.

KI-unterstützte Festlegung von Maßnahmen:
In Rückmeldungen auf Inspektionsberichte sollten auch wirksame Korrektur- und Vorbeugungsmaßnahmen (CAPA) festgelegt werden. Diese basieren auf der Ermittlung der tatsächlichen Ursachen, die verhältnismäßige Bewertung der Auswirkungen, die Umsetzung von Maßnahmen, sowie die Überprüfung ihrer Wirksamkeit. KI-Tools können Teile dieses Prozesses unterstützen, können jedoch das technische Verständnis und das organisatorische Wissen nicht ersetzen, die hierfür erforderlich sind, so die MHRA.

Es bleibt noch zu ergänzen, dass wenn die KI die Antwort zusammenstellt, niemand im Unternehmen aus den Beobachtungen etwas lernen wird. Und wenn dann Aufsichtsbehörden beginnen, KI zur Erstellung ihrer Inspektionsberichte einzusetzen, haben wir eine Situation, in der auf KI-Inspektionsberichte mit KI-Antworten reagiert wird.