Was bedeutet "Human-in-the-Loop"?
Seminarempfehlung
18-20 November 2025
Heidelberg, Germany
GMP and FDA Compliance in Pharmaceutical Development and IMP Manufacturing
Melden Sie sich jetzt an für
den kostenlosen GMP-Newsletter
Der neu vorgeschlagene EU-GMP Annex 22 zu künstlicher Intelligenz (KI) legt Anforderungen für den Einsatz von KI und maschinellem Lernen (ML) bei der Herstellung von Wirkstoffen und Arzneimitteln fest. Er enthält Vorgaben für die Auswahl, Schulung und Validierung von KI-Modellen. Das Dokument betont das Konzept "Human-in-the-Loop". Was bedeutet das?
Human-in-the-Loop (HITL)
Der Entwurf gilt nicht für generative KI und große Sprachmodelle (LLMs), da diese in kritischen GMP-Bereichen nicht eingesetzt werden sollten. Wenn sie jedoch in nicht-kritischen GMP-Anwendungen eingesetzt werden, die keinen direkten Einfluss auf die Patientensicherheit, die Produktqualität oder die Datenintegrität haben, muss durch entsprechend qualifiziertes und geschultes Personal sichergestellt werden, dass die Ergebnisse dieser Modelle für den vorgesehenen Zweck geeignet sind. Insbesondere gilt Folgendes:
- Wenn ein Modell zur Unterstützung einer menschlichen Entscheidung verwendet wird, sollte die Beschreibung der beabsichtigten Verwendung die Verantwortlichkeiten des Mitarbeiters enthalten. In diesem Fall sollten die Schulung und die konsistente Leistung des Mitarbeiters wie bei jedem anderen manuellen Prozess überwacht werden.
- Wenn ein Modell zur Unterstützung der Entscheidung eines Mitarbeiters verwendet wird, sollten Aufzeichnungen über diesen Prozess geführt werden. Je nach Kritikalität des Prozesses und Testniveau des Modells kann dies eine konsistente Überprüfung und/oder Testung jeder Modellausgabe gemäß einem Verfahren (menschliche Überprüfung) bedeuten.
Weitere Informationen finden Sie im Entwurf des EU-GMP Annex 22: Künstliche Intelligenz.
