Welche Anforderungen stellt der neue Annex 22 an das Personal?

Am 7. Juli 2025 veröffentlichte die EU-Kommission den Entwurf zum Annex 22 "Artificial Intelligence" zusammen mit der Neufassung des Kapitels 4 "Documentation" des EU GMP-Leitfadens.

Der Annex 22 legt Anforderungen für den Einsatz von KI und maschinellem Lernen bei der Herstellung von Wirkstoffen und Arzneimitteln fest und enthält Vorgaben über die Auswahl, das Training und die Validierung von KI-Modellen. Er sieht eine kontinuierliche Überwachung von KI-Systemen vor, einschließlich Änderungskontrolle, Überwachung der Modellleistung und Verfahren für eine Überprüfung durch den Menschen, falls erforderlich. Welche Aufgaben und Verantwortlichkeiten haben die Mitarbeiter im Umgang mit Künstlicher Intelligenz nun im Einzelnen?

In den 10 Kapiteln werden folgende Anforderungen formuliert:

Kapitel 2, "Principles",  Abschnitt 2.1 "Personnel"

• Die Miterbeiter müssen die vorgesehene Verwendung und die damit verbundenen Risiken des KI-Modells im GMP-Umfeld verstehen. Dazu ist die enge Zusammenarbeit mit anderen Abteilungen bei der Auswahl der Algorithmen, dem Training, der Validierung, der Prüfung und der Inbetriebnahme des Modells erforderlich, z.B. mit Mitarbeitern der QA, IT, mit Beratern und Datenspezialisten.
• Die Mitarbeiter müssen eine entsprechende Qualifikation (Schulung) und genau definierte Verantwortlichkeiten haben.

Kapitel 3, "Indented Use", Abschnitt 3.3. "Human-in-the-Loop"

• Das Training und die konstante Leistung des Mitarbeiters, der seine Entscheidungen mit KI-Unterstützung trifft, müssen fortlaufend aufgezeichnet und dokumentiert werden.

Kapitel 6, "Test Data Independency", Abschnitt 6.5. "Staff independency"

• Mitarbeiter, die Zugang zu Testdaten hatten, dürfen nicht am Training und der Validierung desselben Modells beteiligt sein. Falls es nicht möglich ist, diese Unabhängigkeit aufrechtzuerhalten, sollte ein Mitarbeiter, der Zugang zu Testdaten für ein Modell hatte, nur dann Zugang zu Training und Validierung desselbsen Modells erhalten, wenn er mit einem Kollegen zusammenarbeitet, der diesen Zugang nicht hatte (4-Augen-Prinzip).

Kapitel 10, "Operation", 10.5. "Human review"

• Es sind Aufzeichnungen bzw. Protokolle zu erstellen, wenn der Output eines Modell als Entscheidungshilfe für einen Mitarbeiter verwendet wird und der Testaufwand für dieses Modell reduziert wurde. Je nach Kritikalität des Prozesses und der Grad der Testung dieses Modells muss eine konstante Überprüfung dieses Outputs durch den Menschen gemäß eines festgelegten Verfahrens erfolgen.