Einsatz von KI-Agenten führt zum 1. FDA Warning Letter mit Bezug zu KI
Seminarempfehlung
2./3. Juni 2026
Melden Sie sich jetzt an für
den kostenlosen GMP-Newsletter
In dem Warning Letter an die Firma Purolea Cosmetics Lab vom 02.04.2026 bemängelte die FDA den unangemessenen Gebrauch von KI-Agenten in der Pharmazeutischen Herstellung. Das Unternehmen hat in der Zwischenzeit ihre Arzneimittelproduktion eingestellt hat.
Welche Punkte wurden bemängelt?
1. Während der FDA-Inspektion gab die Firma gegenüber den FDA-Inspektoren an, KI-Agenten eingesetzt haben, um bei der Einhaltung der FDA-Vorschriften zu helfen. Konkret wurde die KI benutzt, um Arzneimittelspezifikationen, Verfahrensanweisungen sowie Herstell- und Prüfprotokolle (Master production or control records) zu erstellen, die den FDA-Anforderungen entsprechen.
Anscheinend wurden diese von der KI erzeugten Dokumente ohne weitere Prüfung verwenden. Die FDA erwartet hier von Purolea, soweit die KI als Hilfsmittel bei der Dokumentenerstellung eingesetzt wird, diese erzeugten Dokumente zu überprüfen, um sicherzustellen, dass sie korrekt sind und tatsächlich den CGMP-Anforderungen entsprechen. Diese fehlende Prüfung stellt einen Verstoß gegen 21 CFR 211.22(c) dar.
2. Weiterhin bemängelte man die übermäßige Abhängigkeit von der KI bei Prozessen der Arzneimittelherstellung. Beispielsweise stellten die FDA-Inspektoren die fehlende Prozessvalidierung gemäß 21 CFR 211.100 vor dem Vertrieb der Arzneimittel fest. Die Antwort des Unternehmens erscheint kurios; "es seien keine entsprechenden gesetzlichen Anforderungen bekannt, da der eingesetzte KI-Agent nie mitgeteilt hatte, dass dies erforderlich sei".
Aufgrund der Einstellung der Arzneimittelproduktion hatten diese Mängel keine weitergehenden Konsequenzen. Im Falle deren Wiederaufnahme und dem Einsatz von KI zur Unterstützung von CGMP-Aktivitäten, müssen alle Ergebnisse oder Empfehlungen eines KI-Agenten von einem autorisierten menschlichen Vertreter der Qualitätsabteilung (QU - Quality Unit) des Unternehmens gemäß Abschnitt 501(a)(2)(B) des FD&C Act geprüft und freigegeben werden. Siehe auch 21 CFR 211.22; 21 CFR 211.100
Fazit:
Die FDA kritisierte die "blinde" Verwendung von KI und erwartet den "Human-in-the-loop" (= Human KI Oversight?)
