KI in GMP- und MedTech-Unternehmen: Welche Regelwerke greifen – und wann ist eine Validierung erforderlich?

In der QA entsteht ein Abweichungsbericht mit Unterstützung eines Chatbots. In der Produktion fasst KI Informationen zusammen oder bereitet eine qualitätsrelevante Bewertung vor. Manche Anwendungen sind freigegeben. Andere werden ohne abgestimmten Freigabeprozess als „Shadow AI“ genutzt.

Für die regulatorische Einordnung zählt, wofür die KI tatsächlich verwendet wird. Ebenso wichtig ist, welchen Einfluss ihre Ergebnisse auf Aufzeichnungen, Bewertungen und Entscheidungen haben. Die Bezeichnung „Assistent“ und die interne Freigabe eines KI-Tools beantworten diese Fragen noch nicht.

Dieser Beitrag verbindet Erkenntnisse aus der „2nd Annex 22 / AI Conference“ am 7. und 8. Oktober 2026 in Kopenhagen mit den geltenden regulatorischen Anforderungen und einschlägigen Leitlinien. Im Mittelpunkt stehen die Beiträge von Ib Alstrup und Victor Bechmann zur Einordnung von KI-Anwendungen aus Sicht der GMP-Inspektion.

Der Schwerpunkt liegt auf GMP-Tätigkeiten in der Pharmaindustrie sowie auf KI-Anwendungen in der Medizintechnik im EU- und deutschen Rechtsraum. GCP, GLP, GDP und Pharmakovigilanz werden nicht vertieft behandelt. Für diese Bereiche und für den US-Markt ist eine gesonderte regulatorische Einordnung erforderlich. Die Aussagen zu Annex 11 beziehen sich auf dessen GMP-Anwendungsbereich.

Welche KI-Anwendungen sind gemeint?

KI-Anwendungen können sehr unterschiedliche Aufgaben übernehmen. Ein Modell kann beispielsweise Bilder auswerten und Fehlerklassen zuordnen. Generative KI erzeugt dagegen Inhalte wie Texte oder Bilder. Zu ihr gehören auch große Sprachmodelle, sogenannte Large Language Models oder LLMs, die häufig über eine Chatoberfläche genutzt werden.

Machine Learning ist ein Teilgebiet der KI. Auch heutige LLMs beruhen auf Machine Learning. Die Begriffe bezeichnen daher keine voneinander getrennten Kategorien. Für diesen Beitrag meint „KI-Anwendung“ die eingesetzte Software einschließlich ihrer KI-Funktion. Welche Anforderungen greifen, hängt von dieser Funktion und ihrem Einsatz im geregelten Prozess ab.

Wann eine KI-Anwendung GxP-relevant wird

Für die GxP-Einordnung ist zunächst entscheidend, ob die KI-Anwendung eine geregelte Tätigkeit unterstützt oder übernimmt. Anschließend ist ihr möglicher Einfluss auf Produktqualität, Patientensicherheit und Datenintegrität zu beurteilen. Die bloße Nutzung in einem Pharma- oder Medizintechnikunternehmen reicht für diese Einordnung nicht aus.

Für GMP-Tätigkeiten ist insbesondere Annex 11 maßgeblich, der computergestützte Systeme in diesem Anwendungsbereich erfasst. In der Medizintechnik sind die Anforderungen an das Produkt und die Anforderungen an Software in Produktions-, Prüf- und QMS-Prozessen getrennt zu betrachten. Die jeweiligen Grundlagen werden in den folgenden Abschnitten erläutert. Annex 11, Grundsatz und Abschnitt 1, MDR, Artikel 10 Absatz 9 und Anhang I, ISO 13485:2016

Die Bedeutung des Verwendungszwecks wurde auch auf der Konferenz diskutiert. Ib Alstrup und Victor Bechmann, beide Inspektoren der dänischen Arzneimittelbehörde, stellten dabei den Einfluss der KI auf fachliche Entscheidungen in den Mittelpunkt. Alstrup ist Vorsitzender und Rapporteur der Entwurfsgruppe für Annex 11 und Annex 22, Bechmann ist Co-Rapporteur.

Für die Einordnung sind der vorgesehene Verwendungszweck, der Intended Use, und die tatsächliche Nutzung gemeinsam zu betrachten. Eine KI-Software kann für allgemeine Büroaufgaben freigegeben sein und dennoch für eine GMP-relevante Bewertung verwendet werden. Entscheidend ist deshalb auch, wofür ihre Ergebnisse im Arbeitsprozess eingesetzt werden.

Aus den Ausführungen der Referenten lassen sich vier Leitfragen für die Einordnung einer KI-Anwendung ableiten:

• Welche Tätigkeit unterstützt oder übernimmt die KI?
• Wie stark hängt die fachliche Entscheidung vom KI-Ergebnis ab?
• Werden die Ergebnisse für GxP-relevante Aufzeichnungen, Bewertungen oder Prozessentscheidungen verwendet?
• Welche Folgen hätte ein fehlerhaftes Ergebnis für Produktqualität, Patientensicherheit oder Datenintegrität?

Für die Kritikalität betrachten Alstrup und Bechmann insbesondere, wie stark das Modell eine Entscheidung beeinflusst und welche Folgen eine Fehlentscheidung haben kann. Diese Betrachtung hilft, die Bedeutung der KI-Funktion innerhalb eines GMP-Prozesses einzuschätzen. Sie ersetzt jedoch nicht die Prüfung, welche regulatorischen Anforderungen auf die konkrete Anwendung anwendbar sind.

Eine menschliche Freigabe hebt die GxP-Relevanz nicht automatisch auf. Auch ein unterschriebener Bericht kann fachlich wesentlich auf einer KI-Ausgabe beruhen. Entscheidend ist, welche Beurteilung der Anwender selbst vornimmt und wie stark er sich auf die KI verlässt.

Mit Risiko sind hier mögliche Beeinträchtigungen von Produktqualität, Patientensicherheit und Datenintegrität gemeint. Zu berücksichtigen sind die möglichen Folgen eines Fehlers und die Wahrscheinlichkeit, dass daraus ein Schaden entsteht. Besteht eine Validierungspflicht, beeinflusst dieses Risiko den erforderlichen Umfang der Validierung und ihrer Nachweise. Ein geringes Risiko hebt die Pflicht jedoch nicht automatisch auf. ICH Q9(R1), Abschnitte 3 und 4

KI in GMP-Prozessen der Pharmaindustrie

Wird KI für eine GMP-geregelte Tätigkeit eingesetzt, gelten die bestehenden GMP-Anforderungen. In Deutschland ist die Gute Herstellungspraxis insbesondere in der AMWHV geregelt. Der EU-GMP-Leitfaden konkretisiert diese Anforderungen. BMG zur GMP

Annex 11 gilt bereits heute

Annex 11 gilt für computergestützte Systeme, die als Teil GMP-geregelter Tätigkeiten eingesetzt werden. Er verlangt die Validierung der Anwendung. KI wird in der geltenden Fassung nicht ausdrücklich genannt. Eine KI-Funktion innerhalb eines solchen Systems ist jedoch Teil der Bewertung.

Die Kommission führt weiterhin die Fassung von Januar 2011 als geltenden Annex 11. Die Validierungspflicht setzt deshalb weder einen finalen Annex 22 noch eine Einstufung als Hochrisiko-KI nach dem AI Act voraus. Der AI Act ist die EU-Verordnung über künstliche Intelligenz. Er regelt das Inverkehrbringen, die Inbetriebnahme und die Verwendung von KI-Systemen und verfolgt dabei einen risikobasierten Ansatz. EU-Kommission zum AI Act Annex 11, Grundsatz und Abschnitt 1, EudraLex Volume 4

Gegenstand der Validierung ist die KI-gestützte Anwendung im computergestützten Gesamtsystem. Maßgeblich ist ihre Eignung für den vorgesehenen GMP-Prozess. Das KI-Modell ist ein Bestandteil dieses Systems.

Die Verifizierung eines KI-Modells ersetzt nicht die Validierung der KI-gestützten Anwendung für ihren vorgesehenen GMP-Einsatz. Das gilt auch für Modelle externer Anbieter oder cloudbasierte Anwendungen. Ein vom Anbieter geprüftes Modell belegt noch nicht die Eignung der konkreten Anwendung im eigenen GMP-Prozess. Auch die bestehenden Anforderungen aus Annex 11 an Lieferanten und Dienstleister sind zu berücksichtigen.

Zwar wird der Annex 11 gerade überarbeitet. Der 2025 veröffentlichte Überarbeitungsentwurf ändert jedoch noch keine geltenden Anforderungen. Die grundlegende Validierungspflicht ist bereits in der Fassung von 2011 enthalten. Konsultation zu Annex 11 und Annex 22

Beispiel 1: Textassistenz im Abweichungsbericht ine Textassistenz in der Form eines Chatbots fasst öffentliche Fachinformationen ausschließlich zur persönlichen Orientierung zusammen. Werden die Ergebnisse nicht für eine GMP-Tätigkeit verwendet, lässt sich daraus keine GMP-Validierungspflicht ableiten.

Bei einem Abweichungsbericht können unter derselben Bezeichnung „Textassistenz“ dagegen unterschiedliche Funktionen liegen:

• Sprachliche Überarbeitung: Sachverhalt und fachliche Bewertung stehen bereits fest. Die KI verbessert die Formulierungen. Auch dabei können Aussagen unbeabsichtigt verändert werden.
• Zusammenfassung: Die KI verdichtet qualitätsrelevante Aufzeichnungen. Auswahl, Auslassungen und Gewichtung können die spätere Bewertung beeinflussen.
• Fachliche Unterstützung: Die KI schlägt Ursachen, Bewertungen oder Korrekturmaßnahmen vor. Übernommene Vorschläge fließen unmittelbar in die fachliche Beurteilung ein.

Die Bezeichnung „Textassistenz“ reicht deshalb für die regulatorische Einordnung nicht aus. Entscheidend ist, ob die Software Formulierungen überarbeitet, Informationen zusammenfasst oder fachliche Bewertungen vorbereitet und wie diese Ergebnisse anschließend verwendet werden.

Auch die menschliche Prüfung ist konkret zu betrachten. Eine Plausibilitätsprüfung des Textes ist etwas anderes als eine eigenständige Beurteilung der Aussagen anhand der zugrunde liegenden Aufzeichnungen und Quellen. Eine abschließende Unterschrift zeigt allein nicht, welche Prüfung stattgefunden hat.

Für Textassistenz besteht daher keine pauschale Ausnahme. Die Einordnung hängt von ihrer Funktion im GMP-Prozess und den Folgen möglicher Fehler ab.

Weitere GMP-Anforderungen hängen von der Aufgabe ab

Für Anlagen und Herstellungsprozesse ist zusätzlich Annex 15 relevant. Greift die KI in einen qualifizierungs- oder validierungsrelevanten Prozess ein, ist auch dieser Bezug zu beurteilen. Systemvalidierung und Prozessvalidierung betreffen unterschiedliche Gegenstände. Annex 15 verweist für computergestützte Systeme ausdrücklich auf Annex 11. Annex 15, Grundsatz

Annex 11 behandelt die computergestützte Anwendung. Je nach Aufgabe können daneben Anforderungen an den Herstellungsprozess, das Inspektionsverfahren oder die analytische Methode greifen.

In der Wirkstoffherstellung fordert EU-GMP Part II, Abschnitt 5.40, ausdrücklich die Validierung GMP-bezogener computergestützter Systeme. Die Anwendung von KI ändert diesen Ausgangspunkt nicht. Ganz im Gegenteil, beim Einsatz von KI können noch weitere Anforderungen greifen. EU-GMP Part II, Abschnitt 5.4 Für automatisierte visuelle Inspektionsverfahren steriler Arzneimittel enthält Annex 1 eigene Anforderungen. Abschnitt 8.32 verlangt die Validierung des Inspektionsverfahrens. Eine KI-Funktion ist entsprechend ihrem Beitrag zu diesem Verfahren einzuordnen. Annex 1, Abschnitt 8.32

Beispiel 2: KI-gestützte visuelle Inspektion Ein Modell wertet Bilder in einem reinen Entwicklungsversuch aus. Seine Ergebnisse werden weder für GMP-Entscheidungen noch als GMP-Nachweis verwendet. Für diesen Einsatz lässt sich keine Validierungspflicht nach Annex 11 ableiten.

Steuert das Modell später die Aussortierung von Vials in der automatisierten visuellen Inspektion, ändert sich die Einordnung. Dann sind sowohl die Anforderungen an das computergestützte System als auch an das Inspektionsverfahren maßgeblich.

Ist ein KI- oder ML-Modell Bestandteil eines analytischen Verfahrens, sind auch die Anforderungen an dieses Verfahren zu betrachten. EU-GMP Kapitel 6, Abschnitt 6.15, verlangt die Validierung analytischer Methoden. ICH Q2(R2) konkretisiert diese Anforderung. ICH Q14 ergänzt die Entwicklung und den Lebenszyklus, einschließlich multivariater Verfahren. Ihr Anwendungsbereich umfasst insbesondere Verfahren für Freigabe- und Stabilitätsprüfungen. Daraus folgt aber keine allgemeine zusätzliche Validierungspflicht für jede KI-gestützte Textassistenz, wie ein Chatbot, in der QC. EU-GMP Kapitel 6, Abschnitt 6.15, ICH Q2(R2, ICH Q14, Abschnitte 1.1 und 1.2

Datenintegrität bleibt Teil der Einordnung

Erzeugt, verändert oder verdichtet eine KI-Anwendung GMP-relevante Daten, ist ihr Einfluss auf die Datenintegrität zu berücksichtigen. Bei Zusammenfassungen können Informationen verloren gehen oder Zusammenhänge verändert werden. Generierte Aussagen können außerdem wie belegte Feststellungen wirken, obwohl sie durch die zugrunde liegenden Aufzeichnungen nicht gestützt sind.

Deshalb bleiben Datenherkunft, Vollständigkeit und die Nachvollziehbarkeit von Bearbeitungen wesentlich. Die ALCOA++-Grundsätze gelten auch für KI-verarbeitete GMP-Daten: Aufzeichnungen müssen zuordenbar, lesbar, zeitnah, original und richtig sowie vollständig, konsistent, dauerhaft, verfügbar und rückverfolgbar sein. Welche Eingaben, Ausgaben und Bearbeitungsschritte als GMP-Aufzeichnungen einzuordnen sind, hängt von ihrer Funktion im Prozess ab.

PIC/S PI 041-1 erläutert hierzu bestehende GMP/GDP-Erwartungen, unter anderem zu Datenherkunft, Metadaten und Audit Trails. Die Guidance schafft keine eigenständige neue gesetzliche Pflicht. KI-spezifische Ergänzungen im Entwurf von Annex 22 bauen auf diesen bestehenden Anforderungen auf. PIC/S PI 041-1, Abschnitte 5, 7 und 9

Annex 22 ist weiterhin ein Entwurf

Mit Annex 22 soll der EU-GMP-Leitfaden einen eigenen Anhang zum Einsatz künstlicher Intelligenz erhalten. Der veröffentlichte Entwurf betrifft durch Daten trainierte ML-Modelle in kritischen GMP-Anwendungen der Arzneimittel- und Wirkstoffherstellung. Sein Anwendungsbereich ist auf statische Modelle mit deterministischen Ausgaben begrenzt.

Inhaltlich behandelt der Entwurf unter anderem den Verwendungszweck, Akzeptanzkriterien, die Eignung und Unabhängigkeit von Testdaten sowie die Beurteilung der Modellergebnisse und den späteren Einsatz. Er soll die Anforderungen aus Annex 11 um KI-spezifische Aspekte ergänzen. Die bereits bestehende Pflicht zur Validierung der computergestützten Anwendung hängt jedoch nicht von seiner Finalisierung ab. Entwurf Annex 22, Abschnitte 1 bis 10

Statische Modelle lernen während der Nutzung nicht selbstständig weiter. Deterministische Modelle liefern bei identischen Eingaben identische Ausgaben.

Dynamische und probabilistische Modelle sowie generative KI und LLMs sind vom beschriebenen Anwendungsbereich im derzeitigen Entwurf nicht erfasst. Der Entwurf spricht sich gegen ihren Einsatz in kritischen GMP-Anwendungen aus. Für nichtkritische GMP-Anwendungen generativer KI betont er die Verantwortung qualifizierter Anwender für die Eignung der Ergebnisse. Diese Aussagen haben Entwurfsstatus. Entwurf Annex 22, Abschnitt 1

Im Gegensatz dazu zeigen die Konferenzbeiträge jedoch, dass auch adaptive und probabilistische Modelle Gegenstand der regulatorischen Diskussion sind. Alstrup und Bechmann verweisen dabei auf den EMA-Workshop vom Juni 2026. Der endgültige Anwendungsbereich von Annex 22 steht damit noch nicht fest.

Die Referenten kennzeichnen ihre Aussagen ausdrücklich als persönliche fachliche Sichtweisen. Diese Aussagen sind weder eine finale Anforderung noch eine allgemeine Freigabe bestimmter KI-Anwendungen.

Bechmann betont zudem, dass die Modellbezeichnung allein nicht ausreicht. Maßgeblich bleiben Verwendungszweck, Fähigkeiten und Risiken der Anwendung.

KI in der Medizintechnik

In der Medizintechnik ist zunächst zwischen der Produktfunktion und dem Einsatz in internen Prozessen zu unterscheiden.

Eine KI-gestützte Software kann aufgrund ihrer medizinischen Zweckbestimmung selbst ein Medizinprodukt sein, etwa wenn sie medizinische Bilder zur diagnostischen Beurteilung auswertet. Eine KI-Funktion kann auch Bestandteil eines Medizinprodukts oder IVD sein und dort beispielsweise Messsignale auswerten.

Davon zu unterscheiden sind KI-Anwendungen in der Produktion, bei Prüfungen oder im Qualitätsmanagement des Herstellers. Sie können etwa Prüfergebnisse bewerten, Qualitätsaufzeichnungen zusammenfassen oder die Auditplanung unterstützen. Für die Einordnung ist entscheidend, welche Aufgabe die Software übernimmt und wofür ihre Ergebnisse verwendet werden.

KI als Medizinprodukt oder Produktbestandteil

Erfüllt die KI eine medizinische oder IVD-Zweckbestimmung, sind MDR beziehungsweise IVDR maßgeblich. Die konkrete Produktfunktion bestimmt die Einordnung. Die Verordnungen enthalten ausdrückliche Anforderungen an die Softwarevalidierung in MDR Anhang I Nr. 17.2 und IVDR Anhang I Nr. 16.2. MDR, IVDR, MDCG 2019-16 rev.1, Abschnitt 3.7

MDCG 2019-11 rev.1 unterstützt die Abgrenzung und Klassifikation von Medizinproduktsoftware. MDCG 2025-6 erläutert das Zusammenspiel von MDR, IVDR und AI Act. Beide Dokumente sind Guidance und keine eigenständigen verbindlichen Rechtsvorschriften. MDCG 2019-11 rev.1, MDCG 2025-6

Für solche KI-Systeme ist zusätzlich die Hochrisiko-Einstufung nach dem AI Act zu prüfen. Artikel 6 Absatz 1 erfasst KI als Produkt oder als Sicherheitsbauteil eines erfassten Produkts. Außerdem muss für das betreffende Produkt eine Konformitätsbewertung durch eine Benannte Stelle vorgeschrieben sein. Eine Sicherheitsfunktion allein reicht für diese Einstufung nicht aus. AI Act, Artikel 6 Absatz 1 und ergänzende Abgrenzungen, Anhang I

Zur Einordnung stehen ergänzende Fachreferenzen zur Verfügung. IEC 62304 beschreibt Lebenszyklusanforderungen für Medizinproduktsoftware. Sie deckt die abschließende Validierung und Freigabe des Medizinprodukts jedoch nicht ab. IEC 82304-1 betrifft Gesundheitssoftwareprodukte auf allgemeinen Computerplattformen ohne dedizierte Hardware. Diese Normen haben unterschiedliche Anwendungsbereiche. Ihre Verbindlichkeit ist im konkreten Fall zu bestimmen. IEC 62304,IEC 82304-1

Die IMDRF-Leitprinzipien zur Good Machine Learning Practice beziehen sich auf KI-gestützte Medizinprodukte. Sie sind eine fachliche Referenz und begründen keine eigenständige allgemeine GxP-Validierungspflicht. Für interne QA- oder QMS-Assistenten sind sie nicht automatisch das maßgebliche Regelwerk. IMDRF GMLP, N88 FINAL:2025

KI in Produktions-, Prüf- und QMS-Prozessen

Eine interne KI-Anwendung ist nicht allein durch ihren Einsatz beim Medizinproduktehersteller validierungspflichtig. Für diese Anwendungen können jedoch die Softwarevalidierungsanforderungen der ISO 13485 greifen.

Die Norm unterscheidet drei Anwendungsbereiche:

• Abschnitt 4.1.6 betrifft Softwareanwendungen im QMS.
• Abschnitt 7.5.6 betrifft Softwareanwendungen in Produktion und Dienstleistungserbringung.
• Abschnitt 7.6 betrifft Softwareanwendungen bei Überwachung und Messung.

Ist ISO 13485 anwendbar und fällt die Softwareanwendung unter die betreffende Normforderung, ist sie zu validieren. Der Umfang richtet sich nach dem Risiko der Anwendung. ISO 13485:2016, EU-Kommission zu harmonisierten Normen

Beispiel 3: KI-gestützte Auditplanung

Ein Unternehmen mit einem QMS nach ISO 13485 setzt eine KI-gestützte Software zur Auswertung früherer Auditberichte und des Bearbeitungsstands von Korrekturmaßnahmen ein. Die Software schlägt Themen und Prozesse vor, die im nächsten internen Audit vertieft betrachtet werden sollen. Die QM-Verantwortlichen prüfen die Vorschläge und übernehmen einen Teil davon in die Auditplanung. Die Auswahl der Auditschwerpunkte beruht damit teilweise auf der KI-Auswertung.

Damit beeinflusst die KI-Anwendung, welche Prozesse und Themen in einem Audit vertieft betrachtet werden. Fehler bei Auswahl oder Gewichtung der auditierten Bereiche oder Prozesse können dazu führen, dass qualitätskritische Themen unberücksichtigt bleiben. Der Einsatz der KI-Anwendung ist deshalb als Softwareanwendung im QMS einzuordnen. Bei anwendbarer ISO 13485 ist Abschnitt 4.1.6 für die Validierung maßgeblich.

Welche Anforderungen zusätzlich greifen

Die Einordnung nach GMP oder Medizinprodukterecht beantwortet noch nicht alle regulatorischen Fragen zum Einsatz von KI-Anwendungen im Unternehmen. Zusätzlich sind der AI Act und gegebenenfalls der Datenschutz zu betrachten.

AI Act: Rolle und Anwendung sind entscheidend

Für den AI Act sind zunächst der Anwendungsbereich und die Unternehmensrolle zu bestimmen. Besonders relevant ist die Unterscheidung zwischen Anbieter und Betreiber. Wer KI nutzt, unterliegt nicht automatisch denselben Pflichten wie der Anbieter des Systems.

Der AI Act unterscheidet verbotene KI-Praktiken, Hochrisiko-KI-Systeme und weitere Anwendungen, für die je nach Funktion bestimmte Pflichten gelten können. Dazu gehören insbesondere Transparenzpflichten. Anwendungen mit geringem Risiko unterliegen nicht allein deshalb den besonderen Hochrisikoanforderungen. Daraus folgt jedoch keine pauschale Befreiung von allen Vorschriften des AI Act. EU-Kommission zum risikobasierten Ansatz

Artikel 4 verlangt von Anbietern und Betreibern Maßnahmen zur Förderung der KI-Kompetenz der mit KI befassten Personen. Gemeint sind Kenntnisse und Fähigkeiten, mit denen sie die eingesetzte KI sachkundig nutzen sowie ihre Möglichkeiten, Grenzen und Risiken im jeweiligen Arbeitskontext einschätzen können. Artikel 4, Artikel 3 Nr. 56

Artikel 5 verbietet bestimmte KI-Praktiken. Artikel 50 enthält Transparenzpflichten für bestimmte Anwendungen und Inhalte. Diese richten sich nach Funktion, Unternehmensrolle und gesetzlichen Ausnahmen. Eine pauschale Kennzeichnungspflicht für jedes interne KI-gestützte Dokument folgt daraus nicht. Artikel 5, Artikel 50

Ob ein KI-System als Hochrisiko-KI einzustufen ist, richtet sich nach Artikel 6. Neben den bereits beschriebenen produktbezogenen Fällen können die Verwendungszwecke aus Anhang III relevant sein. Die GMP-Kritikalität ist davon getrennt zu beurteilen: Eine KI-Anwendung wird nicht allein deshalb zur Hochrisiko-KI, weil sie eine kritische GMP-Aufgabe übernimmt. AI Act, Artikel 6

Für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck, sogenannten GPAI-Modellen, enthält Kapitel V zusätzliche Pflichten. Die bloße Nutzung einer fremden Modell-API macht ein Unternehmen nicht automatisch zum GPAI-Modellanbieter. AI Act, Artikel 53

Die Anwendungstermine unterscheiden sich ebenfalls. KI-Kompetenz und die ursprünglichen Verbote gelten seit dem 2. Februar 2025. Artikel 50 gilt grundsätzlich seit dem 2. August 2026. Für die Hochrisikoregeln nennt die aktuelle Zeitachse der Kommission den 2. Dezember 2027 für Anhang III und den 2. August 2028 für Anhang I. Artikelbezogene Übergangsregelungen sind zusätzlich zu beachten. EU-Kommission zu den Anwendungsterminen

Diese Fristen verschieben bestehende GMP-Pflichten nicht. Eine KI-Anwendung kann bereits GMP-validierungspflichtig sein, ohne als Hochrisiko-KI eingestuft zu werden. Umgekehrt begründet der AI Act keine GMP-Validierungspflicht für eine Anwendung außerhalb von GMP.

Datenschutz bei personenbezogenen Daten

Werden personenbezogene Daten durch die KI-Anwendung verarbeitet, ist zusätzlich die DSGVO anzuwenden. Die Datenschutzpflichten bestehen unabhängig von GxP-Relevanz und Hochrisikostatus. Eine allgemeine GxP-Validierungspflicht folgt aus der DSGVO nicht. DSGVO

Guidance und freiwillige Guides richtig einordnen

Das EMA Reflection Paper erläutert regulatorische Gesichtspunkte für den Einsatz von KI und Machine Learning im Arzneimittellebenszyklus, von der Wirkstoffsuche bis zur Anwendung nach der Zulassung. Es ist eine behördliche Orientierung und begründet keine eigenständige allgemeine Validierungspflicht. EMA Reflection Paper

GAMP 5 und der GAMP AI Guide sind dagegen Fachleitfäden der ISPE für die industrielle Praxis. Ihr Status ist von gesetzlichen und geltenden GMP-Anforderungen zu unterscheiden. GAMP 5, GAMP AI Guide

Verträge, Qualitätsvereinbarungen oder interne QM-Vorgaben können die Anwendung von Guidance aber verbindlich festlegen. Auch genehmigte Produkt- und Verfahrensunterlagen können zusätzliche Bindungen enthalten. Deshalb ist zwischen einer hilfreichen Referenz und einer konkret zu erfüllenden Anforderung zu unterscheiden.

Die wichtigsten Regelwerke im Überblick

Wann sich keine GxP-Validierungspflicht für KI-Anwendungen ableiten lässt

Die beschriebenen Validierungsanforderungen haben jeweils einen bestimmten Anwendungsbereich. Annex 11 erfasst computergestützte Systeme als Teil GMP-geregelter Tätigkeiten. Die genannten Anforderungen der ISO 13485 beziehen sich auf bestimmte Softwareanwendungen im QMS, in der Produktion oder bei Überwachung und Messung. Annex 11, Grundsatz, ISO 13485:2016, Abschnitte 4.1.6, 7.5.6 und 7.6

Maßgeblich ist deshalb, welche Aufgabe die KI-Anwendung tatsächlich übernimmt, welche Aufzeichnungen oder Entscheidungen sie beeinflusst und ob dieser Einsatz unter eine der betreffenden Anforderungen fällt. Bleibt ihre Nutzung außerhalb dieser Anwendungsbereiche, lässt sich aus den genannten Vorschriften keine entsprechende Validierungspflicht ableiten. Produktrechtliche, andere normative oder vertragliche Anforderungen sind davon gesondert zu beurteilen.

Diese Einordnung gilt für den konkret betrachteten Einsatz. Wird eine allgemeine Assistenz später für GMP-Bewertungen oder Qualitätsentscheidungen genutzt, muss ihre regulatorische Einordnung erneut geprüft werden.

Ob eine KI-Anwendung validiert werden muss, ergibt sich aus ihrem konkreten Einsatz und den dafür geltenden Anforderungen. Entscheidend sind der Verwendungszweck, die tatsächliche Nutzung und der Einfluss ihrer Ergebnisse auf geregelte Prozesse, Aufzeichnungen und Qualitätsentscheidungen. Eine menschliche Freigabe oder die Bezeichnung „Assistent“ beantwortet diese Frage noch nicht.

Besteht eine Validierungspflicht, betrifft sie die Eignung der KI-gestützten Anwendung für ihren vorgesehenen Einsatz im Prozess. Die Prüfung des zugrunde liegenden Modells allein reicht dafür nicht aus. Die Einstufung nach dem AI Act ist zusätzlich und getrennt davon zu beurteilen.

QMVP unterstützt bei dieser regulatorischen Einordnung von KI-Anwendungen in GxP-Prozessen.

Quellen

GMP, Qualitätsrisikomanagement und Datenintegrität

• Bundesministerium für Gesundheit: Gute Herstellungspraxis (GMP); Überblick zum deutschen und europäischen GMP-Rahmen.
• Europäische Kommission: EudraLex Volume 4; Übersicht der GMP-Anforderungen und der geltenden Kapitel und Anhänge.
• EU-GMP Annex 11: Computerised Systems, Revision Januar 2011; insbesondere Grundsatz und Abschnitte 1 und 3.
• EU-GMP Part II: Basic Requirements for Active Substances used as Starting Materials, Fassung August 2014; insbesondere Abschnitt 5.4 und die Validierungsanforderung in Abschnitt 5.40.
• EU-GMP Annex 15: Qualification and Validation, Fassung 2015; insbesondere Grundsatz und Abgrenzung zu Annex 11.
• EU-GMP Annex 1: Manufacture of Sterile Medicinal Products, Fassung 2022; insbesondere Abschnitt 8.32 zur automatisierten visuellen Inspektion.
• EU-GMP Kapitel 6: Quality Control, Fassung 2014; insbesondere Abschnitt 6.15 zur Validierung analytischer Methoden.
• ICH Q9(R1): Quality Risk Management; insbesondere Abschnitte 3 und 4. Regulatorische Leitlinie zum Qualitätsrisikomanagement.
• ICH Q2(R2): Validation of Analytical Procedures; regulatorische Leitlinie zur Validierung analytischer Verfahren.
• ICH Q14: Analytical Procedure Development; insbesondere Abschnitte 1.1 und 1.2 zum Anwendungsbereich. Regulatorische Leitlinie.
• PIC/S PI 041-1: Good Practices for Data Management and Integrity in Regulated GMP/GDP Environments, 1. Juli 2021; insbesondere Abschnitte 5, 7 und 9. Behördliche Guidance zur Auslegung bestehender GMP/GDP-Anforderungen.

Medizinprodukte, IVD und einschlägige Normen

• Verordnung (EU) 2017/745 über Medizinprodukte (MDR); insbesondere Artikel 10 Absatz 9 und Anhang I Nr. 17.2.
• Verordnung (EU) 2017/746 über In-vitro-Diagnostika (IVDR); insbesondere Anhang I Nr. 16.2.
• ISO 13485:2016: Medical devices — Quality management systems — Requirements for regulatory purposes; insbesondere Abschnitte 4.1.6, 7.5.6 und 7.6. Norm; ihre Verbindlichkeit ist im konkreten Fall zu bestimmen.
• IEC 62304:2006+AMD1:2015: Medical device software — Software life cycle processes; Norm zu Lebenszyklusprozessen von Medizinproduktsoftware. Die abschließende Validierung und Freigabe des Medizinprodukts sind nicht abgedeckt.
• IEC 82304-1:2016: Health software — Part 1: General requirements for product safety; Norm für Gesundheitssoftwareprodukte im beschriebenen Anwendungsbereich.
• MDCG 2019-16 rev.1: Guidance on Cybersecurity for medical devices; insbesondere Abschnitt 3.7 zur Verifizierung und Validierung. Nicht rechtsverbindliche Guidance.

AI Act und Datenschutz

• AI Act: EU-Verordnung über künstliche Intelligenz. Verwendete Fundstellen im offiziellen AI Act Service Desk der EU-Kommission: Artikel 3 Nr. 56, Artikel 4, Artikel 5, Artikel 6, Artikel 50, Artikel 53 und Anhang I.
• Europäische Kommission: AI Act – Regulatory Framework und AI Act Implementation Timeline; ergänzende Erläuterungen zum risikobasierten Ansatz und zu den Anwendungsterminen.
• Verordnung (EU) 2016/679: Datenschutz-Grundverordnung (DSGVO); Anforderungen bei der Verarbeitung personenbezogener Daten im Anwendungsbereich der Verordnung.

Entwürfe und Konferenzunterlagen

• Europäische Kommission: Konsultation zur Überarbeitung von Kapitel 4 und Annex 11 sowie zum neuen Annex 22, 7. Juli bis 7. Oktober 2025; enthält den Überarbeitungsentwurf von Annex 11. Entwürfe sind von geltenden Anforderungen zu unterscheiden.
• Annex 22: Artificial Intelligence, Konsultationsentwurf 2025; insbesondere Abschnitt 1 zum Anwendungsbereich sowie Abschnitte 2 bis 10. Entwurf, keine geltende finale Anforderung.