Künstliche Intelligenz und GMP-Validierung

In der heutigen Landschaft der Life Sciences gibt es kaum einen Bereich, in dem Künstliche Intelligenz (KI) nicht präsent ist. Die Beispiele reichen von Medizinprodukten, die verschiedene Arten von Herzrhythmusstörungen erkennen, bis hin zu Chatbots, die unerwünschte Arzneimittelwirkungen melden. Der wichtigste Anwendungsbereich der KI in den Life
Sciences ist aber die Forschung und Entwicklung, insbesondere die Arzneimittelforschung, in die Pharmaunternehmen im Jahr 2021 9,66 Mrd. USD investiert haben.

Die Herstellung von Pharmazeutika ist ein Bereich mit großem Potenzial für den Einsatz von Künstlicher Intelligenz; er gewinnt derzeit dementsprechend an Dynamik. Pharmaunternehmen berichten über Investitionen wie z.B. eine verbesserte Qualitätssicherung durch Computer Vision Technology oder von Machine Learning-gestützter Process Analytical Technology (PAT), die zur Überwachung kritischer Prozessparameter dient.

Wie kann der sinnvolle und erfolgreiche Einsatz von KI in Pharmaprozessen in der Praxis gelingen – vor allem im reglementierten Bereich von GMP (Good Manufacturing Practice)? Blicken wir zunächst auf die rasante Entwicklung von KI: Die Künstliche Intelligenz, mit ihrem Ziel, die menschliche Intelligenz zu simulieren, machte ihre ersten Schritte in den 1960er Jahren. Heute ist sie weitgehend datengesteuert und hat ein bemerkenswertes Wachstum und Entwicklungstempo erfahren.

Der Begriff „Künstliche Intelligenz“ wurde 1956 eingeführt – zu einer Zeit, als immer mehr Forschung und finanzielle Mittel in dieses Gebiet flossen. Nachdem Millionen ausgegeben und nur wenige Ergebnisse erzielt worden waren, begann um 1987 ein „KI-Winter“, in dem die Finanzierung und das öffentliche Interesse an KI deutlich zurückgingen. Der Grund waren vor allem zu große Erwartungen an die Fähigkeiten der KI, bevor das Interesse und der Erfolg wieder anstiegen. Ein denkwürdiges Ereignis war 1997, als der Schachcomputer Deep Blue den damaligen Schachweltmeister Kasparow besiegte. Die Sprachverarbeitung wurde nach und nach zu einem Bestandteil der KI, was 2011 mit der Veröffentlichung von Apples Siri deutlich wurde. Das Entwicklungstempo beschleunigte sich mit dem Sieg von AlphaGo in dem hochkomplexen Spiel „Go“ weiter, und heute gibt es natürlich Chat-GPT, das 2020 als GPT-3 für Betatests zur Verfügung stand. Diese schnelle Entwicklung der KI wurde im Wesentlichen ermöglicht durch die rasant gestiegene Rechenleistung und Datenmenge.

Erste Schritte der Behörden

Nun stellt sich die Frage, wie die Behörden in Europa und den USA die schnelle Entwicklung der KI mit der noch zurückhaltenden GMP in Einklang bringen können. In jüngerer Zeit förderte die FDA (U.S. Food and Drug Administration) bereits die Einführung innovativer Technologien wie KI. Im Jahr 2019 veröffentlichte sie mit einem Paper über Medizinprodukte  zum ersten Mal ein Dokument, in dem KI erwähnt wurde. Auch andere Regulierungsbehörden versuchen, mit diesem Trend Schritt zu halten: Das jüngste europäische Gesetz zu KI wurde 2021 vorgeschlagen und wird derzeit noch im Europäischen Parlament diskutiert. Angesichts des reaktiven Charakters von Vorschriften ist es nicht verwunderlich, dass es bis heute keine spezifischen regulatorischen Leitlinien für KI-Anwendungen in der GMP-Herstellung gibt, was den Entscheidungsträger:innen in der Pharmaindustrie Grund zur Sorge gibt. Die Vorschriften sind risikobasiert zu betrachten, da die Möglichkeit besteht, dass die Entscheidungen zum KI-Gesetz Auswirkungen auf die derzeit geltende Rechtslage haben werden.

Auch medizinische Geräte sind ähnlich stark reguliert wie die Arzneimittelherstellung und daher ein gutes Beispiel dafür, wie sich KI-Anwendungen im regulierten Bereich im Laufe der Zeit entwickelt haben. Hier sehen wir Daten, die von der FDA veröffentlicht wurden. Die Daten zeigen die Menge an zugelassenen KI/ML-basierten Medizinprodukten in den USA für die Jahre 1995 bis 2022.

Im Jahr 2019, zum Zeitpunkt der Veröffentlichung des bereits erwähnten ersten Papers durch die FDA, wurde bereits eine beträchtliche Anzahl von KI-gestützten Medizingeräten in den USA legal vermarktet. Das älteste zugelassene Medizinprodukt stammt aus dem Jahr 1995. Das Diagramm zeigt einen konstanten Anstieg, sogar in den Jahren vor der Veröffentlichung erster regulatorischer Leitlinien. Wir sehen also: Ein Mangel an Vorschriften scheint keine Hürde für die Entwicklung KI-gestützter Medizinprodukte zu sein. Daher ist eine ähnliche Entwicklung auch im Bereich der Arzneimittelherstellung zu erwarten.

KI und GMP heute

Ebenfalls eine deutliche Entwicklung in Richtung KI lässt das Paper der FDA vom März 2023  vermuten, in dem die FDA das Thema KI in den GMP-Bereichen der Herstellung direkt anspricht. In diesem Paper erkennt die FDA an, dass Künstliche Intelligenz eine wichtige Rolle bei der Überwachung und Kontrolle fortgeschrittener Fertigungsprozesse spielen kann. Beispielsweise können im Bereich der Advanced Process Control (APC) Sensordaten in Echtzeit durch die KI genutzt werden, um Prozessvorhersagen zu treffen. Auch im operativen Bereich der Qualitätssicherung können viele Vorgänge an KI delegiert werden: So könnte KI zur Qualitätskontrolle von Verpackungen, Etiketten oder Glasflaschen eingesetzt werden, indem mittels Bildanalyse Abweichungen erkennbar gemacht werden. Deep-Learning-Algorithmen könnten wiederum große Mengen an Text aus Abweichungen oder Verbraucher:innen-Reklamationen untersuchen. Trotzdem: Derzeit holt die FDA noch das Feedback der Industrie zu ausgewählten Problembereichen ein, in denen viel Arbeit geleistet werden muss. Klar ist, dass es einige riskante Aspekte der KI gibt – je mehr Einfluss sie auf die Produktqualität in GMP-Betrieben hat, desto höher das Risiko.

Auch in der Validierung ist noch Klarstellung nötig. Bislang gibt es keine spezifischen Vorgaben für die Validierung von KI-Anwendungen in der GMP-Herstellung. Gleichzeitig ist es eine regulatorische Anforderung, dass alle Prozesse und Systeme in der Herstellung von Pharmazeutika validiert werden. Es gibt bereits erste Versuche, dies in Angriff zu nehmen: Ein kürzlich von einem Team von Industrieexpert:innen erstellter Vorschlag für einen High-Level-Validierungsrahmen zeigt verschiedene Kontrollstufen (s. Abbildung). Der Rahmen basiert auf zwei Faktoren: die KI-Autonomie und ihre GMP-Auswirkungen. Die KI-Anwendung wird in Stufen von 1 bis 6 eingeteilt, die schließlich die Mindestvalidierungsaktivitäten für gesetzliche Konformität definieren. Stufe 1 wäre z. B. eine KI ohne jegliche GMP-Auswirkungen, während Stufe 2 eine halb „eingefrorene“ KI wäre, die menschliche Genehmigung für GMP-Entscheidungen erfordern würde. Stufe 6 wäre eine völlig autonom arbeitende KI, die alle GMP-Entscheidungen ohne Aufsicht übernimmt. Aus verständlichen Gründen konzentrieren sich die derzeitigen Bemühungen auf die unteren Stufen der KI. Wir gehen davon aus, dass sich mit zunehmender Erfahrung und verbesserter Datenlage in der Branche auch für die höheren Stufen der KI (ab Stufe 4) Anwendungen entwickeln werden. Ein konkretes Beispiel für Stufe 2 wäre eine Anwendung zur Generierung natürlicher Sprache, die einen Bericht erstellt, der von einem Menschen genehmigt werden muss.

Praxisbeispiel: Klärung von „Validierungsmysterien“

Im Folgenden möchten wir zeigen, wie wir bei VTU dazu beigetragen haben, einige „Validierungsmysterien“ zu lösen. Mit ihrer kombinierten Expertise in Datenwissenschaft, Machine Learning, Statistik, Verfahrenstechnik und GMP-Compliance stellten sich Entwickler des Unternehmens der Herausforderung, die Eignung eines KI-Algorithmus mit einem geringen Grad an Autonomie zu überprüfen. Er sollte Prozessparameter in einem Herstellverfahren vorhersagen.

Zunächst entwickelten wir einen dreistufigen Validierungsprozess, der alle wesentlichen Aspekte umfasste, um die Eignung des Modells für seinen Zweck nachzuweisen. Wir begannen mit den Daten, da die Qualität jeder künstlichen Intelligenz stark von jenen Daten abhängt, die für ihr Training verwendet wurden. Danach gingen wir auf die Merkmale der Modellstruktur ein, um schließlich verschiedene Quantifizierungsmethoden zur Beschreibung der Vorhersagequalität des Modells zu verwenden. Dieser Validierungsvorschlag ist für eine Vielzahl von KI-Anwendungen anwendbar, insbesondere im Bereich der Prozessüberwachung und -steuerung.

Abschließend lässt sich festhalten, dass die Zeit für den Einsatz von Künstlicher Intelligenz in der Pharmaproduktion angebrochen ist. Das gestiegene Interesse in der Branche ist offensichtlich, dennoch ist es entscheidend, dass die rasch fortschreitende KI-Technologie den GMP-Regeln entspricht. Die Zusammenarbeit zwischen Industrie und Arzneimittelbehörden wie der FDA zeigt, dass dazu auf allen Seiten Interesse besteht. In Anbetracht einer behutsamen Vorgehensweise ist es jedoch ratsam, zunächst mit weniger komplexen KI-Projekten zu beginnen, um die Zeit und die Erfahrung für eine umfassende Integration und Sicherheitsgewährleistung zu gewinnen. Dieser schrittweise Ansatz ermöglicht es, Prozesse zu optimieren und die Produktqualität zu verbessern, während gleichzeitig die Patient:innensicherheit gewährleistet wird. Auf diese Weise können wir den Weg einer GMP-konformen KI mit Umsicht und Bedacht beschreiten.