DraftGuidance der FDA – ein neuer Weg für KI in Pharma? | Mit Martin Heitmann

Wie oft kommt es schon vor, dass eine Aufsichtsbehörde weiter voran ist als Unternehmen?
Selten!
Aber das passiert aktuell in der Pharma-Welt.
Denn die FDA (Food and Drug Administration) hat mit ihren aktuellen Draft-Guidances eine gute Schippe vorgelegt, für Unternehmen gibt es jetzt keine Ausrede mehr, um mit AI zu starten.
Considerations for the Use of AI to support Regulatory Decision-Making for Drug and Biological products – so heißt das neue Paper der FDA.
Und darüber diskutiert Christof Layher, Host des PodcastsChaosHacker-Talk mit Martin Heitmann, Secretary der globalen Special Interest Group für Artificial Intelligence und Software Automation.
Aber alles, was Martin in diesem Podcast erzählt, ist seine eigeneMeinung.
Eigentlich ist das richtig cool, dass wir jetzt diese Papers haben.
Denn jetzt geht es nicht nur um Prinzipien und wünschenswerte Aspekte beim Vorgehen, sondern um eine echte Blaupause für regulatory decision making.
Christof findet es wichtig, sich selbst zu kümmern und proaktiv zukommunizieren, statt nur darauf zu warten, wann die Behörde selbst agiert. Das möchte er auch allen Unternehmen mit auf den Weg geben.
Doch was sagt das neue Paper der FDA nun aus?
Es ist keine Richtlinie, die nur einen Teilbereich adressiert, sondern tatsächlich sehr übergreifend. Der gesamte produktlebenszyklus entlang der KI wird behandelt. Dabei geht es nicht nur ummaschinelles Lernen, sondern auch um allgemeine Anwendungen von Künstlicher Intelligenz und um Trainingsdaten.
Die Unternehmen sollen Handlungs- und Rechtssicherheit in Bezug auf traditionelle, nicht GPT-basierte Modelle bekommen, aber auch auf die GPT-basierten.
Richtlinien in diesem Bereich sind sehr schnell überholt – die brauchen ja auch ein halbes Jahr an Review-Zeit.
Und in dieser Zeit ändert sich die Welt wieder so schnell, dass dieRichtlinie schon nicht mehr aktuell ist.
Deswegen ist das neue Paper auch eher eine Guidance, in denen auch Beispiele genannt sind, z.B. zu Clinical Trails und aus dem GMP-Bereich.
Es gibt einen 7-schrittigen Prozess für dieses Modell, um Sicherheit dabei zu bekommen, ein Modell einzusetzen, ohne Patientensicherheit, Qualität oder Datenintegrität zu gefährden.
• Define the question of interest – was wollen wir überhaupt adressieren?
• Define the context of use – die Rolle des Modells im Prozess
• Model-Risk bestimmen – welchen Gewicht und Impact hat das Model?
• Ein Plan, wie man das Model entwickeln möchte in Bezug auf Daten, Aufbereitung, Nutzung, Erstellung und Bewertung
• Die Ausführung des Plans
• Dokumentation von Ergebnissen und Abweichungen
• Credibility Assessment
Wichtig ist dabei immer zu betrachten, dass ein Model in einem größeren Komplex lebt und nicht „das eigene Ding“ machen darf.
Auch über den EU AI-Act sprechen Christof und Martin.
Sicher ist: Die Guidance hilft nicht einzelnen Usern, sondern muss imUnterneh men etabliert werden. Dazu muss man sich auch Gedankenmachen: Welche Prozesse und Rollen braucht es in einer Organisation aus Life Science und Pharma, die künstliche Intelligenz nutzt?

Kapitel:

00:00:00 Vorstellung Martin Heitmann
00:01:22 Neue Richtlinie zu AI in Pharma
00:04:25 Kommunikation mit Behörden
00:06:05 Was die FDA sich vorstellt
00:09:39 GPTs und maschinelles Lernen
00:11:03 Richtlinien sind schnell überholt
00:12:58 Beispiele in den Guidances
00:16:56 7 Schritte bei der Nutzung von AI
00:23:24 Unterschied zu traditioneller Validierung
00:26:08 Explainable AI und Transparenz
00:30:33 Guidance muss Teil des Unternehmens werden
00:35:08 Ist das Modell agil?
00:38:01 Verantwortlichkeiten und Workflows
00:42:02 ML Ops
00:47:07 Credibility
00:53:22 Vorbereitung und AI-Know How
00:54:33 Zwei Fragen an Martin