Was ist zu bedenken, wenn KI in klinischen Studien eingesetzt wird? Wichtige Überlegungen und Herausforderungen

Der Einsatz von Künstlicher Intelligenz (KI) in klinischen Studien mit Medizinprodukten birgt Potenzial zur Optimierung von u. a. Studiendesign und -dokumenten, Patientenrekrutierung, Datenanalyse und Sicherheitsüberwachung. Gleichzeitig bringt diese technologische Integration jedoch ethische, regulatorische, technische und organisatorische Herausforderungen mit sich, die sorgfältig bedacht werden müssen.

Ethische Aspekte und Gerechtigkeit

Vermeidung von Verzerrungen und Chancengleichheit

Ein zentrales Gebot im Umgang mit KI-Systemen ist die aktive Vermeidung von Verzerrungen, die zu Benachteiligungen einzelner Gruppen führen können. Modelle der Künstlichen Intelligenz spiegeln sehr deutlich die Ungleichheiten ihrer Trainingsdaten wider, was alle, die schon solche System im Alltag benutzen, mitbekommen. Gerade im Gesundheitswesen kann dies zu schwerwiegenden Folgen führen, die nicht akzeptabel sein können. Analysen zeigen, dass nachgewiesene bisherige Benachteiligungen von umfangreichen Patientengruppen weiterhin in Algorithmen fortleben. Daher ist eine breite und ausgewogene Datenbasis unter Berücksichtigung von Alter, Geschlecht, Herkunft und weiteren Merkmalen unerlässlich. Die regelmäßige Überprüfung auf Verzerrungen, sogenannte Prüfaudits, ist daher erforderlich.

​

Nachvollziehbarkeit und Erklärungskraft

Ein wesentliches Problem vieler KI-Verfahren ist ihre Intransparenz. Medizinisches Personal und Studienteilnehmende müssen den Weg einer Entscheidung verstehen können, um Vertrauen in die Technik entwickeln zu können. Hierfür sind Verfahren zur Erklärung der Funktionsweise von Algorithmen entscheidend. Die Erklärung ist dabei an die jeweiligen Zielgruppen anzupassen und muss leicht verständlich sein, um eine verantwortbare Entscheidungsfindung zu ermöglichen.

​

Selbstbestimmung und informierte Einwilligung

Die Teilnehmenden müssen umfassend darüber informiert werden, ob und in welcher Form KI zum Einsatz kommt. Es ist sicherzustellen, dass sie die Rolle der KI im Studienablauf verstehen und eine bewusste, eigenständige Zustimmung erteilen können. Dabei sollte die Aufklärung so angepasst werden, dass sprachliche und kulturelle Unterschiede überbrückt werden.

​

Rechtliche Rahmenbedingungen und Datenschutz

Europäische und nationale Regelungen

Die rechtliche Regulierung von Künstlicher Intelligenz in klinischen Studien basiert auf mehreren übereinander gelagerten europäischen und internationalen Gesetzestexten, die zusammenwirken, um einen umfassenden Schutzrahmen zu bilden. Das Fundament bildet die Verordnung (EU) 2024/1689, besser bekannt als das Gesetz über Künstliche Intelligenz (AI Act), welches ein risikobasiertes Klassifizierungssystem für KI-Anwendungen einführt. Dieses vierstufige Modell unterteilt KI-Systeme in Kategorien von unzulässigem bis zu minimalem Risiko.

​KI-Systeme in klinischen Studien werden in der Regel als Hochrisiko-Systeme eingestuft, da sie Entscheidungen treffen können, die unmittelbar die Gesundheit und Sicherheit von Studienteilnehmenden beeinflussen. Dies gilt besonders für KI-Anwendungen in folgenden Bereichen:​

• Patientenrekrutierung und Auswahlverfahren
• Einteilung von Studienteilnehmenden in Behandlungsgruppen
• Durchführung diagnostischer Bewertungen
• Überwachung und Erkennung von Sicherheitssignalen
• Generierung synthetischer Kontrollgruppen
• Allgemeine Unterstützung bei Entscheidungsfindung

Für Hochrisiko-KI-Systeme fordert die Verordnung (EU) 2024/1689 strenge Compliance-Anforderungen, bevor diese eingesetzt werden dürfen.

Anforderungen an Datenqualität und Datenverwaltung: Die verwendeten Trainings-, Validierungs- und Testdatensätze müssen technisch und inhaltlich hochwertig sein. Dies umfasst die Sicherstellung, dass die Daten die Vielfalt der Zielgruppe angemessen widerspiegeln und keine systematischen Verzerrungen enthalten. Gemäß den MDCG-Dokumenten AIB 2025-1 / MDCG 2025-6 müssen Daten besondere Qualitätsstandards erfüllen, wenn KI-Systeme in medizinischen Anwendungen eingesetzt werden.

‍

Die Verordnung (EU) Nr. 536/2014 (Verordnung über klinische Prüfungen – CTR) ist der primäre europäische Gesetzestext für die Durchführung von Studien mit Humanarzneimitteln. Sie legt die Anforderungen an Studiendesign, Versuchspersonenschutz, Genehmigungsverfahren und Qualitätskontrolle fest. KI-Systeme, die in klinischen Studien zum Einsatz kommen, müssen alle Anforderungen der CTR erfüllen.​

Die Europäische Arzneimittel-Agentur (EMA) hat mehrere spezialisierte Leitlinien veröffentlicht, um den Einsatz moderner Technologien in klinischen Studien zu regeln. Die Leitlinie EMA/INS/GCP/112288/2023 befasst sich spezifisch mit computergestützten Systemen und elektronischen Daten in klinischen Prüfungen. Diese Richtlinie adressiert u. a.:

• Anforderungen an die Zuverlässigkeit und Sicherheit elektronischer Datensysteme
• Maßnahmen zur Gewährleistung der Integrität von Studienunterlagen
• Kontrollmechanismen zur Vermeidung unbeabsichtigter oder unbefugter Änderungen
• Anforderungen an Systemvalidierung, Schulung und laufende Überprüfung
• Rückverfolgbarkeit und Protokollierung aller Systemvorgänge

Darüber hinaus hat die EMA ein Reflexionspapier zur Verwendung von Künstlicher Intelligenz im Lebenszyklus von Arzneimitteln veröffentlicht, welches grundlegende Orientierung für den verantwortungsvollen Einsatz von KI vom frühen Stadium der Arzneimittelentwicklung bis zur Zulassung und darüber hinaus bietet. Dieses Papier unterstreicht die Notwendigkeit, dass KI-Systeme ethischen Grundprinzipien entsprechen und dass ihre Einsatzgebiete klar definiert und dokumentiert werden müssen.

​

Die Dokumente AIB 2025-1 / MDCG 2025-6 der Europäischen Kommission bieten praktische Orientierung zur Anwendung der KI-Verordnung auf medizinische Geräte und medizinische Software, einschließlich KI-Systemen in klinischen Anwendungen. Diese Dokumentation klärt auf, wie die verschiedenen europäischen Regulierungen (KI-Verordnung, Medizinprodukte-Verordnung, In-vitro-Diagnostika-Verordnung) zusammenwirken und welche spezifischen Anforderungen für KI-basierte Medizinprodukte gelten.

‍

Die Verordnung (EU) 2024/1689 tritt nicht an die Stelle bestehender Regulierungen, sondern ergänzt diese. Dies bedeutet, dass KI-Systeme in klinischen Studien parallel mehreren Regelwerken unterliegen müssen.

Die Verordnung (EU) 2016/679 (Datenschutz-Grundverordnung – DSGVO) bildet den umfassenden Schutzrahmen für personenbezogene Daten in Europa, der auch bei dem Einsatz von KI nicht verletzt werden dürfen.

‍

Bei allen Vorgaben zur Konzeption, Planung, Durchführung und Auswertung von klinischen Studien oder Prüfungen sind zudem alle internationalen Standards und Gute Klinische Praxis einzuhalten, insb. der Deklaration von Helsinki, wonach die Grundprinzipien

• Respekt vor Versuchspersonen
• Wissenschaftliche Redlichkeit
• Patientensicherheit
• Transparenz und Nachvollziehbarkeit

bereits geregelt werden und zwingend einzuhalten sind.

Ethische Grundprinzipien

Regelkonformität und Aufsicht

Auch internationale Zulassungsbehörden haben Grundsätze erarbeitet, wie KI im Bereich von Arzneimittelstudien sicher und verantwortungsvoll verwendet werden sollte. Dazu zählen Anforderungen an Datenqualität, Nachvollziehbarkeit, fortwährende Überwachung und klare Protokolle zur Verantwortungszuweisung bei Fehlern oder Zwischenfällen.

​

Technische und methodische Anforderungen

Datenqualität und Zuverlässigkeit

Die Verlässlichkeit von KI-Modellen in der Forschung steht und fällt mit der Qualität der zugrunde liegenden Daten. Es bedarf sorgfältig gestufter Kriterien:

• Messgenauigkeit und zeitliche Aktualität der verwendeten klinischen Daten
• Sicherstellung, dass die Daten die gesamte Zielgruppe und die Vielfalt realer Versorgungsumgebungen widerspiegeln
• Schutz vor Fehlern und Widersprüchen in der Datenerhebung

Nachweis der Praxistauglichkeit

KI-Modelle müssen nicht nur im Labor, sondern auch unter den vielfältigen Bedingungen des Alltags ihre Zuverlässigkeit unter Beweis stellen. Dies erfordert:

• Prüfung an Daten aus unterschiedlichen medizinischen Prüfzentren oder Einrichtungen
• Demonstration gleichbleibender Leistung bei veränderten Datenstrukturen
• Dauerhafte Überwachung und Anpassung des Modells, wenn dies erforderlich ist

Dabei ist besonders zu beachten, dass einfache Modelle der Künstlichen Intelligenz zwar oft besser zu erklären sind, komplexe Modelle aber gelegentlich eine höhere Genauigkeit erzielen. Die Auswahl des Modells muss stets die klinischen Rahmenbedingungen und Risiken berücksichtigen.

​

Integration in den Studienalltag und menschliche Kontrolle

Formen der Aufsicht und Entscheidungsfindung

Die verantwortungsvolle Einführung von KI in klinische Studien erfordert immer eine kluge Abwägung zwischen Automatisierung und Kontrolle durch ärztliches Fachpersonal. Je nach Risiko müssen ein oder mehrere Menschen in das System integriert werden:

• Entscheidungen von hoher Bedeutung sollten stets ärztlich gegengeprüft werden (Prinzip der „Schleife mit Mensch“)
• Geringfügige Unterstützungsleistungen können mit weniger direkter Kontrolle auskommen, erfordern aber stets Möglichkeiten zur Intervention
• Die Kontrollstufen sind dabei flexibel und müssen an die speziellen Anforderungen der Studie angepasst werden

Einbindung in bestehende Abläufe

KI sollte Arbeitsprozesse in der klinischen Forschung so unterstützen, dass der Arbeitsalltag produktiver, nicht aber zusätzlich belastend wird. Barrieren wie technische Kompatibilität, mangelnde Schulung oder Widerstände im Team sind gezielt zu adressieren. Idealerweise erfolgt die Einführung in kleinen Schritten und immer in enger Abstimmung mit den praktisch Tätigen.

​

Aus- und Weiterbildung

Damit die Verantwortlichen die Möglichkeiten, aber auch die Grenzen und Risiken künstlicher Intelligenz umfassend kennen, ist eine gezielte Fortbildung essentiell. Dazu zählen

• Grundkenntnisse der Funktionsweise verschiedener KI-Anwendungen
• Schulungen zur Erkennung und Vermeidung von Verzerrungen
• Erlernen eines kritischen Umganges mit Empfehlungen automatisierter Systeme

Gewährleistung der Sicherheit und Erfassung unerwünschter Ereignisse

Künstliche Intelligenz kann helfen, in großen Datenmengen ungewöhnliche oder sicherheitsrelevante Muster zu erkennen. Dies gelingt durch automatisierte Prüfverfahren, die etwa aus Freitexten oder Akten Hinweise auf unerwünschte Wirkungen extrahieren. Dennoch bleibt der Mensch unersetzlich: Falschbewertungen durch KI oder unklare Ergebnisse müssen stets überprüft werden, um Patientinnen und Patienten nachhaltig zu schützen.

​

Berücksichtigung von Vielfalt und Teilhabe

Damit die Ergebnisse klinischer Forschung möglichst vielen Menschen zugutekommen, muss auf eine möglichst breite Einbindung unterschiedlicher Bevölkerungsgruppen geachtet werden. Künstliche Intelligenz kann dabei helfen, bisher unterrepräsentierte Gruppen gezielter einzuschließen und die Einteilung in Studiengruppen gerechter zu gestalten. Wichtig ist jedoch, dass Algorithmen nicht selbst zu neuen Barrieren werden, indem sie systematische Verzerrungen in den Daten weiter verstärken. Nur durch gezielte Überprüfung und externe Kontrolle lassen sich solche Risiken begrenzen.

​

Herausforderungen der Umsetzung und Ausblick

Die Einführung von KI-Systemen in klinischen Studien erfordert einen ganzheitlichen Ansatz, der sich auf ethische Grundsätze, technische Robustheit, nachvollziehbare Prozessabläufe und gerechte Teilhabe aller Beteiligten stützt. Dabei ist stets ein Ausgleich zwischen dem technischen Fortschritt und der Wahrung menschlicher Kontrolle, dem Schutz sensibler Daten sowie einer fairen Behandlung aller Patientengruppen zu suchen. Klare Regeln, laufende Fortbildung sowie ein transparenter und verantwortungsbewusster Umgang mit neuen Methoden bilden die Voraussetzungen, damit die Vorteile der Künstlichen Intelligenz verantwortungsvoll und zum Wohl der gesamten Gesellschaft genutzt werden können.

‍

Künstliche Intelligenz eröffnet klinischen Studien erhebliche Effizienzpotenziale in Patientenrekrutierung, Datenvalidierung und Sicherheitsüberwachung, doch erfordert ihr verantwortungsvoller Einsatz die gleichzeitige Erfüllung mehrerer komplexer europäischer und internationaler Regelwerke – ein Mehraufwand, der langfristig zu robusterer und glaubwürdigerer Evidenz führt. Die zentrale Aufgabe liegt nicht in der Vereinfachung durch KI, sondern in ihrer durchdachten Integration als Professionalisierungswerkzeug, das menschliche Verantwortung und kritisches Urteilsvermögen ergänzt, nicht ersetzt.

‍

(Status Herbst 2025)

Quellen: (können bei MEDIACC angefragt werden)

‍

Sie sind interessiert, ob und wie MEDIACC als CRO KI-Systeme in digitale klinische Studien für Medizinprodukte einsetzt? Bleiben Sie dran oder kontaktieren Sie uns gerne für ein erstes Beratungsgespräch!

‍