KI-Medizinprodukte: Anforderungen aus AI Act und MDR

Ein KI-Medizinprodukt unterliegt zwei Regelwerken: der Medizinprodukteverordnung (MDR) und der europäischen KI-Verordnung, Verordnung (EU) 2024/1689, oft AI Act genannt. Sobald das Produkt für die CE-Kennzeichnung eine Benannte Stelle braucht, gilt es nach der KI-Verordnung als Hochrisiko-System, und zusätzliche Pflichten zu Daten, Protokollierung, Transparenz und menschlicher Aufsicht kommen hinzu. Geprüft wird beides in einem gemeinsamen Verfahren. Dieser Artikel zeigt, wie Gründer die Anforderungen sortieren und von Anfang an in Entwicklung und Dokumentation einbauen.

Zwei Regelwerke, ein Produkt

Die MDR fragt, ob ein Produkt sicher ist und seinen medizinischen Zweck erfüllt. Sie ist technologieneutral: Ein Algorithmus, der Röntgenbilder auswertet, wird nach denselben Grundsätzen bewertet wie eine klassisch programmierte Software. Die KI-Verordnung ergänzt diese Sicht um Risiken, die gerade bei lernenden Systemen auftreten, etwa verzerrte Trainingsdaten, schwer nachvollziehbare Entscheidungen oder ein Verhalten, das sich im Betrieb verändert.

Die beiden Verordnungen stehen nicht in Konkurrenz. Die KI-Verordnung verweist für Medizinprodukte ausdrücklich auf das Verfahren der MDR, und die Anforderungen werden dort mitgeprüft. Für Hersteller bedeutet das: ein Qualitätsmanagementsystem, eine technische Dokumentation und eine Benannte Stelle, aber mit erweitertem Prüfumfang. Die Europäische Kommission, die Medical Device Coordination Group (MDCG) und das KI-Gremium haben dazu Auslegungshilfen veröffentlicht, die das Zusammenspiel erläutern.

Wann ein KI-Medizinprodukt als Hochrisiko gilt

Die Einstufung folgt einer zweistufigen Prüfung.

1. Ist die Software ein Medizinprodukt? Maßgeblich ist die Zweckbestimmung des Herstellers. Dient die KI der Diagnose, Überwachung, Vorhersage oder Behandlung von Krankheiten, ist sie in aller Regel ein Medizinprodukt.
2. Braucht die Konformitätsbewertung eine Benannte Stelle? Bei Software entscheidet darüber vor allem Regel 11 aus Anhang VIII der MDR. Software, die Informationen für diagnostische oder therapeutische Entscheidungen liefert, landet mindestens in Klasse IIa, bei möglichen schwerwiegenden Folgen in IIb oder III. Ab Klasse IIa ist eine Benannte Stelle beteiligt.

Sind beide Fragen mit Ja beantwortet, ist das Produkt ein Hochrisiko-KI-System nach Art. 6 Abs. 1 der KI-Verordnung. Weil Regel 11 die meisten entscheidungsunterstützenden Anwendungen mindestens in Klasse IIa einordnet, trifft das auf einen großen Teil der KI-Software im Gesundheitswesen zu. Wie die Risikoklasse im Einzelnen bestimmt wird, erklärt der Artikel MDR-Klassifizierung.

Was die KI-Verordnung zusätzlich verlangt

Viele Anforderungen kennen Medizinprodukte-Hersteller dem Grunde nach bereits aus der MDR. Neu ist die ausdrückliche Ausrichtung auf KI-typische Risiken. Für Anbieter von Hochrisiko-KI-Systemen sind vor allem diese Pflichten relevant:

• Risikomanagement über den gesamten Lebenszyklus, einschließlich Risiken für Grundrechte und durch vorhersehbare Fehlanwendung
• Daten-Governance: Trainings-, Validierungs- und Testdaten müssen für den Zweck relevant, ausreichend repräsentativ und so weit wie möglich fehlerfrei sein; mögliche Verzerrungen sind zu untersuchen
• Technische Dokumentation mit Angaben zu Modellarchitektur, Datenherkunft, Training und Leistungskennzahlen
• Protokollierung: Das System muss Ereignisse automatisch aufzeichnen, damit sich Ergebnisse nachvollziehen lassen
• Transparenz: Die Gebrauchsanweisung muss Fähigkeiten, Grenzen und erwartbare Genauigkeit verständlich beschreiben
• Menschliche Aufsicht: Anwender müssen Ergebnisse einordnen, übersteuern oder das System stoppen können
• Genauigkeit, Robustheit und Cybersicherheit über die vorgesehene Lebensdauer
• Qualitätsmanagement, das diese Punkte abdeckt und in das bestehende QM-System integriert werden kann

Die MDR verlangt ihrerseits eine klinische Bewertung, Überwachung nach dem Inverkehrbringen und Vigilanz. Diese Pflichten bleiben vollständig bestehen. Die KI-Verordnung ersetzt keine davon.

Daten: der aufwendigste Teil

Bei KI-Medizinprodukten entscheidet die Datenbasis über Leistung, Zulassungsfähigkeit und Kosten. Gründer sollten früh klären, woher Trainingsdaten kommen, auf welcher Rechtsgrundlage sie genutzt werden und ob sie die spätere Zielgruppe abbilden. Ein Modell, das überwiegend mit Daten einer Klinik oder einer Altersgruppe trainiert wurde, kann bei anderen Patientengruppen schlechter abschneiden. Genau solche Lücken soll die Prüfung auf Verzerrungen aufdecken.

Wichtig ist eine saubere Trennung von Trainings-, Validierungs- und Testdaten. Testdaten sollten möglichst aus unabhängigen Quellen stammen, damit die gemessene Leistung nicht geschönt ist. Da es sich fast immer um Gesundheitsdaten handelt, gilt zusätzlich der strenge Schutz nach Art. 9 DSGVO. Pseudonymisierung, Zugriffskonzepte und Verträge mit Datenlieferanten gehören deshalb in den Projektplan, nicht ans Ende. Die rechtlichen Grundlagen fasst der Bereich Recht und Datenschutz zusammen.

Updates und lernende Systeme

Bei klassischer Software sind Updates Routine. Bei Medizinprodukten können sie eine wesentliche Änderung sein, die eine erneute Bewertung durch die Benannte Stelle auslöst. Für KI ist das besonders heikel, weil schon ein Nachtraining mit neuen Daten das Verhalten verändern kann.

In der Praxis haben sich zwei Wege etabliert:

• Eingefrorene Modelle: Das Modell wird für eine Version festgeschrieben. Verbesserungen erscheinen als neue Releases, die nach dem Änderungsmanagement des Herstellers bewertet werden.
• Vorab festgelegte Änderungen: Die KI-Verordnung erlaubt, Art und Grenzen künftiger Anpassungen schon bei der ersten Konformitätsbewertung festzulegen und zu dokumentieren. Bleiben spätere Änderungen in diesem Rahmen, gelten sie nicht als wesentliche Änderung im Sinne der KI-Verordnung.

Ob ein konkreter Änderungsplan auch aus Sicht der MDR trägt, sollte früh mit der Benannten Stelle abgestimmt werden. Wie die Auswahl und Zusammenarbeit mit einer Benannten Stelle abläuft, beschreibt der Artikel Benannte Stelle finden.

Normen und Werkzeuge

Für Software-Medizinprodukte gibt es bewährte Normen, die auch bei KI die Grundlage bilden: ISO 13485 für das Qualitätsmanagement, ISO 14971 für das Risikomanagement, IEC 62304 für den Software-Lebenszyklus und IEC 62366-1 für die Gebrauchstauglichkeit. Für das Management von KI gibt es mit ISO/IEC 42001 eine eigene Norm. Harmonisierte Normen speziell zur KI-Verordnung werden auf europäischer Ebene erarbeitet. Bis sie vorliegen, müssen Hersteller selbst begründen, wie sie die Anforderungen erfüllen.

Fristen im Überblick

Die KI-Verordnung ist im August 2024 in Kraft getreten und gilt in Stufen. Verbotene KI-Praktiken und die Pflicht, für ausreichende KI-Kompetenz der eigenen Beschäftigten zu sorgen, gelten bereits. Für Hochrisiko-KI in Medizinprodukten war ursprünglich August 2027 vorgesehen. Im Rahmen des sogenannten Digital Omnibus hat die EU diese Frist verschoben. Nach dem aktuellen Stand gelten die Hochrisiko-Pflichten für KI in Produkten wie Medizinprodukten ab August 2028.

Für Gründer ist die Verschiebung kein Grund zum Abwarten. Entwicklungszyklen in der Medizintechnik dauern oft Jahre, und eine Datenbasis lässt sich nachträglich kaum dokumentieren. Wer Datenherkunft, Versionierung und Leistungsmessung von Beginn an sauber festhält, spart später Zeit und Kosten.

Pflichten für Kliniken und Praxen

Die KI-Verordnung richtet sich nicht nur an Hersteller. Wer ein Hochrisiko-KI-System beruflich einsetzt, etwa eine Klinik oder Praxis, ist Betreiber im Sinne der Verordnung. Betreiber müssen das System gemäß Gebrauchsanweisung verwenden, die menschliche Aufsicht durch qualifiziertes Personal sicherstellen, den Betrieb beobachten und automatisch erzeugte Protokolle aufbewahren, soweit sie diese kontrollieren. Für Hersteller ist das ein Verkaufsargument: Eine klare Gebrauchsanweisung und gute Schulungsunterlagen erleichtern Kunden die Erfüllung ihrer Pflichten.

Checkliste für Gründer

Wer erst prüfen möchte, ob das eigene Produkt überhaupt ein Medizinprodukt ist und welchen Weg es zur CE-Kennzeichnung nimmt, findet den Gesamtüberblick im Bereich Medizinprodukte zulassen. Für digitale Anwendungen, die von Krankenkassen erstattet werden sollen, kommen die Anforderungen an Digitale Gesundheitsanwendungen hinzu.