Hochrisiko-KI
KI-Systeme, die nach Anhang III EU AI Act besonders streng reguliert werden — im Gesundheitswesen fast alle diagnostischen und therapeutischen KI-Anwendungen.
- 01Hochrisiko-KI sind KI-Systeme, die nach Art. 6 EU AI Act besonderen Anforderungen unterliegen. Im Gesundheitswesen fallen die meisten diagnostisch oder therapeutisch eingesetzten KI-Systeme darunter.
- 02Es gibt zwei Hochrisiko-Pfade. Erstens, KI als Sicherheitskomponente eines Medizinprodukts nach Anhang I. Zweitens, eigenständige Einsätze in den Hochrisiko-Bereichen nach Anhang III, darunter die Gesundheitsversorgung.
- 03Die volle Pflichtenlast greift nach dem Digital Omnibus verbindlich ab Dezember 2027 für Anhang III und ab August 2028 für die MDR-Route.
Definition
Hochrisiko-KI ist die Bezeichnung des EU AI Act für KI-Systeme mit besonderem Gefahrenpotenzial für Gesundheit, Sicherheit oder Grundrechte. Sie unterliegen den strengsten Anforderungen der Verordnung. Im Gesundheitswesen sind die meisten KI-Systeme mit klinischer Relevanz Hochrisiko-Systeme.
Die Einstufung als Hochrisiko ist keine Frage der Technologie, sondern eine Frage der Zweckbestimmung und des Einsatzkontextes. Ein und dasselbe Sprachmodell kann je nach Anwendung Niedrigrisiko sein (etwa als Termin-Chatbot) oder Hochrisiko (etwa als Diagnose-Assistenz im Triage-Workflow).
Rechtliche Verankerung
Art. 6 Abs. 1 EU AI Act in Verbindung mit Anhang I beschreibt den ersten Hochrisiko-Pfad. KI-Systeme, die als Sicherheitskomponente eines Produkts gelten, das unter eine Harmonisierungsvorschrift in Anhang I fällt, sind automatisch Hochrisiko. Anhang I listet unter anderem die Medizinprodukteverordnung (MDR). KI in einem CE-zertifizierten Medizinprodukt ist damit Hochrisiko nach diesem Pfad.
Art. 6 Abs. 2 in Verbindung mit Anhang III beschreibt den zweiten Pfad. Hier listet die Verordnung acht Bereiche, in denen eigenständig eingesetzte KI als Hochrisiko gilt. Nr. 5 lit. b und c betreffen das Gesundheitswesen direkt, nämlich die Priorisierung des Zugangs zu wesentlichen privaten und öffentlichen Diensten und Leistungen. Triage-Systeme, Notaufnahmen-Priorisierung und Zugangsentscheidungen zu Leistungen fallen darunter.
Eine Ausnahme regelt Art. 6 Abs. 3. Ein KI-System aus Anhang III gilt nicht als Hochrisiko, wenn es ausschließlich eine eng begrenzte, vorbereitende oder rein technische Aufgabe erfüllt und keine substanzielle Auswirkung auf die Entscheidung hat. Die Praxisrelevanz dieser Ausnahme ist im Gesundheitswesen gering, weil KI-Outputs in aller Regel entscheidungsrelevant sind.
Pflichten bei Hochrisiko-Status
Anbieter trifft die Hauptlast der Compliance. Risikomanagement nach Art. 9, Datenqualitätssicherung nach Art. 10, technische Dokumentation nach Art. 11 mit den Vorgaben aus Anhang IV, Aufzeichnungspflichten nach Art. 12, Transparenzanforderungen nach Art. 13, Vorbereitung der menschlichen Aufsicht nach Art. 14, Genauigkeits- und Cybersicherheitsanforderungen nach Art. 15, dazu Konformitätsbewertung und CE-Kennzeichnung.
Betreiber unterliegen den sechs Pflichten aus Art. 26. Einsatz gemäß Gebrauchsanweisung, menschliche Aufsicht durch qualifiziertes Personal, Eingabedatenqualität, Monitoring und Meldung von Vorfällen, Aufbewahrung der Protokolle für mindestens sechs Monate, Datenschutz-Folgenabschätzung vor dem Einsatz. Für öffentliche Einrichtungen kommt nach Art. 27 die Grundrechte-Folgenabschätzung hinzu.
Praxisbeispiele aus dem Gesundheitswesen
KI-Befundungs-Software in der Radiologie ist Hochrisiko über den MDR-Pfad, also über Art. 6 Abs. 1 in Verbindung mit Anhang I. Sie ist selbst CE-pflichtiges Medizinprodukt oder dessen Sicherheitsbauteil und liefert Information für diagnostische Entscheidungen. Die Betreiberpflichten greifen auf dieser Route ab dem 02.08.2028.
Triage-KI erreicht die Hochrisiko-Klasse in aller Regel ebenfalls über den MDR-Pfad, weil Software zur Ersteinschätzung nach Regel 11 MDR Medizinprodukt ist. Der eigenständige Anwendungsfall in Anhang III Nr. 5 Buchst. d erfasst die Bewertung von Notrufen und die Triage von Patienten bei der Notfallversorgung und greift für die reguläre Sprechstunde im Regelfall nicht. Die Unterscheidung ist keine Feinheit: Über Anhang III gilt der 02.12.2027 und Art. 27 ist zu prüfen, über Anhang I gilt der 02.08.2028 und Art. 27 fällt nicht an. Nr. 5 Buchst. c betrifft im Übrigen die Preisbildung bei Lebens- und Krankenversicherungen und wird häufig falsch zitiert.
Ein KI-Telefonassistent für Terminvergabe ist in aller Regel kein Hochrisiko-System, solange er nur Termine bucht und nicht medizinisch berät. Sobald derselbe Bot eine Vorab-Triage ausführt, also entscheidet, ob eine Termindringlichkeit vorliegt, kippt die Einstufung.
Ein KI-Modul in der Praxissoftware, das ICD-10-Codes vorschlägt, ist Hochrisiko über den MDR-Pfad. Es liefert Information für diagnostische Entscheidungen im Sinne von MDR Regel 11 und ist damit zugleich Medizinprodukt mindestens Klasse IIa.
Aktuelle Fristen nach Digital Omnibus
Der Digital Omnibus on AI (Verordnung (EU) 2026/1744, in Kraft seit 27.07.2026) hat die Anwendungsfristen für Hochrisiko-Pflichten verschoben. Anhang-III-Pflichten greifen ab Dezember 2027, die MDR-Route ab August 2028. Die ursprünglich für August 2026 geplante Anwendung der Betreiberpflichten nach Art. 26 ist damit überholt.
Unverändert bleibt Art. 4 KI-Literacy, der seit Februar 2025 gilt. Ebenfalls unverändert bleibt der materielle Kern der menschlichen Aufsicht nach Art. 26 Abs. 2. Wer KI heute in der Praxis einsetzt, kommt an dieser Pflicht nicht vorbei, auch wenn der formelle Hochrisiko-Pflichtenkanon noch nicht greift.
Ist jede KI in der Arztpraxis Hochrisiko-KI?
Nein. Die Einstufung hängt von der Zweckbestimmung ab. Ein reiner Telefonassistent für Terminbuchungen ist meist kein Hochrisiko-System. Sobald die KI aber Informationen liefert, die in diagnostische oder therapeutische Entscheidungen einfließen, etwa durch ICD-Vorschläge oder Triage-Empfehlungen, greift Hochrisiko nach Anhang III Nr. 5.
Welche Pflichten löst Hochrisiko-Status aus?
Auf Anbieterseite Risikomanagement (Art. 9), Datenqualität (Art. 10), technische Dokumentation (Art. 11), Aufzeichnungspflichten (Art. 12), Transparenz (Art. 13), menschliche Aufsicht (Art. 14), Genauigkeit und Cybersicherheit (Art. 15), Konformitätsbewertung und CE-Kennzeichnung. Auf Betreiberseite die sechs Pflichten aus Art. 26.
Wann gelten die Hochrisiko-Pflichten konkret?
Nach dem Digital Omnibus on AI (Verordnung (EU) 2026/1744, in Kraft seit 27.07.2026) verschieben sich die Anwendungsfristen. Anhang III-Pflichten greifen ab Dezember 2027, die MDR-Route ab August 2028. Art. 4 KI-Literacy gilt unverändert seit Februar 2025, und Art. 26 Abs. 2 (menschliche Aufsicht) bleibt der ungebrochene Hochrisiko-Kern.
Wie prüfe ich, ob ein konkretes System Hochrisiko-KI ist?
In drei Schritten. Erstens, die Zweckbestimmung des Anbieters auslesen. Zweitens, prüfen, ob das System als Sicherheitskomponente eines Medizinprodukts gilt (Anhang I) oder unter eine der Anhang-III-Kategorien fällt (insbesondere Nr. 5 lit. b und c für Gesundheitsversorgung). Drittens, dokumentieren, warum die Einstufung erfolgt ist.
Hochrisiko-KI im Gesundheitswesen: Der Entscheidungsbaum zur Klassifizierung
Hochrisiko-KI Klassifizierung Krankenhaus und Praxis: Entscheidungsbaum nach EU AI Act Anhang III mit Praxisbeispielen für das Gesundheitswesen.
Daniel Kleiboldt
Legal Engineer · Diplom-Jurist, LL.M.
Berät Arztpraxen und MVZ zu EU AI Act, DSGVO und Haftungsfragen beim KI-Einsatz. Lehrauftrag an der Hochschule Neu-Ulm (HNU).
Begriffe wie dieser verändern sich, wenn sich die Rechtslage bewegt. Im CAVEAT schreibe ich auf, was sich geändert hat und was das im Praxisalltag bedeutet.