Glossar · Tiefenausbau
Hochrisiko-KI
KI-Systeme, die nach Anhang III EU AI Act besonders streng reguliert werden — im Gesundheitswesen fast alle diagnostischen und therapeutischen KI-Anwendungen.
Auf einen Blick
- 01Hochrisiko-KI sind KI-Systeme, die nach Art. 6 EU AI Act besonderen Anforderungen unterliegen. Im Gesundheitswesen fallen die meisten diagnostisch oder therapeutisch eingesetzten KI-Systeme darunter.
- 02Es gibt zwei Hochrisiko-Pfade. Erstens, KI als Sicherheitskomponente eines Medizinprodukts nach Anhang I. Zweitens, eigenständige Einsätze in den Hochrisiko-Bereichen nach Anhang III, darunter die Gesundheitsversorgung.
- 03Die volle Pflichtenlast greift nach aktuellem Stand des Digital Omnibus voraussichtlich ab Dezember 2027 für Anhang III und ab August 2028 für die MDR-Route.
Definition
Hochrisiko-KI ist die Bezeichnung des EU AI Act für KI-Systeme mit besonderem Gefahrenpotenzial für Gesundheit, Sicherheit oder Grundrechte. Sie unterliegen den strengsten Anforderungen der Verordnung. Im Gesundheitswesen sind die meisten KI-Systeme mit klinischer Relevanz Hochrisiko-Systeme.
Die Einstufung als Hochrisiko ist keine Frage der Technologie, sondern eine Frage der Zweckbestimmung und des Einsatzkontextes. Ein und dasselbe Sprachmodell kann je nach Anwendung Niedrigrisiko sein (etwa als Termin-Chatbot) oder Hochrisiko (etwa als Diagnose-Assistenz im Triage-Workflow).
Rechtliche Verankerung
Art. 6 Abs. 1 EU AI Act in Verbindung mit Anhang I beschreibt den ersten Hochrisiko-Pfad. KI-Systeme, die als Sicherheitskomponente eines Produkts gelten, das unter eine Harmonisierungsvorschrift in Anhang I fällt, sind automatisch Hochrisiko. Anhang I listet unter anderem die Medizinprodukteverordnung (MDR). KI in einem CE-zertifizierten Medizinprodukt ist damit Hochrisiko nach diesem Pfad.
Art. 6 Abs. 2 in Verbindung mit Anhang III beschreibt den zweiten Pfad. Hier listet die Verordnung acht Bereiche, in denen eigenständig eingesetzte KI als Hochrisiko gilt. Nr. 5 lit. b und c betreffen das Gesundheitswesen direkt, nämlich die Priorisierung des Zugangs zu wesentlichen privaten und öffentlichen Diensten und Leistungen. Triage-Systeme, Notaufnahmen-Priorisierung und Zugangsentscheidungen zu Leistungen fallen darunter.
Eine Ausnahme regelt Art. 6 Abs. 3. Ein KI-System aus Anhang III gilt nicht als Hochrisiko, wenn es ausschließlich eine eng begrenzte, vorbereitende oder rein technische Aufgabe erfüllt und keine substanzielle Auswirkung auf die Entscheidung hat. Die Praxisrelevanz dieser Ausnahme ist im Gesundheitswesen gering, weil KI-Outputs in aller Regel entscheidungsrelevant sind.
Pflichten bei Hochrisiko-Status
Anbieter trifft die Hauptlast der Compliance. Risikomanagement nach Art. 9, Datenqualitätssicherung nach Art. 10, technische Dokumentation nach Art. 11 mit den Vorgaben aus Anhang IV, Aufzeichnungspflichten nach Art. 12, Transparenzanforderungen nach Art. 13, Vorbereitung der menschlichen Aufsicht nach Art. 14, Genauigkeits- und Cybersicherheitsanforderungen nach Art. 15, dazu Konformitätsbewertung und CE-Kennzeichnung.
Betreiber unterliegen den sechs Pflichten aus Art. 26. Einsatz gemäß Gebrauchsanweisung, menschliche Aufsicht durch qualifiziertes Personal, Eingabedatenqualität, Monitoring und Meldung von Vorfällen, Aufbewahrung der Protokolle für mindestens sechs Monate, Datenschutz-Folgenabschätzung vor dem Einsatz. Für öffentliche Einrichtungen kommt nach Art. 27 die Grundrechte-Folgenabschätzung hinzu.
Praxisbeispiele aus dem Gesundheitswesen
KI-Befundungs-Software in der Radiologie ist Hochrisiko über den MDR-Pfad. Sie ist Sicherheitskomponente eines CE-zertifizierten Medizinprodukts und liefert Information für diagnostische Entscheidungen. Beispiele sind Aidoc, Lunit Insight und Siemens AI-Rad Companion.
Triage-KI in der Hausarztpraxis ist Hochrisiko über Anhang III Nr. 5 lit. c. Sie priorisiert den Zugang zu medizinischer Leistung und beeinflusst die Reihenfolge der Versorgung. Tools wie Ada Health oder Klug fallen in diese Kategorie.
Ein KI-Telefonassistent für Terminvergabe ist in aller Regel kein Hochrisiko-System, solange er nur Termine bucht und nicht medizinisch berät. Sobald derselbe Bot eine Vorab-Triage ausführt, also entscheidet, ob eine Termindringlichkeit vorliegt, kippt die Einstufung.
Ein KI-Modul in der Praxissoftware, das ICD-10-Codes vorschlägt, ist Hochrisiko über den MDR-Pfad. Es liefert Information für diagnostische Entscheidungen im Sinne von MDR Regel 11 und ist damit zugleich Medizinprodukt mindestens Klasse IIa.
Aktuelle Fristen nach Digital Omnibus
Der Digital Omnibus on AI vom Mai 2026 hat die Anwendungsfristen für Hochrisiko-Pflichten verschoben. Anhang-III-Pflichten greifen voraussichtlich ab Dezember 2027, die MDR-Route ab August 2028. Die ursprünglich für August 2026 geplante Anwendung der Betreiberpflichten nach Art. 26 ist damit überholt.
Unverändert bleibt Art. 4 KI-Literacy, der seit Februar 2025 gilt. Ebenfalls unverändert bleibt der materielle Kern der menschlichen Aufsicht nach Art. 26 Abs. 2. Wer KI heute in der Praxis einsetzt, kommt an dieser Pflicht nicht vorbei, auch wenn der formelle Hochrisiko-Pflichtenkanon noch nicht greift.
Häufige Fragen
Ist jede KI in der Arztpraxis Hochrisiko-KI?
Nein. Die Einstufung hängt von der Zweckbestimmung ab. Ein reiner Telefonassistent für Terminbuchungen ist meist kein Hochrisiko-System. Sobald die KI aber Informationen liefert, die in diagnostische oder therapeutische Entscheidungen einfließen, etwa durch ICD-Vorschläge oder Triage-Empfehlungen, greift Hochrisiko nach Anhang III Nr. 5.
Welche Pflichten löst Hochrisiko-Status aus?
Auf Anbieterseite Risikomanagement (Art. 9), Datenqualität (Art. 10), technische Dokumentation (Art. 11), Aufzeichnungspflichten (Art. 12), Transparenz (Art. 13), menschliche Aufsicht (Art. 14), Genauigkeit und Cybersicherheit (Art. 15), Konformitätsbewertung und CE-Kennzeichnung. Auf Betreiberseite die sechs Pflichten aus Art. 26.
Wann gelten die Hochrisiko-Pflichten konkret?
Nach dem Digital Omnibus on AI vom Mai 2026 verschieben sich die Anwendungsfristen. Anhang III-Pflichten greifen voraussichtlich ab Dezember 2027, die MDR-Route ab August 2028. Art. 4 KI-Literacy gilt unverändert seit Februar 2025, und Art. 26 Abs. 2 (menschliche Aufsicht) bleibt der ungebrochene Hochrisiko-Kern.
Wie prüfe ich, ob ein konkretes System Hochrisiko-KI ist?
In drei Schritten. Erstens, die Zweckbestimmung des Anbieters auslesen. Zweitens, prüfen, ob das System als Sicherheitskomponente eines Medizinprodukts gilt (Anhang I) oder unter eine der Anhang-III-Kategorien fällt (insbesondere Nr. 5 lit. b und c für Gesundheitsversorgung). Drittens, dokumentieren, warum die Einstufung erfolgt ist.