Warum Art. 4 AI Act den Einsatzkontext verlangt
Art. 4 AI Act stellt auf den Einsatzkontext und die betroffenen Personen ab. Was das für die Schulung in Praxis und MVZ heißt und wie der Praxisbezug gelingt.
- 01Art. 4 AI Act nennt den konkreten Einsatzkontext und die betroffenen Personengruppen ausdrücklich
- 02Art. 4 lässt das Format offen und fragt, ob die Maßnahme den Kontext der Praxis aufgreift
- 03Den Praxisbezug stellen drei Elemente her, die Kompetenz für das konkrete Tool, die eigenen Abläufe und die Risiken der Fachrichtung
- 04Ein Basismodul für das ganze Team und ein Teil zu den Systemen der Praxis berücksichtigen zusammen beide Faktoren aus Art. 4
- 05Ein fehlender Praxisbezug kann im Schadensfall als Organisationsmangel gewertet werden
Kurzantwort
Art. 4 EU AI Act verlangt, dass die Maßnahmen zur KI-Kompetenz den Kontext berücksichtigen, in dem die KI eingesetzt wird, und die Personen, bei denen sie eingesetzt wird. Für Arztpraxen und MVZ heißt das, dass eine Schulung die konkret eingesetzten Systeme, die eigenen Abläufe und die Risiken der Fachrichtung aufgreifen sollte.
Ein Format schreibt die Norm nicht vor. Ein bestimmtes Kompetenzniveau muss die Praxis seit der Neufassung durch die Verordnung (EU) 2026/1744 ausdrücklich nicht garantieren. Gefragt ist, ob die Maßnahme zu dem passt, was im Team tatsächlich läuft.
Sie haben einen KI-Literacy-Kurs gebucht, vielleicht sogar einen zertifizierten. Zwei Stunden E-Learning, allgemeine Einführung in Künstliche Intelligenz, ein Kapitel zum AI Act, Zertifikat als PDF. Haken dran, Pflicht erfüllt. So zumindest die Annahme.
Für Arztpraxen und MVZ greift diese Annahme oft zu kurz. Art. 4 fragt, ob die Maßnahme zu den Systemen und Abläufen passt, mit denen das Team arbeitet, und allgemeines KI-Grundlagenwissen beantwortet das nur zum Teil.
Was passiert, wenn der Praxisbezug fehlt
Fallbeispiel
Eine MFA bedient ein KI-gestütztes Abrechnungstool mit falschen Parametern. Das System generiert eine Fehlkodierung. Niemand im Team wurde geschult, die Ausgaben dieses konkreten Tools systematisch zu prüfen, denn der generische KI-Kurs behandelte das System mit keinem Wort. Die Fehlkodierung fließt unbemerkt in die Dokumentation, beeinflusst eine Therapieentscheidung beim Folgetermin. Patientenschaden.
Die Berufshaftpflicht prüft den Fall und fragt nach der Einweisung des Teams in das konkrete KI-System und nach Prüfroutinen für KI-generierte Vorschläge. Beides ist nicht dokumentiert, und im Raum steht ein Organisationsmangel.
Der allgemeine Kurs, den die Praxis gebucht hatte, hat dieses System nie erwähnt. Genau dort ist der Fehler entstanden.
Drei Elemente, die den Praxisbezug herstellen
Ob eine Maßnahme den Einsatzkontext aufgreift, zeigt sich im medizinischen Alltag an drei Elementen.
Tool-spezifische Kompetenz
Das Praxisteam lernt die Risiken, Grenzen und Fehlerquellen genau der KI-Systeme kennen, die in der eigenen Praxis im Einsatz sind. Ein Telefonassistent hat andere Fehlerprofile als eine KI-gestützte Befundung in der Dermatologie oder ein Ambient-Scribing-Tool für die Dokumentation. Diese Kenntnisse hängen am einzelnen System.
Praxisspezifische Prozesse und Zuständigkeiten
Wer dokumentiert einen KI-Fehler? Wer überwacht die Ausgaben des Systems im Tagesgeschäft? Wer gibt KI-generierte Inhalte frei, bevor sie in die Patientenakte fließen? Diese Zuständigkeiten unterscheiden sich von Praxis zu Praxis und werden deshalb in der Praxis selbst festgelegt.
Risikoeinschätzung für die konkret betroffenen Patienten
Art. 4 nennt ausdrücklich die Personen, bei denen das System eingesetzt wird. In einer onkologischen Praxis sind die Risiken eines fehlerhaften KI-Outputs andere als in einer HNO-Praxis oder einer hausärztlichen Versorgung. Eine Schulung, die die Schadensszenarien der eigenen Fachrichtung aufgreift, trifft den Kontext, den Art. 4 meint.
Die rechtliche Grundlage im Detail
Dass der Einsatzkontext zählt, ergibt sich aus dem Wortlaut der KI-Verordnung. Drei Stellen tragen das.
Art. 4 AI Act
MaßnahmenDie Maßnahmen zur KI-Kompetenz berücksichtigen nach Abs. 1 unter anderem den Kontext, in dem die KI-Systeme eingesetzt werden sollen, und die Personen oder Personengruppen, bei denen sie eingesetzt werden sollen. Für die Praxis sind das ihre Abläufe und ihre Patientinnen und Patienten. Ein bestimmtes Kompetenzniveau muss der Betreiber seit der Neufassung durch die Verordnung (EU) 2026/1744 ausdrücklich nicht garantieren.
Art. 3 Nr. 56 AI Act
DefinitionKI-Kompetenz: „[...] die Fähigkeiten, die Kenntnisse und das Verständnis, die es [...] ermöglichen, KI-Systeme sachkundig einzusetzen sowie sich der Chancen und Risiken von KI und möglicher Schäden, die sie verursachen kann, bewusst zu werden.“
Ein sachkundiger Einsatz setzt voraus, dass das Personal die Eigenheiten und Grenzen des tatsächlich genutzten Systems kennt. Ein Bewusstsein für mögliche Schäden entsteht nur, wenn die konkreten Risiken des konkreten Tools vermittelt werden.
Erwägungsgrund 20
AuslegungBestätigt den Differenzierungsansatz: Die KI-Kompetenz sollte sich in ihrer konkreten Ausgestaltung nach den tatsächlichen Befugnissen und der Rolle richten, die das Personal beim Einsatz des jeweiligen Systems einnimmt.
Wie eine Schulung den Praxisbezug herstellt
Es bietet sich ein Aufbau in zwei Teilen an. Ein Basismodul deckt KI-Grundlagen, Datenschutz und den regulatorischen Rahmen für das ganze Team ab, ein zweiter Teil greift die Systeme, Abläufe und Risiken der eigenen Praxis auf. Zusammen berücksichtigen sie beide Faktoren, die Art. 4 nennt.
Fundament
Basismodul für das ganze Team
KI-Grundlagen, Datenschutz, regulatorischer Rahmen, allgemeine Risikosensibilisierung. Das Fundament, auf dem der praxisbezogene Teil aufsetzt.
Einsatzkontext
Praxisbezogener Teil
Konkret eingesetzte Tools, interne Abläufe, Risiken der Fachrichtung, Zuständigkeiten für KI-Überwachung und Fehlerdokumentation. Hier wird der Einsatzkontext greifbar.
Für Ihre Praxis
KI-Start mit dem ganzen Team
Drei Stunden, online oder in der Praxis. Danach steht Ihr Praxisplan, und der KI-Start ist zugleich die erste Maßnahme zur KI-Kompetenz nach Art. 4 EU AI Act. 1.900 € netto, vor Ort in NRW und Niedersachsen ohne Aufpreis.
Häufige Fragen
Gilt die Bemühungspflicht nach Art. 4 AI Act schon jetzt?
+
Ja. Art. 4 AI Act gilt seit dem 2. Februar 2025, ohne Übergangsfrist. Jeder Betreiber ergreift seitdem Maßnahmen, die die KI-Kompetenz seines Personals unterstützen, und kann sie belegen. Ein bestimmtes Niveau schuldet er nicht.
Reicht ein Online-Kurs für Art. 4?
+
Art. 4 schreibt kein Format vor. Ein Online-Kurs kann eine geeignete Maßnahme sein, wenn er den Kontext aufgreift, in dem das Team KI einsetzt, und die Personen, bei denen sie eingesetzt wird. Wo er das nicht leistet, ergänzt die Praxis ihn um eine Einweisung in die eigenen Systeme und Abläufe.
Was passiert bei einem Verstoß gegen Art. 4?
+
Ein Bußgeld droht dafür in Deutschland derzeit nicht. Art. 4 steht nicht im Bußgeldrahmen des Art. 99 Abs. 4 AI Act, und das KI-MIG nennt ihn in seinem Bußgeldkatalog nicht. Fehlende Maßnahmen können im Schadensfall aber als Organisationsmangel gewertet werden.
Muss jede MFA den gleichen Schulungsumfang absolvieren wie der Arzt?
+
Nein. Erwägungsgrund 20 der KI-Verordnung stellt klar, dass der Schulungsumfang proportional zum Risiko des Systems und dem Vorwissen des Personals sein muss. Eine MFA, die ein KI-gestütztes Abrechnungstool bedient, braucht andere Inhalte als der Arzt, der KI-Befunde freigibt.
Wie schult Kleiboldt Legal Engineering ein Praxisteam?
+
In der einzelnen Praxis mit dem KI-Start, drei Stunden mit dem ganzen Team, online oder in der Praxis. Er ergibt den Praxisplan und ist zugleich die erste Maßnahme zur KI-Kompetenz nach Art. 4 EU AI Act. MVZ und Verbünde schule ich auf Anfrage über alle Standorte, mit eigenem Termin und Nachweis je Person.
Daniel Kleiboldt
Legal Engineer · Jurist, LL.M., Software Engineer
Berät Praxen, MVZ und Kliniken zu EU AI Act, DSGVO und Haftungsfragen beim KI-Einsatz. Lehrauftrag an der Hochschule Neu-Ulm (HNU).