KI-Literacy Art. 4 AI Act: Warum generische Schulungen für Arztpraxen nicht ausreichen

Kurzantwort

Die KI-Kompetenzpflicht nach Art. 4 EU AI Act verlangt ausdrücklich, dass Schulungen den konkreten Einsatzkontext und die betroffenen Personengruppen berücksichtigen. Für Arztpraxen und MVZ bedeutet das: Ein rein generischer KI-Kurs reicht rechtlich nicht aus.

Die Schulung muss die konkret eingesetzten KI-Systeme, die praxisinternen Abläufe und die fachrichtungsspezifischen Risiken abbilden. Ohne diesen praxisspezifischen Teil ist die Schulung nicht rechtskonform im Sinne der Verordnung.

Sie haben einen KI-Literacy-Kurs gebucht, vielleicht sogar einen zertifizierten. Zwei Stunden E-Learning, allgemeine Einführung in Künstliche Intelligenz, ein Kapitel zum AI Act, Zertifikat als PDF. Haken dran, Pflicht erfüllt. So zumindest die Annahme.

Für Arztpraxen und MVZ ist diese Annahme falsch. Und zwar nicht, weil der Kurs schlecht wäre, sondern weil der Gesetzgeber für den medizinischen Kontext mehr verlangt als allgemeines KI-Grundlagenwissen.

Was passiert, wenn die Schulung nicht reicht

Fallbeispiel

Eine MFA bedient ein KI-gestütztes Abrechnungstool mit falschen Parametern. Das System generiert eine Fehlkodierung. Niemand im Team wurde geschult, die Ausgaben dieses konkreten Tools systematisch zu prüfen, denn der generische KI-Kurs behandelte das System mit keinem Wort. Die Fehlkodierung fließt unbemerkt in die Dokumentation, beeinflusst eine Therapieentscheidung beim Folgetermin. Patientenschaden.

Die Berufshaftpflicht prüft den Fall. Ergebnis: keine dokumentierte Einweisung des Teams in das konkrete KI-System, keine definierten Prüfroutinen für KI-generierte Vorschläge. Der Versicherer wertet das als schweren Organisationsmangel und kürzt die Leistung massiv.

Der generische Kurs, den die Praxis gebucht hatte? Stand im Regal. Hat den Schaden nicht verhindert. Und hat die gesetzliche Pflicht nicht erfüllt.

Warum ein generischer Kurs nicht ausreicht

Im medizinischen Kontext fehlen generischen Formaten drei Elemente, die der AI Act zwingend voraussetzt.

Tool-spezifische Kompetenz

Das Praxisteam muss die Risiken, Grenzen und Fehlerquellen genau der KI-Systeme verstehen, die in der eigenen Praxis im Einsatz sind. Ein Telefonassistent hat andere Fehlerprofile als eine KI-gestützte Befundung in der Dermatologie oder ein Ambient-Scribing-Tool für die Dokumentation. Generische KI-Theorie vermittelt diese Kenntnisse nicht.

Praxisspezifische Prozesse und Zuständigkeiten

Wer dokumentiert einen KI-Fehler? Wer überwacht die Ausgaben des Systems im Tagesgeschäft? Wer gibt KI-generierte Inhalte frei, bevor sie in die Patientenakte fließen? Diese Zuständigkeiten unterscheiden sich von Praxis zu Praxis und lassen sich in einem generischen Format nicht abbilden.

Risikoeinschätzung für die konkret betroffenen Patienten

Art. 4 verlangt die Berücksichtigung der Personen, bei denen das System eingesetzt wird. In einer onkologischen Praxis sind die Risiken eines fehlerhaften KI-Outputs andere als in einer HNO-Praxis oder einer hausärztlichen Versorgung. Die Schulung muss diese fachrichtungsspezifischen Schadensszenarien adressieren.

Die rechtliche Grundlage im Detail

Die Anforderung, dass eine generische Schulung nicht ausreicht, ergibt sich direkt aus dem Wortlaut der KI-Verordnung. Drei Stellen sind entscheidend.

Art. 4 AI Act

Pflicht

„[...] wobei der Kontext, in dem die KI-Systeme verwendet werden sollen, und die Personen oder Gruppen von Personen, bei denen die KI-Systeme verwendet werden sollen, berücksichtigt werden.“

Zwei zwingende Anpassungsfaktoren: der konkrete Einsatzkontext (die Praxis mit ihren spezifischen Workflows) und die konkret betroffenen Personen (die Patientinnen und Patienten).

Art. 3 Nr. 56 AI Act

Definition

KI-Kompetenz: „[...] die Fähigkeiten, die Kenntnisse und das Verständnis, die es [...] ermöglichen, KI-Systeme sachkundig einzusetzen sowie sich der Chancen und Risiken von KI und möglicher Schäden, die sie verursachen kann, bewusst zu werden.“

Ein sachkundiger Einsatz setzt voraus, dass das Personal die Eigenheiten und Grenzen des tatsächlich genutzten Systems kennt. Ein Bewusstsein für mögliche Schäden entsteht nur, wenn die konkreten Risiken des konkreten Tools vermittelt werden.

Erwägungsgrund 20

Auslegung

Bestätigt den Differenzierungsansatz: Die KI-Kompetenz sollte sich in ihrer konkreten Ausgestaltung nach den tatsächlichen Befugnissen und der Rolle richten, die das Personal beim Einsatz des jeweiligen Systems einnimmt.

Was eine rechtskonforme Schulung leisten muss

Die Lösung ist ein modularer Ansatz: ein generisches Basismodul, das KI-Grundlagen, Datenschutz und den regulatorischen Rahmen abdeckt, kombiniert mit einem praxisspezifischen Modul. Erst die Kombination erfüllt die gesetzlichen Anpassungsfaktoren.

Allein nicht ausreichend

Generisches Basismodul

KI-Grundlagen, Datenschutz, regulatorischer Rahmen, allgemeine Risikosensibilisierung. Wertvolles Fundament, erfüllt aber allein die gesetzliche Pflicht nicht.

Erfüllt Art. 4 (in Kombination)

Praxisspezifisches Modul

Konkret eingesetzte Tools, interne Workflows, fachrichtungsspezifische Risiken, definierte Zuständigkeiten für KI-Überwachung und Fehlerdokumentation. Ohne diesen Teil ist die Schulung nicht rechtskonform.

CME-akkreditiert + praxisspezifisch

Der Kurs, der beides abdeckt

3 CME-Punkte (ÄKWL), 90 Minuten Live-Webinar als Basismodul, kombiniert mit individueller Anpassung an Ihre Praxis, Ihre Tools und Ihre Teamstruktur. Ab Juni 2026.

Zum Kurs Beratung anfragen

Häufige Fragen

Gilt die KI-Kompetenzpflicht nach Art. 4 AI Act schon jetzt?

Ja. Art. 4 AI Act gilt seit dem 2. Februar 2025, ohne Übergangsfrist. Jeder Betreiber eines KI-Systems muss seitdem nachweisen können, dass sein Personal über ausreichende KI-Kompetenz verfügt.

Reicht ein zertifizierter Online-Kurs als Nachweis?

Nur wenn der Kurs auch den konkreten Einsatzkontext und die betroffenen Personengruppen berücksichtigt. Ein rein generischer Kurs ohne Bezug zu den tatsächlich eingesetzten Tools und den praxisinternen Abläufen genügt den Anforderungen aus Art. 4 i.V.m. Art. 3 Nr. 56 AI Act nicht.

Was passiert bei einem Verstoß gegen Art. 4?

Ein Verstoß gegen die KI-Kompetenzpflicht kann im Schadensfall als Organisationsmangel gewertet werden. Das kann dazu führen, dass der Versicherer die Leistung kürzt oder dass die Beweislast nach § 630h BGB zulasten des Behandelnden verschoben wird. Bußgelder nach Art. 99 AI Act kommen hinzu.

Muss jede MFA den gleichen Schulungsumfang absolvieren wie der Arzt?

Nein. Erwägungsgrund 20 der KI-Verordnung stellt klar, dass der Schulungsumfang proportional zum Risiko des Systems und dem Vorwissen des Personals sein muss. Eine MFA, die ein KI-gestütztes Abrechnungstool bedient, braucht andere Inhalte als der Arzt, der KI-Befunde freigibt.

Was bietet der Kurs von Kleiboldt Legal Engineering?

Ein CME-akkreditierter Basiskurs (3 CME-Punkte, zertifiziert durch die Ärztekammer Westfalen-Lippe) deckt das generische Fundament ab. Darauf aufbauend wird der Kurs individuell an die jeweilige Praxis angepasst: konkret eingesetzte KI-Systeme, praxisinterne Workflows, fachrichtungsspezifische Risiken und definierte Zuständigkeiten.

Generische KI-Schulungen genügen dem AI Act nicht

Auf einen Blick