Digital Omnibus: Warum die neue KI-Kompetenzpflicht für Arztpraxen mehr Arbeit bedeutet

Was Brüssel verschoben hat, und was nicht

Drei Bewegungen lohnen den Blick.

Die erste ist die offensichtlichste. Fristen für Hochrisiko-Systeme rutschen nach hinten. Stand-alone-Systeme nach Anhang III greifen jetzt erst ab dem 2. Dezember 2027, KI-basierte Medizinprodukte aus Anhang I sogar erst ab dem 2. August 2028. Wer heute überlegt, eine bildgebende KI im Behandlungsalltag einzuführen, hat damit gut zwei Jahre mehr Anlauf. Wer das als gewonnene Zeit liest, hat recht. Wer es als Aufschub liest, hat schon verloren.

Die zweite Bewegung verdient die meiste Aufmerksamkeit und bekommt am wenigsten. Die Kommission hat am 19. Mai endlich den Entwurf der lange erwarteten Leitlinien zur Klassifizierung von Hochrisiko-Systemen veröffentlicht und eine Konsultation bis zum 23. Juni eröffnet. Erst diese Leitlinien werden viele der Grauzonen klären, in denen heute jede Praxis steht. Wann ist mein Ambient-Scribing-System noch Dokumentation und wann schon Diagnoseunterstützung? Wann fällt mein Telefonassistent unter ein striktes Regime und wann nicht? Die Antworten kommen, nur eben später.

Die dritte Bewegung ist die rechtspolitisch eleganteste und für Ihre Praxis die folgenreichste. Der Text von Art. 4 AI Act wurde umformuliert. Die alte Fassung verlangte, ein ausreichendes Niveau an KI-Kompetenz zu „gewährleisten“. Die neue Fassung verlangt, „Maßnahmen zu ergreifen, um die Entwicklung der KI-Kompetenz zu unterstützen“. Was wie eine sprachliche Spitzfindigkeit klingt, ist in Wahrheit eine Architekturentscheidung mit Folgen für jede Praxis, die heute ein KI-Modul angeschaltet hat.

Vom Versprechen zum Beleg

Die alte Formulierung enthielt eine versteckte Falle. Wenn ein Mitarbeiter eine KI offensichtlich falsch bediente, konnte sich daraus ein Haftungsanker stricken lassen, weil das Kompetenzniveau ja „nicht ausreichend“ gewesen sein musste. Was „ausreichend“ heißt, war nirgewo definiert. Diese Unbestimmtheit hat in Vorständen, Kanzleien und auch in mancher Praxis für ein Klima der vorbeugenden Lähmung gesorgt.

Die neue Formulierung räumt diese Unbestimmtheit aus, und sie tut es auf eine sehr brüsselische Weise. Statt einer materiellen Erfolgsanforderung tritt eine formale Bemühungsanforderung. Wer dokumentieren kann, dass er Schulungen angeboten und durchgeführt hat, hat seine Pflicht erfüllt. Ob das geschulte Personal die KI hinterher wirklich versteht, ist rechtlich zweitrangig geworden.

Für die Aufsichtspraxis hat das eine sehr konkrete Folge. Eine Behörde wird Sie künftig nicht mehr fragen, ob Ihr Team kompetent ist. Sie wird fragen, ob Sie Ihre Bemühungen belegen können. Das klingt freundlicher und ist es auch, vorausgesetzt, Sie haben irgendetwas vorzuweisen. Wer dagegen einfach davon ausgegangen ist, dass die MFA das KI-Modul schon irgendwie bedienen wird, weil sie ja auch das alte PVS bedient hat, steht jetzt vor einer entwaffnend simplen Frage: Wo ist das Schulungsregister?

Genau hier liegt die Pointe der angeblichen Entlastung. Die Pflicht ist nicht weg, sie ist nur leichter zu erfüllen. Aber sie ist eben auch leichter zu prüfen. Eine Aufsichtsbehörde, die ein Wirksamkeitsurteil treffen sollte, hätte sich verheben müssen. Eine Aufsichtsbehörde, die nach Dokumenten fragt, kommt sehr schnell ans Ziel. Und das Fehlen jedes Dokuments ist genau der Beweis, den sie sucht.

Wo Brüssel nichts gelockert hat

Während Art. 4 in den Pressemitteilungen verhandelt wurde, ist eine andere Norm fast unbemerkt unverändert geblieben. Art. 26 Abs. 2 verpflichtet den Betreiber eines Hochrisiko-Systems, die menschliche Aufsicht solchen Personen zu übertragen, die „die erforderliche Kompetenz, Ausbildung und Befugnis“ besitzen. Der Wortlaut spricht hier nicht von Maßnahmen, sondern verlangt unmittelbar die materielle Eignung der aufsichtsführenden Person, und genau diese Anforderung ist durch den Omnibus mit keinem Wort angetastet worden.

Für Praxen mit Diagnose-KI ist das die eigentlich tragende Norm. Das Bild, an das ich dabei denke, ist der Radiologe, der morgens vor seinem Monitor sitst und die KI-Vorschläge zu achtzig Mamma-Screenings durchklickt. Drei Sekunden Blick, ein Häkchen, weiter. Die KI ist in 95 Prozent der Fälle korrekt. Genau diese Zahl ist das Problem. Das menschliche Gehirn hört nach den ersten zwanzig richtigen Vorschlägen auf, wirklich zu prüfen. Es nickt ab, es vertraut. Es macht genau den Fehler, den der Gesetzgeber Automation Bias nennt und gegen den Art. 26 Abs. 2 die individuelle, qualifizierte Aufsichtskompetenz fordert.

Diese Kompetenz lässt sich nicht durch ein zwanzigminütiges Onboarding-Video herstellen. Sie verlangt, dass der aufsichtsführende Arzt versteht, wie das System arbeitet, wo seine systematischen Schwächen liegen, wie ein typischer Fehlbefund aussieht und wann er die KI überstimmen muss. Wer das nicht leisten kann, darf nach dem Gesetz die Aufsicht nicht übernehmen. Und ja, das gilt auch dann, wenn der Klinikalltag etwas anderes verlangt.

Hier liegt der eigentlich anspruchsvolle Teil der ganzen Geschichte, und er ist die unverändert harte Seite einer Reform, die in der Wahrnehmung gerade auf den weichen Teil reduziert wird.

Was das für Ihre Praxis bedeutet

Wenn Sie in Stufe „freundliche KI im Telefondienst“ unterwegs sind, brauchen Sie ein Schulungsregister, einen kurzen Kompetenz-Refresher für das Team und eine ehrliche Übersicht darüber, welche KI-Funktionen in Ihrem PVS überhaupt aktiv sind. Letzteres ist überraschend oft unklar, weil PVS-Anbieter ihre KI-Module wie Sonderausstattung verkaufen, die Praxis sie aber wie eine Software-Funktion wahrnimmt. Die Folgefrage „seit wann ist das eigentlich an?“ produziert in Beratungsterminen verlässlich Stille im Raum.

Wenn Sie KI für diagnostische Vorschläge einsetzen, müssen Sie zwei Ebenen abdecken. Die organisatorische Baseline aus Art. 4 für das gesamte Team, dokumentiert und revisionssicher. Und die rollenspezifische Aufsichtskompetenz aus Art. 26 Abs. 2 für die Ärzte am Bildschirm, materiell und überprüfbar. Beides ist heute aufsetzbar. Beides wird in zwei Jahren prüfungsrelevant, sobald die Fristen aktiviert werden. Beides wird in drei Jahren Marktstandard sein, und wer dann erst anfängt, wird Mühe haben, Anschluss zu finden.

Wenn Sie noch gar keine KI im Einsatz haben, dann ist das die richtige Gelegenheit, mit einem Inventar zu beginnen, bevor das erste Update Ihres Anbieters die Lage ändert.

Die kleine Eleganz und die große Frage

Brüssel hat im Mai etwas Elegantes getan. Es hat eine Norm entschärft, die in der Wirtschaft als Druck empfunden wurde, und gleichzeitig die wirklich harte Norm dort gelassen, wo sie am wenigsten in den Schlagzeilen steht. Das ist gute europäische Regulierungskunst. Es ist aber auch eine Einladung an alle, die nur die Schlagzeile lesen, einen entscheidenden Punkt zu übersehen.

Die Pflicht zur KI-Kompetenz ist nicht weg. Sie ist nur in einen Aktenordner umgezogen. Wer diesen Aktenordner heute anlegt, hat zwei Jahre Zeit, ihn ordentlich zu füllen. Wer ihn ignoriert, hat zwei Jahre Zeit, sich auf eine sehr unangenehme Frage einer sehr freundlichen Aufsichtsbehörde vorzubereiten. Welche der beiden Optionen Ihnen lieber ist, müssen Sie selbst entscheiden. Mir wäre die erste lieber.