Glossar · Tiefenausbau
AI Literacy
Bemühungspflicht nach Art. 4 EU AI Act, Maßnahmen zur Förderung der KI-Kompetenz des Personals zu ergreifen und zu dokumentieren.
Auf einen Blick
- 01AI Literacy ist nach Art. 4 EU AI Act die Pflicht, Maßnahmen zur Förderung der KI-Kompetenz des eingesetzten Personals zu ergreifen und zu dokumentieren. Sie gilt seit Februar 2025 für Anbieter und Betreiber.
- 02Seit dem Digital Omnibus on AI vom Mai 2026 ist die Pflicht als Bemühungspflicht ausgestaltet. Entscheidend ist die dokumentierte Durchführung von Schulungsmaßnahmen, nicht ein bestimmtes Kompetenzniveau.
- 03Generische KI-Kurse decken die Pflicht für Arztpraxen und MVZ nicht ab. Erforderlich ist der Bezug zu den tatsächlich eingesetzten Tools, den praxisinternen Workflows und der jeweiligen Fachrichtung.
Definition
AI Literacy, im deutschen Recht KI-Kompetenz, beschreibt die Fähigkeit, KI-Systeme sachgerecht einzusetzen, ihre Funktionsweise im Grundsatz zu verstehen, ihre Grenzen zu erkennen und die Ergebnisse kritisch zu bewerten. Art. 4 EU AI Act macht die Förderung von KI-Kompetenz beim eingesetzten Personal zur Bemühungspflicht von Anbietern und Betreibern.
Die Definition aus Erwägungsgrund 20 stellt klar, dass die KI-Kompetenz proportional zum Risiko des Systems und zum Vorwissen des Personals zu bemessen ist. Eine Ärztin braucht mehr Tiefe als eine MFA, ein Hochrisiko-System mehr als ein einfacher Termin-Chatbot.
Rechtliche Verankerung und Bemühungspflicht
Art. 4 EU AI Act gilt seit dem 2. Februar 2025, ohne Übergangsfrist. Anbieter und Betreiber müssen Maßnahmen ergreifen, um nach besten Kräften ein ausreichendes Maß an KI-Kompetenz beim eingesetzten Personal sicherzustellen.
Mit dem Digital Omnibus on AI vom Mai 2026 hat die Pflicht ihre Färbung gewechselt. Die ursprünglich harte Formulierung der Erfolgspflicht ("sicherzustellen") ist faktisch zur Bemühungspflicht herabgestuft worden. Entscheidend ist die dokumentierte Durchführung von Schulungsmaßnahmen, nicht ein bestimmtes Kompetenzniveau im Einzelfall.
Die Konsequenz für die Praxis ist eine veränderte Compliance-Logik. Es geht weniger um den Nachweis, dass jeder einzelne Mitarbeitende KI im engeren Sinne "kann", sondern um den Nachweis eines planmäßigen, dokumentierten und periodisch wiederholten Schulungsprozesses. Der Audit Trail der Schulungsmaßnahmen wird zum zentralen Compliance-Artefakt.
Was eine ausreichende AI-Literacy-Schulung umfasst
Vier inhaltliche Blöcke sind im Healthcare-Kontext substanziell. Erstens, technisches Grundverständnis der eingesetzten KI-Systeme. Wie funktioniert ein Large Language Model im Prinzip? Was sind Halluzinationen? Wie unterscheidet sich klassische Regelsoftware von einem statistischen Modell?
Zweitens, Grenzen und Fehlerquellen der konkret eingesetzten Tools. Welche Datenbasis hat das System? Wo neigt es zu Verzerrungen? Welche Patientengruppen sind unterrepräsentiert?
Drittens, rechtlicher Rahmen mit AI Act, DSGVO, Schweigepflicht nach § 203 StGB und Haftungsfragen nach §§ 630a ff. BGB. Das ist die Schicht, in der die meisten generischen Online-Kurse versagen, weil sie den Praxisbezug nicht herstellen.
Viertens, konkrete Verfahren in der eigenen Praxis. Wer beaufsichtigt? Was wird dokumentiert? Wer übernimmt im Schadensfall die Meldung an den Anbieter? Welche Tools sind freigegeben, welche verboten?
Warum generische Kurse nicht ausreichen
Art. 4 verlangt KI-Kompetenz "des betreffenden Personals" und unter Berücksichtigung "des Kontexts ihres Einsatzes". Ein rein generischer Online-Kurs für alle Branchen kann diesen Kontext nicht abbilden. Im Schadensfall droht der Vorwurf des Organisationsmangels, weil die Schulung nicht auf die Risiken des konkreten Einsatzes ausgerichtet war.
Die belastbare Lösung ist ein modularer Ansatz. Ein generisches Basismodul, idealerweise CME-akkreditiert und damit gut nachweisbar, verbunden mit einer praxisspezifischen Erweiterung, die die tatsächlich eingesetzten Tools, die internen Workflows und die fachrichtungsspezifischen Risiken abdeckt.
Dokumentation und Audit Trail
Im Aufsichts- oder Schadensfall zählt die Dokumentation. Vier Elemente gehören in den Audit Trail. Schulungsplan mit Inhalten und Zielen. Teilnehmerliste mit Datum und Schulungsumfang. Inhaltliche Materialien, die nachvollziehbar machen, was vermittelt wurde. Mechanismus für Aktualisierungen, etwa bei neuen Tools, neuen Vorfällen oder regulatorischen Änderungen.
Wer einen solchen Audit Trail führt, erfüllt die Bemühungspflicht aus Art. 4 belastbar. Wer ihn nicht hat, riskiert nicht nur Bußgelder nach Art. 99 AI Act, sondern auch eine Beweisverschiebung im Haftungsfall, weil ein fehlender Schulungsnachweis als Organisationsmangel gewertet werden kann.
Häufige Fragen
Was bedeutet Bemühungspflicht in der Praxis?
Sie müssen nachweisen, dass Sie aktiv und planmäßig Schulungsmaßnahmen durchführen. Das umfasst einen dokumentierten Schulungsplan, durchgeführte Schulungen mit Teilnehmer- und Inhaltsdokumentation, eine periodische Wiederholung und eine Erweiterung bei neuen KI-Tools. Ein abgelaufenes E-Learning aus 2022 ist kein wirksamer Nachweis.
Welche Inhalte gehören in eine AI-Literacy-Schulung für die Arztpraxis?
Vier Blöcke. Erstens, technisches Grundverständnis der eingesetzten KI-Systeme. Zweitens, Grenzen und Fehlerquellen, insbesondere Halluzinationen und Verzerrungen. Drittens, rechtlicher Rahmen mit AI Act, DSGVO und Schweigepflicht. Viertens, konkrete Verfahren in der eigenen Praxis, wer was wann wie freigeben muss.
Wer im Team muss geschult werden?
Alle Personen, die mit dem KI-System arbeiten oder Entscheidungen darauf stützen. In der Praxis sind das Ärzte, MFA, ggf. Praxismanager und IT-Verantwortliche. Der Umfang darf nach Erwägungsgrund 20 proportional zum Risiko des Systems und zum Vorwissen des Personals gestaltet werden. Ärzte brauchen mehr Tiefe als die Empfangskraft.
Reicht ein CME-zertifizierter Kurs aus?
Ein CME-Kurs deckt das generische Fundament ab und ist gut nachweisbar. Er reicht aber nur in Kombination mit einer praxisspezifischen Anpassung. Das kann eine ergänzende interne Schulung sein, die die konkret eingesetzten Tools, die praxisinternen Workflows und die spezifischen Risiken behandelt.