„Es gehört zu unserem Job, Recht für die Praxen anwendbar zu machen“

Experten-Interview

Dr. Christoph Weinrich

Leiter des Stabsbereichs Recht der Kassenärztlichen Bundesvereinigung (KBV). Eine der wenigen Stimmen, die die KI-Betreiberpflichten für die Praxen mit echter Klarheit einordnen.

Künstliche Intelligenz hält Einzug in die Arztpraxen, von der Dokumentation bis zur Diagnostik. Für viele Niedergelassene und MVZ-Geschäftsführungen bleibt unklar, welche Pflichten mit dem Einsatz auf sie selbst übergehen. Ich habe mit Dr. Christoph Weinrich, Leiter des Stabsbereichs Recht der Kassenärztlichen Bundesvereinigung (KBV), über Betreiberpflichten, den Digital Omnibus und darüber gesprochen, was Praxen jetzt konkret tun sollten.

Herr Dr. Weinrich, die KBV ist mit ihrer KI-Roadshow bundesweit im direkten Kontakt mit den Praxen. Welche Fragen kommen am häufigsten?

Mit der Roadshow sind wir derzeit in den Regionen unterwegs und damit unmittelbar im Gespräch mit den Ärztinnen und Ärzten. Was wir hören, sind überwiegend die Standardfragen. Muss ich mir Sorgen wegen der Haftung machen? Worauf muss ich achten, wenn ich ein Produkt kaufe, und wo kaufe ich es überhaupt? Reicht es, zu meinem PVS-Hersteller zu gehen? Und ganz grundlegend stellt sich die Frage, wie KI eigentlich funktioniert. Genau deshalb hat unsere Roadshow drei Bausteine. Einen technischen, der die Entwicklung der KI und die Funktionsweise großer Sprachmodelle erklärt, einen medizinischen aus der ärztlichen Perspektive, und meine rechtliche Einordnung. Dabei unterscheiden wir konsequent zwischen administrativer und medizinischer KI, weil daran unterschiedliche Pflichten hängen.

Mit dem Digital Omnibus, einem Gesetzespaket der EU-Kommission zur Vereinfachung des Digitalrechts, sind mehrere Fristen des AI Act nach hinten gerückt. Pflichten für Hochrisiko-Anwendungen, die ab August 2026 greifen sollten, gelten nun in Teilen erst 2027 oder 2028. Nimmt das den Druck aus dem Thema?

An der Front haben wir dazu zum jetzigen Zeitpunkt wenige Nachfragen. Mein Eindruck ist, dass sich der deutsche Markt im Wesentlichen vorbereitet hat. Entscheidend ist etwas anderes: Die grundlegenden Pflichten beim KI-Einsatz gelten schon heute, vieles davon ergibt sich aus gesundem Menschenverstand. Hinzu kommen die spezifischen Pflichten beim Einsatz von Hochrisikoprodukten, von der menschlichen Letztaufsicht über besondere Schulungen der Mitarbeiter bis zu den Meldepflichten. Diese Pflichten sind nicht überbordend. Mein Rat ist, sich jetzt darum zu kümmern, statt auf Brüssel zu warten.

Aus dem Gespräch, zu den Pflichten beim Einsatz von Hochrisikoprodukten.

Viele Praxen verlassen sich auf die Werbung der Anbieter, DSGVO-konform, Serverstandort Deutschland, und haben das Gefühl, damit sei alles erledigt. Wie sehen Sie das?

Ich würde das gar nicht negativ bewerten. Ich finde es erst einmal gut, dass die Hersteller offensiv damit werben, DSGVO-konform zu sein, denn gerade die DSGVO macht den Ärztinnen und Ärzten oft Angst. Der wichtigste Punkt in meinem Teil der Schulung ist deshalb mein Rat, beim Kauf darauf zu achten, dass ein gutes Handbuch oder gute Tutorials mitgeliefert werden. Das ist die Basis der Kompetenzpflicht, ich muss das Produkt und die Begleitmaterialien verstehen können. Beim Führerschein muss ich auch nicht wissen, wie das Getriebe funktioniert, aber ich muss wissen, wo die Kupplung sitzt. Das gilt für die einfachen Anwendungen wie Telefonassistenten genauso wie für die Dokumentationssysteme in den Praxen.

Ein Papier des Bundesinnenministeriums zu Artikel 4 des AI Act, der von Praxen eine grundlegende KI-Kompetenz verlangt, formuliert, die bloße Gebrauchsanweisung werde dafür regelmäßig nicht ausreichen. Manche Ärztinnen und Ärzte verunsichert das. Wie nimmt man diese Unruhe heraus?

Entscheidend ist eine gute Begleitdokumentation, und die ist zugleich entscheidend für die Kaufentscheidung. Man muss das Produkt verstehen können, es muss verständlich aufbereitet sein, um KI-Kompetenz überhaupt zu ermöglichen. Bei den Dokumentationssystemen und den PVS-Anteilen, die ich kenne, ist das relativ gut gemacht. Wir sind sicher, dass das hinreichend ist und dass auch unsere Veranstaltungen und Schulungen zur KI-Kompetenz beitragen. Das Wichtigste bleibt, sich vor dem Kauf zu überlegen, was man überhaupt braucht.

Wo verläuft die Grenze zur medizinischen Hochrisiko-KI, etwa bei Systemen, die Diagnose- oder Therapievorschläge machen?

Ein Hochrisikoprodukt braucht eine CE-Zertifizierung, da beißt die Maus keinen Faden ab. Was Ärztinnen und Ärzte zur Abklärung medizinischer Fragen einsetzen, muss aus meiner Sicht als Medizinprodukt klassifiziert werden. Ein allgemeines Sprachmodell wie ChatGPT ist kein Medizinprodukt und darf nicht als Regelprodukt in der Praxis eingesetzt werden. Im Einzelfall einmal etwas nachzuschlagen ist nicht verboten, erfordert aber die entsprechende Vorsicht. Nach außen steht am Ende immer die Ärztin oder der Arzt gegenüber dem Patienten.

Und die Haftungsfrage?

Ich mache den Leuten keine übermäßigen Sorgen wegen der Haftung. Entscheidend ist die menschliche Letztaufsicht. Liegt das System falsch, kann ich gegenüber dem Hersteller in den Regress gehen, wenn es nicht funktioniert wie vorgesehen. Schwieriger wird es, wenn eine Praxis eigene Pflichten verletzt hat. Dann geht es womöglich weniger um Bußgelder als um die Versicherung, etwa wenn ein Organisationsverschulden vorliegt, weil sich eine Einrichtung nicht um die vergleichsweise einfach umzusetzende KI-Kompetenz gekümmert hat. Darum müssen die Praxen sich kümmern.

Brauchen Praxen für KI-gestützte Dokumentationssysteme eine Einwilligung der Patienten?

Nein. Der Arzt erfüllt seine Dokumentationspflicht nach Paragraf 630f BGB, und ihm obliegt die Einschätzung, ob die Datenverarbeitung notwendig ist. Er darf seine Praxis effektiv organisieren. Wichtig ist aber die Information der Patienten, das gibt die DSGVO als Informationspflicht vor. Und wenn ein Patient es ausdrücklich nicht möchte, dann sollte man es schlicht lassen.

Die KBV positioniert sich klar als Ansprechpartner. Was ist geplant, und wie ordnet sich das zu Fortbildungen der Ärztekammern?

Wie schon beim Thema ePA werden wir nach Abschluss der Roadshows weiter FAQ erstellen, gemeinsam mit unseren Kolleginnen und Kollegen aus der Kommunikation, bei denen viele Fragen auflaufen. Wir sehen uns bei den aktuellen Digitalthemen bewusst an vorderster Front, um den Praxen frühzeitig Sicherheit zu geben und Unsicherheit zu vermindern. Die Roadshow ist vielfach zertifiziert und bringt Fortbildungspunkte. Mit den Kammern stehen wir im Austausch. Unser Fokus liegt auf den betriebswirtschaftlichen Erfordernissen der Praxen, und da wollen wir schnell verfügbar sein.

Auf LinkedIn und anderswo drängen Anbieter mit Angstargumenten auf zertifizierte Kurse, Stichwort 500.000 Euro Bußgeld. Welchen Platz hat externe Beratung bei dem Thema?

Das erinnert mich an die Einführung der DSGVO. Auch damals haben vermeintliche Datenschutzexperten viel Geld verdient, ohne großen Effekt. Wer das Thema dagegen seriös und nachhaltig angeht und die Praxen bei der Frage unterstützt, was sie überhaupt anschaffen sollen, hat einen berechtigten Platz. Seriöse Beratung, die Praxen in Feldern hilft, die nicht ihre Kernkompetenz sind, ist sinnvoll. Wir selbst begleiten unsere Mitglieder weiter, weil wir die Unsicherheiten früh vermindern wollen.

Was raten Sie einer Ärztin oder einem Arzt, die sich erstmals mit KI-Compliance befassen wollen, aber nicht wissen, wo sie anfangen sollen?

Am Anfang ist es klug, sich einmal eine Roadshow anzusehen. Wir zeichnen sie auch auf, und für die Aufzeichnung gibt es ebenfalls Fortbildungspunkte, die Nachfrage ist enorm. Und ganz praktisch: sich privat ein Sprachmodell auszusuchen und ein wenig damit zu experimentieren. Dann versteht man relativ schnell, wo die Chancen und wo die Risiken liegen. Es gehört zu unserem Job als KBV dazu, Regeln zu erklären und Recht für die Praxen anwendbar zu machen. Dafür stehen wir gern zur Verfügung.

Dr. Christoph Weinrich leitet den Stabsbereich Recht der Kassenärztlichen Bundesvereinigung (KBV). Er ordnet die rechtlichen Fragen rund um den KI-Einsatz in der vertragsärztlichen Versorgung ein und ist Teil der bundesweiten KI-Roadshow der KBV.

Das Interview führte Daniel Kleiboldt im Juni 2026.

MEHR UNTER KBV.DE