KI-Haftung in der Arztpraxis — was Ärzte jetzt wissen müssen

Experten-Interview

Prof. Dr. Patrick Da-Cruz

Professor für Betriebswirtschaftslehre im Gesundheitswesen an der Hochschule Neu-Ulm (HNU) und Experte für digitales Healthcare-Management.

Wo liegt heute die größte Haftungsillusion beim KI-Einsatz in der Medizin? Sollten Ärztinnen und Ärzte überhaupt KI-Entscheidungen vertrauen, wenn sie letztlich die Verantwortung tragen?

Ein Radiologe lässt eine KI den Befund vorschreiben, liest drüber, unterschreibt. Drei Monate später stellt sich heraus, dass die KI einen Tumor übersehen hat. Seine erste Reaktion: „Das System hat versagt.“ Die Reaktion seines Anwalts: „Sie haben versagt.“

Das ist die größte Haftungsillusion: Die KI entscheidet, also liegt die Verantwortung beim Hersteller. Rechtlich falsch und praktisch gefährlich. KI ist ein Werkzeug, und die Behandlungsverantwortung bleibt beim Arzt.

Ob man KI-Empfehlungen vertrauen sollte? Ja, aber kritisch. Das Modell der zweiten Meinung ist eine hilfreiche Analogie, hat aber eine juristische Grenze: Ein ärztlicher Kollege trägt eigene Berufshaftung und kann seinen Irrtum erklären. Die KI kann das nicht. Das macht die eigene klinische Beurteilung und ihre Dokumentation umso unverzichtbarer. Dazu kommt eine Dimension, die im Praxisalltag oft übersehen wird: Patienten haben ein legitimes Interesse daran zu wissen, wenn KI bei ihrer Diagnose eine Rolle spielt. Wer das ignoriert, hat die Aufklärungspflicht noch nicht vollständig durchdacht.

Wer haftet eigentlich, wenn die KI irrt: Arzt, Hersteller oder niemand?

Die ehrliche Antwort: In den meisten Fällen der Arzt. Das ist die logische Konsequenz der Behandlungsverantwortung.

Zwei Konstellationen sind zu unterscheiden. Wenn die KI aufgrund eines Systemfehlers falsche Ergebnisse produziert, kann Produkthaftung des Herstellers greifen. Relevant in diesem Zusammenhang: Seit Dezember 2024 ist die neue EU-Produkthaftungsrichtlinie in Kraft, die Software und KI-Systeme ausdrücklich erfasst und die bis Dezember 2026 in deutsches Recht umgesetzt werden muss. Bis dahin gilt weiterhin das bisherige ProdHaftG, aber die Richtung ist klar, und die Herstellerhaftung wird sich dadurch deutlich ausweiten.

Wenn der Arzt dagegen einen plausiblen Output unkritisch übernimmt oder einen zweifelhaften Befund übersieht, weil er im Workflow eingebettet ist: Behandlungsfehler. Im selben Schadensfall können zwei Haftungsstränge entstehen: ärztliche Haftung und Produkthaftung. In der Praxis laufen beide Ansprüche oft parallel, und es gibt noch wenig Rechtsprechung dazu, wie die Verantwortung in solchen verteilten Fehlerketten aufgeteilt wird. Auch das ist selbst schon ein Risiko.

Was bedeutet das LG-Kiel-Urteil 2024 konkret für niedergelassene Ärzte und MVZ-Betreiber?

Zunächst eine wichtige Einordnung: Das Urteil des LG Kiel (Az. 6 O 151/23) ist kein Medizinrechtsfall. Es betrifft ein Unternehmensauskunftsportal, dessen KI-Software automatisch Pflichtmitteilungen aus dem Handelsregister auswertete und dabei zwei Unternehmen mit ähnlichem Namen verwechselte, mit dem Ergebnis, dass dem falschen Unternehmen eine Löschung wegen Vermögenslosigkeit angehängt wurde. Der Portalbetreiber argumentierte, er sei an dem vollautomatischen Vorgang nicht beteiligt gewesen. Das Gericht ließ das nicht gelten: Wer KI bewusst einsetzt, um Ergebnisse zu erzeugen und zu veröffentlichen, ist unmittelbarer Störer. Unabhängig davon, ob er von konkreten Fehlern wusste.

Der Grundsatz lässt sich auf den medizinischen Kontext übertragen. Der Arzt glaubt, er nutzt ein Werkzeug. Das Recht sagt: Er übernimmt dessen Output. „Ich habe nur das System genutzt“ ist kein Schutzargument.

Darüber hinaus gibt es in der Rechtswissenschaft eine ernstzunehmende Diskussion darüber, ob die Nicht-Nutzung von KI ihrerseits zur Haftungsfrage werden kann, dann nämlich, wenn ein KI-System in einem bestimmten Versorgungsbereich zum anerkannten Standard wird. Das ist noch kein geltendes Recht, aber eine Entwicklung, die Führungskräfte im Gesundheitswesen auf dem Radar haben sollten.

Was übersehen Praxen bei der Auswahl von KI-Anbietern?

Die AGB. Klingt banal, ist aber der häufigste blinde Fleck. Viele KI-Anbieter schließen in ihren Nutzungsbedingungen jede Haftung für inhaltliche Fehler aus. Heißt: Wenn das System eine falsche Diagnose vorschlägt und Sie sie übernehmen, stehen Sie allein da. Der Hersteller hat sich vertraglich freigezeichnet, bevor Sie das erste Mal auf „Befund generieren“ geklickt haben.

Was ich Praxen rate: Bevor Sie ein System in die Patientenversorgung einbinden, lesen Sie drei Dinge: die Haftungsklausel, die Datenschutzvereinbarung und insbesondere auch die Update-Policy. Wer aktualisiert die Software? Wird vorab informiert? Kann ein Update die Risikoklasse des Systems ändern? Ein Terminverwaltungstool, das nach einem Update plötzlich Symptome priorisiert, ist juristisch nicht mehr dasselbe Produkt. Und Ihre Compliance-Dokumentation beschreibt dann eine Software, die es nicht mehr gibt.

Der Grundsatz: Vertrauen Sie der Technik. Aber lesen Sie den Vertrag.

Wie muss sich der Workflow in Arztpraxen verändern, damit Haftungsrisiken beherrschbar bleiben? Welche Rolle spielt Fort- und Weiterbildung dabei?

Drei Änderungen, die heute umsetzbar sind:

• KI-Nutzung explizit dokumentieren: Nicht nur das Ergebnis, sondern den Prozess: welches System, welcher Output, welche eigene Schlussfolgerung.
• Eine kritische Prüfroutine etablieren: KI-Output ist Eingang in die Entscheidung, nicht Ausgang.
• Den Faktor Mensch schulen: Das Team auf die konkreten Entscheidungspunkte schulen, an denen der menschliche Faktor entscheidend ist, nicht auf das Tool selbst.

Zur Fortbildung: Die KI Verordnung unterscheidet hier zwei Ebenen. Art. 4 verpflichtet Anbieter und Betreiber bereits seit Februar 2025, Maßnahmen zu ergreifen, um die KI-Kompetenz ihres Personals zu fördern. Seit dem Digital Omnibus on AI (Mai 2026) ist das ausdrücklich als Bemühungspflicht ausgestaltet: Entscheidend ist die dokumentierte Durchführung von Schulungsmaßnahmen, nicht ein bestimmtes Kompetenzniveau. Keine direkte Bußgeldbewehrung, aber eine Organisationspflicht, die ernst genommen werden muss. Art. 26 Abs. 2 geht für Hochrisiko-KI-Systeme noch weiter: Die menschliche Aufsicht muss Personen übertragen werden, die nachweislich über die erforderliche Kompetenz verfügen. Das greift vollständig ab dem 2. Dezember 2027 (Digital Omnibus, VO (EU) 2026/1744). Wer jetzt wartet, wird dann improvisieren müssen.

Was ist der häufigste vermeidbare Fehler, den du in der Beratungspraxis siehst?

Dokumentationslücken, nicht aus Nachlässigkeit, sondern aus einem falschen Verständnis davon, was heute ausreichend dokumentiert ist, wenn KI im Spiel war.

Ärzte dokumentieren das Ergebnis. Gerichte beurteilen den Prozess. Das ist die Schere. Nach § 630h Abs. 3 BGB wird vermutet, dass eine medizinisch gebotene Maßnahme, die nicht dokumentiert ist, schlicht nicht stattgefunden hat. Das kehrt die Beweissituation um.

„KI-gestützte Befundanalyse eingeholt, Empfehlung kritisch geprüft, eigene klinische Beurteilung stimmt überein“ ändert diese Ausgangslage fundamental. Der Unterschied ist ein Satz. Er kostet zehn Sekunden. Was er im Schadensfall verhindert, lässt sich nicht in Sekunden messen.

Das Interview führte Daniel Kleiboldt im März 2026.

ZUM BEITRAG DER HNU