Der Arztbrief lügt. Wer zahlt? (Spoiler: Nicht die KI.)

Freitagnachmittag, 16:30 Uhr. Der Kopf raucht, das Wartezimmer leert sich endlich.

Das neue KI-Tool hat den Arztbrief für Herrn Müller schon fertiggeschrieben. Ein kurzer Blick, digital signiert, raus damit. Feierabend.

Zwei Wochen später liegt Post auf dem Tisch. Nicht von Herrn Müller, sondern von seinem Anwalt. Ein Befund wurde falsch übertragen, die Weiterbehandlung war fehlerhaft.

Und jetzt kommt der Punkt, an dem viele Ärzte denken: "Dafür haftet doch der Software-Hersteller, oder?"

Spoiler: Nein. Tut er nicht.

Die Illusion der "intelligenten" Verantwortung

Wir sind es gewohnt, dass Technologie funktioniert. Wenn das MRT kaputt ist, rufen wir den Techniker. Wenn die KI halluziniert (also Dinge erfindet), rufen wir niemanden — wir merken es oft gar nicht.

Das Landgericht Kiel hat im November 2024 das ausgesprochen, was Juristen schon lange predigen: Wer KI einsetzt, haftet für das Ergebnis. Ohne Wenn und Aber.

Das Urteil stellt klar: Die Plausibilitätsprüfung ist nicht delegierbar. Nicht an die Software. Nicht an den Hersteller. Und auch nicht an die MFA, die "nur mal schnell drüberschauen" soll.

KI ist im juristischen Sinne kein Kollege, den man um Rat fragt. Sie ist ein Werkzeug. Wie ein Skalpell. Wenn das Skalpell abrutscht, können Sie auch nicht sagen: "Der Stahl war schuld." Sie führen die Hand.

Was heißt das für die Praxis?

Das bedeutet nicht, dass Sie KI wieder abschaffen müssen (das wäre bei dem aktuellen Personalmangel auch Wahnsinn). Es bedeutet aber, dass sich Ihr Workflow ändern muss.

Der Satz "Die KI hat das so geschrieben" ist vor Gericht keine Verteidigung. Er ist ein Schuldeingeständnis. Er beweist nämlich, dass Sie ein Werkzeug benutzt haben, dessen Grenzen Sie nicht verstanden haben.

Drei Dinge, die Sie tun müssen

1. Human Oversight (Der menschliche Veto-Knopf)
Jeder, wirklich jeder Output einer KI braucht einen menschlichen Prüfschritt. Und zwar nicht pro forma ("Häkchen setzen"), sondern inhaltlich. Sie müssen den Arztbrief lesen, bevor Sie ihn signieren. Der Zeitgewinn liegt im Entwurf, nicht in der Endkontrolle.

2. Dokumentation ist Ihre Lebensversicherung
Wenn etwas schiefgeht, müssen Sie beweisen können, dass Sie sorgfältig gearbeitet haben. Audit-Logs, Prüfprotokolle, Nachweise darüber, dass Sie und Ihr Team im Umgang mit den Grenzen der KI geschult wurden.

3. Verträge lesen (Ja, wirklich)
Schauen Sie in die AGB Ihres KI-Anbieters. Viele schließen jede Haftung für inhaltliche Fehler aus. Wenn der Anbieter keine Verantwortung übernimmt, müssen Ihre internen Sicherheitsnetze umso engmaschiger sein.

Fazit

KI in der Praxis ist ein kalkulierbares Risiko — keine unkontrollierbare Gefahr.

Gefährlich wird es nur, wenn man "Automatisierung" mit "blindem Vertrauen" verwechselt. Wer die KI als das behandelt, was sie ist — ein extrem leistungsfähiger, aber manchmal verwirrter Assistent —, der gewinnt Zeit. Wer sie als Orakel behandelt, verliert im Zweifel seine Zulassung.

Nutzen Sie die Technologie. Aber behalten Sie die Verantwortung.

Häufig gestellte Fragen (FAQ)

Wer haftet, wenn eine KI in der Arztpraxis einen Fehler macht?

Der behandelnde Arzt haftet für das Ergebnis, nicht der Software-Hersteller. Das LG Kiel hat 2024 klargestellt, dass die Plausibilitätsprüfung nicht an die KI delegiert werden kann. Der Arzt muss jeden KI-generierten Inhalt selbst inhaltlich prüfen, bevor er ihn signiert.

Kann ich mich als Arzt auf den KI-Hersteller berufen, wenn die KI falsche Befunde erstellt?

Nein. KI gilt juristisch als Werkzeug, vergleichbar mit einem Skalpell. Viele KI-Anbieter schließen in ihren AGB jede Haftung für inhaltliche Fehler aus. Der Arzt bleibt als Werkzeugnutzer vollständig verantwortlich.

Was bedeutet Human Oversight beim Einsatz von KI in der Arztpraxis?

Human Oversight bedeutet, dass jeder KI-Output einen inhaltlichen menschlichen Prüfschritt durchlaufen muss. Ein formales Häkchen-Setzen reicht nicht aus. Der Zeitgewinn durch KI liegt im Entwurf — die Endkontrolle bleibt beim Arzt.

Welche Dokumentation brauche ich beim Einsatz von KI in meiner Praxis?

Sie benötigen Audit-Logs, Prüfprotokolle und Nachweise über KI-Schulungen Ihres Teams. Im Schadensfall müssen Sie beweisen können, dass Sie sorgfältig gearbeitet haben. Dokumentation ist Ihre Lebensversicherung bei Haftungsfragen.

Darf ich KI trotz Haftungsrisiken in meiner Arztpraxis einsetzen?

Ja, KI in der Praxis ist ein kalkulierbares Risiko, wenn Sie drei Regeln beachten: inhaltliche Prüfung jedes Outputs, lückenlose Dokumentation und Prüfung der Anbieter-AGB. Gefährlich wird es nur bei blindem Vertrauen in die Automatisierung.