ChatGPT schreibt Ihren Arztbrief. Wer trägt die Verantwortung? (Nicht ChatGPT.)

"Schreib mir einen Arztbrief für einen 67-jährigen Patienten mit Erstdiagnose Diabetes mellitus Typ 2, HbA1c 8,3 %, Metformin 1000 mg ..."

Dieser Prompt läuft in vielen deutschen Praxen, oft auf Privatkonten, oft ohne dokumentierte Schweigepflicht-Abwägung. Die meisten Behandelnden ahnen, dass die Konstellation rechtlich heikel ist; weniger ist klar, an welchem Punkt genau die Schwelle gerissen wird und wie groß das Risiko tatsächlich ist.

Dieser Beitrag ordnet die Rechtslage präzise ein, sachlich und ohne Beschönigung. Wer den breiteren Praxisüberblick sucht, also welche ChatGPT-Anwendungen in der Arztpraxis insgesamt zulässig sind und welche Architektur-Variante zu welcher Praxisform passt, findet das vertiefend in unserem Use-Case ChatGPT in der Arztpraxis.

Was passiert technisch, wenn Patientendaten in ChatGPT laufen?

Der Prompt durchläuft vier Stationen. Jede einzelne ist für die rechtliche Bewertung relevant.

Die strafrechtliche Bewertung knüpft am Schritt "Zugriff" an. Ein US-Anbieter, dessen Mitarbeiter unter dokumentierten Bedingungen auf Prompts zugreifen können, gehört nicht zum Kreis der Mitwisser im Behandlungsverhältnis. Die Mechanik haben wir im Beitrag § 203 StGB trifft Cloud-KI ausführlich aufgeschlüsselt.

§ 203 StGB: Die strafrechtliche Schwelle

§ 203 StGB schützt das Vertrauensverhältnis zwischen Behandelndem und Patient als Strafrechtsnorm, nicht als bloßes Datenschutzrecht. Wer ein Geheimnis offenbart, das ihm in seiner Eigenschaft als Arzt oder Angehöriger eines Heilberufs anvertraut wurde, wird mit Freiheitsstrafe bis zu einem Jahr oder mit Geldstrafe belegt. § 205 Abs. 1 StGB macht die Tat zum Antragsdelikt; jede betroffene Person kann jederzeit Strafanzeige stellen.

Offenbaren heißt, das Geheimnis einer Person zugänglich zu machen, die nicht zum Behandlungskreis gehört. Die bloße technische Möglichkeit der Kenntnisnahme genügt; ob ein Mitarbeiter des Anbieters die Daten tatsächlich liest, ist unerheblich.

Pseudonymisierung kann die strafrechtliche Bewertung verändern, allerdings nur, wenn der Bezug zum konkreten Patienten zuverlässig durchtrennt ist. Eine alleinige Schwärzung des Namens reicht regelmäßig nicht. Geburtsdatum, Standort, Diagnose und Medikation sind in Kombination identifizierend, gerade bei seltenen Konstellationen. Der praxistaugliche Schluss daraus ist nüchtern, eine Cloud-Eingabe ohne tragfähige Pseudonymisierungsprüfung ist ein § 203-Risiko, auch wenn der Prompt technisch lückenlos verschlüsselt übertragen wird.

§ 203 Abs. 3 StGB erlaubt das Hinzuziehen mitwirkender Personen, etwa IT-Dienstleister, sofern sie auf die Schweigepflicht verpflichtet sind und ihre Tätigkeit auf den ärztlichen Auftrag beschränkt bleibt. Bei einem US-Konzern mit eigener Datenverarbeitungslogik und Zugriffen jenseits des konkreten Auftrags ist diese Voraussetzung schwer zu konstruieren.

EU AI Act: Wann ist der Einsatz Hochrisiko?

ChatGPT selbst ist als General Purpose AI Model nach Art. 51 ff. AI Act eingestuft. Daraus folgen primär Anbieterpflichten von OpenAI (Transparenz, technische Dokumentation, Copyright). Hochrisiko nach Anhang III ist ChatGPT als allgemeines Sprachmodell nicht.

Die Hochrisiko-Schwelle für KI im Gesundheitswesen läuft regelmäßig über Anhang I, also über CE-zertifizierte Medizinprodukte. ChatGPT ist kein zugelassenes Medizinprodukt. Ein Einsatz, der medizinische Bewertungen, Diagnosevorschläge oder Therapieempfehlungen aus ChatGPT generiert und in die Versorgung einfließen lässt, ist daher kein Anhang-III-Hochrisiko-Fall, sondern eine medizinprodukterechtlich unzulässige Off-Label-Nutzung mit zivilrechtlichen Folgen über § 630a Abs. 2 BGB.

Unabhängig von der Risiko-Einordnung gilt seit dem 2. Februar 2025 Art. 4 AI Act und damit die KI-Kompetenz-Pflicht. Wer als Behandelnder oder Praxisteam ein KI-System einsetzt, muss die Funktionsweise, die Grenzen und die Risiken nachweislich kennen, dokumentiert. Die Hochrisiko-Pflichten nach Art. 26 AI Act (Betreiberdokumentation, Human Oversight, Logging) treten nach dem aktuellen Digital-Omnibus-Stand voraussichtlich ab Dezember 2027 in Kraft, vollständig ab August 2028.

Für MVZ und Multi-Standort-Strukturen vervielfacht sich der Pflichtenkanon, weil heterogene Praxis-IT und Gesellschafterhaftung zusammenkommen. Den MVZ-Blick liefert der MVZ-Leitfaden zum EU AI Act.

DSGVO: Drittlandsübermittlung und Sondernorm Gesundheitsdaten

Seit Juli 2023 besteht über das EU-US Data Privacy Framework (DPF) ein Angemessenheitsbeschluss für die USA. OpenAI ist DPF-zertifiziert. Die Drittlandsübermittlung ist damit nach Art. 45 DSGVO grundsätzlich zulässig; sie wird dadurch nicht automatisch erlaubt.

Gesundheitsdaten fallen unter Art. 9 DSGVO und sind grundsätzlich verarbeitungsverboten. Die Verarbeitung wird zulässig, wenn eine der Ausnahmen nach Art. 9 Abs. 2 DSGVO greift, in der Praxis regelmäßig die ausdrückliche Einwilligung (lit. a) oder der Behandlungsvertrag (lit. h). Die Auslagerung an einen US-KI-Anbieter wird über lit. h kaum getragen, weil die Verarbeitung nicht mehr unmittelbar dem Behandlungszweck zuzuordnen ist.

Hinzu kommen Pflichten, die unabhängig vom DPF bestehen. Ein Auftragsverarbeitungsvertrag nach Art. 28 DSGVO ist erforderlich. Eine Datenschutz-Folgenabschätzung nach Art. 35 DSGVO ist regelmäßig verpflichtend. Ein Transfer Impact Assessment ist ratsam, gerade weil der CLOUD Act US-Behörden Zugriffe auch auf in der EU gespeicherte Daten ermöglicht. Verstöße kosten nach Art. 83 Abs. 5 DSGVO bis zu 20 Mio. € oder 4 % des weltweiten Vorjahres-Jahresumsatzes, der jeweils höhere Wert.

Vier parallele Sanktionsschienen

Strafrecht, Datenschutz, Berufsrecht und der EU AI Act greifen unabhängig voneinander. Wer ChatGPT mit Patientenbezug ohne tragfähige Architektur einsetzt, riskiert kein einzelnes Verfahren, sondern vier parallel.

Haftung: Der Behandelnde bleibt verantwortlich

KI verändert die Haftung im Behandlungsverhältnis nicht; sie verschärft sie. § 630a Abs. 2 BGB verlangt eine Behandlung nach den allgemein anerkannten fachlichen Standards (Facharztstandard). Ein nicht validiertes, allgemein gehaltenes Sprachmodell erfüllt diesen Standard nicht. Wer einen ICD-Code oder eine Dosierungsangabe aus ChatGPT übernimmt und unterschreibt, schuldet die Richtigkeit; das Werkzeug ist haftungsrechtlich unsichtbar.

Die Nutzung eines nicht für medizinische Zwecke zugelassenen KI-Systems kann zusätzlich als Organisationsverschulden gewertet werden. Im Schadensfall verschiebt das nach § 630h BGB die Beweislast zulasten des Behandelnden, weil ein vermeidbares Risiko bewusst eingegangen wurde. AGB-Klauseln des Anbieters entlasten weder zivilrechtlich noch strafrechtlich noch berufsrechtlich.

Das parallel laufende allgemeine Zivilrecht verstärkt diesen Befund. Das LG Kiel hat 2024 (Az. 6 O 151/23) entschieden, dass der bewusste Einsatz unzulänglich programmierter KI-Software den Anwender zum unmittelbaren Störer macht; der Verweis auf den vollautomatisierten Vorgang entlastet nicht, ein AGB-Haftungsausschluss für Richtigkeit und Vollständigkeit ebenso wenig. Die Entscheidung betrifft einen Wirtschaftsinformationsfall, nicht einen Arztbrief; der Rechtsgedanke trägt aber für jede KI-gestützte Veröffentlichung, die der Verantwortliche durch Übernahme zu eigen macht. Eine vertiefte medizinrechtliche Darstellung liefert der Beitrag zur Haftung bei KI im Gesundheitswesen.

Drei Architektur-Wege, die rechtssicher tragen

KI für Arztbriefe ist nicht per se verboten. Welche Variante zu einer konkreten Praxis passt, hängt vom Schutzbedarf, vom Volumen und vom IT-Setup ab. Drei Wege haben sich in der Praxis als belastbar erwiesen.

Welcher dieser Wege zu Einzelpraxis, BAG oder MVZ passt, lässt sich vorstrukturieren. Der interaktive Praxisform-Filter auf der Use-Case-Seite ChatGPT in der Arztpraxis liefert Empfehlung, Begründung, Investitionsrahmen und Alternative für jede Konstellation.

Go / No-Go: Sieben Punkte für die Praxis

Eine kompakte Entscheidungshilfe für den Alltag. Wer einen Punkt mit No-Go beantwortet, hat ein Compliance-Problem, das nicht durch eine Einwilligung oder einen AVV repariert wird.

Die Versuchung, den Arztbrief in 30 Sekunden zu schreiben statt in 15 Minuten, ist real. Die 14,5 Minuten sind nichts wert, wenn sie in ein Strafverfahren, ein Datenschutz-Bußgeld oder eine zivilrechtliche Schadensersatzklage münden. Die belastbare Antwort heißt nicht Verzicht, sondern Architektur, lokal, pseudonymisiert oder zertifiziert.

Häufige Fragen