KI in Psychiatrie
& Psychotherapie

Ja, wenn vorher vor allem vier Voraussetzungen erfüllt sind. Der Anbieter ist per Vertrag zur Auftragsverarbeitung und nach § 203 StGB zur Verschwiegenheit verpflichtet, in der Kassenpraxis liegt das C5-Testat des Dienstes vor (§ 393 SGB V), alle, die in der Sitzung sprechen, haben vorher in die Aufnahme eingewilligt (§ 8 Abs. 7 der Berufsordnung, § 201 StGB), und jeder Eintrag wird geprüft und freigegeben, bevor er in die Akte geht (Dokumentationspflicht, § 630f BGB). Was daneben gilt, etwa die Information nach Art. 13 DSGVO und die Datenschutz-Folgenabschätzung, steht im Leitfaden für Praxen. Fachlich ist die Frage anspruchsvoller, weil das Verfassen der Verlaufsnotiz der Moment ist, in dem der Fall reflektiert und die nächste Sitzung vorbereitet wird. Sinnvoll eingesetzt übernimmt eine KI die formale Hülle und lässt den klinischen Teil bei Ihnen.

Für die Dokumentation selbst nicht, sie stützt sich auf den Behandlungsvertrag (Art. 9 Abs. 2 lit. h DSGVO mit § 22 Abs. 1 Nr. 1 lit. b BDSG). Für die Aufnahme der Sitzung ja. Ton- und Bildaufnahmen bedürfen nach § 8 Abs. 7 der Muster-Berufsordnung, inhaltsgleich etwa in Nordrhein-Westfalen, der vorherigen Einwilligung, und Sie informieren über das Recht, die Löschung zu verlangen. Maßgeblich ist die Berufsordnung Ihrer Landeskammer. Daneben schützt § 201 StGB das Wort jeder Person, die spricht, in der Sitzung mit Eltern, Paar oder Gruppe fragen Sie also alle. Eine Schriftform nennt § 8 Abs. 7 nicht, die Unterschrift jeder Person ist aber der sicherste Nachweis. Ob die DSGVO für die Aufnahme zusätzlich eine Einwilligung verlangt, ist nicht entschieden. Die BPtK verlangt sie in ihrer Praxis-Info vom Februar 2026, die KBV hält sie in der Regel für nicht erforderlich.

Nicht mit Patientendaten im privaten Konto, denn dort gibt es weder einen Vertrag zur Auftragsverarbeitung noch eine Verpflichtung nach § 203 StGB. Die Chiffre aus Anfangsbuchstabe und Geburtsdatum schützt nur gegenüber dem Gutachter, für den Anbieter bleibt der Bericht personenbezogen. Auch mit einem geeigneten Tool ist der Bericht von Ihnen „vollständig persönlich zu verfassen“ (§ 11 Abs. 6 S. 3 Psychotherapie-Vereinbarung), und nach der Praxis-Info der BPtK darf KI bei der Antragstellung nur als Hilfsmittel dienen. Wie weit ein KI-Entwurf das wahrt, hat niemand entschieden. Mein Vorschlag ist, dass ein Tool bei Gliederung, Übernahme dokumentierter Angaben und Rechtschreibung hilft und jeder Satz von Ihnen kommt.

Sie nimmt einen Teil der Prüfung ab. Laufen Spracherkennung und Sprachmodell auf eigener Hardware in der Praxis und greift niemand von außen zu, offenbaren Sie niemandem etwas, und die Verpflichtung eines Cloud-Anbieters nach § 203 StGB und das C5-Testat nach § 393 SGB V stellen sich nicht. Die Einwilligung aller, die sprechen, in die Aufnahme bleibt, ebenso die Patienteninformation, die Prüfung der Folgenabschätzung und die Grenze zur Bewertung. Die Sicherheit der Verarbeitung tragen Sie dann selbst, und mit einem externen Dienstleister mit Zugang zu den Daten schließen Sie einen Vertrag zur Auftragsverarbeitung und verpflichten ihn nach § 203 StGB. Für eine Einzelpraxis ohne eigene IT ist ein eigenes Modell oft mehr, als der Zweck braucht.

Sovereign AI, das Sprachmodell auf eigener Hardware →

Das hängt an der Einstufung. Ist die Anwendung ein Medizinprodukt ab Klasse IIa und enthält sie ein KI-System, ist sie Hochrisiko nach Art. 6 Abs. 1 AI Act, mit den Pflichten ab August 2028. Ein Chatbot unterhalb dieser Schwelle wird nicht automatisch Hochrisiko, weil Anhang III psychische Gesundheit nicht eigens aufführt. Spricht er mit Patienten, muss er sich seit August 2026 als KI zu erkennen geben (Art. 50 Abs. 1 AI Act).

Sobald es aus Stimme, Mimik oder anderen körperlichen Merkmalen auf Gefühle oder Absichten schließt (Art. 3 Nr. 39 AI Act). Für Ihre Patienten ist das nicht verboten, Sie informieren aber jeden, dessen Stimme ausgewertet wird (Art. 50 Abs. 3, seit August 2026), und ab Dezember 2027 ist ein solches System Hochrisiko nach Anhang III. Die Stimme Ihrer Angestellten und Ihrer Weiterbildungsassistenz darf kein Tool gezielt auf Gefühle auswerten, weil die Praxis ihr Arbeitsplatz ist (Art. 5 Abs. 1 lit. f). Tools, die nur transkribieren und strukturieren, bleiben darunter.

Ab welchem Ausbildungsabschnitt ein KI-Tool zugelassen ist, welcher Teil der Dokumentation von Hand geschrieben bleibt und woran die Supervision die eigene Leistung der Ausbildungsteilnehmenden erkennt. Dazu kommt die KI-Kompetenz nach Art. 4 AI Act, die jede Einrichtung trifft, die KI-Systeme einsetzt.

Die Einschätzung von Eigen- und Fremdgefährdung und die daraus folgende Schutzpflicht bleiben Aufgabe des Behandelnden. Die Behandlungsverantwortung nach § 630a BGB liegt bei ihm, gleich was ein System vorschlägt oder übersieht, und im Prüffall trägt die dokumentierte eigene klinische Einschätzung. Ein Tool, das Suizidalität selbst einschätzt, kann nach Regel 11 des Anhangs VIII MDR ein Medizinprodukt bis Klasse III sein. Vorsorglich gehört eine solche Einschätzung ohne CE-Kennzeichnung für genau diesen Zweck nicht in Akte oder Bericht.