KleiboldtLegal EngineeringErstgesprächKI in Psychiatrie
& Psychotherapie
Verlaufsdokumentation, Gutachten und die Grenze zur Emotionserkennung.
Drei Werkzeuge, drei grundverschiedene Regelwerke
In anderen Fächern steht die KI am Bild. In der Psychiatrie und Psychotherapie steht sie am gesprochenen Wort — an dem Material, das den intimsten Kern der Behandlung ausmacht und das sensibelste Gut jeder Patientenakte ist. Welches Regelwerk greift, entscheidet sich vor der Freischaltung und nicht danach.
Verordnungsfähige DiGA
DiGA gegen Depression und Angst sind als Medizinprodukt zertifiziert und ergänzen die Behandlung zwischen den Sitzungen. Über die MDR-Route sind sie regelmäßig Hochrisiko-KI nach Art. 6 Abs. 1 AI Act. Die verordnende Praxis wird rechtlich zur Betreiberin und muss die menschliche Aufsicht gewährleisten.
Dokumentation, Bericht & Antrag
Kein Medizinprodukt, aber ein Dienstleister, der vertrauliche Therapieinhalte verarbeitet. Vertrag und Berufsgeheimnis müssen vor der ersten Nutzung stehen. In der vertragspsychotherapeutischen Versorgung verlangt § 393 SGB V zudem das BSI-C5-Testat des Cloud-Dienstes.
Emotionserkennung & Stimmanalyse
Wertet ein System Mimik, Gestik, Stimme oder Tonfall auf Affektzustände hin aus, ist es ein Emotionserkennungssystem. Im Therapiekontext ist das nicht per se verboten (das Art.-5-Verbot gilt für Schule und Arbeitsplatz), fällt jedoch in den Hochrisikobereich nach Anhang III mit vollem Pflichtenkatalog.
Die Notiz ist Teil der Behandlung: Was schriftlich stehen muss
Der Grundsatz, dass die Verantwortung beim Behandelnden bleibt (§ 630a BGB), ist unbestritten. In der psychotherapeutischen Praxis hat er jedoch eine dokumentarische Kehrseite, die in den meisten Einrichtungen noch völlig ungeregelt ist.
Die Notiz ist Teil der therapeutischen Arbeit
Das Verfassen der Verlaufsnotiz ist in der Psychotherapie nicht bloß bürokratische Protokollierung, sondern ein reflexiver Kernschritt der Fallarbeit. Wer diesen Schritt unkritisch automatisiert, verliert einen therapeutischen Wirkfaktor.
Der Patient fragt: „Hört da eine KI mit?“
Wer darauf im Sprechzimmer keine präzise Antwort in einem Satz hat, riskiert Vertrauen. Die Information gehört transparent in den Aufklärungsbogen und den Behandlungsvertrag.
Die Ausbildung fragt nach der Eigenleistung
In der Praxis geht es um Kompetenzerhalt, im Institut um Kompetenzaufbau. Wer Fallberichte und Dokumentation von Beginn an mit KI schreibt, baut den reflexiven Schritt womöglich nie auf.
Die Aufsicht prüft rückwirkend
Seit Februar 2025 gilt Art. 4 AI Act, die Maßnahmen zur KI-Kompetenz im Team. Für KI in Medizinprodukten, die eine Benannte Stelle geprüft hat, greifen ab August 2028 die Betreiberpflichten. Die Entscheidung von heute ist die Prüfungsakte von 2028.
Prüfverantwortung & Freigabematrix
Namentliche Benennung mit Vertretungsregelung: Wer prüft den generierten Text, wer darf Korrekturen vornehmen und wer unterschreibt für die Akte oder das Gutachten? Die Behandlungsverantwortung nach § 630a BGB bleibt uneingeschränkt beim Behandelnden.
Nachweis der Teambefähigung (Art. 4 AI Act)
Ein dokumentierter Fortbildungsnachmittag mit Teilnahmeliste, Themen und Risikobewertung. Belegt gegenüber Aufsichtsbehörden und Kammern, dass das gesamte Praxisteam die Grenzen und Fehlerrisiken der eingesetzten Systeme kennt.
Transparente Patientenaufklärung
Ein Standardpassus an drei Stellen, im Behandlungsvertrag, im Aufklärungsbogen und als klare mündliche Information im Erstgespräch. Er verhindert Missverständnisse.
Regelungen für Ausbildungsinstitute, Ambulanzen & Verbände
Ausbildungsinstitute stehen an einer ungleich schärferen Stelle als die Praxis. Hier entscheidet sich, ob der reflexive Schritt überhaupt aufgebaut wird. Wer diese Frage für sein Haus verbindlich beantwortet, schafft Klarheit für jeden Ausbildungsjahrgang.
Was Ihr Institut übernimmt, wenn in der Ambulanz eine KI mitschreibt
Fünf Hausregeln für die Ausbildungsambulanz, die Doppelnutzung von Fallbericht und Therapieantrag und die Pflichten, die dabei beim Institut landen. Für Ausbildungs- und Weiterbildungsinstitute jedes Verfahrens.
Ausbildungsinstitute stimmen einen Nachmittag für Leitung und Dozierende im kostenlosen Erstgespräch mit mir ab. Die Folien, die fünf Hausregeln und die vier Fragen an jeden Hersteller aus meinem Vortrag vor den Mitgliedsinstituten des DVT am 1. September 2026 stehen ohne Anmeldung auf der Seite zum Vortrag.
Für Ausbildungsinstitute & Curricula
Sie legen fest, ab welchem Ausbildungsabschnitt KI-Werkzeuge zugelassen sind, welche Teile der Falldokumentation zwingend handschriftlich bleiben und woran Dozenten und Supervision die eigenständige Reflexionsleistung erkennen.
Für Ambulanzen & Lehrpraxen
Einheitliche Nutzungsrichtlinien für Ausbildungskandidaten, Ambulanzleitung und Verwaltung. Verhindert unkontrollierte Schatten-KI auf privaten Laptops und sichert das Berufsgeheimnis (§ 203 StGB) im gesamten Ambulanzbetrieb.
Als zertifizierte Verbandsfortbildung
Ein bezugsfertiges, bei Landesärzte- oder Psychotherapeutenkammern akkreditierbares Format für Tagungen, Qualitätszirkel oder Mitgliederversammlungen. Sie stellen den Termin, wir bringen Vortrag, Falldiskussion und Unterlagen mit.
Wenn der Verband Plattformen stellt
Wo Fachverbände eigene Portale, Selektivverträge oder Dokumentationshilfen anbieten, entscheidet die rechtliche Klarheit über die Akzeptanz der Mitglieder. Wir schaffen verbindliche Vorlagen für den gesamten Verband.
Prüfung & Befähigung an einem einzigen Nachmittag
Konzipiert mit ärztlichen und psychotherapeutischen Praktikern. In drei bis vier Stunden erarbeiten wir die drei Dokumente und weisen das Team ein, ohne dass der Praxisbetrieb dafür stillsteht.
Psychotherapeutische Einzelpraxis ohne Team? Die Ersteinschätzung klärt eine konkrete Frage, etwa ob und wie Sie Berichte mit KI vorbereiten dürfen, 60 Minuten per Video, danach ein Memo für Ihre Unterlagen, 490 € netto.
Bestandsaufnahme & Schatten-KI
Welche Werkzeuge sind in Praxis, Ambulanz oder Institut bereits im Einsatz? Wir erfassen PVS-Assistenten, Diktier-Apps, DiGA-Empfehlungen und private Werkzeuge.
Rechtliche Leitplanken
Was bedeutet die Schweigepflicht (§ 203 StGB) für Cloud-Dienste? Wo verläuft die Grenze zur Hochrisiko-Emotionserkennung? Wie greift Art. 4 AI Act für das Team?
Dokumenten-Workshop
Direkte Ausarbeitung der drei Dokumente, also Freigabematrix, Nachweis der Teambefähigung und Textbausteine für Behandlungsvertrag und Patientenaufklärung.
Zertifizierung
Als Fortbildung bei der zuständigen Kammer akkreditierbar. Für Ausbildungsinstitute lässt sich der Nachmittag in das Curriculum einbauen.
Häufige Fragen & rechtliche Fundstellen
Die wichtigsten Praxisfragen zur psychotherapeutischen Dokumentation und den Vorgaben des EU AI Act — juristisch präzise eingeordnet.
Darf eine KI die Verlaufsdokumentation in der Psychotherapie schreiben?
Rechtlich steht dem nichts entgegen, solange die Dokumentationspflicht erfüllt bleibt und der Behandelnde jeden Eintrag prüft und freigibt. Fachlich ist die Frage anspruchsvoller: Das Verfassen der Verlaufsnotiz ist der Moment, in dem der Fall reflektiert und die nächste Sitzung vorbereitet wird. Sinnvoll eingesetzt übernimmt eine KI die formale Hülle und lässt den klinischen Reflexionsteil unberührt.
Ist ein Therapie-Chatbot Hochrisiko-KI nach dem EU AI Act?
Das hängt an der Einstufung. Ist die Anwendung ein Medizinprodukt, etwa eine verordnungsfähige DiGA, läuft sie über die MDR-Route und ist regelmäßig Hochrisiko-KI nach Art. 6 Abs. 1 AI Act. Ein reiner Therapie-Chatbot ohne Medizinprodukt-Status wird dagegen nicht automatisch Hochrisiko, weil der Anwendungskatalog in Anhang III psychische Gesundheit nicht eigens aufführt.
Wann wird ein Werkzeug in der Psychotherapie zum Emotionserkennungssystem?
Sobald es Mimik, Gestik, Stimme oder Tonfall auf Affekt oder Emotion hin auswertet. Im Therapiekontext ist das nicht per se verboten (das Verbot nach Art. 5 gilt für Arbeitsplatz und Bildungseinrichtungen), aber es fällt in den Hochrisikobereich nach Anhang III mit dem vollen Pflichtenkatalog und den Transparenzpflichten aus Art. 50. Werkzeuge, die nur transkribieren und strukturieren, bleiben darunter.
Was muss ein Ausbildungsinstitut für Psychotherapie regeln?
Ab welchem Ausbildungsabschnitt ein KI-Werkzeug zugelassen ist, welcher Teil der Dokumentation von Hand geschrieben bleibt und woran die Supervision die eigene Leistung der Ausbildungsteilnehmenden erkennt. Dazu kommt die KI-Kompetenz nach Art. 4 AI Act, die jede Einrichtung trifft, die KI-Systeme einsetzt.
Wer haftet, wenn ein KI-Hinweis eine Suizidalität übersieht?
Die Einschätzung von Eigen- und Fremdgefährdung und die daraus folgende Schutzpflicht bleiben ureigenste ärztliche und therapeutische Aufgabe. Die Behandlungsverantwortung nach § 630a BGB verbleibt uneingeschränkt beim Behandelnden, unabhängig davon, was ein System vorschlägt oder übersieht. Die dokumentierte eigene klinische Einschätzung trägt im Prüffall.
Maßgebliche Rechtsgrundlagen
- § Medizinprodukte mit KI als Hochrisiko-System: Art. 6 Abs. 1 in Verbindung mit Anhang I AI Act. Betreiberpflichten: Art. 26 AI Act.
- § Psychische Gesundheit ist in Anhang III AI Act nicht eigens aufgeführt; reine Therapie-Chatbots ohne Medizinprodukt-Status werden nicht automatisch Hochrisiko.
- § KI-Kompetenz im Team: Art. 4 AI Act, verbindlich seit 02.02.2025 als Bemühungspflicht ohne Garantie eines bestimmten Niveaus.
- § Emotionserkennung: Anhang III AI Act, Verbot am Arbeitsplatz und in Bildungseinrichtungen nach Art. 5, Transparenzpflicht nach Art. 50.
- § Berufsgeheimnis beim Cloud-Dienstleister: § 203 Abs. 4 StGB. Auftragsverarbeitung: Art. 28 DSGVO. Gesundheitsdaten: Art. 9 DSGVO. Cloud in der Versorgung: § 393 SGB V.
- § Behandlungsverantwortung und Dokumentationspflicht: § 630a und § 630f BGB. Rechtsgrundlage der Dokumentation: Art. 9 Abs. 2 lit. h DSGVO, § 22 BDSG.
Erstgespräch für Praxen, Ambulanzen & Institute
Wir klären den Stand Ihrer Einrichtung, die eingesetzten Werkzeuge und die haftungsrechtlichen Schwerpunkte. 30 Minuten, direkt mit Daniel Kleiboldt, kostenfrei.