KI in Psychiatrie
und Psychotherapie.
Die Verlaufsnotiz schreibt seit vier Wochen ein Werkzeug mit. Die Therapeutin liest sie durch, gibt sie frei und merkt nach einer Weile, dass ihr der Fall zwischen den Sitzungen fremder geworden ist. In der Akte steht alles, was hineingehört.
Wer in dieser Szene wofür geradesteht, steht nirgends. Diese Seite sortiert das für die psychotherapeutische Praxis, in ihrer eigenen Sprache, und zeigt, wie Teams und Ausbildungsinstitute diese Fragen in einem Nachmittag klären.
Daniel Kleiboldt, Jurist, LL.M., Software Engineer
Was in Ihrer Praxis vermutlich schon läuft.
Schon ein Ja, und die Szene vom Anfang spielt bei Ihnen.
Drei Werkzeuge, drei verschiedene Regelwerke.
In anderen Fächern steht die KI am Bild. Hier steht sie am gesprochenen Wort, also an dem Material, das den Kern der Behandlung ausmacht und zugleich das sensibelste ist, was eine Akte enthält. Was für ein Werkzeug gilt, entscheidet sich vor der Buchung und nicht danach.
Verordnungsfähige DiGA
DiGA gegen Depression und Angst sind als Medizinprodukt geprüft und ergänzen die Behandlung zwischen den Sitzungen. Über die MDR-Route sind sie regelmäßig Hochrisiko-KI, die Praxis wird mit der Verordnung zur Betreiberin und benennt, wer die Ergebnisse einordnet.
Dokumentation, Bericht, Antrag
Kein Medizinprodukt, aber ein Dienstleister, der Therapieinhalte verarbeitet. Vertrag und Berufsgeheimnis vor der Freischaltung, dazu die Frage, wo die Daten liegen. In der vertragspsychotherapeutischen Versorgung kommt § 393 SGB V mit der C5-Prüfung des Dienstes hinzu.
Emotionserkennung
Wertet ein System Mimik, Gestik oder Tonfall auf Affekt hin aus, ist es ein Emotionserkennungssystem. Im Therapiekontext ist das nicht verboten, es fällt aber in den Hochrisikobereich nach Anhang III mit dem vollen Pflichtenkatalog. Reine Transkription bleibt darunter.
Was daraus folgt, und wo es zuerst auffällt.
Der Satz, dass die Verantwortung beim Behandelnden bleibt, ist richtig. Er hat eine Papierseite, und die ist in den Praxen, die ich sehe, meistens noch leer. In diesem Fach kommt eine zweite Ebene dazu, die in keinem Pflichtenkatalog steht und die ich in einem eigenen Beitrag ausgeführt habe.
Die Notiz ist Teil der Behandlung.
Das Schreiben der Verlaufsnotiz ist in diesem Fach nicht nur die Dokumentation der Arbeit, es ist ein Stück der Arbeit. Wer diesen Schritt automatisiert, verliert einen Wirkfaktor, auch wenn niemand etwas verlernt. Die Grenze verläuft mitten durch das, was jedes Marketing als Bürokratie verkauft.
Der Patient fragt.
„Hört da eine KI mit?“ Wer darauf keine Antwort in einem Satz hat, hat ein Aufklärungsproblem, und in einem Fach, das von Vertrauen lebt, kostet die Frage mehr als anderswo.
Die Ausbildung fragt.
In der Praxis geht es um Kompetenzerhalt, im Institut um Kompetenzaufbau. Wer die Verlaufsdokumentation von Anfang an mit einem Werkzeug schreibt, baut den reflexiven Schritt womöglich nie auf. Wer das nicht regelt, diskutiert später darüber, ob eine Fallbearbeitung die eigene Leistung war.
Die Aufsicht fragt später.
Seit 2025 gilt in Europa ein eigenes Regelwerk für KI. Es weist der Einrichtung, die ein Werkzeug einsetzt, eigene Pflichten zu, und für Medizinprodukte mit KI muss sie ab August 2028 belegen können, wer die Aufsicht hatte. Die Entscheidung von heute ist die Akte von 2028.
Drei Dinge, die bei Ihnen schriftlich stehen sollten.
- 01Wer prüft und gibt frei. Für jedes Werkzeug am Text eine benannte Person mit Vertretung, die den Entwurf prüft und ändern darf, bevor er in die Akte oder zum Gutachter geht.
- 02Was das Team weiß. Ein Nachmittag, an dem das Team an die Werkzeuge herangeführt wurde, mit Datum, Thema und Teilnehmenden. Mehr verlangt das Regelwerk dort seit Februar 2025 nicht, und ein bestimmtes Niveau garantiert niemand.
- 03Was der Patient erfährt. Ein Satz, der an drei Orten steht, im Aufklärungsbogen, im Behandlungsvertrag und im Erstgespräch.
Dazu kommt, vor jeder Buchung, die Frage an den Anbieter, wo die Daten liegen und wer sie sieht. Schweigepflicht und Datenschutz warten nicht auf 2028, sie gelten heute.
Das Praxisteam-Format klärt die drei Punkte an einem Nachmittag.
Konzipiert haben wir es mit Ärztinnen und Ärzten aus der Versorgung. Danach sind die Rollen verteilt, und der Betrieb stand dafür keinen Tag still.
Für Ausbildungsinstitute, Ambulanzen und Verbände.
Ausbildungsinstitute stehen an der schärferen Stelle als die Praxis. Hier entscheidet sich, ob der reflexive Schritt überhaupt aufgebaut wird, und diese Frage beantwortet keine Aufsichtsbehörde und kein Hersteller. Wer sie einmal für sein Haus beantwortet, hat eine Regel, die für jeden Jahrgang gilt.
Warum jetzt.
Die Werkzeuge sind schon im Haus, oft ohne Beschluss, und ein Teil der Nutzung läuft als Schatten-KI über allgemeine Assistenten. Die Fristen liegen 2027 und 2028, die Entscheidungen, die dann zählen, fallen bei der Buchung und in der Supervision. Wer die drei Punkte jetzt aufschreibt, hat sie nach einem Nachmittag geregelt. Wer sie erst nach einem Zwischenfall oder bei einer Prüfung nachreicht, sucht in drei Jahren Akten.
Zwanzig Minuten, dann wissen Sie, ob es passt.
Für Praxen und Ambulanzen. Sie sagen mir, welche Werkzeuge bei Ihnen laufen, und wir klären, was davon schon geregelt ist und was fehlt.
Für Institute und Verbände. Wir klären, in welcher Form ein Durchlauf für Ihre Jahrgänge oder Ihre Mitglieder Sinn ergibt. Ohne Foliensatz und ohne Angebot.
§Die Fundstellen zu dieser Seite
- Medizinprodukte mit KI als Hochrisiko-System: Art. 6 Abs. 1 in Verbindung mit Anhang I AI Act. Pflichten der Einrichtung als Betreiberin: Art. 26 AI Act, für Anhang-I-Produkte ab 02.08.2028. Aufsicht: Art. 26 Abs. 2 AI Act.
- Psychische Gesundheit ist in Anhang III AI Act nicht eigens aufgeführt; ein Therapie-Chatbot ohne Medizinprodukt-Status wird darüber nicht automatisch Hochrisiko.
- KI-Kompetenz im Team: Art. 4 AI Act, seit 02.02.2025, als Bemühungspflicht ohne Garantie eines bestimmten Niveaus (VO 2026/1744).
- Emotionserkennung: Anhang III AI Act, Verbot am Arbeitsplatz und in Bildungseinrichtungen nach Art. 5, Transparenzpflicht nach Art. 50.
- Berufsgeheimnis beim Cloud-Dienstleister: § 203 Abs. 4 StGB. Auftragsverarbeitung: Art. 28 DSGVO. Gesundheitsdaten: Art. 9 DSGVO. Cloud in der vertragspsychotherapeutischen Versorgung: § 393 SGB V.
- Behandlungsverantwortung und Dokumentationspflicht: § 630a und § 630f BGB. Rechtsgrundlage der Dokumentation: Art. 9 Abs. 2 lit. h DSGVO, § 22 BDSG.
?Häufige Fragen
- Darf eine KI die Verlaufsdokumentation in der Psychotherapie schreiben?Rechtlich steht dem nichts entgegen, solange die Dokumentationspflicht erfüllt bleibt und der Behandelnde jeden Eintrag prüft und freigibt. Fachlich ist die Frage schwieriger, weil das Schreiben der Verlaufsnotiz zugleich der Moment ist, in dem der Fall reflektiert und die nächste Sitzung vorbereitet wird. Sinnvoll eingesetzt übernimmt eine KI die formale Hülle und lässt den klinischen Teil stehen.
- Ist ein Therapie-Chatbot Hochrisiko-KI nach dem EU AI Act?Das hängt an der Einstufung. Ist die Anwendung ein Medizinprodukt, etwa eine verordnungsfähige DiGA, läuft sie über die MDR-Route und ist regelmäßig Hochrisiko-KI nach Art. 6 Abs. 1 AI Act. Ein reiner Therapie-Chatbot ohne Medizinprodukt-Status wird dagegen nicht automatisch Hochrisiko, weil der Anwendungskatalog in Anhang III psychische Gesundheit nicht eigens aufführt.
- Wann wird ein Werkzeug in der Psychotherapie zum Emotionserkennungssystem?Sobald es Mimik, Gestik, Stimme oder Tonfall auf Affekt oder Emotion hin auswertet. Im Therapiekontext ist das nicht verboten, das ausdrückliche Verbot gilt für Arbeitsplatz und Bildungseinrichtungen, aber es fällt in den Hochrisikobereich nach Anhang III mit dem vollen Pflichtenkatalog und den Transparenzpflichten aus Art. 50. Werkzeuge, die nur transkribieren und strukturieren, bleiben darunter.
- Was muss ein Ausbildungsinstitut für Psychotherapie regeln?Ab welchem Ausbildungsabschnitt ein KI-Werkzeug zugelassen ist, welcher Teil der Dokumentation von Hand geschrieben bleibt und woran die Supervision die eigene Leistung des Kandidaten erkennt. Dazu kommt die KI-Kompetenz nach Art. 4 AI Act, die jede Einrichtung trifft, die KI-Systeme einsetzt oder Ausbildungsteilnehmer daran arbeiten lässt.
- Wer haftet, wenn ein KI-Hinweis eine Suizidalität übersieht?Die Einschätzung von Eigen- und Fremdgefährdung und die daraus folgende Schutzpflicht bleiben ärztliche und therapeutische Aufgabe. Die Behandlungsverantwortung nach § 630a BGB bleibt beim Behandelnden, unabhängig davon, was ein System vorschlägt oder nicht vorschlägt. Die dokumentierte eigene Einschätzung trägt im Prüffall.