KI in Psychiatrie und PsychotherapieDrei Rechtsregime, die kaum jemand sauber trennt.
Kurzantwort
Verordnungsfähige DiGA sind Medizinprodukt und über die MDR-Route regelmäßig Hochrisiko-KI. Ein reiner Therapie-Chatbot ohne Medizinprodukt-Status wird dagegen nicht automatisch Hochrisiko, weil Annex III psychische Gesundheit nicht aufführt.
Quer dazu liegen die Schweigepflicht nach § 203 StGB, die besonderen Daten nach Art. 9 DSGVO und das eigene Regime der Emotionserkennung. Die Behandlungsverantwortung samt Schutzpflicht bei Suizidalität bleibt immer beim Behandler.
Kaum ein Feld wird gerade so laut diskutiert und so selten sauber eingeordnet. Entscheidend bleibt, welches Rechtsregime für Ihr konkretes Tool gilt, wo aus Unterstützung ein Behandlungsersatz wird, und wie Sie Schweigepflicht und Schutzpflicht so dokumentieren, dass sie im Prüffall stehen.
Drei Dinge, die KI in der
psychischen Gesundheit heute leistet.
In der Ergänzung der Behandlung, in der Entlastung von Verwaltung und im Verlaufsmonitoring ist der Nutzen 2026 real. Der richtige Einsatz sitzt neben der therapeutischen Beziehung, nicht an ihrer Stelle.
Verordnungsfähige DiGA als Ergänzung
DiGA gegen Depression und Angst wie deprexis, Selfapy, Elona oder Novego sind als Medizinprodukt geprüft und können die Behandlung zwischen den Sitzungen strukturiert ergänzen. Sie ersetzen die therapeutische Beziehung nicht, sie verlängern ihre Wirkung in den Alltag.
Dokumentation und Triage
KI-gestützte Dokumentation und triagierende Vorabfragen entlasten von Verwaltung und helfen, Anfragen nach Dringlichkeit zu ordnen. Das schafft Zeit für die eigentliche therapeutische Arbeit, solange die fachliche und organisatorische Aufsicht bleibt.
Verlaufs- und Symptommonitoring
Strukturierte Verlaufsmessung über patientenberichtete Endpunkte macht Therapieerfolg und Frühwarnzeichen sichtbar. Das stützt die klinische Einschätzung mit reproduzierbaren Daten, ohne sie zu ersetzen.
Drei Dinge, die in der psychischen
Gesundheit nicht delegierbar sind.
Kein System ersetzt die therapeutische Beziehung, und keines übernimmt die Schutzpflicht in der Krise. Diese Grenzen sichern den Wert Ihrer Arbeit und den Schutz Ihrer Patienten.
Allzweck-Chatbot als Therapieersatz
Ein allgemeiner Chatbot ist kein Medizinprodukt, liefert keine validierte therapeutische Leistung und gibt keine Sicherheit in Krisen. Wer ihn als Behandlung ausgibt oder Patienten dorthin verweist, verlässt den geprüften Rahmen und trägt die volle Verantwortung für jeden Schaden.
Schutzpflicht bei Suizidalität delegieren
Die Einschätzung von Eigen- und Fremdgefährdung und die daraus folgende Schutzpflicht bleiben ärztliche und therapeutische Aufgabe. Kein System übernimmt diese Verantwortung, und ein blind vertrauter KI-Hinweis entlastet im Ernstfall nicht.
Emotionserkennung ohne Prüfung einsetzen
Funktionen zur Emotionserkennung unterliegen einem eigenen Regime aus Verboten, Hochrisiko-Einstufung und Transparenzpflichten. Ihr Einsatz ohne vorherige rechtliche Klärung ist heikel und kann unzulässig sein.
Sechs Pflichten, die Sie
vor dem Rollout aufsetzen.
Hier entscheidet die Einstufung über alles Weitere, und genau das wird oft übersprungen. Wer zuerst sauber einordnet, erfüllt die übrigen Pflichten danach ohne Mühe.
Einstufung zuerst: Medizinprodukt oder nicht?
Vor allen anderen Pflichten steht die Frage, ob die Anwendung ein Medizinprodukt ist. Eine verordnungsfähige DiGA läuft über die MDR-Route und ist regelmäßig Hochrisiko-KI. Ein reiner Therapie-Chatbot ohne Medizinprodukt-Status wird nicht automatisch Hochrisiko, weil Annex III psychische Gesundheit nicht aufführt. Diese Einstufung entscheidet über alles Weitere.
Art. 26 AI Act, menschliche Aufsicht
Soweit eine Anwendung als Hochrisiko-KI einzustufen ist, gilt über die MDR-Route voraussichtlich ab 2. August 2028 die Pflicht zur wirksamen menschlichen Aufsicht (nach aktuellem Stand des Digital Omnibus). Der Behandler muss das Ergebnis verstehen, einordnen und überstimmen können.
Art. 4 AI Act, KI-Literacy
Alle KI-nutzenden Personen müssen seit Februar 2025 nachweislich geschult sein. In der psychischen Gesundheit zählt vor allem das Verständnis der Grenzen generativer Modelle, ihrer Halluzinationen und ihres Verhaltens in Krisensituationen. Eine generische Unterweisung genügt dem AI Act nicht.
§ 203 StGB und DSGVO Art. 9
Inhalte aus Therapie und Anamnese gehören zu den sensibelsten Daten überhaupt. Ihre Verarbeitung durch KI berührt die Schweigepflicht nach § 203 StGB und die besonderen Kategorien nach Art. 9 DSGVO. Beides verlangt eine tragfähige Rechtsgrundlage, eine DSFA und belastbare Garantien bei jeder Datenübermittlung.
Emotionserkennung, eigenes Regime
Emotionserkennung ist im AI Act gesondert geregelt, mit Verboten in bestimmten Kontexten, Hochrisiko-Einstufung in anderen und Transparenzpflichten nach Art. 50. Vor dem Einsatz einer solchen Funktion ist die Zulässigkeit konkret zu prüfen.
§ 630a BGB und Schutzpflicht
Die Behandlungsverantwortung bleibt zivil- und berufsrechtlich beim Behandler, einschließlich der Schutzpflicht bei Suizidalität. Ein KI-Hinweis ist Unterstützung und kein Delegationsmittel. Die dokumentierte eigene Einschätzung trägt im Prüffall.
Compliance-Rahmen für Ihre Praxis.
Einstufung Ihrer Tools, Klärung von Schweigepflicht und Datenschutz, Human-Oversight-Design, DSFA und Schulungsunterlagen, die gesamte Kette in einem Arbeitspaket. Konkret, nicht als Gutachten.