Deutscher Fachverband für Verhaltenstherapie
Erst die Landkarte,
dann die Leitplanken.
KI in Ambulanz und Ausbildung.
Daniel Kleiboldt
Jurist, LL.M., Software Engineer · Legal Engineer für Healthcare-KI-Compliance
1. September 2026
Ihre Rechnung geht gerade nicht auf.
So wird es mir im Vorfeld beschrieben
Meine Berichte mache ich jetzt mit ChatGPT.
Ein Satz, der in Gesprächen mit Therapeutinnen und Therapeuten offen fällt
Kein Unrechtsbewusstsein. Eine Ahnung schon.
Drei Sorten Werkzeug.
Darunter ist es dieselbe Maschine.
Ein Sprachmodell unter allen drei Sorten
Gesprochenes in Text. Inhalt in eine andere Form.
Bewertung. Prognose. Vollständigkeit.
Plausibel ist nicht geprüft.
Der Auftrag entscheidet. Und damit, welches Recht gilt.
Kein Training mit Ihren Daten
- DSGVO-konform
- Serverstandort Deutschland
- Zertifikate und Testate
- Teils CE-Kennzeichnung
Stimmt meistens. Betrifft den Anbieter.
Ihre Pflichten, ab Buchung und Freischaltung.
Steht auf keiner Produktseite.
Der Weg einer Sitzung.
Sobald eines dieser Werkzeuge mitläuft
An jeder Station eine Frage und eine Hausregel.
Empfehlung fürs Haus, keine Rechtsnorm
Wer hört mit, und wer weiß davon?
Seit Jahrzehnten für die Supervision. Neu ist der Mitleser.
Weitergabe an den Dienstleister: eigener Prüfpunkt, mehr als Datenschutz.
Ein Gespräch, kein Formular am Empfang.
Hausregel: keine Aufnahme ohne Einwilligung, die auch den Dienstleister umfasst.
Wohin gehen die Daten, und wer bürgt dafür?
Ein Wirtschaftsprüfer bescheinigt, dass ein Cloud-Dienst den Sicherheitskatalog des BSI erfüllt.
Keine Behörde zertifiziert. Ein Prüfer testiert.
- § 393 SGB V — Behandlungsdaten in die Cloud nur mit aktuellem Testat
- § 117 SGB V — Ihre Ambulanz behandelt Versicherte, gilt also unmittelbar
- Die Kundenkriterien aus dem Prüfbericht setzen Sie selbst um
Nicht für Lehrbetrieb und Verwaltung
Serverstandort genügt nicht
Rechenzentrum ist nicht der Anbieter
Muss aktuell sein · Prüfbericht, nicht Logo
Hausregel: keine Cloud ohne eigenes Testat des Dienstes, den Sie buchen.
Schreibt es, oder bewertet es?
Umformen · zusammenfassen · strukturieren
Psychopathologischer Befund, Diagnose, Prognose, Therapieempfehlung, Einschätzung von Risiko und Suizidalität.
Rechte Spalte = klinische Aussage = Zweckbestimmung eines Medizinprodukts.
Hausregel: kein Befund, keine Diagnose, keine Prognose und keine Suizidalitätseinschätzung aus der Maschine.
Ein Anbieter, zwei Seiten.
Beide Zitate wörtlich von psynex.de · abgerufen am 28.08.2026
„Eine fachliche Bewertung nehmen wir nicht vor."
VIA Health, schriftliche Antwort vom 16.06.2026 auf meine Anfrage
Dieselben Fragen, zwei Antworten.
Indem Sie allen dieselben Fragen stellen. Und nachsehen, welche Antwort sich von außen prüfen lässt.
Wer schreibt den Auftrag an die Maschine?
Selbstgebaute Eingabetexte, geteilt in Chatgruppen.
Wer den Prompt ändert, ändert das Produkt.
Herstellerzusagen gelten nicht mehr. Wer die Zweckbestimmung ändert, rückt selbst in die Herstellerrolle.
Hausregel: keine selbstgebauten Eingabetexte in der Patientenversorgung.
Wofür benutzen Sie, was herauskommt?
Eine Praxis hat Dokumentation. Eine Hochschule hat Prüfungen. Nur Sie haben beides in einem Blatt.
Prüfungszweck → KI-Verordnung, Anhang III Nr. 3
Dieselbe Aufnahme. Drei Verwendungen.
Werkzeuge dieser Art gibt es am Markt noch nicht. Aufgezeichnet wird bei Ihnen längst
Hausregel: keine Auswertung von Stimme, Mimik oder Affekt bei Teilnehmenden.
Aufsicht setzt Kompetenz voraus.
Prüfen. Korrigieren. Verwerfen. Und es auch tun.
Abnicken ist keine Aufsicht.
Beobachtungsabhängige Befundmerkmale, als nicht beurteilbar markiert: bestes Sprachmodell 63 %, Klinikerkonsens nie.
Lenz u. a., npj Digital Medicine 2026
Erst selbst können, danach das Werkzeug.
Never-Skilling.
Deskilling: verloren, was da war. Never-Skilling: nie entstanden.
Die Verschriftlichung ist der Ort, an dem Verstehen entsteht.
19 erfahrene Endoskopiker, je über 2.000 Untersuchungen. Trefferquote ohne KI nach Gewöhnung: 28,4 → 22,4 %.
Budzyń u. a., The Lancet Gastroenterology & Hepatology, 12.08.2025. Beobachtungsstudie an vier Zentren, 1.443 Koloskopien ohne KI. Für die Psychotherapie fehlen solche Zahlen bisher.
Ein Verbot ohne geregelte Alternative erzeugt genau die Nutzung, die Sie beobachten.
Sauberes Werkzeug stellen: gräbt der heimlichen Nutzung das Wasser ab.
Nur verbieten: verlegt sie nach Hause.
Vier Fragen, die Sie stellen sollten.
KI-Verordnung (VO (EU) 2024/1689, geändert durch VO (EU) 2026/1744) · Art. 4 KI-Kompetenz · Art. 5 Abs. 1 lit. f Emotionserkennung · Art. 13 Betriebsanleitung · Art. 14 menschliche Aufsicht · Art. 25 Abs. 1 lit. c Wechsel in die Anbieterrolle · Art. 26 Abs. 2 Betreiberpflichten · Anhang III Nr. 3 lit. b und d Bildung
Sozialrecht · § 117 Abs. 3 und 3b SGB V Ermächtigung der Ambulanzen · § 393 SGB V Cloud-Verarbeitung und C5-Testat · § 390 SGB V mit der Richtlinie der KBV
Weiteres deutsches Recht · § 630f BGB Dokumentationspflicht · § 203 StGB Schweigepflicht
Medizinprodukterecht · Art. 2 Nr. 12 MDR Zweckbestimmung · MDCG 2019-11 · Regel 11 Anhang VIII MDR
Studien · Budzyń u. a., The Lancet Gastroenterology & Hepatology, 12.08.2025 · Lenz u. a., npj Digital Medicine 2026, doi 10.1038/s41746-026-02852-7 · Walther, Taubner, Gertz, Die Psychotherapie, Juli 2026
Was ist in diesem Fach der menschliche Anteil, den ein Werkzeug vorbereiten, aber nicht ersetzen darf?
Diese Grenze steht in keinem Pflichtenkatalog und entscheidet trotzdem darüber, ob Ihre Aufsicht trägt.
Diese Seite gehört zu einem laufenden Gespräch