Ein Satz, zwei Lesarten. Die Nachlese zum Webinar AI Act now

Am 28. Juli 2026 haben Max-Raphael Feibel und ich in der Vortragsreihe von Prof. Dr. Patrick Da-Cruz an der Hochschule Neu-Ulm ein Webinar gegeben, fünf Tage bevor Art. 50 der KI-Verordnung anwendbar wurde. Max führt die Healthcare-Marketing-Agentur Partner & Söhne, ich bin Jurist, LL.M., Software Engineer. Die Arbeitsteilung war einfach. Ich habe erklärt, was eine Praxis schuldet, und Max, warum sie es wollen sollte.

Diese Nachlese hält die Kernaussagen des Abends fest, auf dem Rechtsstand vom September 2026.

Der Satz auf der Startseite

Der ganze Abend hing an einem anonymisierten Beispiel, der Startseite einer Praxis mit dem Satz, dass man hier mit KI arbeitet. Max las ihn als Chance, weil kein Wettbewerber im Umkreis so etwas sagt. Ich las ihn als Erklärung. Die Praxis ist Betreiberin eines KI-Systems seit dem Tag, an dem jemand auf „Freischalten“ geklickt hat, und dieser Tag lag lange vor dem Relaunch der Website. Betreiberin wird man durch den Einsatz, die Ankündigung kommt später und ändert daran nichts.

Was der Satz ändert, ist die Auffindbarkeit. Wer wissen will, ob in dieser Praxis KI läuft, weiß es jetzt in vier Sekunden. Und wer wissen will, ob sie sauber läuft, weiß, wen er fragen muss.

Das Produktmarketing endet an der Praxistür

Der AI Act verteilt Pflichten auf Rollen, und fast alles, was über KI-Regulierung geschrieben wird, handelt von Rollen, die eine Praxis gar nicht hat. Der Anbieter bringt das System in Verkehr, die Praxis betreibt es. Die Anbieter machen ihre Hausaufgaben meist erkennbar gut, mit Zertifikaten, Konformitätserklärungen und Datenschutzunterlagen. Auf keiner dieser Produktseiten steht, welche Pflichten beim Betreiber entstehen, und das ist auch nicht ihre Aufgabe.

Deshalb stand an diesem Abend ein Satz über allen anderen. Das Produktmarketing endet an Ihrer Praxistür, und Ihr Pflichtenkatalog beginnt dort.

Art. 50 und der Satz, den ein Patient hört

Seit dem 2. August 2026 gilt Art. 50 KI-VO. Ein KI-System, das direkt mit Menschen interagiert, muss so gestaltet sein, dass die Person erkennt, dass sie es mit einer KI zu tun hat, und zwar spätestens bei der ersten Interaktion. In der Praxis betrifft das den Telefonassistenten, den Chatbot für Termine und den digitalen Anamnesebogen, der auf Antworten reagiert und nachfragt.

Adressat von Art. 50 Abs. 1 KI-VO ist dem Wortlaut nach der Anbieter. Der Praxis hilft das wenig, denn der Patient sitzt vor ihrer Telefonanlage, und die Ansage konfiguriert sie selbst. Meine Empfehlung war deshalb pragmatisch. Die Praxis lässt sich vom Anbieter schriftlich bestätigen, dass sein System die Anforderung erfüllt. Weicht er aus, passt sie die Ansage selbst an. Welche Fragen vor der Unterschrift an den Anbieter gehören, steht im Use Case KI-Telefonassistent.

Damit tut Art. 50 etwas, was keine andere Compliance-Pflicht tut. Er bringt die Praxis dazu, einen Satz zu schreiben, den ein Patient hört. Ab dieser Stelle ist die Pflicht eine Textaufgabe, und das war der Grund, warum Max an diesem Abend neben mir saß.

Art. 4 läuft seit Februar 2025

Deutlich länger gilt Art. 4 KI-VO. Seit dem 2. Februar 2025 ergreifen Anbieter und Betreiber Maßnahmen, die die Entwicklung der KI-Kompetenz ihres Personals unterstützen. Seit dem Digital Omnibus steht im Wortlaut ausdrücklich, dass niemand für eine Person ein bestimmtes Kompetenzniveau garantieren muss. Es geht um eine Bemühung, die eine Praxis zeigen kann, bezogen auf die Systeme, die bei ihr tatsächlich laufen.

Die Verbindung zum Website-Satz zieht kaum jemand von selbst. Wer öffentlich sagt, dass die Praxis mit KI arbeitet, sagt damit auch, dass das Team mit KI arbeitet. Die Frage, wie das Team darauf vorbereitet ist, hat er sich damit selbst gestellt. Den Teilnehmenden habe ich geraten, die Stunde des Webinars gleich am nächsten Morgen in genau diese Dokumentation einzutragen, mit Datum, Thema und Teilnehmenden.

Ein Mensch entscheidet, und man kann es nachvollziehen

Wer den Output einer KI abzeichnet, ohne ihn geprüft zu haben, hat abgenickt. Menschliche Aufsicht ist eine Praxis, die sich nachweisen lässt. Für Hochrisiko-Systeme regeln sie Art. 14 KI-VO und Art. 26 Abs. 2 KI-VO, nach dem Digital Omnibus ab dem 2. Dezember 2027 für Systeme nach Anhang III und ab dem 2. August 2028 für KI in Produkten nach Anhang I, darunter Medizinprodukte mit Beteiligung einer Benannten Stelle. Für die Akte gelten heute schon § 630f BGB und der allgemeine Sorgfaltsmaßstab.

Nebenbei entsteht dabei ein Dokument, das beschreibt, wer in der Praxis entscheidet. Dieses Dokument spielt im nächsten Punkt die Hauptrolle.

Die Website liegt im Streitfall neben der Akte

Die Website ist das einzige Compliance-Dokument einer Praxis, das jeder lesen kann, ohne Akteneinsicht zu beantragen. An dem Abend standen zwei Sätze nebeneinander. Links der Satz von der Website, die Diagnostikunterstützung erkenne Auffälligkeiten früher und zuverlässiger. Rechts der Satz aus der Verfahrensanweisung derselben Praxis, die abschließende Beurteilung treffe ausschließlich die Ärztin. Jeder der beiden ist für sich in Ordnung. Nebeneinander widersprechen sie sich, und in einem Streitfall liegen sie nebeneinander.

Gegen die Praxis verwendet wird dann der linke Satz, weil er ein Versprechen enthält und der rechte zeigt, dass sie es besser wusste. Realistisch kommt dabei selten eine Behörde. Es kommt ein Wettbewerber mit einer Abmahnung oder ein Zivilprozess, und beide lesen zuerst die Website.

Ein werblicher Satz über KI auf der Website ist nach dem AI Act freiwillig. Er unterliegt dem Heilmittelwerbegesetz und muss sich mit der internen Dokumentation decken. Dieser Teil gehörte an dem Abend Max.

Warum eine Praxis das wollen sollte

Max hat die Pflicht von der anderen Seite gelesen. Eine Praxis, die sie nur abarbeitet, und eine, die sie nutzt, haben denselben Aufwand. Der KI-Einsatz fällt ohnehin auf, und zwischen selbst sagen und ertappt werden liegt das gesamte Vertrauenskapital einer Praxis.

Patientinnen und Patienten interessiert dabei selten das Modell. Ihre Sorge ist, ob sie abgefertigt oder behandelt werden, und deshalb muss eine Aussage über KI klären, wer zuständig ist. Gelesen wird sie zudem von drei Gruppen, von Patienten, Zuweisern und Bewerberinnen. Den Bewerberhebel hält Max für den, den kaum eine Praxis auf dem Zettel hat. „KI-gestützt“ allein sagt nichts mehr. Unterscheiden kann sich eine Praxis mit dem, was sie mit der gewonnenen Zeit tut.

Seine Formel für jeden Satz lautet Werkzeug, Entscheidungshoheit und Nutzen, in dieser Reihenfolge, nie ohne den mittleren Teil und ohne Ergebnisversprechen. Das stärkste Format ist nach seiner Erfahrung die Entscheidungsgeschichte, auch die über ein Werkzeug, das getestet und wieder abgeschaltet wurde. Am Ende stand bei ihm eine Prüfliste aus drei Fragen an jeden Satz. Was tut das System, wer entscheidet, und verspricht der Satz ein Ergebnis? Ich habe eine vierte angehängt, nämlich ob die Praxis den Satz belegen kann.

Drei Sätze in der Werkstatt

Im gemeinsamen Teil haben wir an echten Formulierungen gearbeitet. Max hat vorgelesen, ich habe gestrichen, jeweils mit Begründung. Am Website-Satz fielen drei Stellen. „Früher und zuverlässiger“ ist eine Vergleichsaussage, die im Streitfall einen Vergleichspunkt und einen Beleg braucht. „Auf dem neuesten Stand der Wissenschaft“ klingt nach Beleg und nennt weder Zeitpunkt noch Quelle. Und nirgends stand, wer entscheidet. Die neue Fassung nennt die Software, die Ärztin, die entscheidet, und die Zeit, die dadurch für das Gespräch bleibt.

Einen Widerspruch zwischen uns gab es auch, und er war gewollt. Max hielt „ab 7:30 Uhr telefonisch erreichbar“ für die bessere Aussage, und marketingseitig stimmt das. Juristisch ist der Satz eine Beschaffenheitsangabe, die die Praxis ab dem Moment schuldet, in dem er auf der Seite steht. Max’ Antwort war, dass ein Versprechen, das man halten kann, ohnehin das bessere ist.

Bei der Bandansage genügte ein Einwand. Eine KI, die sich am Telefon mit einem Vornamen vorstellt, sagt dem Anrufer das Gegenteil dessen, was Art. 50 erreichen will. Eine tragfähige Ansage nennt das KI-System, den Weg zu einem Menschen und für den Notfall die 112. Für die bessere Fassung braucht eine Praxis eine halbe Stunde und die Bereitschaft, vorher zu fragen.

Für MVZ und Kliniken hatte ich eine einzige Frage mitgebracht. Wer prüft bei Ihnen Marketingtexte gegen die Aufsichtsdokumentation? Einmal aufgesetzt, trägt diese Prüfung über alle Standorte.

Was seitdem gilt

Am Tag vor dem Webinar ist der Digital Omnibus als Verordnung (EU) 2026/1744 in Kraft getreten. Art. 50 hat er nicht verschoben, die Transparenzpflichten gelten seit dem 2. August 2026. Für generative Systeme, die schon vorher auf dem Markt waren, läuft für die maschinenlesbare Kennzeichnung nach Abs. 2 eine Übergangsfrist bis zum 2. Dezember 2026. Verschoben sind die Hochrisiko-Pflichten, auf den 2. Dezember 2027 für Anhang III und auf den 2. August 2028 für Anhang I. Art. 4 gilt weiter seit Februar 2025, in der neuen Fassung, die ausdrücklich auf Unterstützung angelegt ist.

Die Vertiefung läuft ab dem 24. November 2026 im Weiterbildungskurs AI Act now an der Hochschule Neu-Ulm, den Max und ich gemeinsam mit Prof. Da-Cruz entwickelt haben. Acht Abende online, mit Stimmen aus Selbstverwaltung, Kanzlei, Klinik und Praxis. Das Gespräch zwischen Recht und Außendarstellung, das an diesem Abend fünfzig Minuten hatte, bekommt dort einen eigenen Abend.

Häufige Fragen

Mehr zu Max’ Sicht auf Compliance und Marketing steht im Interview mit Max-Raphael Feibel.