Question 1

Wer haftet, wenn KI-generierte Diagnosen falsch sind?

Accepted Answer

Sie als Arzt haften — unabhängig davon, ob Sie die KI selbst entwickelt haben oder ob sie von Ihrem Praxissoftware-Anbieter stammt. Das ist in § 630a BGB verankert: Der Arzt schließt mit dem Patienten einen Behandlungsvertrag, der Arzt trägt am Ende die Verantwortung. Die KI ist nur ein Werkzeug wie ein Labor oder ein Röntgengerät — Sie benutzen es, Sie haften dafür.

Der Softwarehersteller hat sich in den AGB vertraglich abgesichert und die Betreiberverantwortung auf Sie übertragen. Das ist gesetzlich zulässig — solange Sie durch Schulung und Dokumentation nachweisen können, dass Sie diese Pflichten tatsächlich erfüllen.

Rechtsgrundlagen: § 630a BGB, § 630h BGB (Beweislastumkehr bei grobem Behandlungsfehler), Art. 3 Nr. 4 EU AI Act (Definition "Betreiber").

Question 2

Was unterscheidet KI-Haftung von klassischer Arzthaftung?

Accepted Answer

Bei klassischer Arzthaftung muss ein Patient beweisen, dass Sie einen Behandlungsfehler begangen haben — dann greift Beweislastumkehr nach § 630h BGB. Bei KI-Haftung kommt eine zweite Ebene hinzu: War die KI-Nutzung selbst ein Fehler?

Ein Patient kann Sie jetzt nicht nur wegen einer falschen Diagnose verklagen, sondern auch wegen Nachlässigkeit beim KI-Einsatz selbst — etwa weil Sie ein ungeprüftes KI-Add-on in der Praxissoftware aktiviert haben, ohne zu wissen, für welche Fälle es validiert ist, ob Ihr Team geschult war oder ob Sie die KI-Entscheidung eigenständig überprüft haben.

Das ist der neue Haftungsrisiko-Layer, der ab August 2026 durch den EU AI Act hinzukommt.

Rechtsgrundlagen: § 630a BGB, § 630h BGB (Beweislastumkehr), Art. 26 EU AI Act (Betreiberpflichten ab 2. August 2026).

Question 3

Kann ich für KI-Fehler haftbar gemacht werden, auch wenn mein Softwareanbieter verantwortlich ist?

Accepted Answer

Ja — die Haftung des Anbieters und Ihre Haftung schließen sich nicht gegenseitig aus. Ein Patient kann Sie verklagen, weil Sie die KI eingesetzt haben, ohne Ihr Team zu schulen oder zu überprüfen, ob die KI für seinen Fall geeignet war. Gleichzeitig kann er den Anbieter verklagen, weil die KI selbst fehlerhaft war.

Sie tragen die Betreiberverantwortung, der Anbieter trägt gegebenenfalls eine Produktverantwortung. Die neue Produkthaftungsrichtlinie 2024/2853 (Umsetzungsfrist: 9. Dezember 2026) wird die Anbieterhaftung noch verschärfen — schützt Sie als Betreiber aber nicht.

In der Praxis heißt das: Ihr Anbieter kann zahlungsunfähig werden, und Sie bleiben aufgrund Ihrer Betreiberpflichten auf dem Schaden sitzen. Dokumentation und Schulung sind Ihre erste Schutzmaßnahme.

Rechtsgrundlagen: § 630a BGB, Art. 26 EU AI Act, Produkthaftungsrichtlinie 2024/2853.

Question 4

Schmerzensgeld bei KI-Fehler — auf welcher Rechtsgrundlage?

Accepted Answer

Schmerzensgeld (§ 253 BGB) ist möglich, wenn der KI-Fehler zu körperlichem Schaden oder schwerem seelischem Leid geführt hat — dieselbe Rechtsgrundlage wie bei klassischen Behandlungsfehlern.

Neu ist: Auch Ihr Fehler beim KI-Einsatz selbst gilt als Pflichtverletzung — fehlende Schulung, unkritische Übernahme von KI-Empfehlungen, fehlende Validierung des Systems. Ein Gericht wird fragen: Hat der Arzt die KI-Empfehlung eigenverantwortlich geprüft, oder hat er sie ohne Überprüfung übernommen? Die Antworten auf diese Fragen beeinflussen die Höhe des Schmerzensgeldes und die Frage des Verschuldens.

Darum ist Ihre Dokumentation entscheidend: Sie müssen im Haftungsfall nachweisen können, dass Sie professionell mit der KI umgegangen sind.

Rechtsgrundlagen: § 253 BGB (Schmerzensgeld), § 630a BGB (Behandlungsvertrag), § 630h BGB (Beweislastumkehr).

Question 5

Greift meine Berufshaftpflicht-Versicherung bei KI-Schäden?

Accepted Answer

Das ist derzeit unklar — jede Versicherung antwortet unterschiedlich. Die meisten klassischen Arzthaftpflicht-Policen wurden vor dem EU AI Act geschrieben und enthalten weder eine explizite KI-Ausnahmeklausel noch eine explizite KI-Deckung.

Einige Versicherer behandeln KI-Fehler als normale Behandlungsfehler und sehen sie als gedeckt an. Andere entwickeln bereits neue Risikoklassen oder Zusatzprämien für KI-Nutzung.

Handlungsempfehlung: Kontaktieren Sie Ihren Versicherer schriftlich, bevor Sie KI-Add-ons aktivieren, und fragen Sie: "Sind KI-gestützte Diagnoseempfehlungen in meiner Police eingeschlossen?" Fordern Sie eine schriftliche Bestätigung an. Wichtig: Verschweigen Sie den KI-Einsatz nicht — Versicherer können im Schadensfall eine Police kündigen, wenn Sie Risiken nicht offengelegt haben.

Rechtsgrundlagen: § 5 VVG (Obliegenheiten des Versicherungsnehmers).

Question 6

Was sind meine Pflichten als KI-Betreiber ab August 2026?

Accepted Answer

Ab 2. August 2026 müssen Sie nach Art. 26 EU AI Act folgende Maßnahmen dokumentiert umgesetzt haben:

AI Literacy-Schulung für jeden, der die KI nutzt — mit Nachweis, dass die Schulung stattgefunden hat.

Human Oversight — Sie müssen nachweisbar dokumentieren, dass KI-Empfehlungen von einer Person geprüft werden, bevor sie in klinische Entscheidungen einfließen.

Protokollaufbewahrung — Logdateien, die zeigen, welche KI wann welche Empfehlung gemacht hat, müssen mindestens sechs Monate aufbewahrt werden.

Risikoabschätzung — Vor dem Einsatz der KI müssen Sie schriftlich bewerten, ob sie als Hochrisiko einzustufen ist. Im Gesundheitswesen ist das fast immer der Fall.

Wichtiger Hinweis: Art. 4 (AI Literacy) gilt bereits seit 2. Februar 2025 — die Schulungspflicht besteht also bereits jetzt.

Rechtsgrundlagen: Art. 4, Art. 26 EU AI Act. Art. 4 in Kraft seit 2. Februar 2025, Art. 26 Betreiberpflichten ab 2. August 2026.

Question 7

Gilt die Schulungspflicht auch, wenn der Anbieter keine Schulung anbietet?

Accepted Answer

Ja — die Schulungspflicht gilt unabhängig davon, ob Ihr Anbieter Schulung anbietet. Art. 4 EU AI Act ist Ihre Betreiberpflicht, nicht die des Anbieters.

Das ist die aktuelle Informationsasymmetrie: Sie kaufen ein KI-Add-on bei medatixx, tomedo oder CGM, aktivieren es — und werden damit kraft Gesetzes zum Betreiber mit Schulungspflicht, ohne dass Ihnen ein Onboarding zu Ihren gesetzlichen Pflichten mitgeliefert wird.

Wenn der Anbieter keine Schulung anbietet, müssen Sie sie selbst organisieren oder extern einkaufen — zum Beispiel über ein CME-akkreditiertes Schulungsformat einer Ärztekammer. "Der Anbieter hat mir nicht erklärt, wie ich schulen soll" ist keine anerkannte Entschuldigung. Sie haften als Betreiber trotzdem.

Rechtsgrundlagen: Art. 4 EU AI Act (seit 2. Februar 2025), Art. 26 EU AI Act (ab 2. August 2026).

Question 8

Was ist "Human Oversight" und wie dokumentiere ich sie korrekt?

Accepted Answer

Human Oversight bedeutet: Jede KI-Empfehlung mit Auswirkungen auf den Patienten muss von einer qualifizierten Person aktiv geprüft werden — nicht automatisch an die nächste Prozessinstanz weiterlaufen.

Praktisch: Die KI schlägt eine Diagnose vor, Sie lesen die Begründung, überprüfen die Laborwerte und die Anamnese — dann entscheiden Sie. Die KI ist Entscheidungshilfe, nicht Entscheider.

Dokumentation: Sie müssen nachweisen können, dass diese Überprüfung stattgefunden hat. Das kann ein Häkchen im System sein ("Überprüft durch: Dr. Müller, 14:35 Uhr") oder eine Notiz in der Patientenkartei. Im Haftungsfall muss ein Gericht nachvollziehen können, dass Sie die KI-Empfehlung tatsächlich kritisch geprüft haben.

Fragen Sie Ihren PVS-Anbieter: "Kann Ihr System dokumentieren, dass ich eine KI-Empfehlung überprüft habe?" Das ist eine Mindestanforderung für rechtssichere KI-Nutzung.

Rechtsgrundlagen: Art. 26 Abs. 2 EU AI Act.

Question 9

Was ist eine Risikoabschätzung für KI-Systeme und was muss darin stehen?

Accepted Answer

Eine Risikoabschätzung ist eine schriftliche Einschätzung der Frage: Ist diese KI Hochrisiko oder Standard-Risiko?

Nach Art. 6 und Anhang III EU AI Act ist KI im Gesundheitswesen, die den Zugang zu oder die Qualität von Gesundheitsdienstleistungen beeinflusst, als Hochrisiko eingestuft. Das trifft auf nahezu jede diagnostische oder behandlungsunterstützende KI zu.

Vier Punkte müssen Sie schriftlich dokumentieren:
Welche KI nutzen Sie? Für welche Aufgaben? Welche Risiken sehen Sie? Wie begrenzen Sie diese Risiken?

Ein einseitiges Dokument genügt — es muss nur schriftlich vorhanden sein. Das ist das Minimum, das Behörden und Gerichte verlangen. Ein KI-System ohne schriftliche Risikoabschätzung ist kein technisches, sondern ein Compliance-Problem.

Rechtsgrundlagen: Art. 6 EU AI Act, Anhang III Nr. 5 EU AI Act.

Question 10

Darf ich Patientendaten in ChatGPT oder anderen Cloud-KI-Tools eingeben?

Accepted Answer

Nein. Wenn Sie identifizierbare Patientendaten — Name, Versichertennummer, Geburtsdatum, Diagnose — in Public-Cloud-KI-Dienste eingeben, verstoßen Sie gleichzeitig gegen mehrere Rechtsgebiete:

§ 203 StGB (ärztliche Schweigepflicht): Das unbefugte Offenbaren von Patientengeheimnissen gegenüber einem Dritten ist eine Straftat, die mit bis zu einem Jahr Freiheitsstrafe bedroht ist. Ein US-Cloud-Anbieter gilt strafrechtlich als "Dritter".

DSGVO Art. 9 und Art. 28: Gesundheitsdaten sind besonders schützenswert; für ihre Verarbeitung durch Dritte ist ein wirksamer Auftragsverarbeitungsvertrag erforderlich, den Public-Cloud-KI-Dienste in der Regel nicht anbieten.

Sie dürfen solche Tools für allgemeine medizinische Fragen ohne Patientenbezug nutzen. Für konkrete Patientenfälle sind ausschließlich Lösungen mit Auftragsverarbeitungsvertrag oder lokal gehostete Modelle zulässig.

Rechtsgrundlagen: § 203 StGB, DSGVO Art. 9, Art. 28, Art. 44 ff.

Question 11

Darf ich Patientendaten an einen Cloud-KI-Anbieter in den USA übermitteln?

Accepted Answer

Grundsätzlich nein — zumindest nicht ohne erheblichen rechtlichen Aufwand und verbleibende Risiken. Drei Rechtsgebiete greifen gleichzeitig:

DSGVO: Seit dem EU-U.S. Data Privacy Framework (Juli 2023) ist die Übermittlung an zertifizierte US-Unternehmen formal wieder möglich — aber politisch und rechtlich fragil. Ein "Schrems III"-Szenario ist realistisch. Für Gesundheitsdaten (Art. 9 DSGVO) gelten erhöhte Anforderungen: DSFA, wirksamer Auftragsverarbeitungsvertrag und Drittland-Risikoabschätzung.

§ 203 StGB: Die ärztliche Schweigepflicht verbietet die Weitergabe von Patientengeheimnissen an Dritte. Bei US-Anbietern greift die Gehilfenregelung nach § 203 Abs. 3 StGB in der Regel nicht.

Die sicherste Lösung ist die Verarbeitung auf lokaler Infrastruktur (Sovereign AI) oder bei einem zertifizierten EU-Anbieter mit Serverstandort in Deutschland.

Rechtsgrundlagen: DSGVO Art. 9, Art. 44 ff., § 203 StGB.

Question 12

Was passiert, wenn ich KI nutze, ohne mein Praxisteam geschult zu haben?

Accepted Answer

Im Schadensfall wird ein Gericht die fehlende Schulung als Fahrlässigkeit werten. Die konkreten Konsequenzen:

Klagt ein Patient wegen einer fehlerhaften KI-Diagnose, wird sein Anwalt als erstes fragen: "War Ihr Team geschult?" Können Sie das nicht schriftlich nachweisen, greift die Beweislastumkehr nach § 630h BGB — Sie müssen dann beweisen, dass die fehlende Schulung keinen Einfluss auf das Ergebnis hatte. Das ist nahezu unmöglich.

Die Ärztekammer kann ein Disziplinarverfahren einleiten, weil Sie gegen die Sorgfaltspflicht aus der Berufsordnung verstoßen haben. Ein MDK-Gutachter wird die fehlende Schulung explizit dokumentieren und kritisieren.

Schulungsnachweise müssen schriftlich vorliegen — mit Datum, Thema, Teilnehmern und Name des Schulenden. Das kostet wenig Zeit, verhindert aber erhebliche Haftungsrisiken.

Rechtsgrundlagen: Art. 4 EU AI Act (seit 2. Februar 2025), § 630a BGB, § 630h BGB.

Question 13

Werde ich automatisch zum Betreiber, wenn ich ein KI-Add-on in meiner Praxissoftware aktiviere?

Accepted Answer

Ja — sofort und ohne weitere Formalität. Nach Art. 3 Nr. 4 EU AI Act werden Sie Betreiber, sobald Sie ein KI-System "unter eigener Verantwortung einsetzen" — unabhängig davon, ob Sie es selbst entwickelt haben oder ob es aus Ihrer Praxissoftware stammt.

Ein KI-Add-on in medatixx, tomedo oder CGM, das Sie aktivieren und nutzen, ist kein "Feature Ihrer Software". Es ist ein KI-System, für das Sie als Betreiber die gesetzliche Verantwortung tragen. Der Anbieter liefert es, aber er kann die Betreiberrolle nicht von Ihnen nehmen — das geht gesetzlich nicht.

Das bedeutet: Schulungspflicht, Risikoabschätzung, Human Oversight und Protokollaufbewahrung greifen mit dem Moment, in dem Sie das System produktiv einsetzen.

Die gute Nachricht: Die meisten Anforderungen sind mit wenig Aufwand erfüllbar — sie kosten Aufmerksamkeit und Planung, aber keine Monate.

Rechtsgrundlagen: Art. 3 Nr. 4 EU AI Act.

Question 14

Bieten PVS-Anbieter wie medatixx, tomedo oder CGM ein Onboarding zu meinen Betreiberpflichten an?

Accepted Answer

Nach aktuellem Kenntnisstand (März 2026) bieten die großen drei PVS-Anbieter — CGM, medatixx und tomedo — kein strukturiertes Onboarding zu Betreiberpflichten nach EU AI Act an.

Alle drei haben KI-Funktionen in ihre Systeme integriert oder angekündigt — ohne dass Ärzte als Betreiber systematisch über ihre gesetzlichen Pflichten informiert werden: keine AI-Act-Checklisten, keine Compliance-Module im Schulungssystem, kein dokumentiertes Onboarding.

Das ist die Informationsasymmetrie: Ärzte kaufen ein KI-Add-on, werden damit kraft Gesetzes zum Betreiber — und erhalten kein strukturiertes Onboarding zu ihren Pflichten. Das Marketing beschreibt den Nutzen der KI, nicht die Betreiberpflichten, die damit einhergehen.

Bis sich das ändert, müssen Sie proaktiv handeln: Schulung selbst organisieren, Risikoabschätzung selbst erstellen.

Rechtsgrundlagen: Art. 26 EU AI Act (Betreiberpflichten ab 2. August 2026).

Question 15

Bin ich auch Betreiber, wenn ich nur administrative KI nutze — z. B. für Terminbuchungen?

Accepted Answer

Ja, Sie sind bei jeder professionellen KI-Nutzung Betreiber — aber die Pflichtendichte ist unterschiedlich.

Bei Hochrisiko-KI (diagnostische KI, behandlungsunterstützende Systeme) greift das vollständige Pflichtenprogramm nach Art. 26 EU AI Act: Schulung, Risikoabschätzung, Human Oversight, Protokollaufbewahrung, laufende Überwachung.

Bei Standard-Risiko-KI (administrative Sprach-KI für Terminanfragen, automatisierte Rechnungsverarbeitung) fallen die Anforderungen deutlich leichter aus — aber die Schulungspflicht nach Art. 4 gilt ab dem 2. Februar 2025 für jede KI-Nutzung.

Wichtig: Ein KI-Telefonassistent, der Patienten nach Dringlichkeit priorisiert, kann bereits als Hochrisiko einzustufen sein, weil er den Zugang zu Gesundheitsdienstleistungen beeinflusst. Klären Sie die Einstufung schriftlich — und im Zweifel konservativ.

Rechtsgrundlagen: Art. 4 EU AI Act, Art. 26 EU AI Act, Anhang III Nr. 5 EU AI Act.

Question 16

Welche zusätzlichen Pflichten habe ich als MVZ-Geschäftsführer beim KI-Einsatz?

Accepted Answer

Als MVZ-Geschäftsführer tragen Sie die Verantwortung auf zwei Ebenen.

Betreiberverantwortung als Organisation: Das MVZ als juristische Person ist Betreiber aller eingesetzten KI-Systeme. Sie können die operative Verantwortung an einzelne Ärzte delegieren — aber die rechtliche Gesamtverantwortung bleibt bei Ihnen. Wenn ein Arzt seine KI-Pflichten vernachlässigt, haften Sie als Geschäftsführer über § 43 GmbHG und § 278 BGB.

Governance-Dokumentation auf MVZ-Ebene: Sie müssen nachweisen können, dass das MVZ als Organisation ein Compliance-System für KI hat: Wer nutzt welche KI? Wer ist verantwortlich? Wer überwacht? Wer schulte wen?

Für ein MVZ mit drei Ärzten kann das eine strukturierte A4-Seite sein. Für ein MVZ mit 20 Ärzten und mehreren KI-Systemen ist es ein ernsthaftes Governance-Dokument.

Rechtsgrundlagen: Art. 26 EU AI Act, § 43 GmbHG (Geschäftsführerhaftung), § 278 BGB.

Question 17

Braucht unser MVZ einen KI-Beauftragten?

Accepted Answer

Nicht rechtlich verpflichtend — aber strategisch sinnvoll, sobald das MVZ mehr als eine KI-Anwendung nutzt.

Der EU AI Act schreibt keinen KI-Beauftragten explizit vor (anders als die DSGVO, die einen Datenschutzbeauftragten fordert). In der Praxis ist es aber hilfreich, eine verantwortliche Person zu haben, die den Überblick über alle KI-Systeme im MVZ hat, überprüft, dass Schulungen stattfinden, Risikoabschätzungen aktuell hält und bei Behördenkontrollen die Dokumentation vorlegen kann.

Das kann ein bestehender Mitarbeiter sein — IT-Leiter, Praxismanager — oder ein externer Compliance-Partner.

Als kleines MVZ mit einer KI-Anwendung genügt eine schriftliche Betreiber-Erklärung: Wir nutzen diese KI-Systeme. Dieser Arzt ist operativ verantwortlich. Diese Schulung hat stattgefunden. Das ist ein solider Compliance-Anker.

Rechtsgrundlagen: Art. 26 EU AI Act (keine explizite Beauftragten-Pflicht).

Question 18

Kann ich als MVZ-Geschäftsführer Betreiberpflichten auf einzelne Ärzte delegieren?

Accepted Answer

Sie können die operative Verantwortung verteilen — aber die rechtliche Gesamtverantwortung bleibt beim MVZ und bei Ihnen als Geschäftsführer.

Sie können einen Arzt mandatieren: "Du stellst sicher, dass Dein Team geschult ist, Du prüfst die KI-Ergebnisse, Du dokumentierst." Wenn dieser Arzt das dann nicht tut, haften jedoch Sie über § 43 GmbHG (Organisationsverschulden) und § 278 BGB (Haftung für Erfüllungsgehilfen).

Ein Patient klagt das MVZ, nicht den einzelnen Arzt — und dann sind Sie als Geschäftsführer in der Verantwortung.

Schreiben Sie daher klar auf: "Dr. Müller ist operativ verantwortlich für KI in der Diabetologie, unter Aufsicht der Geschäftsführung." Das ist rechtlich sauberer als eine vollständige Delegation ohne Kontrollmechanismus.

Rechtsgrundlagen: Art. 26 EU AI Act, § 43 GmbHG, § 278 BGB.

Question 19

Welche KI-Systeme im Gesundheitswesen gelten als Hochrisiko?

Accepted Answer

Nach Art. 6 und Anhang III Nr. 5 EU AI Act gilt eine KI als Hochrisiko im Gesundheitswesen, wenn sie "den Zugang zu oder die Qualität von Gesundheitsdienstleistungen beeinflusst".

Hochrisiko sind beispielsweise: Diagnose-Assistenten, Prognose- und Risikoabschätzungssysteme, KI-gestützte Bildanalyse in Radiologie und Pathologie, Behandlungsplanungs-KI, Triagesysteme.

Kein Hochrisiko sind in der Regel: Sprachassistenten für reine Terminbuchungen ohne Dringlichkeitsbewertung, Rechnungsverarbeitung, interne Dokumentenverwaltung ohne klinischen Bezug.

Der Graubereich ist groß: Ein KI-Telefonassistent, der Patienten nach Dringlichkeit priorisiert, kann bereits Hochrisiko sein. Für Medizinprodukte (Klasse IIa, IIb, III) nach MDR gilt automatisch Hochrisiko.

Im Zweifel konservativ einstufen — die Konsequenz einer falschen Nicht-Einstufung wiegt schwerer als der Mehraufwand einer korrekten Einstufung.

Rechtsgrundlagen: Art. 6 EU AI Act, Anhang III Nr. 5 EU AI Act, MDR (EU) 2017/745.

Question 20

Was kostet die Nichteinhaltung des EU AI Act?

Accepted Answer

Der EU AI Act sieht ein dreistufiges Sanktionssystem vor (Art. 99):

Verstöße gegen verbotene KI-Praktiken: bis zu 35 Millionen Euro oder 7 % des weltweiten Jahresumsatzes.

Verstöße gegen Betreiberpflichten bei Hochrisiko-KI (Art. 26): bis zu 15 Millionen Euro oder 3 % des Umsatzes.

Falsche Angaben gegenüber Behörden: bis zu 7,5 Millionen Euro oder 1,5 %.

Für KMU und Einzelpraxen gilt der jeweils niedrigere Betrag — aber selbst der niedrigste Bußgeldrahmen ist für eine Einzelpraxis existenzbedrohend.

Dazu kommt die zivilrechtliche Haftung: Fehlt die Dokumentation, greift im Schadensfall Beweislastumkehr nach § 630h BGB. Die Compliance ist günstiger als die Strafe — Schulung und Dokumentation kosten einen halben Tag Aufwand; ein Haftungsprozess kostet Zehntausende.

Rechtsgrundlagen: Art. 99 EU AI Act, § 630h BGB, § 823 BGB.

Question 21

Was ist Legal Engineering und wie unterscheidet es sich von klassischer Rechtsberatung?

Accepted Answer

Legal Engineering ist die Kombination aus juristischer Expertise und technischem Verständnis.

Ein klassischer Anwalt liest den AI Act und schreibt: "Sie müssen die Betreiberpflichten erfüllen." Ein Legal Engineer liest den AI Act und gleichzeitig die Dokumentation Ihrer konkreten KI — und sagt dann: "Diese spezifische Funktion in Ihrer Praxissoftware ist Hochrisiko. Das ist die Risikoabschätzung, die Sie schreiben müssen. Diese Schulung deckt die erforderlichen Inhalte ab. Dieses Dokumentationssystem funktioniert für Ihre Praxisgröße."

Der Legal Engineer denkt nicht nur, was regulatorisch richtig ist, sondern wie es in Ihrer konkreten Situation praktisch wird — und übersetzt zwischen juristischer Anforderung und technischer Praxisrealität.

Im Kontext von EU AI Act, DSGVO und MDR ist das besonders wertvoll: Die Regulierung ist neu, die Technologie entwickelt sich schnell, und allgemeine Gutachten helfen oft nicht weiter, weil sie die konkrete Implementierung offenlassen.

Rechtsgrundlagen: Kein gesetzlich definierter Begriff — Legal Engineering ist eine Methodik, kein geschützter Titel.

Question 22

Muss ich abwarten, bis August 2026, oder muss ich jetzt schon handeln?

Accepted Answer

Sie müssen jetzt handeln. Art. 4 (AI Literacy-Schulung) gilt bereits seit 2. Februar 2025.

Wenn Sie KI nutzen und Ihr Team nicht geschult haben, verstoßen Sie bereits heute gegen den EU AI Act — nicht erst ab August 2026. Und ein Patient, der heute durch einen KI-Fehler geschädigt wird, kann bereits heute klagen, wobei die fehlende Schulung als Fahrlässigkeit gewertet wird.

Die vollständigen Betreiberpflichten nach Art. 26 gelten ab August 2026 — aber die Vorbereitungszeit ist jetzt. Schulung, Risikoabschätzung und Dokumentationsstruktur aufzubauen dauert in einer Einzelpraxis zwei bis drei konzentrierte Arbeitstage. Wer bis August wartet, tut es unter Zeitdruck und macht Fehler.

Ein weiterer Punkt: Praxissoftware-Anbieter werden ab August 2026 ihre KI-Features wahrscheinlich mit strengeren Compliance-Auflagen ausliefern — das wird für Sie als Betreiber komplexer und teurer.

Rechtsgrundlagen: Art. 4 EU AI Act (in Kraft seit 2. Februar 2025), Art. 26 EU AI Act (ab 2. August 2026).

Question 23

Was tun, wenn mein KI-Anbieter keine technischen Daten zur KI herausgibt?

Accepted Answer

Das ist ein ernst zu nehmendes Warnsignal. Ein rechtssicherer Anbieter muss Ihnen als Betreiber mindestens folgende Informationen bereitstellen können: Validierungsdaten (Fehlerquoten, getestete Patientenpopulationen), Einsatzgrenzen (bei welchen Symptombildern funktioniert die KI, bei welchen nicht), Update-Cadence und Änderungsprotokoll.

Wenn ein Anbieter mit "Das ist proprietär" antwortet, schreiben Sie schriftlich: "Wir benötigen die technischen Informationen zur KI, um unsere Betreiberpflichten nach Art. 26 EU AI Act zu erfüllen. Bitte stellen Sie diese bis [Datum in 2 Wochen] zur Verfügung."

Antwortet der Anbieter mit "Nein", müssen Sie entscheiden: Weiterbetrieb mit eigenständiger Risikoabschätzung auf Basis der verfügbaren Informationen — oder Abbruch der KI-Nutzung bis zur Klärung. Eine Risikoabschätzung ohne technische Grundlage ist spekulativ und hält im Haftungsfall nicht stand.

Rechtsgrundlagen: Art. 26 Abs. 3 EU AI Act, Art. 13 EU AI Act (Transparenzpflichten des Anbieters).

Question 24

Ab wann gilt die neue Produkthaftungsrichtlinie für KI im Gesundheitswesen?

Accepted Answer

Die neue Produkthaftungsrichtlinie (EU) 2024/2853 muss von den EU-Mitgliedstaaten bis zum 9. Dezember 2026 in nationales Recht umgesetzt werden. Bis dahin gilt noch das alte Produkthaftungsgesetz (ProdHaftG).

Die wesentlichen Änderungen für KI im Gesundheitswesen: KI-Systeme werden explizit als "Produkte" erfasst, sodass Anbieter leichter für fehlerhafte KI-Ausgaben haftbar gemacht werden können. Die Beweislast wird für Geschädigte erleichtert — sie müssen nicht mehr den genauen technischen Fehler beweisen, sondern können sich auf das fehlerhafte Ergebnis berufen. Das erhöht das Haftungsrisiko für KI-Anbieter erheblich.

Für Sie als Betreiber ändert sich die Grundstruktur nicht — Sie bleiben Betreiber und haften für Ihre Betreiberpflichten. Aber: Versicherer werden ab 2026 neue Risikoklassen für KI einpreisen, und Ihre Police sollte auf dieses Thema hin überprüft werden.

Rechtsgrundlagen: Produkthaftungsrichtlinie (EU) 2024/2853 (Umsetzungsfrist: 9. Dezember 2026).

KI-Haftung, Betreiberpflichten, EU AI Act.

Haftung & Verantwortung

Gesetzliche Pflichten beim KI-Einsatz

Datenschutz & Schweigepflicht

Praxissoftware & Betreiberrolle

Für MVZ-Geschäftsführer

Grundlagen & Sanktionen

Häufig unbeantwortete Fragen

Ihre Frage ist nicht dabei?