Betreiber (Deployer)

Definition

Betreiber, im englischen Originaltext Deployer, ist nach Art. 3 Nr. 4 EU AI Act jede natürliche oder juristische Person, die ein KI-System unter eigener Verantwortung einsetzt. Im Gesundheitswesen sind das typischerweise Arztpraxen, Medizinische Versorgungszentren (MVZ) und Krankenhäuser.

Die Betreiberstellung entsteht kraft Gesetzes mit der ersten Nutzung des KI-Systems im beruflichen Kontext. Sie verlangt weder ein Bekenntnis des Arztes noch einen Vertrag mit dem Anbieter, der die Rolle festschreibt. Wer eine KI-Funktion in der PVS aktiviert, wird in diesem Moment Betreiber.

Abgrenzung zum Anbieter

Anbieter und Betreiber unterscheiden sich nach der Rolle in der Wertschöpfungskette. Der Anbieter entwickelt und bringt das KI-System in Verkehr. Der Betreiber setzt es in seiner eigenen Tätigkeit ein. Beide Rollen haben getrennte Pflichten, die parallel laufen und sich nicht gegenseitig aufheben.

Anbieterpflichten befreien Betreiber nicht. Selbst wenn der PVS-Anbieter die volle MDR- und AI-Act-Konformität nachweist, bleibt die Praxis als Betreiber für den konkreten Einsatz verantwortlich. Für sie gilt Art. 4, bei Hochrisiko-Systemen kommen die Pflichten aus Art. 26 hinzu.

Aus dem Betreiber wird nach Art. 25 ein Anbieter, wenn einer von drei Fällen vorliegt, die alle an Hochrisiko-Systeme anknüpfen. Erstens, er versieht ein Hochrisiko-System mit seinem Namen oder seiner Marke. Zweitens, er verändert ein Hochrisiko-System wesentlich, etwa durch Fine-Tuning oder Verkettung. Drittens, er ändert die Zweckbestimmung eines Systems so, dass es zum Hochrisiko-System wird. Die zweite und dritte Konstellation trifft Praxen und MVZ häufiger, als ihnen bewusst ist.

Die Pflichten aus Art. 26 bei Hochrisiko-Systemen

Sie gelten ab dem 2. Dezember 2027 für Systeme nach Anhang III und ab dem 2. August 2028 für Medizinprodukte, die eine Benannte Stelle geprüft hat.

Erstens, Einsatz gemäß Gebrauchsanweisung. Wer ein KI-System abweichend von den Vorgaben des Anbieters verwendet, riskiert nicht nur die Anbieterhaftung nach Art. 25 zu übernehmen, sondern verstößt zusätzlich gegen Art. 26 Abs. 1.

Zweitens, menschliche Aufsicht. Die Aufgabe muss qualifizierten und befugten Personen übertragen werden. Im ärztlichen Kontext typischerweise dem behandelnden Arzt.

Drittens, Eingabedatenqualität, soweit der Betreiber Kontrolle hat. Wer einen KI-Triage-Assistenten einsetzt, muss sicherstellen, dass die übermittelten Anamnesedaten dem trainierten Verwendungszweck entsprechen.

Viertens, Monitoring und Meldepflichten. Schwerwiegende Vorfälle und Fehlfunktionen müssen an den Anbieter und gegebenenfalls die Aufsichtsbehörde gemeldet werden.

Fünftens, Aufbewahrung der automatisch erzeugten Protokolle für mindestens sechs Monate, soweit sie unter Kontrolle des Betreibers stehen. Bei medizinischen Anwendungen können längere Aufbewahrungsfristen aus dem Berufsrecht oder dem Sozialgesetzbuch greifen.

Sechstens, Information der Beschäftigten und ihrer Vertretung, bevor ein Hochrisiko-System am Arbeitsplatz in Betrieb geht (Art. 26 Abs. 7).

Für die Datenschutz-Folgenabschätzung verweist Art. 26 Abs. 9 auf Art. 35 DSGVO und gibt dem Betreiber dafür die Angaben des Anbieters an die Hand. Bei mehreren Standorten muss die DSFA die Unterschiede im Einsatz abbilden.

Besonderheiten im MVZ

MVZ bringen drei Besonderheiten in die Betreiberrolle ein. Erstens, mehrere Standorte mit unterschiedlichen Konfigurationen. Die Pflichten gelten für jeden Standort, die DSFA muss die standortspezifischen Risiken abbilden. Zweitens, mehrere KI-Systeme parallel, was ein zentrales KI-Register notwendig macht. Drittens, die Gesellschafterstruktur, die die Haftungsfrage zwischen Geschäftsführung, ärztlicher Leitung und Gesellschaftern verteilt.

Ohne klare interne Zuordnung der Betreiberpflichten zwischen Geschäftsführung und ärztlicher Leitung droht im Schadensfall ein Zuständigkeitsstreit, der die Verteidigung schwächt.

Was Betreiber jetzt schon tun sollten

Drei Schritte sind unmittelbar umsetzbar, unabhängig von der Verschiebung der Hochrisiko-Fristen. Ein zentrales KI-Register, das alle eingesetzten Systeme dokumentiert. Festgehaltene Maßnahmen zur KI-Kompetenz des gesamten Personals, die Art. 4 seit Februar 2025 verlangt. Und eine Verfahrensbeschreibung der menschlichen Aufsicht für die wichtigsten KI-Anwendungen.

Wer diese drei Punkte hat, ist regulatorisch nicht voll abgedeckt, aber an den drei prüfungsanfälligsten Stellen aufgestellt. Die Pflichten aus Art. 26 greifen nach dem Digital Omnibus ab dem 2. Dezember 2027 für Anhang III und ab dem 2. August 2028 für Medizinprodukte mit Benannter Stelle. Für die meisten Systeme in Praxis und MVZ ist August 2028 das Datum, und nur, wenn sie überhaupt Hochrisiko sind.