Sovereign AI

Definition

Sovereign AI ist eine KI-Architektur, bei der Daten und Modelle vollständig unter eigener Kontrolle bleiben, ohne Datenübertragung an externe Cloud-Anbieter und ohne Abhängigkeit von externen APIs. Im Gesundheitswesen ist Sovereign AI ein Architekturprinzip, mit dem sich Schweigepflicht, DSGVO-Konformität und Cloud-Act-Risiken in einer Lösung adressieren lassen.

Synonyme im Markt sind On-Premise AI, lokale LLMs, Edge AI und Self-Hosted Inference. Alle Begriffe beschreiben dasselbe Grundprinzip einer KI-Verarbeitung, die das eigene Netzwerk nicht verlässt.

Die drei Probleme, die Sovereign AI parallel löst

Erstens, § 203 StGB. Die ärztliche Schweigepflicht verbietet die Offenbarung von Patientengeheimnissen an Dritte. Bei Cloud-KI ist der Anbieter im technischen Sinne Dritter, weil die Daten seine Infrastruktur verarbeiten. Auch ein Auftragsverarbeitungsvertrag nach Art. 28 DSGVO schützt nicht automatisch vor § 203 StGB. Sovereign AI vermeidet die Drittbeteiligung, weil keine Daten das eigene Netzwerk verlassen.

Zweitens, DSGVO bei Drittlandsübermittlung. Cloud-KI von US-Anbietern wie OpenAI, Anthropic oder Microsoft erfordert eine Rechtsgrundlage für die Übermittlung in Drittländer. Standardvertragsklauseln nach Art. 46 DSGVO sind möglich, aber komplex umzusetzen und nach Schrems II angreifbar. Sovereign AI eliminiert die Übermittlung.

Drittens, das US-Cloud-Act-Risiko. Der US Cloud Act erlaubt US-Behörden den Zugriff auf Daten US-amerikanischer Anbieter, unabhängig vom Speicherort. Selbst eine EU-Region eines US-Anbieters bietet keinen vollständigen Schutz. Sovereign AI eliminiert diesen Vektor.

Technische Architektur

Drei Bausteine prägen eine typische Sovereign-AI-Architektur. Erstens, lokale Hardware mit GPU-Beschleunigung. Für Allzweck-LLMs bis 13 Milliarden Parameter genügt heute eine professionelle GPU-Workstation. Für größere Modelle oder mehrere parallele Anfragen sind Server mit mehreren GPUs erforderlich.

Zweitens, ein Open-Source-Modell mit kommerziell brauchbarer Lizenz. Llama 3, Mistral, Phi und Mixtral sind die häufigsten Allzweck-Optionen. Für medizinische Spezialaufgaben gibt es feingetunte Varianten wie Meditron oder PMC-Llama. Die Auswahl folgt dem konkreten Anwendungsfall und der verfügbaren Hardware.

Drittens, eine Inferenz-Schicht, die das Modell als API zur Verfügung stellt. Praxistaugliche Open-Source-Stacks sind Ollama, vLLM, LM Studio oder Triton Inference Server. Sie kapseln das Modell hinter einer REST-API, die sich in PVS-Workflows, Ambient-Scribing-Frontends oder eigene Anwendungen einbinden lässt.

Privacy-Proxy als Brückenlösung

Wer nicht vollständig auf eigene Modelle wechseln will, hat eine Brückenoption. Ein Privacy-Proxy zwischen Praxis und Cloud-Anbieter pseudonymisiert oder anonymisiert sensible Daten, bevor sie das eigene Netzwerk verlassen. Der Cloud-Anbieter sieht nur entpersonalisierte Anfragen, die Rückübersetzung in den Patientenkontext geschieht ausschließlich lokal.

Diese Architektur löst nicht alle Probleme. § 203 StGB bleibt anspruchsvoll, weil die Pseudonymisierung im Einzelfall nicht ausreicht, wenn sich der Patientenbezug rekonstruieren lässt. Sie senkt aber das Risiko substanziell und ist ein gangbarer Zwischenschritt für Praxen, die Cloud-Vorteile nutzen wollen, ohne § 203 zu ignorieren.

Wann Sovereign AI sinnvoll ist

Vier Kontexte sprechen für Sovereign AI. Privatpraxen mit prominentem Patientenklientel, bei denen Vertraulichkeit ein hartes Differenzierungsmerkmal ist. Radiologie mit großen DICOM-Volumina, bei denen Latenz und Datenübertragung Kostenfaktoren sind. Klinikverbünde mit eigener IT-Abteilung, in denen die Infrastrukturkompetenz vorhanden ist. Forschungseinrichtungen, in denen Modell-Eigenständigkeit Voraussetzung für die wissenschaftliche Arbeit ist.

Vier Kontexte sprechen eher gegen Sovereign AI. Kleine Einzelpraxen mit Standard-Workflows und ohne IT-Ressourcen. Praxen, deren KI-Nutzung sich auf wenige Standard-Anwendungen wie Spracherkennung oder Terminbuchung beschränkt. Setups mit häufig wechselnden Anforderungen, in denen die Flexibilität einer Cloud-Lösung den Compliance-Aufwand rechtfertigt. Praxen, deren Patientenklientel keine besonderen Vertraulichkeitsanforderungen hat und die mit EU-gehosteter Cloud-KI plus AV-Vertrag und Zero Data Retention auskommen.

Wirtschaftliche Einordnung

Die Initialinvestition für eine Sovereign-AI-Implementierung in einer Einzelpraxis oder einem kleinen MVZ liegt typischerweise zwischen 15.000 und 40.000 EUR für Hardware, Einrichtung, Lizenzen und Anbindung. Laufende Kosten beschränken sich auf Strom, Wartung und gelegentliche Modell-Updates.

Cloud-KI-Abos für medizinische Anwendungen kosten je nach Volumen und Anbieter zwischen 200 und 1.500 EUR pro Monat. Der wirtschaftliche Break-Even gegenüber Cloud wird bei intensiver Nutzung typischerweise nach 18 bis 30 Monaten erreicht. Bei geringerer Nutzungsintensität wird der Break-Even nicht erreicht und Cloud bleibt wirtschaftlich überlegen.