Der Alltag: KI als Dokumentationshelfer
Es ist eine verführerische Idee. Der Arzt kopiert den Befundbericht, die Laborwerte und die Diagnose in ChatGPT, schreibt „Erstelle daraus einen Arztbrief im üblichen Stil" — und bekommt in zehn Sekunden einen strukturierten, sprachlich sauberen Entwurf zurück. Im Vergleich zu einer Stunde manuellen Tippens nach einer langen Schicht ist das eine Revolution.
Kein Wunder also, dass Cloud-KI-Dienste im Klinikalltag längst genutzt werden — oft ohne explizite Entscheidung der Klinikleitung, sondern als persönliches Werkzeug einzelner Ärzte. Das Problem: Was praktisch und naheliegend wirkt, bewegt sich in einem erheblichen rechtlichen Graubereich. Drei Rechtsrahmen sprechen klar dagegen.
Hürde 1: Die DSGVO
Patientendaten sind Gesundheitsdaten im Sinne von Art. 9 DSGVO — die sensibelste Datenkategorie, die es gibt. Wer sie verarbeitet, braucht erstens eine Rechtsgrundlage und zweitens — sobald ein Drittanbieter eingebunden ist — einen Auftragsverarbeitungsvertrag (AVV) nach Art. 28 DSGVO.
Das AVV-Problem
Wenn ein Arzt einen Patientenbefund in ChatGPT, Microsoft Copilot oder einen anderen Cloud-Dienst eingibt, übermittelt er Gesundheitsdaten an einen externen Dienstleister. Dieser Dienstleister verarbeitet die Daten auf seinen Servern — und genau das ist der Kern des Problems: Für diese Verarbeitung ist ein gültiger AVV zwingend erforderlich. OpenAI bietet für ChatGPT einen solchen Vertrag im Enterprise-Bereich an, nicht aber für den kostenlosen oder Standard-Plus-Tarif. Die meisten Ärzte, die ChatGPT im Alltag verwenden, haben keinen AVV — und damit keine rechtliche Grundlage für die Verarbeitung von Patientendaten.
Das Drittland-Problem
Selbst mit AVV bleibt die Frage der Datenübermittlung in Drittländer. OpenAI verarbeitet Daten primär in den USA. Eine Übermittlung dorthin ist nach DSGVO nur unter strengen Bedingungen zulässig — und setzt voraus, dass das Schutzniveau im Drittland dem europäischen entspricht. Das Trans-Atlantic Data Privacy Framework (TADPF) bietet einen Rahmen, ist jedoch politisch fragil und wurde bereits zweimal durch EuGH-Urteile gekippt (Schrems I und II). Eine dritte Anfechtung ist anhängig.
Hürde 2: Die ärztliche Schweigepflicht, § 203 StGB
Die ärztliche Schweigepflicht ist kein weiches Berufsethos — sie ist strafbewehrt. § 203 Abs. 1 Nr. 1 StGB stellt die unbefugte Offenbarung von Patientengeheimnissen unter Strafe, auch durch Ärzte. Und „Offenbaren" im Sinne des Gesetzes beginnt nicht erst bei der absichtlichen Weitergabe — es erfasst jede Kenntnismöglichkeit Dritter.
Sind Cloud-KI-Anbieter „sonstige mitwirkende Personen"?
§ 203 Abs. 3 StGB erlaubt die Einbindung von Dienstleistern, wenn diese zur Verschwiegenheit verpflichtet sind. Klassische Beispiele sind IT-Dienstleister, die Praxissoftware warten, oder Abrechnungszentren. Entscheidend ist: Der Dienstleister muss explizit zur Verschwiegenheit nach § 203 Abs. 4 StGB verpflichtet sein.
Ob ein großer US-Cloud-Anbieter diese strafrechtliche Verpflichtung wirksam übernimmt und ob eine solche Vereinbarung mit einem Konzern, dessen Mitarbeiter weltweit auf Daten zugreifen können, tatsächlich ausreicht, ist juristisch umstritten. Die herrschende Meinung ist skeptisch. Und im Strafrecht gilt: Im Zweifel haftet der Arzt — nicht der Anbieter.
Hürde 3: Der EU AI Act ab dem 2. August 2026
Am 2. August 2026 tritt für den Großteil aller KI-Systeme in der EU der volle Pflichtenkatalog des EU AI Act in Kraft. Für das Gesundheitswesen hat das erhebliche Konsequenzen — und es bleiben nur noch wenige Tage.
Hochrisiko-Einstufung
KI-Systeme, die im medizinischen Bereich eingesetzt werden und Diagnosen, Therapieempfehlungen oder klinische Entscheidungen unterstützen, fallen in die Kategorie „Hochrisiko-KI" nach Anhang III des AI Act. Für diese Systeme gelten nach Art. 26 strenge Betreiberpflichten: menschliche Aufsicht (Human-in-the-Loop), Datenschutz-Folgenabschätzung (DSFA), Incident-Response-Prozesse und Registrierung in der EU-KI-Datenbank.
Was das für Cloud-Dienste bedeutet
ChatGPT und vergleichbare Allzweck-KI-Systeme sind nicht als Hochrisiko-Medizinsysteme zugelassen. Wer sie trotzdem für medizinische Dokumentation nutzt, betreibt ein faktisches Hochrisiko-KI-System ohne die erforderliche Konformität. Die Verantwortung dafür liegt beim Betreiber — also der Klinik oder dem Arzt — nicht beim Anbieter.
Was Cloud-Anbieter antworten — und was davon hält
Die großen Anbieter sind sich des Problems bewusst und haben Antworten entwickelt. Es lohnt sich, diese kritisch zu prüfen:
| Argument | Anbieter-Aussage | Realität |
|---|---|---|
| „Wir verarbeiten Ihre Daten nicht für Training" | Enterprise-Verträge schließen Training auf Kundendaten aus | Stimmt für Enterprise — aber nicht für Standard-/Plus-Tarife, die im Alltag genutzt werden |
| „Wir haben EU-Rechenzentren" | Microsoft Azure, Google Cloud bieten EU-Datenspeicherung | Speicherort ≠ Verarbeitung. Support-Zugriffe aus Drittländern bleiben ein Problem |
| „Wir bieten einen AVV" | Enterprise-Kunden erhalten DSGVO-konforme Verträge | Löst DSGVO-Problem teilweise — behebt aber nicht § 203 StGB und AI Act-Compliance |
| „Wir sind HIPAA-zertifiziert" | US-Gesundheitsdatenschutz als Vertrauenssignal | HIPAA ist US-Recht. Für Deutschland gilt DSGVO — andere Anforderungen, anderer Rechtsrahmen |
Fazit: Selbst im günstigsten Fall — Enterprise-Vertrag, EU-Rechenzentrum, AVV — bleiben die strafrechtliche Dimension des § 203 StGB und die AI Act-Compliance als offene Fragen. Es gibt keinen Cloud-Anbieter, der für den Klinikalltag in Deutschland heute alle drei Rechtsrahmen gleichzeitig lückenlos abdeckt.
Die Alternative: Vollständig lokale KI
Die Lösung für das Datenschutzproblem ist prinzipiell simpel: Wenn keine Daten das eigene Netzwerk verlassen, entsteht auch kein Drittlandtransfer, kein AVV-Problem und keine Offenbarung im Sinne des § 203 StGB. Das setzt voraus, dass das Sprachmodell selbst lokal betrieben wird — nicht als Cloud-API, sondern als Software auf eigenem Server.
Was lokale KI konkret bedeutet
Moderne Open-Source-Sprachmodelle ermöglichen genau das. Ein Server im Klinikrechenzentrum führt das Modell aus, Ärzte greifen über den Browser zu — ohne dass ein einziges Datenbyte das eigene Netz verlässt. Ob die Qualität für den klinischen Alltag ausreicht, ist dabei die entscheidende Frage — und sie lässt sich inzwischen empirisch beantworten.
Der rechtliche Vorteil ist strukturell
Lokale KI löst nicht alle Compliance-Fragen auf einen Schlag. Der Arzt bleibt nach § 630a BGB für den Inhalt verantwortlich, und der EU AI Act verlangt auch für lokale Systeme menschliche Aufsicht und Dokumentation. Aber die drei größten Probleme — Drittlandtransfer, AVV-Pflicht und unkontrollierte Datenweitergabe — entfallen strukturell, weil keine externe Verarbeitung stattfindet.
Fazit
Cloud-KI für Arztbriefe ist kein theoretisches Datenschutzproblem — es ist ein konkretes rechtliches Risiko, das Ärzte und Kliniken heute eingehen, oft ohne es zu wissen. DSGVO, § 203 StGB und EU AI Act bilden zusammen einen Rechtsrahmen, den kein Cloud-Anbieter derzeit vollständig und rechtssicher abdeckt.
Das bedeutet nicht, dass KI-Unterstützung in der medizinischen Dokumentation falsch ist — im Gegenteil. Sie spart nachweislich Zeit, reduziert Fehler und entlastet überlastete Ärzte. Aber die Form der KI muss dem Rechtsrahmen entsprechen. Und dieser Rechtsrahmen zeigt in Deutschland klar in eine Richtung: lokal, kontrollierbar, datensouverän.
Klinik LLM — KI-Dokumentation, die in Ihrer Klinik bleibt
Wir haben Klinik LLM genau für dieses Problem entwickelt: eine vollständig lokal betriebene Software zur Unterstützung der klinischen Dokumentation — Arztbriefe, Diagnoseköpfe, Verlaufsdokumentation. Klinik LLM dokumentiert, was der Arzt entscheidet; es trifft keine eigene Diagnose- oder Therapieentscheidung. Keine Cloud, kein AVV-Problem, keine Datenweitergabe. Gerne zeigen wir Ihnen das System in einer unverbindlichen Demo — in Ihrer Umgebung, mit Ihren Dokumenttypen.
Demo anfragen