Für Unternehmen·Vertiefung

Souveräne KI für Unternehmen — Vertiefung

Vom Konzept zur Architektur: was souveräne KI in der Praxis vom Marketing-Versprechen unterscheidet.

Souveräne KI bedeutet für Unternehmen: Sie kontrollieren nicht nur die Daten, die ein Modell sieht, sondern auch das Modell selbst, den Betreiber und die Rechtsgrundlage. Wer das delegiert, gibt mehr ab als Effizienz — er gibt Entscheidungsspielraum für die nächsten zehn Jahre ab.

Warum Unternehmen sich jetzt mit Souveränität befassen müssen

Drei Entwicklungen treffen Unternehmen gleichzeitig. Der EU AI Act regelt seit 2024 Hochrisiko-KI europaweit — Verstöße sind mit bis zu 35 Millionen Euro oder 7 % des globalen Jahresumsatzes belegt. Der US CLOUD Act erlaubt US-Strafverfolgern weiterhin Zugriff auf Daten, die in europäischen Tochtergesellschaften US-amerikanischer Anbieter liegen, unabhängig vom physischen Speicherort. Und während die Regulierungsdichte wächst, verlagert sich die KI-Wertschöpfung in die Hand weniger Hyperscaler.

Wer KI heute strategisch einsetzt, baut auf einem Fundament, das andere kontrollieren — die Modellgewichte, die Infrastruktur, die Vertragslage. Vendor-Lock-in entsteht in dieser Konstellation nicht über Nacht, sondern über tausend kleine Integrationen, die einzeln rational waren. Zum Zeitpunkt einer politischen oder kommerziellen Eskalation lässt sich eine solche Bindung nicht in Quartalen lösen, sondern nur in Jahren.

Souveräne KI ist keine Verzichtserklärung gegenüber moderner Technologie. Es ist die Architektur-Entscheidung, dass die Schlüssel zur eigenen Wertschöpfung in der eigenen Jurisdiktion bleiben — vom Modellgewicht über die Daten-Pipeline bis zum Service-Vertrag.

Drei Spannungsfelder, die Souveränität konkret machen

Vendor-Lock-in als unsichtbare Schuld

Drei Jahre Token-Verbrauch in einem Cloud-Stack erzeugen Datenformate, Prompt-Bibliotheken und Workflow-Integrationen, die sich technisch nicht in zwei Quartalen migrieren lassen. Ändert der Anbieter Preis, Modell-Politik oder Verfügbarkeit, fehlt die Ausweich-Option. Souveräne Architekturen halten zumindest die kritischen Komponenten austauschbar.

Doppelte Compliance: EU AI Act und CLOUD Act

Der EU AI Act verlangt für Hochrisiko-KI Risikomanagement, Datenqualitäts-Nachweis, technische Dokumentation und menschliche Aufsicht. Bei US-Hosting kommt der CLOUD Act dazu: ein US-Strafverfolger kann Datenherausgabe verlangen, ohne dass DSGVO-Grundsätze des Verantwortlichen das verhindern. Diese Kollision ist heute nicht mehr abstrakt, sondern aufsichtsrechtlich relevant.

Verhandlungsmacht erodiert pro Quartal

Sobald geschäftskritische Prozesse von einem einzigen Anbieter abhängen, sinkt Ihre Verhandlungsmacht — bei Preiserhöhungen, Service-Level-Verschlechterungen oder politischen Vorgaben des Anbieterstaats. Die Antwort ist nicht, KI zu vermeiden, sondern Modelle und Betreiber so zu wählen, dass ein Wechsel realistisch bleibt.

Die vier Säulen souveräner KI

Auf dieser Ebene sind die vier Säulen vertraut. Interessant wird die Trennlinie zwischen marketing-souverän und juristisch souverän — und welche Architektur-Muster den Unterschied tragen.

Modell

Lizenz, Trainings-Provenienz, Migrationspfad — was hält im Audit?

Die Modell-Auswahl entscheidet, ob Sie zwischen Anbietern wechseln können oder nicht. Closed-Source-APIs wie GPT-4o oder Claude bieten exzellente Performance, aber keinen Audit-Pfad zu Trainings-Daten und keine Migrations-Garantie für Ihre Prompts und Fine-Tunes. Open-Weight-Modelle (Mistral Large, Llama 3.x, Teuken-7B, Qwen) lassen sich quantisiert auch auf moderaten GPUs betreiben — ein H100 reicht für 70B-Modelle in INT8. Praxis: Die meisten Souveränitäts-Strategien fahren zwei Geschwindigkeiten. Frontier-API für unkritische Aufgaben (Code-Assist, Marketing-Drafting), Open-Weight selbst gehostet für regulierte und vertrauliche Workloads. Die Gretchen-Frage im Audit ist nie 'welches Modell', sondern 'wie schnell können Sie wechseln'.

Daten

Auftragsverarbeitung, Subprocessor-Kette, technische und vertragliche Schutzschichten

Daten-Souveränität wird im Auftragsverarbeitungs-Vertrag entschieden, nicht im Marketing. Achten Sie auf drei Punkte: erstens die vollständige Subprocessor-Kette — listet der Anbieter US-Subprocessoren oder verbleibt die Verarbeitung in der EU? Zweitens das Trainingsverbot — wird ihre Eingabe zur Modell-Verbesserung verwendet, ja oder nein, vertraglich? Drittens die Verschlüsselung — wer hält die Schlüssel? 'Customer-managed encryption' bei US-Anbietern hilft gegen Mit-Mandanten, nicht gegen den CLOUD Act. Hardware-gestützte Schlüsselverwahrung (HSM) in EU-eigener Hand ist die einzige technische Schutzschicht, die unabhängig vom Vertragspartner trägt.

Betrieb

Auswahlkriterien für souveräne Inferenz-Plattformen

'Europäischer Anbieter' ist Stufe eins, 'unter ausschließlich europäischer Jurisdiktion' ist Stufe zwei. Letzteres bedeutet: keine US-Muttergesellschaft, kein US-Cloud im Backend, keine Service-Level-Vereinbarung, die im Konfliktfall nach US-Recht ausgelegt wird. Realistische Stack-Optionen für GPU-Inferenz: Stackit (Schwarz-Gruppe), OVHcloud, IONOS, Scaleway, deutsche AI-Factories nach EuroHPC-Initiative. Für hochvertrauliche Workloads ist Co-Location die robusteste Variante — eigene Hardware in einem zertifizierten Rechenzentrum, eigener Hypervisor, eigenes Netzwerk-Segment. Klingt teuer, ist bei mittlerer GPU-Auslastung über drei Jahre oft günstiger als Pay-per-Token.

Governance

EU AI Act, Risikoklassifizierung, interne Verantwortlichkeiten

Der EU AI Act gilt seit 2024 und wird bis Mitte 2026 vollständig wirksam. Für Hochrisiko-KI (Personalentscheidungen, Kreditwürdigkeit, kritische Infrastruktur) verlangt er ein dokumentiertes Risikomanagement nach Artikel 9, Datenqualitäts-Maßstäbe nach Artikel 10, technische Dokumentation nach Artikel 11 und menschliche Aufsicht nach Artikel 14. Praktisch heißt das: Sie brauchen eine KI-Inventur, eine Risikoklassifizierung pro Anwendung, ein Verfahren für Betroffenenrechte und eine benannte verantwortliche Person mit Eingriffsbefugnis. Verträge mit Modell-Anbietern müssen die nötigen Audit-Rechte gewähren — sonst können Sie die Compliance-Pflicht nicht erfüllen, selbst wenn Sie wollten.

Spektrum der KI-Souveränität

Von vollständiger Abhängigkeit zu vollständiger Kontrolle – wo steht Ihre Organisation?

← Hohe AbhängigkeitHohe Souveränität →
Level 1
1

Volle Abhängigkeit

Proof of ConceptsNicht-kritische AppsSchnelle Experimente
OpenAI ChatGPT API
Google Gemini API
AWS Bedrock APIs
Anthropic Claude API
Keine Datenkontrolle
Kein Modell-Eigentum
Externe Infrastruktur
Vendor Lock-in
Level 2
2

Hybride Kontrolle

Regulierte BranchenMittelständische UnternehmenCompliance-Anforderungen
Azure AI on VMs
AWS SageMaker
Google Vertex AI
Lokales Modell-Hosting
Teilweise Datenkontrolle
Begrenzte Anpassbarkeit
On-Premises-Option
Anbieterabhängigkeit
Level 3
3

Verwaltete Souveränität

BehördenFinanzdienstleistungenKritische Infrastruktur
Oracle Cloud@Customer
Microsoft Cloud for Sovereignty
OVHcloud KI-Dienste
Regionale Cloud-Anbieter
Datensouveränität
Lokale Jurisdiktion
Compliance-zertifiziert
Geteilte Infrastruktur
Level 4
4

Vollständige Souveränität

Verteidigung & GeheimdiensteGroßkonzerneStrategische KI-Fähigkeiten
On-Premises-Infrastruktur
Open-Source-Modelle (Llama etc.)
Eigene Trainingspipelines
Selbstverwaltete Infrastruktur
Vollständige Kontrolle
Keine Abhängigkeiten
Alles anpassbar
Hohe Komplexität
Der passende Level hängt von Ihrer Risikotoleranz und den strategischen Anforderungen ab. Die meisten Unternehmen benötigen Level 2–3. Kritische Anwendungen erfordern möglicherweise Level 4.

Praxisbeispiele für unternehmen

Internes Wissen erschließen

KontextEin Industrieunternehmen erschließt sein internes Dokumenten-Archiv (Verträge, Spezifikationen, Audit-Berichte) für Suche und Frage-Antwort durch Mitarbeitende.

SouveränModell, Vektor-Store und Retrieval laufen in einem EU-Rechenzentrum unter EU-Vertrag. Modellgewichte sind quelloffen oder mit Audit-Recht lizenziert.

BeispielEin Open-Source-LLM (Mistral, Teuken, Llama-3-Derivat) kombiniert mit Weaviate oder pgvector auf Hetzner oder IONOS — vollständig portierbar, vollständig unter eigener Kontrolle.

Kundenservice und Vertrieb

KontextVertrieb und Service nutzen KI zur Antwort-Vorbereitung in Tickets, Mails und Chat. Die Konversationen enthalten personenbezogene Kundendaten.

SouveränDaten verlassen die EU-Jurisdiktion nicht, Modelle werden nicht zum Trainingsmaterial Dritter. Inferenz unter ausschließlich europäischem Vertragsrecht.

BeispielInferenz auf einer souveränen GPU-Plattform (ScaleUp, Stackit, OVHcloud) mit expliziter No-Training-Klausel und EU-Auftragsverarbeitungsvertrag — keine subprocessor-Kette außerhalb der EU.

Risiko- und Compliance-Analyse

KontextInnenrevision oder Risikomanagement analysiert große Mengen von Verträgen, internen Mitteilungen oder Marktdaten und braucht nachvollziehbare Resultate.

SouveränVersionierte Modellstände, vollständige Inferenz-Logs auf eigener Infrastruktur, Audit-fähige Pipeline ohne Black-Box-Schritte.

BeispielEin quelloffenes Embedding-Modell plus selbst gehostete Vektor-Datenbank, kombiniert mit lokalem LLM für Re-Ranking — alle Schritte versioniert und auditierbar, Modellwechsel ohne Datenmigration möglich.

Häufige Fragen

Was unterscheidet 'EU-Cloud' marketing-rechtlich von juristisch souveräner Architektur?
Der Marketing-Begriff verlangt nur EU-Speicherort. Juristische Souveränität verlangt drei Schichten: physische Speicherung in der EU, Betreiber unter ausschließlich europäischer Jurisdiktion ohne US-Mutter, und Verschlüsselung mit Schlüsseln in der eigenen Hand. Schrems II hat klargestellt, dass Standardvertragsklauseln allein nicht reichen — supplementary measures sind Pflicht. Wer ohne diese Trias 'souverän' verkauft, verkauft Datenresidenz, nicht Souveränität.
Wann lohnt eigene GPU-Infrastruktur gegenüber Pay-per-Token?
Die Bruchstelle liegt bei kontinuierlicher Auslastung. Eine H100 in europäischem Co-Location kostet 2025 grob 30.000 bis 40.000 Euro pro Jahr inklusive Strom und Wartung. Bei einer Auslastung von ~50 % liefert sie etwa 30 bis 80 Milliarden Tokens jährlich, je nach Modellgröße. Das entspricht bei API-Preisen einem Volumen von mittlerem sechsstelligen Bereich. Faustregel: Ab konstantem zweistelligem Millionen-Token-Volumen pro Monat wird die eigene Infrastruktur ökonomisch — und Sie gewinnen zusätzlich Kontroll- und Audit-Rechte, die per API nicht verkauft werden.
Welche Vertragsklauseln sind beim Anbieterwechsel kritisch?
Vier Klauseln machen den Unterschied zwischen Wechselbarkeit und Lock-in: erstens die Daten-Portabilität — exportierbare Modell-Konfigurationen, Fine-Tunes und Vektor-Daten in offenen Formaten. Zweitens das No-Training — Ihre Eingaben dürfen nicht ins Modell zurückfließen. Drittens die Subprocessor-Transparenz — vollständige Liste mit Änderungs-Vorlauf von mindestens 30 Tagen. Viertens die Audit-Rechte — Sie oder ein beauftragter Dritter dürfen Sicherheits- und Compliance-Prüfungen durchführen. Ohne diese vier ist jeder Anbieterwechsel ein Migrations-Großprojekt.
Wie passt der EU AI Act in eine bestehende KI-Roadmap?
Praktischer Zugang in drei Schritten. Erstens: Klassifizierung jeder Anwendung — verboten (Artikel 5), Hochrisiko (Annex III), begrenzte Risiken (Artikel 50), minimal. Zweitens: für jede Hochrisiko-Anwendung die Pflichten nach Artikel 9 bis 17 abbilden — Risikomanagement, Datenqualität, Dokumentation, Aufzeichnung, Transparenz, menschliche Aufsicht, Robustheit. Drittens: Konformitätsbewertung nach Artikel 43, intern oder durch benannte Stelle. Wichtig: Die Pflicht trifft den Betreiber. Ein API-Anbieter, der Audit-Rechte nicht gewährt, wird zum Compliance-Risiko.
Was tun, wenn ein bestehender Stack bereits stark US-Anbieter-abhängig ist?
Migration in Etappen, nicht als Big Bang. Strategie: zuerst Schutzbedarf je Workload festlegen, dann die Hochrisiko- und Vertrauens-kritischen Workloads als Erste auf souveräne Inferenz umziehen. Eine OpenAI-kompatible API-Fassade vor verschiedenen Backends (vLLM, TGI, Ollama) erlaubt graduelle Verlagerung ohne Umbau der Anwendungs-Logik. Vektor-Datenbanken in offene Formate (pgvector, Qdrant) überführen, bevor der Volumen-Lock-in zu groß wird. Realistisches Zeitfenster für eine vollständige Migration: 12 bis 24 Monate, nicht 3.

Schrems II (C-311/18) verlangt zusätzliche Schutzmaßnahmen über Standardvertragsklauseln hinaus für Datenexporte in Drittländer ohne Angemessenheitsbeschluss.
Quelle: EuGH, Urteil vom 16. Juli 2020

EU AI Act: Hochrisiko-Pflichten gelten ab 2. August 2026, Pflichten zu General-Purpose-AI-Modellen bereits seit 2. August 2025.
Quelle: EU AI Act, Artikel 113

Praxisleitfaden · 22 Seiten · PDF

Souveräne KI in der Praxis.

Eine Ausarbeitung für Entscheider: EU AI Act, CLOUD Act, Architektur-Optionen und Vertragsbausteine für die nächsten 18 Monate. Direkt im Postfach, ohne Sales-Anruf.

Ihre E-Mail-Adresse nutzen wir ausschließlich für die Zustellung des Praxisleitfadens und gelegentliche Updates zu souveräner KI. Abmeldung jederzeit per Link in jeder E-Mail. Mehr in unserer Datenschutzerklärung.