Was ist ModelOps?

ModelOps bezeichnet die strukturierte Verwaltung des kompletten Lebenszyklus von KI-Modellen in produktiven Umgebungen — von der Entwicklung über Deployment, Monitoring, Aktualisierung bis zur kontrollierten Außerbetriebnahme. Der Begriff wurde 2018 von Gartner geprägt und etabliert sich seither als Erweiterung von MLOps mit explizitem Fokus auf Governance, Compliance und organisatorische Modell-Verantwortung. MLOps und ModelOps werden in der Praxis oft synonym verwendet, haben aber unterschiedliche Schwerpunkte. MLOps adaptiert DevOps-Prinzipien auf ML-Pipelines: Continuous Integration, Continuous Deployment, automatisiertes Testing, Reproduzierbarkeit. ModelOps geht darüber hinaus und adressiert Model Inventory, Compliance-Reporting, Risiko-Klassifizierung, Model Validation und das, was im EU AI Act als 'Quality Management System' für Hochrisiko-KI verlangt wird. In Organisationen mit fünf oder mehr produktiven KI-Modellen reicht ad-hoc-Verwaltung nicht mehr. Welches Modell läuft in welchem System? Welche Version? Wer ist verantwortlich? Wann wurde es zuletzt validiert? Welche Trainings-Daten flossen ein? ModelOps strukturiert diese Fragen, sodass sie nicht erst im Audit beantwortet werden müssen.

ModelOps deckt sieben aufeinander aufbauende Phasen ab. Experiment Tracking: Trainings-Läufe werden mit allen Hyperparametern, Datensätzen, Metriken und Modell-Artefakten dokumentiert — typisch in MLflow, Weights & Biases oder Neptune. Reproduzierbarkeit ist hier nicht Komfort, sondern Compliance-Pflicht. Model Registry: Trainierte Modelle werden zentral mit Metadaten registriert — Version, Lizenz, Trainings-Daten-Quelle, Performance-Metriken, Risiko-Klassifizierung nach EU AI Act. MLflow Model Registry, SageMaker Model Registry und Vertex AI Model Registry sind verbreitete Beispiele. Model Validation: Bevor ein Modell produktiv geht, durchläuft es eine strukturierte Validation — Performance-Tests gegen Benchmarks, Fairness-Tests gegen geschützte Merkmale, Robustheits-Tests gegen Adversarial Inputs, Compliance-Prüfung gegen EU-AI-Act-Anforderungen. Die Ergebnisse werden im Model Registry persistiert. Deployment: Containerisiertes Roll-out auf Inferenz-Server (vLLM, Triton, TGI, BentoML, Seldon). Canary-Releases, Blue-Green-Deployments und automatisches Rollback bei Performance-Regression sind Standard. Monitoring: Im Betrieb werden Performance, Latenz, Daten-Drift (Eingaben weichen vom Trainings-Verteilungsmuster ab), Concept-Drift (Beziehung Input-Output verändert sich), Bias-Metriken und Anomalien überwacht. Tools: Evidently, WhyLabs, Arize, Fiddler. Retraining und Update: Bei signifikantem Drift oder neuen Daten wird ein neues Modell trainiert, validiert und schrittweise ausgerollt. Außerbetriebnahme: Modelle werden kontrolliert deaktiviert, mit Archivierung aller Artefakte für gesetzliche Aufbewahrungs-Fristen — bei Hochrisiko-KI nach EU AI Act 10 Jahre.

Der ModelOps-Tooling-Markt ist 2026 reif, aber fragmentiert. Drei Plattform-Klassen existieren. Open-Source-Stack: MLflow als Quasi-Standard für Experiment Tracking, Model Registry und Versionierung. Kubeflow für End-to-End-Pipelines auf Kubernetes. Feast als Feature Store. Seldon Core und KServe für Inferenz-Deployment. Evidently für Monitoring. Vorteil: keine Vendor-Lock-in, volle Kontrolle, On-Prem-fähig. Nachteil: Integrations-Aufwand, Personal-intensive Wartung. Kommerzielle Plattformen: AWS SageMaker, Google Vertex AI, Azure ML, Databricks Mosaic AI, Snowflake ML. Bieten integrierte End-to-End-Funktionen, gute Skalierung, aber Vendor-Lock-in und Souveränitäts-Fragen bei US-Holding-Anbietern. Europäische Alternativen: Aleph Alpha Pharia-Studio (für Pharia-Modelle in regulierter Umgebung), Mistral La Plateforme (mit ModelOps-Komponenten für Mistral-Modelle), kleinere spezialisierte Anbieter wie Striveworks und Dataiku (französisch). Stackit und IONOS bieten 2026 zunehmend gemanagte MLOps-Stacks auf Open-Source-Basis. Die Tooling-Auswahl ist 2026 eine Souveränitäts-Frage: ein voll auf SageMaker laufender ModelOps-Stack ist von US-Cloud-Souveränität nicht zu trennen. Ein MLflow-basierter Stack auf Stackit-Kubernetes ist deutlich souveräner — aber wartungs-intensiver.

Der EU AI Act stellt für Hochrisiko-KI Anforderungen, die ohne strukturiertes ModelOps praktisch nicht erfüllbar sind. Vier Bereiche sind besonders relevant. Quality Management System (Artikel 17): Anbieter:innen müssen ein dokumentiertes QMS für KI-Lebenszyklus-Verwaltung etablieren — Trainings-Methodik, Validierungs-Verfahren, Change Management, Incident Response. Das ist im Kern ModelOps mit Compliance-Schwerpunkt. Technische Dokumentation (Artikel 11, Anhang IV): Eine umfangreiche technische Dokumentation muss vor Markt-Einführung erstellt und über die Lebensdauer aktuell gehalten werden — Modell-Architektur, Trainings-Daten-Beschreibung, Performance-Metriken, Risiko-Bewertung, Validierungs-Protokolle. Eine ModelOps-Plattform mit guter Metadata-Verwaltung erzeugt diese Dokumentation großteils automatisch. Logging (Artikel 12): Hochrisiko-KI muss Inferenz-Logs erstellen, die Rückverfolgbarkeit ermöglichen — welcher Input führte zu welchem Output, in welcher Modell-Version. Aufbewahrungs-Frist je nach Anwendungsbereich bis 10 Jahre. Ohne automatisches Logging im Inferenz-Server praktisch nicht umsetzbar. Post-Market Monitoring (Artikel 72): Nach Markt-Einführung müssen Performance- und Risiko-Metriken kontinuierlich überwacht werden, mit definierten Eskalations-Wegen bei Anomalien. Drift-Monitoring und Bias-Detection im Betrieb sind hier Pflicht. In der Praxis 2026 entsteht ein neues Berufsbild: AI-Compliance-Engineer:innen, die ModelOps-Plattformen so konfigurieren, dass EU-AI-Act-Pflichten automatisch erfüllt werden. Die Verschmelzung von technischer Modellverwaltung und regulatorischer Compliance ist der Markttreiber für ModelOps in Europa.

Wie organisieren europäische Unternehmen ModelOps 2026? Drei Muster sind im Markt sichtbar. Vollständig souverän: Open-Source-Stack (MLflow, Kubeflow, Seldon) auf eigener Kubernetes-Infrastruktur — On-Prem oder bei souveränem Hoster (Stackit, IONOS, OVHcloud). Vorteil: maximale Kontrolle, klare Souveränitäts-Aussage, EU-AI-Act-Compliance vollständig in Eigenregie. Nachteil: hoher Personal-Aufwand, langsamere Time-to-Production. Typisch in stark regulierten Branchen — Banken (BAIT/VAIT), Versicherer, Behörden. Hybrid: Souveräner Inferenz-Stack plus US-Cloud für Experiment Tracking und Daten-Pipeline. Nicht-personenbezogene oder anonymisierte Daten landen in SageMaker oder Vertex AI; produktive Inferenz und sensible Daten bleiben auf souveräner Infrastruktur. Verbreitet in Mittelständlern, die produktive KI brauchen, ohne komplette US-Cloud-Abhängigkeit. US-Cloud-First mit Compliance-Aufsatz: Vollständiger SageMaker- oder Vertex-AI-Stack, ergänzt durch zusätzliche Compliance-Tooling (Datenschutz-Folgenabschätzung, Subprocessor-Listen, Vertrags-Klauseln). Funktioniert für niedrig-regulierte Workloads, ist bei Hochrisiko-KI nach EU AI Act und KRITIS-Anwendungen oft nicht ausreichend. Die Wahl hängt 2026 nicht primär an Tooling, sondern an Risiko-Profil und Compliance-Anforderung. Eine ModelOps-Architektur ist eine strategische Entscheidung mit mehrjähriger Halbwertszeit — nicht ein Tooling-Beschaffungs-Vorgang.