Was ist der EU AI Act?

Der EU AI Act ist die Verordnung (EU) 2024/1689 des Europäischen Parlaments und des Rates über künstliche Intelligenz, in Kraft getreten am 1. August 2024. Sie ist die erste umfassende, risikobasierte KI-Regulierung weltweit und harmonisiert den rechtlichen Rahmen für KI-Systeme in allen 27 EU-Mitgliedstaaten plus den EWR-Staaten Norwegen, Island und Liechtenstein. Anders als die DSGVO, die auf personenbezogene Daten fokussiert, regelt der AI Act KI-Systeme als Produkte und Dienste — von Foundation-Models über Hochrisiko-Anwendungen bis zu transparenzpflichtigen Chatbots. Der zentrale Mechanismus ist eine vierstufige Risikoklassifizierung: Was als verbotene Praktik eingestuft ist, darf nicht in Verkehr gebracht werden; Hochrisiko-Systeme unterliegen umfangreichen Konformitätspflichten; begrenzte Risiken haben Transparenzpflichten; minimale Risiken bleiben unreguliert. Die Verordnung gilt extraterritorial: Auch Anbieter außerhalb der EU sind erfasst, sobald ihr KI-System Output in der EU produziert.

Artikel 5 listet verbotene KI-Praktiken: Social Scoring durch öffentliche Behörden, manipulative Techniken, Echtzeit-Fernidentifizierung im öffentlichen Raum (mit eng begrenzten Ausnahmen für Strafverfolgung), Vorhersage individueller Straftaten allein auf Profiling-Basis, Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen. Hochrisiko-KI ist in Annex III geregelt und umfasst acht Bereiche: biometrische Identifizierung, kritische Infrastruktur (Verkehr, Energie, Wasser), allgemeine und berufliche Bildung, Beschäftigung und Personalmanagement, Zugang zu wesentlichen privaten und öffentlichen Dienstleistungen (Kreditwürdigkeitsprüfung, Sozialleistungen), Strafverfolgung, Migration und Asyl, Justiz und demokratische Prozesse. Annex I bezieht sich auf Sicherheitskomponenten in regulierten Produkten — Medizinprodukte, Spielzeug, Maschinen. Begrenztes Risiko (Artikel 50) verlangt Transparenzpflichten — Chatbots müssen sich als KI ausweisen, Deep Fakes als künstlich generiert kennzeichnen. Minimal-Risiko-Anwendungen wie Spam-Filter oder Game-AI bleiben unreguliert. Die Klassifizierung erfolgt anwendungsbezogen: Dasselbe Foundation-Modell kann je nach Einsatzzweck in unterschiedliche Kategorien fallen.

Anbieter von Hochrisiko-KI müssen einen Pflichtenkatalog aus den Artikeln 9 bis 17 erfüllen. Artikel 9 verlangt ein dokumentiertes Risikomanagement-System als kontinuierlichen Prozess über die Lebensdauer. Artikel 10 fordert Daten-Governance mit Repräsentativitäts-Nachweis, Bias-Tests und Datenqualitäts-Maßnahmen. Artikel 11 schreibt eine technische Dokumentation nach Annex IV vor — Modell-Architektur, Trainings-Methodik, Evaluations-Ergebnisse, Risiko-Mitigationen. Artikel 12 verpflichtet zur automatisierten Aufzeichnung über die gesamte Systemlebensdauer mit Replay-Fähigkeit. Artikel 13 verlangt Transparenz für Anwender, einschließlich Beschreibung der Limitationen. Artikel 14 ist die Schlüssel-Pflicht für menschliche Aufsicht — eine benannte Person mit echter Eingriffs- und Aussetzungs-Befugnis sowie Schulung. Artikel 15 deckt Robustheit, Genauigkeit und Cybersecurity ab. Vor Inverkehrbringen ist eine Konformitätsbewertung nach Artikel 43 verpflichtend. Für die meisten Annex-III-Systeme reicht interne Kontrolle nach Annex VI; für biometrische Identifikations-Systeme ist eine benannte Stelle einzuschalten. Erfolgreich abgeschlossene Bewertung führt zur Konformitäts-Erklärung (Artikel 47) und CE-Kennzeichnung (Artikel 48). In der Praxis ist ein KI-Risk-Officer mit klarer Berichtslinie unverzichtbar.

Der AI Act folgt einem gestaffelten Inkrafttreten nach Artikel 113. Verbotene Praktiken aus Artikel 5 sind seit 2. Februar 2025 wirksam — Nicht-Einhaltung ist seitdem unmittelbar bußgeldbewehrt. Die Pflichten für General-Purpose-AI-Modelle gelten seit 2. August 2025 und betreffen Anbieter wie OpenAI, Anthropic, Mistral und Meta für ihre Foundation-Modelle. Die Hochrisiko-Pflichten aus Annex III greifen ab 2. August 2026; die Pflichten zu Annex-I-Sicherheitskomponenten ab 2. August 2027. Bußgelder sind in Artikel 99 in drei Stufen gestaffelt: bis zu 35 Millionen Euro oder 7 Prozent des globalen Jahresumsatzes (höherer Wert) bei Verstößen gegen verbotene Praktiken nach Artikel 5; bis zu 15 Millionen Euro oder 3 Prozent bei Verstößen gegen die Anbieter-Pflichten; bis zu 7,5 Millionen Euro oder 1 Prozent bei der Bereitstellung falscher Informationen an Aufsichtsbehörden. Damit liegt der Bußgeldrahmen oberhalb der DSGVO-Sanktionen, deren Maximum bei 4 Prozent gedeckelt ist. Aufsichtsbehörden sind in Deutschland die Bundesnetzagentur als zentrale Marktüberwachungsbehörde sowie ressortspezifische Stellen für sektorale Hochrisiko-Anwendungen.

Der AI Act unterscheidet zwischen Anbietern (Provider), Betreibern (Deployer), Importeuren und Distributoren — mit jeweils eigenen Pflichtenkatalogen. Wer ein Hochrisiko-System selbst entwickelt oder unter eigenem Namen einsetzt, gilt als Anbieter und trägt den vollen Pflichtenkatalog. Wer ein bestehendes System nur einsetzt, hat als Betreiber Restpflichten zur menschlichen Aufsicht und zur Kennzeichnung. In der Praxis stellen sich für deutsche Unternehmen drei Aufgaben: Erstens KI-Inventur — welche Anwendungen laufen bereits, welche sind geplant, welche fallen unter Annex III? Zweitens Klassifizierung pro Anwendung — verboten, hochrisikohaltig, begrenztes Risiko, minimal? Drittens Konformitätsmaßnahmen pro Klasse — Risikomanagement, technische Dokumentation, Logging, Schulung, gegebenenfalls Konformitätsbewertung. Wichtig: Der AI Act gilt parallel zur DSGVO. Wer personenbezogene Daten in einem Hochrisiko-System verarbeitet, erfüllt zwei Pflichtenkataloge gleichzeitig. Audit-Rechte gegenüber Modell-Anbietern sind zentral — wer ein Closed-API-Modell ohne Audit-Recht nutzt, kann die AI-Act-Pflichten nicht selbst erfüllen, selbst wenn er wollte. Souveräne Architektur mit Open-Weight-Modellen vereinfacht die Konformität deshalb erheblich.