EU AI Act: Der komplette Guide für Unternehmen

Was ist der EU AI Act?

Der EU AI Act (offiziell: Verordnung (EU) 2024/1689 „über harmonisierte Vorschriften für Künstliche Intelligenz") ist die weltweit erste umfassende KI-Regulierung. Am 13. Juni 2024 im EU-Amtsblatt veröffentlicht, trat die Verordnung am 1. August 2024 in Kraft. Die Durchsetzung erfolgt stufenweise zwischen Februar 2025 und August 2028.

Die Kernphilosophie: Ein risikobasierter Ansatz. Nicht jede KI wird gleich reguliert — je höher das potenzielle Risiko eines Systems für Gesundheit, Sicherheit oder Grundrechte, desto strenger die Anforderungen. Das bedeutet: Ein einfacher Chatbot unterliegt anderen Regeln als ein KI-System, das über Kreditvergabe oder Bewerbungen entscheidet.

Wichtig: Der EU AI Act ist eine Verordnung, keine Richtlinie. Das heißt, er gilt unmittelbar in allen EU-Mitgliedstaaten — auch in Deutschland — ohne nationale Umsetzungsgesetzgebung. Allerdings regelt das deutsche KI-MIG (KI-Maßnahmen-Implementierungsgesetz) nationale Zuständigkeiten und Sanktionen.

Die vier Risikoklassen im Detail

Das Herzstück des EU AI Act ist die Einteilung in vier Risikoklassen. Jede Klasse bestimmt, welche Pflichten für Anbieter und Betreiber gelten:

1. Verbotene KI-Praktiken (Art. 5) — seit Feb. 2025 in Kraft

Diese KI-Anwendungen sind in der EU grundsätzlich verboten:

• Social Scoring — Bewertung von Personen basierend auf Sozialverhalten über längere Zeiträume, die zu Benachteiligungen führt
• Manipulative und täuschende KI — KI-Techniken, die unterschwellig manipulieren, ausnutzen oder täuschen, um das Verhalten zu beeinflussen
• Ausnutzung von Vulnerabilitäten — KI, die gezielt Alter, Behinderung oder soziale/wirtschaftliche Situation ausnutzt
• Biometrische Echtzeit-Überwachung — Echtzeit-Gesichtserkennung in öffentlichen Räumen (mit eng definierten Ausnahmen für Strafverfolgung)
• Emotionserkennung — am Arbeitsplatz und in Bildungseinrichtungen
• Biometrische Kategorisierung — Rückschlüsse auf Rasse, politische Meinung, Gewerkschaftszugehörigkeit, religiöse Überzeugungen oder sexuelle Orientierung
• Predictive Policing — individuelle Vorhersage von Straftaten allein basierend auf Profiling oder Persönlichkeitseigenschaften
• Massenhafte Gesichtserkennungs-Datenbanken — ungezieltes Scraping von Gesichtsbildern aus dem Internet oder Überwachungskameras

Bußgeld bei Verstoß: Bis zu 35 Millionen Euro oder 7 % des weltweiten Jahresumsatzes — je nachdem, welcher Betrag höher ist.

2. Hochrisiko-KI-Systeme (Annex III & I) — ab Aug. 2027

KI-Systeme in bestimmten sensiblen Bereichen gelten als „Hochrisiko" und unterliegen den strengsten Anforderungen. Annex III nennt acht Kategorien:

• Biometrie — Biometrische Identifizierung und Kategorisierung
• Kritische Infrastruktur — KI in Energie, Verkehr, Wasser, digitale Infrastruktur
• Bildung — KI für Aufnahmeprüfungen, Benotung, Lernbewertung
• Beschäftigung — KI für Recruiting, Beförderungen, Leistungsbewertung, Kündigung
• Öffentliche Dienstleistungen — KI für Sozialleistungen, Kreditvergabe, Versicherungen
• Strafverfolgung — KI für polizeiliche Ermittlungen, Beweiswürdigung
• Migration & Grenzschutz — KI für Asylverfahren, Visa-Entscheidungen
• Justiz & Demokratie — KI für richterliche Entscheidungsfindung, Wahlbeeinflussung

Für Hochrisiko-KI-Systeme gelten umfassende Anforderungen:

• Risikomanagement (Art. 9) — systematische Identifikation und Minderung von Risiken
• Daten-Governance (Art. 10) — Qualitätsanforderungen an Trainings- und Testdaten
• Technische Dokumentation (Art. 11) — detaillierte Beschreibung des Systems
• Protokollierung (Art. 12) — automatische Aufzeichnung von Vorgängen (Logs)
• Transparenz (Art. 13) — klare Gebrauchsanweisung für Betreiber
• Menschliche Aufsicht (Art. 14) — Möglichkeit der menschlichen Überprüfung
• Genauigkeit & Robustheit (Art. 15) — Leistungskennzahlen und Cybersicherheit
• Konformitätsbewertung (Art. 43) — vor dem Inverkehrbringen

3. KI mit begrenztem Risiko (Art. 50) — ab Aug. 2026

Diese Kategorie betrifft die meisten Unternehmen, die generative KI nutzen — also auch On-Premise LLMs. Die Pflichten:

• Chatbot-Kennzeichnung — Nutzer müssen wissen, dass sie mit einer KI interagieren (Art. 50 Abs. 1)
• Deepfake-Kennzeichnung — KI-generierte/manipulierte Bilder, Audio und Video müssen als solche gekennzeichnet werden (Art. 50 Abs. 2)
• Synthetische Inhalte — KI-generierte Texte zu Themen öffentlichen Interesses müssen als maschinenlesbar gekennzeichnet werden (Art. 50 Abs. 4)

Praxis-Tipp: Wenn Sie ein On-Premise LLM als Chatbot einsetzen (intern oder extern), müssen Sie ab August 2026 sicherstellen, dass Nutzer informiert werden, dass sie mit KI kommunizieren. Ein einfacher Hinweis wie „Dieser Chat wird von einem KI-System unterstützt" genügt in den meisten Fällen.

4. KI mit minimalem Risiko — keine besonderen Pflichten

Der Großteil der KI-Anwendungen fällt in diese Kategorie: Spam-Filter, Empfehlungssysteme, Suchmaschinen, einfache Automatisierungen. Keine spezifischen Pflichten, aber die allgemeinen gesetzlichen Anforderungen (DSGVO, Produkthaftung) gelten weiterhin.