EU AI Act: Was deutsche Unternehmen jetzt wissen müssen

Der EU AI Act: Das weltweit erste umfassende KI-Gesetz

Am 1. August 2024 ist der **EU AI Act** (Verordnung (EU) 2024/1689) in Kraft getreten. Er ist das weltweit erste umfassende Gesetz zur Regulierung künstlicher Intelligenz und wird den Einsatz von KI in Europa grundlegend verändern. Für deutsche Unternehmen gelten verschiedene Pflichten — je nachdem, wie sie KI einsetzen.

Das Risikobasierte System

Der EU AI Act klassifiziert KI-Systeme in vier Risikokategorien:

•Unannehmbares Risiko: Verbotene KI-Praktiken (z.B. Social Scoring, bestimmte biometrische Überwachung). Diese Verbote gelten ab dem 2. Februar 2025.

•Hohes Risiko: KI in kritischen Bereichen wie Personalwesen, Kreditvergabe, Bildung oder Strafverfolgung. Strenge Anforderungen an Dokumentation, Transparenz und menschliche Aufsicht.

•Begrenztes Risiko: Transparenzpflichten, z.B. die Kennzeichnung von KI-generierten Inhalten wie Deepfakes oder Chatbot-Interaktionen.

•Minimales Risiko: Keine besonderen Auflagen. Die meisten KI-Anwendungen fallen in diese Kategorie.

Die wichtigsten Fristen

| Datum | Was gilt? |

|-------|-----------|

| 2. Februar 2025 | Verbotene KI-Praktiken treten in Kraft, KI-Kompetenzpflicht |

| 2. August 2025 | Pflichten für Anbieter von General Purpose AI (GPAI) |

| 2. August 2026 | Hauptteil der Verordnung wird anwendbar |

| 2. August 2027 | Pflichten für hochriskante KI-Systeme gemäß Annex I |

Was müssen Unternehmen konkret tun?

#### Sofort: Bestandsaufnahme

Erstellen Sie ein **KI-Inventar**: Welche KI-Systeme werden in Ihrem Unternehmen eingesetzt? In welche Risikokategorie fallen sie? Diese Analyse ist der erste und wichtigste Schritt.

#### Kurzfristig: KI-Kompetenz aufbauen

Ab dem 2. Februar 2025 müssen alle Unternehmen sicherstellen, dass ihre Mitarbeiter über ausreichende KI-Kompetenz verfügen. Das gilt unabhängig von der Risikokategorie und betrifft praktisch jedes Unternehmen.

#### Mittelfristig: Compliance-Maßnahmen implementieren

Für Hochrisiko-KI-Systeme sind umfangreiche Maßnahmen erforderlich:

•Risikomanagement-System: Dokumentierte Bewertung und Minimierung der Risiken

•Datenqualität: Anforderungen an Trainings-, Validierungs- und Testdaten

•Technische Dokumentation: Detaillierte Beschreibung des KI-Systems

•Menschliche Aufsicht: Sicherstellung menschlicher Kontrolle

Strafen bei Verstößen

Der EU AI Act sieht erhebliche Strafen vor:

•Bis zu **35 Millionen Euro** oder 7% des weltweiten Jahresumsatzes für verbotene KI-Praktiken

•Bis zu **15 Millionen Euro** oder 3% für Verstöße gegen andere Anforderungen

Fazit

Der EU AI Act ist kein Grund zur Panik, aber ein klarer Handlungsauftrag. Unternehmen sollten jetzt mit der Vorbereitung beginnen. BENFILO berät Sie gerne bei der Bestandsaufnahme und Implementierung der erforderlichen Maßnahmen.