Verbotene KI-Praktiken: Was seit Februar 2025 illegal ist
Seit dem **2. Februar 2025** gilt das erste zentrale Verbot des EU AI Act. Artikel 5 verbietet bestimmte KI-Praktiken, die als inakzeptables Risiko für Grundrechte eingestuft werden. Unternehmen müssen prüfen, ob ihre KI-Anwendungen betroffen sind.
Die verbotenen KI-Praktiken im Detail
#### 1. Manipulative und täuschende KI-Techniken
KI-Systeme, die **unterschwellige Techniken** einsetzen, um das Verhalten von Personen in einer Weise zu beeinflussen, die ihnen Schaden zufügt, sind verboten. Das betrifft zum Beispiel:
#### 2. Social Scoring
Systeme, die Personen auf Basis ihres **sozialen Verhaltens** bewerten und daraus Nachteile ableiten, die in keinem Zusammenhang zum Kontext stehen, sind untersagt.
#### 3. Biometrische Echtzeit-Fernidentifizierung
Die **biometrische Echtzeit-Identifizierung** in öffentlich zugänglichen Räumen durch Strafverfolgungsbehörden ist grundsätzlich verboten, mit eng definierten Ausnahmen.
#### 4. Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen
KI-Systeme, die Emotionen von Arbeitnehmern oder Schülern erkennen sollen, sind verboten. Ausnahmen bestehen nur für medizinische oder sicherheitsrelevante Zwecke.
#### 5. Gesichtserkennung aus dem Internet
Das ungezielte Sammeln von Gesichtsbildern aus dem Internet oder Überwachungskameras zum Aufbau von Gesichtserkennungsdatenbanken ist verboten.
#### 6. Biometrische Kategorisierung nach sensiblen Merkmalen
KI-Systeme, die Personen anhand biometrischer Daten nach **Rasse, politischer Überzeugung, Gewerkschaftszugehörigkeit, Religion oder sexueller Orientierung** kategorisieren, sind untersagt.
Was bedeutet das für Ihr Unternehmen?
Die meisten der verbotenen Praktiken betreffen vor allem Behörden und große Plattformen. Dennoch sollte jedes Unternehmen eine Prüfung durchführen:
1. **Inventarisieren**: Listen Sie alle eingesetzten KI-Systeme auf
2. **Klassifizieren**: Prüfen Sie, ob eines der Verbote auf Ihre Anwendungen zutrifft
3. **HR-Bereich besonders beachten**: Emotionserkennung im Bewerbungsprozess oder bei der Mitarbeiterüberwachung ist ein häufiges Risiko
4. **Marketing prüfen**: Manipulative KI-Techniken in der Werbung könnten unter das Verbot fallen
Strafen
Verstöße gegen die Verbote werden mit den höchsten Bußgeldern des EU AI Act belegt:
Fazit
Auch wenn die meisten verbotenen Praktiken für typische Unternehmen wenig relevant sind, sollten Sie eine formale Prüfung durchführen und dokumentieren. Das schafft Rechtssicherheit und zeigt im Zweifelsfall die Sorgfalt Ihres Unternehmens.