Die KI-Verordnung unterteilt KI-Systeme in vier Kategorien, je nach Risikoniveau:
- Systeme mit unannehmbarem Risiko: KI-Systeme, die eindeutig die Sicherheit und Rechte der Menschen bedrohen, sind verboten. Dazu gehören Systeme, die unterschwellige Techniken verwenden oder die Vulnerabilität bestimmter Gruppen ausnutzen, aber auch soziale Bewertungen durch Regierungen.
- Hochrisiko-KI-Systeme: KI-Systeme, die erhebliche Auswirkungen auf die Rechte oder Sicherheit von Einzelpersonen haben, unterliegen strengen Anforderungen. Beispiele hierfür sind biometrische Identifizierungssysteme, Verwaltung kritischer Infrastruktur und KI-Anwendungen im Gesundheitswesen.
- Systeme mit beschränktem Risiko: Für KI-Systeme mit beschränktem Risiko gelten spezifische Transparenzpflichten, wie die Benachrichtigung der Nutzer, dass sie mit einem KI-System interagieren. Diese Kategorie umfasst Chatbots und KI für Kundendienste.
- Systeme mit geringem Risiko: KI-Systeme mit geringem oder keinem Risiko sind weitgehend von der Regulierung befreit. Diese Kategorie umfasst die meisten KI-Anwendungen, wie Spamfilter und KI-gesteuerte Spiele.