Anbieter von Hochrisiko-KI-Systemen müssen unter anderem:
- ein Risikomanagementsystem während des gesamten Lebenszyklus des KI-Systems mit hohem Risiko aufstellen;
- eine Datenverwaltung durchführen und gewährleisten, dass Trainings-, Validierungs- und Testdatensätze relevant, hinreichend repräsentativ und so weit wie möglich fehlerfrei sind und dem beabsichtigten Zweck in vollem Umfang entsprechen;
- technische Dokumentation zum Nachweis der Konformität aufstellen und Informationen für die Behörden zur Bewertung dieser Konformität bereitstellen;
- ihr System mit hohem Risiko so gestalten, dass es Ereignisse, die für die Ermittlung von Risiken auf nationaler Ebene relevant sind, und wesentliche Änderungen während des gesamten Lebenszyklus des Systems automatisch registrieren kann;
- ihr System mit hohem Risiko so gestalten, um die richtigen Maßstäbe in Bezug auf Genauigkeit, Robustheit und Cybersicherheit zu erreichen;
- nachgeschalteten Anwendern Gebrauchsanweisungen zur Verfügung stellen, um die Einhaltung der Vorschriften zu gewährleisten;
- ein Qualitätsmanagementsystems zur Gewährleistung der Einhaltung einführen;
- ihr System so entwickeln, dass Bereitstellungsorganisationen die menschliche Aufsicht implementieren können.
Wenn also Systeme mit hohem Risiko für das Netzwerkmanagement, die Automatisierung des Kundendienstes oder die Betrugserkennung im Telekommunikationssektor eingesetzt werden, müssen sie die oben aufgeführten Anforderungen erfüllen.