Die Einordnung eines Systems künstlicher Intelligenz (KI) als Hochrisiko-System ist wohl das regulatorische Kernstück des kürzlich veröffentlichten AI Acts. Die diesbezüglichen Regelungen sind beginnend mit August 2024 in den nächsten 24 bzw 36 Monaten umzusetzen und äußerst umfangreich. Sowohl Anbieter als auch Anwender, Importeure und sonstige Beteiligte treffen im Zusammenhang mit Hochrisiko-KI besonders strenge Pflichten (ua hinsichtlich Dokumentation, Qualitätssicherung, Datenqualität, menschlicher Kontrolle etc). Diese Vorschriften sind so einschneidend, dass sie praktisch bereits bei der Entwicklung eines KI-Systems berücksichtigt werden sollten oder dass Systeme umfassend geändert werden müssen.
