Ein Hochrisiko-KI-System ist ein KI-System nach Art. 6 EU-VO 2024/1689, für das strenge Anforderungen wie Risikomanagement, technische Dokumentation, menschliche Aufsicht und Konformitaetsbewertung gelten. Die zentralen Pflichten für Systeme nach Anhang III werden ab dem 2. August 2026 anwendbar.
In einfachen Worten
Hochrisiko bedeutet nicht automatisch verboten. Der Begriff beschreibt KI-Systeme, die in sensiblen Bereichen wie Personalwesen, Bildung, kritischer Infrastruktur oder Kreditprüfung eingesetzt werden. Für die Abgrenzung helfen die Risikoklassen im AI Act, das Risikomanagement-System und die Menschliche Aufsicht.
Praxisbeispiel
Ein Tool, das Bewerbungen vorsortiert oder Kandidaten bewertet, fällt typischerweise unter Anhang III Nr. 4. Dann müssen Anbieter und teilweise auch Betreiber deutlich mehr dokumentieren und kontrollieren als bei einem einfachen Textassistenten.
Was Unternehmen jetzt tun sollten
Prüfen Sie früh, ob eingesetzte HR-, Kredit- oder Biometrie-Tools hochriskant sind. Relevant sind zudem Konformitaetsbewertung, CE-Kennzeichnung für KI, die FAQ und der Kurs für die praktische Einordnung im Unternehmen.