Typische Systeme
Was gilt im Personalwesen als Hochrisiko-KI?
Nicht jedes HR-Tool ist automatisch Hochrisiko. Entscheidend ist, ob die KI für Auswahl-, Bewertungs-, Ranking- oder Arbeitsverhaeltnisentscheidungen eingesetzt wird und damit in den Katalog des Anhangs III Nr. 4 faellt.
CV-Screening und Resume Parsing
KI, die Bewerbungen analysiert, filtert oder priorisiert, ist im Recruiting regelmäßig Hochrisiko-KI nach Anhang III Nr. 4(a).
Relevant sind vor allem Systeme, die Ausschluesse, Rankings oder Shortlists erzeugen und damit die Auswahlentscheidung messbar beeinflussen.
ATS mit Score oder Shortlist
Ein ATS wird nicht wegen seines Namens reguliert, sondern wegen seiner Funktion. Sobald das System Kandidaten bewertet, rankt oder automatisiert vorsortiert, wird es kritisch.
Reine Terminplanung oder Workflow-Automation ohne Profiling oder Bewertung ist dagegen nicht automatisch Hochrisiko.
Candidate Matching
Matching-Engines sind hochriskant, wenn sie Passungsscores bilden, Kandidaten aussortieren oder die Auswahl wesentlich steuern.
Besonders relevant ist die Profiling-Ausnahme in Art. 6 Abs. 3: Profiling natürlicher Personen bleibt trotz engerer Funktionslogik hochriskant.
Gezieltes Job-Ad-Targeting
KI, die entscheidet, wem Stellenanzeigen ausgespielt werden, ist in Anhang III Nr. 4(a) ausdrücklich genannt.
Damit sind nicht nur klassische Bewerbungsfilter, sondern bereits vorgelagerte Targeting-Mechanismen im Recruiting erfasst.
Video-Interview-Analyse
KI, die Kandidaten in Interviews bewertet, faellt typischerweise in dieselbe Hochrisiko-Kategorie wie andere Bewertungs- und Auswahltools.
Besonders sensibel sind Systeme, die Sprache, Mimik oder Verhalten in Scores uebersetzen und daraus Auswahlentscheidungen ableiten.
Mitarbeiterbewertung und Workforce-Steuerung
KI für Leistungsüberwachung, Aufgabenzuweisung, Beförderung oder Kuendigung faellt ebenfalls unter Anhang III Nr. 4(b).
Personalwesen endet regulatorisch nicht beim Hiring. Auch People Analytics und Performance-Monitoring können Hochrisiko ausloesen.