Die Grundrechte-Folgenabschätzung nach Art. 27 EU-VO 2024/1689 prüft vor dem Einsatz bestimmter Hochrisiko-KI-Systeme, wie stark Grundrechte und Freiheiten betroffener Personen beeintraechtigt werden können. Sie ist damit mehr als eine technische Risikoanalyse.
In einfachen Worten
Hier geht es um Fragen wie Diskriminierung, Transparenz, Fehlentscheidungen und die Auswirkungen auf Arbeitnehmer, Bewerber oder Kunden. Typische Anschlussbegriffe sind Hochrisiko-KI-System, Menschliche Aufsicht und das Risikomanagement-System.
Praxisbeispiel
Setzt ein Unternehmen ein Hochrisiko-KI-System für Personalentscheidungen ein, muss es vor dem Einsatz beurteilen, welche Folgen Fehlbewertungen oder systematische Benachteiligungen für Betroffene haben können.
Was Unternehmen jetzt tun sollten
Verbinden Sie die Grundrechte-Perspektive mit Datenschutz, Arbeitsrecht und interner Freigabe. Weiterfuehrend helfen Biometrische Fernidentifizierung, die FAQ und der Kurs für die praktische Umsetzung.