HR und Arbeitswelt · Branchen-Briefing

KI-Systeme in der Bewerberauswahl unterliegen strengeren rechtlichen Anforderungen als vielen HR-Profis bewusst ist. Nach Art. 22 DSGVO ist eine bloß automatisierte Entscheidungsfindung unzulässig; der Mensch muss tatsächlich inhaltlich kontrollieren, nicht nur routinemäßig bestätigen. Der Europäische Gerichtshof hat präzisiert, dass bereits die automatisierte Erstellung eines Wahrscheinlichkeitswerts als automatisierte Entscheidung gelten kann, wenn dieser bei der Bewertung eine maßgebliche Rolle spielt. Faustregel für HR: Je stärker die KI das Ergebnis vorzeichnet, desto substanzieller muss die menschliche Kontrolle ausfallen. Die europäische KI-Verordnung klassifiziert Bewerbungs-Tools als Hochrisiko-Systeme und verlangt wirksame menschliche Aufsicht mit Verständnis für Systemgrenzen und Fähigkeit zur Umkehrung von Ergebnissen. Abgelehnte Bewerber haben Anspruch auf verständliche Erklärung des angewandten Verfahrens (Art. 15 DSGVO); Unternehmen müssen offenlegen können, welche Daten einflossen und wie daraus das Ergebnis entstand – ohne den Quellcode preisgeben zu müssen. Das Allgemeine Gleichbehandlungsgesetz (AGG) kommt hinzu, wenn Systeme mit historischen Daten trainiert werden und frühere Auswahlmuster fortsetzen: Bewerber können dann Entschädigung bis zu drei Monatsgehältern fordern, wenn Diskriminierung nachweisbar ist.