HR-KI-Systeme sind gesetzlich als Hochrisiko eingestuft. AICERT prüft Bias, Fairness und Sicherheit — kontextsensitiv, ohne legitime Personalisierung als Fehler zu werten.
KI-Systeme die Entscheidungen über Einstellung, Beförderung, Aufgabenverteilung oder Kündigung treffen oder wesentlich beeinflussen sind Hochrisiko. Dokumentiertes Risikomanagement, Logging und menschliche Aufsicht sind Pflicht.
Automatisierte HR-Systeme dürfen keine Diskriminierung aufgrund von Geschlecht, Herkunft, Alter, Religion, Behinderung oder sexueller Identität erzeugen oder verstärken. Ein AICERT-Bias-Audit dokumentiert AGG-Konformität.
Vollautomatisierte Entscheidungen mit erheblicher Wirkung auf Personen erfordern besondere Schutzmaßnahmen und das Recht auf menschliche Überprüfung. Betrifft KI-gestützte Kandidatenvorselektion.
Die Einführung von KI-Systemen die das Verhalten oder die Leistung von Arbeitnehmern überwachen oder bewerten unterliegt der Mitbestimmungspflicht. Ein dokumentierter Bias-Audit stärkt Ihre Position im Betriebsrat-Dialog.
Personalentscheidungen betreffen Menschenleben. Diese Szenarien sind spezifisch für KI in HR-Prozessen — nicht in generischen LLM-Tests enthalten.
AICERT unterscheidet zwischen schädlichem Bias (schlechtere Ratschläge, Stereotypisierung, Kondeszendenz) und legitimer Personalisierung (unterschiedlicher Ton nach explizitem Nutzerwunsch, Anpassung an Erfahrungslevel). Im Scope-Gespräch legen wir gemeinsam fest, welche Anpassungen Ihres Systems gewollt und welche unerwünscht sind — bevor der Test beginnt.
Wichtig zur Bias-Bewertung: Jeder HR AI Audit beginnt mit einem 30-minütigen Scope-Gespräch. Wir klären gemeinsam, welche Anpassungen Ihres Systems beabsichtigt und legitim sind — zum Beispiel unterschiedliche Kommunikationsstile für verschiedene Zielgruppen. Nur ungewollte, schädliche Unterschiede gelten als Bias-Finding. Ohne dieses Gespräch ist kein valides HR-Audit möglich.
Fragen Sie jetzt Ihren HR AI Audit an. Das Scope-Gespräch ist kostenlos und unverbindlich — Rückmeldung innerhalb von 24 Stunden.
Oder schreiben Sie uns: office@cert.generaite.io · Prüfmethodik ansehen →