EU AI Act (KI-Recruiting als Hochrisiko-System)
Der EU AI Act ist die europäische KI-Verordnung, die 2024 in Kraft getreten ist. KI-Systeme im Recruiting (Screening, Matching, Bewerber-Scoring) werden als Hochrisiko-Systeme eingestuft: Sie erfordern Risikobewertung, Entscheidungs-Nachvollziehbarkeit, kontinuierliches Bias-Monitoring und ein Recht auf menschliche Überprüfung.
Ausführliche Definition
EU AI Act (KI-Recruiting als Hochrisiko-System): Der EU AI Act ist die europäische KI-Verordnung, die 2024 in Kraft getreten ist. KI-Systeme im Recruiting (Screening, Matching, Bewerber-Scoring) werden als Hochrisiko-Systeme eingestuft: Sie erfordern Risikobewertung, Entscheidungs-Nachvollziehbarkeit, kontinuierliches Bias-Monitoring und ein Recht auf menschliche Überprüfung.
Die Verordnung (EU) 2024/1689, bekannt als EU AI Act, ist der weltweit erste horizontale Rechtsrahmen für künstliche Intelligenz. Sie klassifiziert KI-Systeme nach Risikostufe (minimal, begrenzt, hoch, inakzeptabel) und legt verhältnismäßige Pflichten fest. KI-Systeme, die zur "Einstellung oder Auswahl natürlicher Personen, insbesondere zur Analyse und Filterung von Bewerbungen sowie zur Bewertung von Bewerbern" eingesetzt werden, fallen unter Anhang III, Abschnitt 4 — sie sind Hochrisiko-Systeme.
Die Hauptpflichten für Anbieter eines KI-ATS auf dem EU-Markt sind: - Risikomanagement-System dokumentiert und über den Lebenszyklus gepflegt. - Qualität der Trainingsdaten geprüft: Der Datensatz muss repräsentativ, genau und frei von nachweisbarem Bias sein. - Nachvollziehbarkeit: Jede automatisierte Entscheidung muss rekonstruierbar sein (persistentes Logging). - Transparenz gegenüber dem Anwender (Recruiter): Das System muss seine Funktionsweise offenlegen. - Wirksame menschliche Aufsicht: Der Bewerber hat das Recht, eine menschliche Überprüfung einer algorithmischen Entscheidung zu verlangen. - Kontinuierliches Bias-Monitoring mit Fairness-Metriken (demografische Parität, Chancengleichheit usw.). - Dokumentations-Konformität gegenüber den Behörden (EU-Register für Hochrisiko-KI-Systeme).
Fristen sind gestaffelt: August 2025 für Verbote unakzeptabler Praktiken (z. B. Social Scoring), August 2026 für die meisten Hochrisiko-Pflichten inklusive Recruiting, August 2027 für GPAI-Regelungen.
Für europäische Unternehmenskunden bedeutet das zwei Dinge. Erstens Due Diligence: Bei der Wahl eines KI-ATS liegt es in Ihrer Verantwortung zu prüfen, dass der Anbieter konform ist — die Verantwortung verschiebt sich teilweise auf den Deployer. Zweitens Kosten der Nicht-Konformität: ATS, die bis 2026 nicht konform sind, werden in der EU unbrauchbar, mit Strafen von bis zu 7 % des globalen Umsatzes.
Cumino ist als EU-AI-Act-konform by design konzipiert: vollständige Entscheidungs-Nachvollziehbarkeit, integriertes Bias-Monitoring, jederzeit verfügbare menschliche Override-Funktion, dokumentierter Trainingsdatensatz.
In der Praxis erleben
Cumino implementiert die Schlüsselkonzepte modernen Recruitings nativ. Buchen Sie eine Demo, um sie in Aktion zu sehen.
Demo buchenPreise ansehen