Für Personalberatungen und Personaldienstleister bedeutet der EU AI Act vor allem drei Dinge: Wenn KI in Auswahl, Bewertung oder Ranking von Kandidaten eingreift, gelten erhöhte Pflichten, insbesondere menschliche Aufsicht, nachvollziehbare Entscheidungen und saubere Dokumentation. Chatbots und Generatoren für Texte erfordern klare Hinweise für Kandidaten. Und Ihre Verträge, Prozesse und Datenqualität müssen so aufgesetzt sein, dass Sie die neuen Nachweispflichten jederzeit belegen können.
Was ändert sich für Personalberatungen konkret, jenseits der Schlagworte?
Der EU AI Act bringt einen risikobasierten Rahmen: Je stärker ein System das berufliche Leben von Menschen beeinflusst, desto höher die Anforderungen. Systeme, die aktiv über Zugang zu Beschäftigung mitentscheiden, werden strenger reguliert als Tools, die nur Texte erzeugen oder Gespräche strukturieren. Für Beratungen ist entscheidend, ob ein System in die Eignungsbeurteilung eingreift oder nur Assistenz leistet.
Im Alltag heißt das: Wenn Sie KI zum Matching, Ranking oder automatisierten Vorsortieren von Bewerbungen nutzen, betreiben Sie wahrscheinlich eine Hochrisiko-Anwendung. Dann brauchen Sie klare Kriterien, menschliche Kontrolle und belastbare Protokolle. Setzen Sie dagegen KI lediglich zur Texterstellung oder in Chatbots ein, stehen vor allem Transparenz und inhaltliche Qualität im Fokus, nicht ein vollständiges Qualitätsmanagement auf High-Risk-Niveau.
Neu ist weniger die Idee von Fairness oder Nachvollziehbarkeit, sondern die Pflicht, diese Prinzipien nachweisbar zu machen. Wer sauber dokumentiert, warum ein Modell eingesetzt wird, wie es überwacht wird und welche Eskalationswege existieren, ist auf Audits und Kundenfragen vorbereitet.
Welche Recruiting-Anwendungen zählen typischerweise als Hochrisiko und wo liegt die Grenze?
Als hochkritisch gelten KI-Systeme, die für Zugang zu Beschäftigung eingesetzt werden. Dazu gehören algorithmische Matching-Engines, automatisierte Shortlists, Scoring-Modelle für Eignung und Tools, die in Assessments Bewertungen vornehmen. Auch wenn die finale Entscheidung beim Menschen liegt, ist der Vorfilter oft entscheidend und damit im Fokus.
Niedrigeres Risiko haben KI-gestützte Schreibassistenten, Suchvorschläge, Summarisierung von Profilen oder Chatbots für Erstkontakte, sofern sie keine automatisierte Vorauswahl treffen. Hier geht es um Transparenz gegenüber Kandidaten und darum, Halluzinationen, irreführende Formulierungen oder diskriminierende Inhalte zu vermeiden.
Die Grenzziehung läuft über Einfluss und Autonomiegrad: Je mehr ein System Menschen ohne Zwischenschritt in oder aus Prozessen leitet, desto strenger die Anforderungen. Wenn Sie KI-Ergebnisse nur als Empfehlung nutzen, dokumentieren Sie das ausdrücklich und halten Sie fest, wie Berater abweichende Entscheidungen treffen können.
Anbieter oder Verwender: Welche Rolle spielt Ihre Beratung rechtlich?
Rechtlich unterscheidet der EU AI Act zwischen dem, der ein KI-System auf den Markt bringt, und dem, der es einsetzt. Personalberatungen sind in der Regel Verwender, oft mit eigener Konfiguration. Anbieterpflichten liegen primär beim Softwarehersteller, Verwenderpflichten bei der Beratung, die das System in Prozessen nutzt.
Komplex wird es, wenn Sie intern Modelle trainieren, Prompt-Flows als Produkte an Kunden ausliefern oder eigene Scoring-Logiken bauen. Dann rutschen Sie zumindest teilweise in Anbieterpflichten, inklusive technischer Dokumentation. Prüfen Sie deshalb, ob Sie wirklich Modell-Provider sind oder lediglich Funktionen Ihres ATS nutzen.
Für die Praxis heißt das: Fordern Sie von Ihrem ATS klare Unterlagen zu KI-Komponenten, Datenquellen, Testverfahren und Monitoring. In ShortSelect finden Sie die relevanten Nachweise gebündelt in den Bereichen Compliance und KI-Features, inklusive Hinweisen zur menschlichen Aufsicht.
Transparenz, Aufsicht, Protokolle: Welche Pflichten entstehen im Tagesgeschäft?
Transparenz: Kandidaten müssen erkennen können, wenn sie mit einem KI-System interagieren oder wenn Inhalte KI-generiert sind. In der Praxis sind das Hinweise in Formularen, E-Mails und auf Landingpages, ergänzt um Kontaktwege zu einer verantwortlichen Person. Passen Sie Ihre Vorlagen an und binden Sie Hinweise in das ATS ein.
Menschliche Aufsicht: Definieren Sie, an welchen Punkten Berater Ergebnisse prüfen, korrigieren oder stoppen. Legen Sie Schwellenwerte fest, ab denen ein zweiter Blick verpflichtend ist, etwa wenn das Ranking stark von Erfahrungswerten abweicht. Halten Sie fest, wie Abweichungen dokumentiert und Schulungen durchgeführt werden.
Protokolle und Nachweise: Hochrisiko-Anwendungen erfordern lückenlose Logs. Dazu gehören Eingabedaten, Versionen von Modellen, Konfigurationen, Prompt-Vorlagen und Entscheidungen. Nutzen Sie Audit-Trails aus Ihrem ATS, um Kriterienänderungen und Overrides zu belegen. In ShortSelect lassen sich relevante Ereignisse in Analytics und Compliance nachvollziehen.
Datenqualität und Bias: Wie reduzieren Sie systematische Verzerrungen im Matching?
Bias entsteht oft vor dem Modell, in unstrukturierten Profilen, inkonsistenten Labels oder unausgewogenen Talentpools. Bevor Sie an Parametern drehen, standardisieren Sie Datenfelder, klären Sie, welche Signale wirklich leistungsrelevant sind, und begrenzen Sie irrelevante Proxy-Variablen. Weniger Rauschen führt zu stabileren Ergebnissen, die leichter zu erklären sind.
Setzen Sie regelmäßige Drift-Checks auf: Vergleichen Sie die Verteilung der Scores über Zeit, prüfen Sie Ausreißer und simulieren Sie, wie Änderungen im Anforderungsprofil die Shortlist beeinflussen. Dokumentieren Sie Korrekturen und begründen Sie Feature-Entscheidungen. So schaffen Sie prüfbare Fairness, ohne die Recruiting-Geschwindigkeit zu verlieren.
Pragmatisch ist ein zweistufiger Prozess: Erst breites Matching auf Pflichtkriterien, dann eine menschliche Bewertung mit Fokus auf Kontextfaktoren. Verankern Sie klare Override-Regeln, zum Beispiel begründete Einladungen trotz niedrigem Score, und erfassen Sie diese Entscheidungen systematisch in der Pipeline.
Vendor-Management: So prüfen Sie Ihr ATS, Integrationen und KI-Zulieferer
Beginnen Sie mit einem AI-Inventory: Welche KI-Funktionen sind in Ihrem ATS aktiv, welche kommen über Integrationen, welche nutzen Berater direkt über externe Tools. Ordnen Sie sie nach Einfluss auf Auswahlentscheidungen ein und bestimmen Sie Verantwortliche pro System.
Führen Sie anschließend einen Due-Diligence-Check durch. Kernfragen sind: Welche Trainingsdaten werden verwendet, wie wird auf Bias getestet, welche Metriken liegen vor, wie erfolgt Monitoring und Incident-Handling. Lassen Sie sich technische und organisatorische Maßnahmen schriftlich bestätigen und verankern Sie Audit-Rechte im Vertrag.
Als Kunde sind Sie nicht machtlos. Gute Anbieter liefern Model Cards, Evaluationsberichte und Konfigurationshinweise für faire Nutzung. In ShortSelect finden Sie diese Informationen zentral sowie Integrationen zu gängigen Plattformen, siehe Integrationen und speziell LinkedIn oder Indeed, jeweils mit Hinweisen zur rechtssicheren Nutzung.
Governance trifft DSGVO: So verzahnen Sie AI Act, Datenschutz und Gleichbehandlung
Der EU AI Act ergänzt, aber ersetzt nicht die DSGVO. Für Recruiting-Prozesse bleibt entscheidend, dass Rechtmäßigkeit, Zweckbindung, Datenminimierung und Löschkonzepte sauber umgesetzt sind. Die KI-Verordnung verlangt zusätzlich dokumentierte Aufsicht und Qualitätssicherung für risikoreiche Anwendungen.
Verknüpfen Sie daher Ihr Verzeichnis von Verarbeitungstätigkeiten mit dem AI-Inventory und prüfen Sie, wo eine Datenschutz-Folgenabschätzung bereits vorliegt. Passen Sie Informationspflichten an, insbesondere wenn Sie automatisierte Bewertungen einsetzen. Wer die DSGVO-Grundlagen beherrscht, hat einen Vorteil, weil viele Belege schon existieren.
Auch Gleichbehandlungs- und Antidiskriminierungsrecht spielen hinein. Übersetzen Sie verbotene Merkmale in technische Ausschlussregeln, dokumentieren Sie Feature-Entscheidungen und prüfen Sie Stellenausschreibungen auf unbeabsichtigte Signale. Das senkt rechtliche Risiken und verbessert die Kandidatenerfahrung.
Übergangszeit sinnvoll nutzen: Der 6-Punkte-Fahrplan für Beratungen
1. Inventarisieren: Listen Sie alle KI-Funktionen in ATS, CRM und externen Tools auf. Ordnen Sie Risiko und Einfluss zu. Kennzeichnen Sie Kontaktpersonen und Systemverantwortliche.
2. Policies und Rollen: Legen Sie fest, wie KI-Ergebnisse eingesetzt werden, wo zwingend der Mensch entscheidet und wie Abweichungen dokumentiert werden. Schulen Sie Berater und richten Sie einen zentralen Ansprechpartner ein.
3. Datenhygiene: Standardisieren Sie Felder, Label und Bewertungsbögen. Räumen Sie Altlasten auf, strukturieren Sie Notizen und definieren Sie Pflichtinformationen für Matching und Shortlist.
4. Vendor-Due-Diligence: Fordern Sie Unterlagen zu Modellen, Tests, Monitoring und Incident-Prozessen ein. Ergänzen Sie Verträge um Informationsrechte und klare Zuständigkeiten.
5. Protokollierung und Reporting: Aktivieren Sie Logs, definieren Sie KPIs für Qualität und Fairness und setzen Sie Alerts auf. Nutzen Sie Berichte aus Analytics und Prozess-Automationen in Automatisierung, um Prüfpfade zu sichern.
6. Kandidaten-Transparenz: Ergänzen Sie Hinweise in Formularen, Karrierebereichen und E-Mails. Integrieren Sie Opt-outs, Kontaktkanäle und Hinweise zur menschlichen Überprüfung. Das lässt sich über Vorlagen und Module wie Karriereseite und E-Mail-Integration konsistent ausspielen.
Was bedeutet der AI Act für Vertrieb, Pitch und SLA mit Auftraggebern?
Kunden werden Nachweise verlangen, dass Ihre Prozesse fair, nachvollziehbar und kontrolliert sind. Nutzen Sie das als Differenzierungsmerkmal und bereiten Sie einen Evidence-Pack vor: Policy-Auszüge, Beispiel-Logs, Schulungskonzepte, Bias-Checks, Incident-Playbook. Das schafft Vertrauen im Pitch und entlastet Fachbereiche.
In SLA und Leistungsbeschreibungen sollten Sie festhalten, wo KI in der Pipeline eingesetzt wird, wie menschliche Kontrolle aussieht und wie Korrekturen dokumentiert werden. Vereinbaren Sie mit Kunden Feedbackschleifen zu Modellergebnissen, um fachliche Kriterien regelmäßig zu schärfen.
Transparenz lohnt sich auch kommunikativ. Wer erklärt, wie Empfehlungen entstehen und warum es immer einen finalen Beraterblick gibt, reduziert Eskalationen und verbessert die Akzeptanz neuer Arbeitsweisen im Hiring-Manager-Kreis.
Konfiguration statt Blindflug: So setzen Sie KI im ATS rechtssicher ein
Starten Sie mit klaren Defaults: Pflichtkriterien strikt, Nice-to-have gewichtet, keine Proxy-Signale, die auf geschützte Merkmale schließen lassen. Dokumentieren Sie jede Regeländerung und spielen Sie Konfigurationsupdates kontrolliert aus, zum Beispiel pro Mandat und Mandantenrolle.
Implementieren Sie Review-Mechanismen: Zweitblick bei grenzwertigen Scores, Stichproben auf abgelehnte Profile, regelmäßige Retros auf Fehlklassifikationen. Verknüpfen Sie diese Kontrollen mit Audit-Trails, die Sie bei Bedarf exportieren können.
Nutzen Sie Features Ihres Systems bewusst: Talentpools, strukturierte Pipelines und standardisierte Interviews reduzieren Zufälligkeiten. In ShortSelect unterstützen Talent-Pools, Pipelines und Interview-Module eine konsistente Bewertung, während KI-Funktionen im Hintergrund Vorschläge liefern, die jederzeit erklärt und überstimmt werden können.
Was kostet Compliance in der Praxis und wie planen Sie Ressourcen?
Die größten Kosten liegen selten in Software, sondern in der Klarheit von Rollen, Prozessen und Daten. Wer ein- bis zweimal pro Jahr eine strukturierte Überprüfung durchführt, Vorlagen pflegt und Trainings in die Onboarding-Routine integriert, hält den Aufwand planbar und skaliert ihn über Teams hinweg.
Budgetieren Sie Zeit für Initialinventar, Vertragsupdates und die Anpassung von Vorlagen. Anschließend laufen Wartung und Monitoring im Tagesgeschäft mit, gestützt durch Berichte und Alarme aus dem System. Für das Tooling kalkulieren Sie je Nutzer mit einem professionellen ATS-Plan, siehe Preise, und richten Sie einen kompakten internen Review-Kreis ein.
Wichtig ist, nicht in Einmalprojekten zu denken. Compliance ist ein Betriebszustand. Kleine, wiederholbare Routinen schlagen große Reorganisationen, und sie sind für Audits leichter nachzuweisen.
Häufige Fragen
Ab wann muss ich als Personalberatung mit Kontrollen rechnen?
Die Verordnung tritt gestaffelt in Kraft. Verbote bestimmter Praktiken gelten früher, strengere Pflichten für Hochrisiko-Systeme folgen nach Übergangsfristen. Rechnen Sie nicht mit einem großen Stichtag, sondern mit einer Phase, in der Nachweise und Prozesse zunehmend abgefragt werden. Wer jetzt Inventar, Policies und Protokolle aufsetzt, ist vorbereitet.
Gilt mein ATS automatisch als Hochrisiko-System?
Nicht das gesamte ATS, sondern die konkrete KI-Funktion zählt. Ein ATS ohne automatisierte Eignungsbewertung ist kein Hochrisiko-System. Nutzen Sie jedoch KI für Matching, Ranking oder Scoring, greifen die strengeren Regeln. Klären Sie mit Ihrem Anbieter, welche Module betroffen sind, und dokumentieren Sie Ihr Nutzungsszenario.
Reicht es, wenn der Anbieter die Compliance übernimmt?
Nein, Anbieterpflichten decken nur einen Teil ab. Als Verwender müssen Sie festlegen, wie die KI in Ihrem Prozess eingesetzt wird, wo der Mensch entscheidet, welche Daten verarbeitet werden und wie Sie protokollieren. Gute Anbieter liefern Unterlagen und Funktionen, aber die Verantwortung für den Einsatz in Ihrem Kontext bleibt bei Ihnen.