EU AI Act & Regulierung
KI im Recruiting ist erlaubt, solange sie vorbereitet statt bewertet. So trennen Sie Vorbereitung und Entscheidung sauber – mit einem Setup, das funktioniert.
KI darf im Recruiting vorbereiten, aber nicht bewerten. Das ist die ganze Regel, auf einen Satz gebracht – und trotzdem tappen viele Unternehmen in die Falle. Sobald eine KI Bewerbungen sortiert, rankt oder einen „Fit-Score" errechnet, wird aus dem praktischen Helfer ein Hochrisiko-System nach Anhang III des EU AI Act. Sobald sie nur Daten extrahiert, strukturiert oder Texte entwirft und ein Mensch danach entscheidet, bleiben Sie außerhalb dieser Zone. Dieser Beitrag zeigt konkret, wo die Grenze verläuft und wie ein Setup aussieht, das in der Praxis funktioniert – rechtlich UND organisatorisch. Die vollständige Einordnung von Anhang III, Fristen und Bußgeldern finden Sie im Pillar-Beitrag EU AI Act im Personalwesen.
Der Schlüssel ist eine saubere Trennung von Vorbereitung und Entscheidung. Die Bewertung durch KI ist das Gefährliche, hier müssen Sie sich in Acht nehmen. Eine KI, die nur eng umgrenzte, vorbereitende Aufgaben übernimmt und keine Menschen bewertet, fällt aus dem Hochrisiko-Regime heraus. Reine Lebenslauf-Parser führt die EU-Kommission in ihren Leitlinien sogar ausdrücklich als Beispiel für diese sogenannte Vorbereitungs-Ausnahme an.
Typische erlaubte Anwendungsfälle:
Sobald die KI Personen sortiert, rankt oder filtert, Leistung oder Verhalten bewertet oder Profile erstellt, die von Daten auf Eignung, Persönlichkeit oder künftiges Verhalten schließen, sind Sie im Hochrisiko-Bereich. Beim Profiling nach Anhang III gibt es dabei überhaupt keinen Spielraum – das ist immer Hochrisiko, ohne Ausnahme.
Der Klassiker aus der Praxis: Eine KI transkribiert Bewerbungsgespräche, fasst sie zusammen und errechnet daraus für jeden Kandidaten einen „Fit-Score". Klingt nach harmloser Fleißarbeit, ist aber eine Bewertung von Menschen. Genauso der Fall aus dem Alltag: 200 Bewerbungen landen in Copilot, die KI schlägt die zehn stärksten Kandidaten vor, genau diese zehn werden eingeladen. Modern, schnell – und ein Hochrisiko-System, ganz ohne dass jemand ein Recruiting-Tool gekauft hätte.
So sieht ein Ablauf aus, der beides schafft – Entlastung und Rechtssicherheit: Der Bewerber lädt seine Unterlagen hoch. Eine klar als KI erkennbare Funktion auf der Website zieht die relevanten Angaben aus den Unterlagen heraus und legt sie strukturiert in einem Formular ab. Der Bewerber sieht diese Daten, korrigiert sie bei Bedarf und schickt sie mit seinen Nachweisen ab. Wer am Ende eingeladen wird, entscheidet danach ein Mensch – ohne KI-Ranking, einfach dadurch, dass die sauber aufbereiteten Angaben traditionell gefiltert werden.
Wichtig dabei: Die KI liefert Rohmaterial, keine Rangfolge. Es gibt keinen Button „Top-Kandidaten anzeigen", keinen Score, keine Ampel. Der Mensch sieht dieselben strukturierten Daten für alle Bewerber und trifft die Auswahl selbst, anhand der Kriterien, die er sich vorher gesetzt hat – nicht anhand einer KI-Empfehlung.
Ein Freifahrtschein ist das trotzdem nicht. Je nach Rolle im System, insbesondere als Anbieter oder öffentlicher Betreiber, können Dokumentations-, Registrierungs- und Informationspflichten greifen. Und die Grenze bleibt hart: Sobald die KI anfängt zu bewerten, zu ranken oder Profile zu bilden, sind Sie zurück im Hochrisiko-Bereich, auch mit den besten Absichten.
In der Praxis kippt das Setup meist an einer einzigen Stelle: Jemand tippt „Welche fünf Bewerber passen am besten?" in den Chat. Bis dahin war alles sauber vorbereitend. Mit diesem einen Prompt wird aus dem Werkzeug ein Hochrisiko-System – weil die KI jetzt bewertet statt strukturiert. Legen Sie diese Grenze für Ihr Team konkret fest, am besten mit Beispiel-Prompts, die erlaubt sind, und solchen, die es nicht sind. Ich bin kein Jurist, sondern Praktiker – aber genau diese Klarheit im Alltag verhindert die teuersten Fehler.
Darf ich ChatGPT nutzen, um Lebensläufe zusammenzufassen? Ja, solange die Zusammenfassung keine Bewertung oder Rangfolge enthält. Eine reine Strukturierung von Fakten – Ausbildung, Erfahrung, Kenntnisse – fällt unter die Vorbereitungs-Ausnahme.
Ist ein KI-Matching-Score immer verboten? Nicht verboten, aber Hochrisiko. Ein Score, der Bewerber vergleicht oder bewertet, macht Sie zum Betreiber eines Hochrisiko-Systems mit allen Pflichten aus Anhang III – Risikomanagement, menschliche Aufsicht, Protokollierung, Registrierung.
Reicht es, wenn ein Mensch die KI-Vorschläge am Ende bestätigt? Nein. Wenn die KI bereits gerankt hat und der Mensch nur noch abnickt, bleibt es ein Hochrisiko-System. Die menschliche Aufsicht ist eine Pflicht innerhalb des Hochrisiko-Regimes, kein Ausweg daraus.
Welche Tools eignen sich für ein rechtssicheres Setup? Entscheidend ist nicht das Tool, sondern die Konfiguration. Ein Lebenslauf-Parser, der nur extrahiert und nicht bewertet, ist unkritisch – egal ob als Standalone-Software oder als selbst gebaute Lösung mit einem Sprachmodell im Hintergrund.
Was passiert, wenn ich unbewusst schon ein Hochrisiko-System betreibe? Machen Sie eine ehrliche Bestandsaufnahme, bevor es jemand für Sie tut. Der Quick-Check mit vier Fragen im Pillar-Beitrag EU AI Act im Personalwesen hilft, das in wenigen Minuten einzuordnen.
Stefan Müller ist Referent, Berater und Software-Entwickler bei StefanAI – Research & Development. Er unterstützt Unternehmen und öffentliche Einrichtungen beim sicheren und produktiven Einsatz von KI. www.stefanai.de
"Ich schicke regelmäßig kostenlose Updates zum Thema KI, Sicherheit und Anwendungen."
Wählen Sie direkt einen freien Slot in meinem Kalender.
Schreiben Sie mir Ihr Anliegen — ich melde mich zeitnah.
