Shadow AI im HR: KI nutzen ohne DSGVO-Verstöße (2026)

Wer 2026 ein HR- oder Talent-Team führt, dessen größtes KI-Risiko ist nicht der KI-Anbieter, den der Einkauf seit sechs Monaten prüft. Es ist der Senior Recruiter, die L&D-Verantwortliche und der Vergütungsanalyst, die um 23 Uhr vom privaten Laptop Bewerberlebensläufe, Leistungsbeurteilungen und Gehaltstabellen in einen kostenlosen ChatGPT-Account einfügen, weil das offizielle Tool langsamer ist. Das ist shadow AI in der HR-Variante, und es liegt am Schnittpunkt der beiden Regelwerke mit der höchsten Durchsetzungsgeschwindigkeit in der EU: DSGVO und AI Act.

Dies ist der zweite Artikel unserer Reihe zum Datenschwärzen. Der Pillar-Leitfaden deckt das Schwärzen über alle Use-Cases ab; dieser Artikel zoomt speziell auf HR — Recruiting, Performance Management, Mitarbeiterbeziehungen, Vergütung und L&D — wo das Shadow-AI-Problem am akutesten ist, die regulatorische Exposition am höchsten ist und die operative Lösung den größten Nutzen pro einzelnem Team bringt. Terminologie-Hinweis: Wir verwenden "shadow AI HR" und "shadow AI recruiting" austauschbar, und wir verwenden "ki recruiting", "ki bewerbungsscreening", "ki personalwesen", "ki im hr" und "generatives recruiting" als die operativ unterschiedlichen Sub-Kategorien, die dieselbe Architektur abdecken muss. "KI Leistungsbeurteilung" und "KI Bewerberauswahl" beschreiben überlappende, aber unterschiedliche Workflows, beide gleichermaßen betroffen.

Hat Ihr Unternehmen bereits die "Was machen wir mit ChatGPT"-Diskussion geführt und stillschweigend verloren, ist das der Artikel, den Sie den Leuten geben können, die KI tatsächlich täglich nutzen. Er deckt ab, wo Shadow AI innerhalb von HR passiert (sieben konkrete Use-Cases), warum diese Nutzungen DSGVO und AI Act auf spezifische Weisen brechen, das tatsächliche Durchsetzungs-Bilanz 2023-2026 (Workday, EEOC, NYC AEDT, der italienische Garante zu Foodinho/Glovo, der EGMR), wie eine offizielle Alternative aussehen muss, um wirklich übernommen zu werden, und einen Zehn-Schritte-Rollout, der die Diskussion in 90 Tagen in eine offizielle Tooling-Entscheidung verwandelt.

1. Warum HR der Nullpunkt für Shadow AI ist

Shadow AI ist die Nutzung von Consumer-KI-Tools — ChatGPT, Claude, Gemini, Perplexity, Mistral Le Chat, die Dutzende von GPT-Wrappern im App Store — mit vertraulichen Daten, außerhalb der IT-Sichtbarkeit, typischerweise über private Konten. Jede Funktion im Unternehmen hat eine Exposition dazu; HR hat die schlimmste. Vier strukturelle Gründe.

Erstens: Die Daten, die HR verarbeitet, sind überwiegend Freitext. Lebensläufe, Anschreiben, Kommentare zur Leistungsbeurteilung, Mitarbeiterbeschwerden, Exit-Interviews, 1:1-Notizen von Managern, Kalibrierungsdiskussionen — keine davon sind tabellarische Datensätze wie Kundendaten es tendenziell sind. Freitext ist genau dort, wo generative KI am nützlichsten erscheint, also ist die Versuchung am größten, ihn in ein Chatfenster zu kopieren. Der Pillar-Leitfaden behandelte das PII-Schwärzen als technisches Problem; in HR ist es auch ein Verhaltensproblem.

Zweitens: HR-Arbeit ist stoßweise und urteilsgetrieben. Ein Recruiter, der 200 Lebensläufe in der Woche vor der Einstellungsdeadline screent, hat keine Zeit, Legal zu fragen, ob das neue Sourcing-Tool DSGVO-konform ist. Ein People Manager, der um 21 Uhr eine schwierige Leistungsbeurteilung schreibt, will einen Denkpartner, keinen Beschaffungs-Workflow. Die offiziellen Tools, wo sie existieren, wurden für HRIS- oder ATS-Use-Cases beschafft — nicht für das. Also breitet sich ChatGPT HR aus.

Drittens: HR-Daten sind als Kategorie stark reguliert. Artikel 88 DSGVO ermächtigt Mitgliedstaaten ausdrücklich, spezifischere Regeln für die Verarbeitung von Beschäftigtendaten festzulegen, und die meisten haben das getan. Der EU AI Act klassifiziert HR-Nutzungen als hochriskant in Anhang III Absatz 4. Mehrere Nicht-EU-Jurisdiktionen haben spezifische Beschäftigungs-KI-Gesetze erlassen: NYC Local Law 144 (Automated Employment Decision Tools, AEDT, in Kraft seit Juli 2023), Illinois AI Video Interview Act (2020), Colorado AI Act (in Kraft 2026). Die Compliance-Oberfläche in HR ist tatsächlich größer als in anderen Funktionen, und Shadow-AI-Nutzung schafft undokumentierte Verarbeitung über alles davon.

Viertens: HR sitzt zwischen der rechtlichen/Compliance-Latte und dem operativen Druck zur Schnelligkeit. Dieselbe HR-Direktorin, die KI-Produktivitätsgewinne treiben soll, ist auch für das DSGVO-Verzeichnis von Verarbeitungstätigkeiten (Art. 30) zuständig, für die Datenschutz-Folgenabschätzung Art. 35 für neue Technologien, für das Recht aus Art. 22 auf Nicht-Unterwerfung unter automatisierte Entscheidungen, und — in vielen EU-Ländern — für die Konsultation des Betriebsrats zu neuen Überwachungstools (Deutschland Betriebsverfassungsgesetz §87). Ohne offizielle Alternative, die beide Probleme zugleich löst, beugt sich das System in Richtung Shadow.

Die zum Shadow AI im HR zitierten Statistiken werden oft mit einem anderen Geltungsbereich wiederholt als dem der Quelle, und woher jede Shadow-AI-Zahl stammt nennt Grundgesamtheit, Methode und Datum der meistzitierten.

2. Wo Shadow AI in HR-Teams auftaucht

Die folgenden sieben Use-Cases decken etwa 95 % des Shadow AI ab, das wir in HR-Audits sehen. Jeder schafft eine andere Risikokategorie und eine andere Möglichkeit für eine offizielle Alternative.

1. CV-Screening und Shortlisting (KI Bewerbungsscreening, KI Bewerberauswahl). Ein Recruiter fügt 50-200 Lebensläufe in eine Chat-Sitzung ein und fragt "ranke diese nach Cultural Fit und technischer Tiefe bei Kubernetes; gib mir die Top 10". Das Modell sieht volle Namen, Fotos, Adressen, Geburtsdaten, vorherige Arbeitgeber und alle anderen PII, die die Bewerberin offenlegt. Unter Art. 22 DSGVO erfordert eine vollständig automatisierte Entscheidung mit rechtlicher oder ähnlich bedeutender Wirkung eine ausdrückliche Rechtsgrundlage; der EU AI Act stuft CV-Screening als hochriskant ein; KI Bias Recruiting hat seine eigene Diskriminierungs-Exposition im nationalen Beschäftigungsrecht. Die Shadow-Version schafft undokumentierte Verarbeitung besonders sensibler Daten (manche Lebensläufe offenbaren Gesundheitsinformationen, Gewerkschaftsmitgliedschaft, religiöse Zugehörigkeit) auf einem US-LLM-Endpunkt ohne AVV.

2. Verfassen der Leistungsbeurteilung (KI Leistungsbeurteilung). Ein Manager fügt 12 Monate 1:1-Notizen ein und bittet das Modell, die Jahresendbeurteilung zu entwerfen. Die Notizen enthalten typischerweise direkte Zitate der Beschäftigten, beobachtete Gesundheitsinformationen ("sie war Q3 drei Wochen krankgeschrieben"), Vergütungsdiskussionen, und gelegentlich Beschwerden über Kollegen. Eine Leistungsbeurteilung auf einem Consumer-Endpunkt zu entwerfen schafft ein Erwägungsgrund-71-Problem (Entscheidungen mit rechtlichen oder ähnlich erheblichen Wirkungen), ein Art.-88-Problem (Verarbeitung im Beschäftigungskontext) und häufig ein Art.-9-Problem (Offenlegung besonderer Kategorien).

3. Synthese von Exit-Interviews (KI Exit Interview). Ein HR Business Partner führt Exit-Interviews und fügt die Transkripte dann in einen Chatbot ein, um Themen für die Leitung zusammenzufassen. Exit-Transkripte enthalten Gehaltsangaben, Anschuldigungen wegen Belästigung, namentliche Beschwerden über Manager und manchmal Whistleblowing-Inhalte, die unter der EU-Whistleblowing-Richtlinie (2019/1937) geschützt sind. Die Shadow-Version exponiert sowohl die ausscheidende Person als auch die namentlich genannten Dritten auf einem öffentlichen LLM.

4. Stellenanzeigen-Texte (KI Stellenanzeige). Eine Talent-Marketerin füttert die vorherige Anzeige, das Briefing der einstellenden Führungskraft und Wettbewerberanzeigen in einen Chatbot, um eine neue Stellenanzeige zu schreiben. Das PII-Risiko ist hier gering, das Diskriminierungsrisiko ist erheblich: LLMs, die auf historischen Einstellungsdaten trainiert wurden, tragen historisches Gender- und Alters-Coding, das Anzeigen produzieren kann, die geschützte Klassen systematisch entmutigen (das Amazon-Lebenslauf-Tool, das 2018 "women's chess club" abwertete, ist das Lehrbuchbeispiel). Das technische Hilfsdokument der EEOC von 2023 bestätigt, dass Anzeigen Title VII auch ohne Absicht verletzen können.

5. Vergütungs-Benchmarking (KI Vergütung). Ein Vergütungsanalyst fügt die Gehaltsbänder des Unternehmens ein und fragt das Modell, sie gegen veröffentlichte Marktdaten zu vergleichen, eine neue Struktur vorzuschlagen oder Ausreißer zu markieren. Die Bänder selbst sind vertraulich, die mitarbeiterbezogenen Zeilen sind personenbezogene Daten, und die resultierende Modellausgabe befindet sich nun in einem US-LLM mit potenziellem Trainings-Nutzen. Shadow-Benchmarking ist auch ein Wettbewerbsinformations-Leak, nicht nur ein Datenschutz-Leak.

6. Mitarbeiter-Q&A und Richtlinien-Assistenz. Mitarbeitende stellen einem HR-Chatbot Fragen wie "Ich bin in Elternzeit; wie sieht mein Anspruch aus?" — und die Antwort verlangt den Vertrag, das Land, die Rolle und die Betriebszugehörigkeit. Viele Firmen haben einen generativen KI im HR-Assistenten auf einem Consumer-Endpunkt aufgesetzt, ohne zu erkennen, dass die Eingabe von Mitarbeiterseite Gesundheitsinformationen ("ich bin krankgeschrieben weil…"), gewerkschaftliche Aktivität ("ich bin in gewerkschaftlicher Freistellung") oder Familiendetails enthält. ChatGPT Mitarbeiterdaten gehen hier über die Eingabe der Beschäftigten und nicht der Arbeitgeberin verloren — das macht das besonders schwer zu erkennen. Der italienische Garante hat signalisiert, dass mitarbeiterseitige KI-Assistenten denselben Art.-88-Regeln unterliegen wie die arbeitgeberseitige Verarbeitung.

7. Algorithmisches Management und Personalplanung. Ein Workforce-Planning-Analyst füttert einem LLM das Org-Chart mit Namen, Stufen, Einstellungsdaten und Leistungsnoten und bittet um Umstrukturierungsszenarien oder "Liste der Mitarbeiter, die in den nächsten 6 Monaten am ehesten gehen". Das ist algorithmisches Management im Foodinho/Glovo-Sinn und hat zwei der größten Beschäftigungs-KI-Durchsetzungen in der EU produziert: die Garante-Strafe gegen Foodinho (Glovo Italien) von 2,6 Mio. Euro im Jahr 2021 und die anschließende AEPD-Arbeit zu Plattformbeschäftigten in Spanien.

Die sieben Fälle teilen ein Muster. Die Nutzerin weiß, dass die Daten sensibel sind, fühlt sich aber durch die Tatsache geschützt, dass das Chatfenster "nur ich, der tippt" sei. Das Modell sieht die Daten als Eingabe; die Provider-Logs sehen sie als Anfrage; die Trainings-Pipeline kann sie als Trainingsbeispiel sehen; das Verzeichnis Ihrer Verarbeitungstätigkeiten sieht sie überhaupt nicht.

3. Der DSGVO + AI Act + nationale Stack für HR-KI

Vier Rechtsschichten gelten gleichzeitig für KI-Nutzung in HR. Sie sind nicht redundant; jede fängt einen anderen Fehlermodus ab.

Artikel 88 DSGVO (Verarbeitung im Beschäftigungskontext). Mitgliedstaaten können spezifischere Regeln zur Verarbeitung von Beschäftigtendaten festlegen, einschließlich Recruiting, Erfüllung des Arbeitsvertrags, Planung und Organisation der Arbeit, Gleichheit und Vielfalt, Gesundheit und Sicherheit und Beendigung. Italien (D.Lgs. 196/2003 in der geänderten Fassung), Frankreich (Code du travail L1121-1 und L1222-4), Deutschland (BDSG §26), Spanien (Organgesetz 3/2018) und Belgien haben dieses Vorrecht alle genutzt. Praktischer Effekt: EU-weite Compliance gibt es nicht — man muss DSGVO und lokale Beschäftigtendaten-Regeln einhalten. Die Kurzform "artikel 88 dsgvo" ist in der Praxis nie isoliert anzuwenden, sondern stets im Verbund mit dem nationalen Recht.

Artikel 5, 9 und 22 DSGVO — das materielle Rückgrat für Beschäftigungs-KI. Art. 5 setzt die Grundsätze (Rechtmäßigkeit, Fairness, Transparenz, Zweckbindung, Datenminimierung, Richtigkeit, Speicherbegrenzung, Integrität, Rechenschaft). Art. 9 verbietet die Verarbeitung besonderer Kategorien ohne Grundlage in Art. 9(2), wobei in der Beschäftigung am häufigsten Art. 9(2)(b) "zur Erfüllung der arbeitsrechtlichen Pflichten" einschlägig ist — aber nur "soweit dies nach dem Unionsrecht oder dem Recht der Mitgliedstaaten zulässig ist". Art. 22 gewährt das Recht, nicht einer ausschließlich auf einer automatisierten Verarbeitung beruhenden Entscheidung unterworfen zu werden, einschließlich Profiling, die rechtliche oder ähnlich erhebliche Wirkungen entfaltet. Die EDSA-Leitlinien 04/2024 zu Art. 22 stellen klar, dass "ausschließlich beruhend" ein materieller Filter ist — eine pro-forma menschliche Überprüfung am Ende eines Prozesses umgeht Art. 22 nicht — und HR-Shortlisting ist das kanonische Beispiel. Die Verarbeitung von DSGVO Mitarbeiterdaten unter einem dieser Artikel erfordert Rechtsgrundlage, Transparenz und eine dokumentierte Bewertung.

EU AI Act, Anhang III Absatz 4 — Hochrisiko-HR-Nutzungen. Der AI Act führt HR-Nutzungen ausdrücklich als hochriskant auf: (a) KI-Systeme, die zur Rekrutierung oder Auswahl natürlicher Personen bestimmt sind, insbesondere um gezielte Stellenanzeigen zu platzieren, Bewerbungen zu analysieren und zu filtern und Bewerber zu bewerten; (b) KI-Systeme, die Entscheidungen über die Bedingungen arbeitsrechtlicher Beziehungen, die Beförderung oder Beendigung arbeitsvertraglicher Beziehungen treffen, die Aufgabenverteilung anhand individuellen Verhaltens oder persönlicher Eigenschaften regeln oder die Leistung und das Verhalten von Personen in solchen Beziehungen überwachen und bewerten sollen. Die Hochrisiko-Einstufung löst die gesamten Pflichten des Titels III aus: Risikomanagementsystem (Art. 9), Daten-Governance (Art. 10), technische Dokumentation (Art. 11), Aufzeichnungspflichten (Art. 12), Transparenz (Art. 13), menschliche Aufsicht (Art. 14), Genauigkeit und Robustheit (Art. 15), Konformitätsbewertung, Eintragung in die EU-Datenbank, Marktüberwachung nach dem Inverkehrbringen und Grundrechte-Folgenabschätzung (Art. 27 für öffentliche Stellen und bestimmte private Betreiber). Die AI Act HR-Pflichten sind das anspruchsvollste Compliance-Regime, das eine HR-Funktion je betreiben musste. Die Hochrisiko KI HR-Klassifizierung unter AI Act Anhang III ist, was all das auslöst; die KI Folgenabschätzung, die HR-Teams nun erstellen müssen — sowohl die DSGVO-DSFA als auch die AI-Act-FRIA — ist die neue operative Dokumentationslast.

Nationale Beschäftigungs-KI-Gesetze. Über die Umsetzungen von Art. 88 DSGVO hinaus haben mehrere Jurisdiktionen KI-spezifische Beschäftigungsgesetze erlassen. NYC Local Law 144 (AEDT) verlangt Bias-Audits und Bewerber-Notice für jedes "automated employment decision tool", das seit Juli 2023 in NYC "wesentlich unterstützend" bei Einstellung oder Beförderung eingesetzt wird. Illinois AI Video Interview Act (2020) verlangt Einwilligung, KI-Nutzungs-Notice und Beschränkungen für die Datenweitergabe bei Video-Interview-KI. Colorado AI Act (in Kraft 1. Februar 2026) spiegelt viel von der Struktur des EU AI Acts für Hochrisiko-Nutzungen, einschließlich Beschäftigung. Spanien hat algorithmische Transparenz für Plattformarbeit kodifiziert (Real Decreto-Ley 9/2021). Der italienische Garante hat spezifische Leitlinien zu biometrischer Anwesenheitserfassung, Geolokalisierung und algorithmischem Management herausgegeben. Die französische CNIL hat 2024 spezifische Empfehlungen zu KI in HR veröffentlicht.

Praktische Konsequenz: Jede HR-KI-Bereitstellung 2026 muss gleichzeitig durch DSGVO, AI Act, nationales Beschäftigtendatenrecht und (falls einschlägig) ein KI-spezifisches Beschäftigungsgesetz passieren. Shadow-AI-Nutzung umgeht jedes davon.

4. Sieben konkrete Brüche durch Shadow AI HR

Wenn Sie das vor einem Vorstand oder Betriebsrat vortragen und eine konkrete Liste brauchen, was Shadow AI tatsächlich bricht, hier die operative Fassung.

1. Artikel 28 — Auftragsverarbeiter ohne AVV. Ein Consumer-ChatGPT-Account ist kein Auftragsverarbeitungsvertrag. Ein Senior Recruiter, der Lebensläufe einfügt, schafft Verarbeitung im Auftrag des Unternehmens ohne die Klauseln von Art. 28(3), ohne Unterauftragsverarbeiter-Offenlegung und ohne vertragliche Grundlage, im Namen des Unternehmens zu handeln.
2. Artikel 30 — unsichtbare Verarbeitungstätigkeit. Verzeichnisse von Verarbeitungstätigkeiten für HR decken in der Regel ATS, HRIS, Payroll-Anbieter und L&D-Plattform ab. Sie decken nicht die persönliche ChatGPT-Nutzung des Recruiters ab. Das Art.-30-Verzeichnis des Unternehmens ist daher materiell unvollständig, was an sich eine Verletzung darstellt, unabhängig von einem Datenleck.
3. Artikel 9 — undokumentierte Verarbeitung besonderer Kategorien. Lebensläufe und Leistungsdiskussionen enthalten regelmäßig Art.-9-Daten (Gesundheit, Gewerkschaftsmitgliedschaft, Religion, sexuelle Orientierung). Sie auf einem Consumer-LLM zu verarbeiten schafft Art.-9-Verarbeitung ohne Art.-9(2)-Grundlage und ohne zusätzliche Schutzmaßnahmen.
4. Artikel 22 — ausschließlich automatisierte Entscheidung. Wird Shadow AI zum Ranking von Bewerbern genutzt und implementiert der Recruiter das Ranking, ist die menschliche Überprüfung ein Stempel; die Entscheidung ist im Sinne von Art. 22 und Erwägungsgrund 71 "ausschließlich auf automatisierter Verarbeitung beruhend". Das EuGH-Urteil SCHUFA (C-634/21, Dezember 2023) bestätigte eine weite Lesart von "ausschließlich beruhend".
5. Artikel 5 und 35 — keine Folgenabschätzung. Eine hochriskante Verarbeitung erfordert eine DSFA nach Art. 35, und der AI Act ergänzt eine FRIA für viele HR-Bereitstellungen. Shadow-AI-Nutzung hat nie eine.
6. Artikel 88 und nationales Arbeitsrecht. Die meisten EU-Jurisdiktionen verlangen eine Form der Betriebsratskonsultation (Deutschland BetrVG §87; Italien Art. 4 Statuto dei Lavoratori; Frankreich Code du travail L2312-38) vor der Einführung von Überwachungs- oder Bewertungstechnologie. Shadow AI ist Überwachungstechnologie, ohne Konsultation eingeführt.
7. Grenzüberschreitende Übermittlungen und Schrems II. Consumer-Konten für ChatGPT, Claude und Gemini leiten Daten standardmäßig an US-Compute. Es gibt keine Transfer Impact Assessment, keine Standardvertragsklauseln, und das Unternehmen weiß nicht einmal, dass die Übermittlung stattfindet. Das ist die am einfachsten zu belegende DSGVO-Verletzung in einem Audit, weil allein die Netzwerk-Logs als Beweis ausreichen.

Die sieben Brüche addieren sich. Eine einzige Shadow-Session zum CV-Screening kann sechs davon gleichzeitig auslösen. Die spanische AEPD hat für weniger sanktioniert. Was diese Brüche besonders ärgerlich macht, ist, dass jeder einzelne für sich genommen leicht zu verhindern wäre, hätte das Unternehmen einen offiziellen Pfad. Die HR-Direktorin muss die Brüche nicht einzeln lösen; sie muss den Pfad lösen, auf dem alle gleichzeitig auftreten. Genau das ist die Logik einer offiziellen Alternative: Sie ersetzt nicht eine Kontrolle, sondern siebte Kontrollen zugleich, weil der Shadow-Pfad gleichzeitig sieben Kontrollen umging.

5. Reale Durchsetzung und der Preis des Nichtstuns

HR-Teams tun die juristische Exposition manchmal als theoretisch ab. Die Bilanz 2023-2026 widerspricht. Die folgenden Fälle sollten jeder HR-Führungskraft 2026 bekannt sein.

Workday (USA, 2024-2025). Die föderale Sammelklage Mobley v. Workday behauptet, dass der KI-Screening-Algorithmus von Workday Bewerber nach Rasse, Alter und Behinderung diskriminiert. Das Gericht wies Workdays Antrag auf Klageabweisung im Juli 2024 ab und zertifizierte die Collective Action im Mai 2025, womit es die Theorie akzeptierte, dass ein KI-Screening-Tool für Title-VII-Zwecke wie ein Agent des Arbeitgebers behandelt werden kann. Es ist der erste Fall, der etabliert, dass der KI-Anbieter selbst für diskriminierende Ergebnisse haftbar gemacht werden kann, und erweitert die Haftungsoberfläche über den Arbeitgeber hinaus. KI Diskriminierung ist nicht mehr ein Problem nur des Arbeitgebers.

EEOC technische Hilfe und Vergleichsbilanz (USA, 2023-2026). Das technische Hilfsdokument der EEOC vom Mai 2023 zu KI in der Auswahl von Beschäftigten legte den Rahmen für die Anwendung von Title VII (disparate impact) auf KI-Tools fest. In EEOC v. iTutorGroup (August 2023, Vergleich über 365.000 USD) behauptete die EEOC, dass die Rekrutierungssoftware der Firma ältere weibliche Bewerber programmgesteuert ablehnte. Die EEOC hat KI-Diskriminierungs-Fälle bis 2026 weiter ihrem Aktenbestand hinzugefügt; der strategische Durchsetzungsplan vom Mai 2023 nannte KI-getriebene Diskriminierung als Priorität.

NYC AEDT Law 144 Durchsetzung (USA, 2023-2026). Seit 5. Juli 2023 müssen Arbeitgeber, die ein "automated employment decision tool" für Einstellung oder Beförderung in NYC verwenden, einen jährlichen unabhängigen Bias-Audit durchführen, die zusammenfassenden Ergebnisse veröffentlichen und Bewerber informieren. Die Durchsetzung war moderat, aber real, und die Existenz des Gesetzes hat das Verhalten der Anbieter auf dem US-Recruiting-Markt materiell umgeformt. Mehrere Firmen haben KI-Features aus dem NYC-Markt zurückgezogen, statt sich anzupassen. Die KI HR Compliance in New York ist heute de facto an jährliche Bias-Audits gebunden.

Italienischer Garante zu Foodinho / Glovo (Italien, 2021-2024). Der Garante sanktionierte Foodinho (Glovo Italien) im Jahr 2021 mit 2,6 Mio. Euro für die Art, wie sein Fahrer-Bewertungsalgorithmus personenbezogene Daten ohne angemessene Art.-88-Grundlage und ohne angemessene Transparenz verarbeitete, und im Jahr 2024 erneut mit 5 Mio. Euro in verwandten Angelegenheiten. Die Entscheidung ist grundlegend für die Compliance des algorithmischen Managements in Italien und wurde in nachfolgenden Entscheidungen in der gesamten EU ausgiebig zitiert.

Italienischer Garante zu biometrischer Anwesenheitserfassung (Italien, 2022-2025). Nachfolgende Entscheidungen haben festgestellt, dass biometrische Anwesenheits- und Gesichtserkennungs-Zugangssysteme am Arbeitsplatz eine spezifische Rechtsgrundlage jenseits der Einwilligung erfordern (Einwilligung ist im Beschäftigungskontext aufgrund des Machtungleichgewichts ungültig) und haben mehrere Bereitstellungen aufgehoben. Das Muster gilt direkt für jedes KI-Tool, das biometrische Daten von Beschäftigten verarbeitet.

CNIL-Leitfaden zu KI in HR (Frankreich, 2024-2025). Die CNIL veröffentlichte 2024 Leitlinien, die bestätigen, dass jede HR-KI-Bereitstellung von einer DSFA vorangegangen sein, auf einer anderen Rechtsgrundlage als der Einwilligung operieren, menschliche Aufsicht einschließen und die Pflicht zur Konsultation des Betriebsrats respektieren muss. Die regulatorische Aktion der CNIL gegen algorithmische Management-Tools im französischen öffentlichen Sektor hat Maßstäbe gesetzt, die private Arbeitgeber erfüllen sollen.

EGMR zur Überwachung am Arbeitsplatz. Das Große-Kammer-Urteil Barbulescu v. Rumänien (2017) und das jüngere López Ribalda v. Spanien (2019) setzen den europäischen Maßstab für Überwachung am Arbeitsplatz: Der Arbeitgeber muss vorab klare, transparente Notice geben, und die Maßnahmen müssen verhältnismäßig sein. KI-gestützte Verhaltensüberwachung erbt diesen Maßstab, und Shadow-AI-Nutzung von Leistungsdaten Beschäftigter fällt nahezu per definitionem außerhalb dieses Maßstabs.

OpenAI / italienischer Garante (2023-2024). Die vorübergehende Aussetzung von ChatGPT durch den Garante am 30. März 2023, die vorläufigen Erkenntnisse der EDSA-ChatGPT-Task-Force vom Mai 2024 und die endgültige Sanktion von 15 Mio. Euro gegen OpenAI vom Dezember 2024 bestätigen gemeinsam, dass die LLM-seitige Verarbeitung nun ein aktiv durchgesetzter Compliance-Bereich ist. Shadow AI HR erbt all diese Risiken vikariierend.

Die kumulative Wirkung ist, dass eine HR-Direktorin nicht mehr annehmen kann "uns ist die Durchsetzung noch nicht passiert". Die Bilanz ist dicht genug, dass die Frage wann ist, nicht ob. Und je länger der Shadow-Pfad weiter existiert, desto schwerer wird im Nachhinein zu rekonstruieren, was wann mit welchen Daten passiert ist — ein Punkt, den jede Aufsichtsbehörde in einer Inspektion zuerst ansprechen wird.

6. Wie eine offizielle, schneller-als-Shadow HR-KI aussieht

Der Pillar-Leitfaden legte die allgemeine Architektur für sichere LLM-Nutzung dar: PII im Browser maskieren, bevor sie das Modell erreichen, durch ein EU-gehostetes LLM unter signiertem AVV leiten, echte Werte lokal wiederherstellen. Die HR-spezifische Version dieser Architektur hat vier zusätzliche Anforderungen, die von dem oben behandelten regulatorischen Stack getrieben sind.

(a) Rollenbewusste Schwärzung. Ein CV-Screening-Workflow muss Name, Foto, Geburtsdatum, Adresse und alle Art.-9-Offenlegungen des Kandidaten schwärzen — aber nicht Qualifikationen, Erfahrung, Bildung oder Skills. Ein Entwurf einer Leistungsbeurteilung muss den Namen der/des Beschäftigten und jeden in den Notizen genannten Dritten schwärzen — muss aber die zugrunde liegenden Verhaltensweisen bewahren. Ein generischer Schwärzer, der alles maskiert, zerstört den Wert des Workflows. Das offizielle Tool muss HR-Entitätskategorien in der Granularität verstehen, die die Arbeit tatsächlich braucht.

(b) Dokumentierte Unterauftragsverarbeiter-Kette. Jedes LLM, das das Tool nutzt, muss in der Unterauftragsverarbeiter-Liste des Unternehmens mit entsprechendem AVV stehen. Redactic veröffentlicht seine Unterauftragsverarbeiter-Liste, und Änderungen werden 30 Tage im Voraus vorab benachrichtigt. Für die HR-Nutzung muss der DSB jederzeit nachweisen können, welches LLM genau welche Datenkategorie an welchem Datum gesehen hat.

(c) Art. 22-Hygiene standardmäßig. Das Tool muss strukturell "ausschließlich auf automatisierter Verarbeitung beruhende" Ergebnisse verhindern. Praktisch heißt das: Die Ausgabe ist immer beratend, jede Einzelentscheidung hat einen aufgezeichneten menschlichen Prüfer mit einem dokumentierten Prüfschritt, und das Bias-Audit-Log erfasst die menschliche Override-Quote. Eine Leistungsbeurteilung unter dieser Disziplin produziert einen Entwurf, den die Führungskraft substanziell überarbeitet; die Schwärzungsschicht macht den Input sicher; die menschliche Prüfschicht macht die Ausgabe Art.-22-sicher.

(d) Betriebsrats- und Transparenzartefakte. Das Tool muss auf Anfrage Folgendes produzieren können: (i) den Art.-30-Eintrag für die Verarbeitung, (ii) die DSFA-Vorlage, (iii) die FRIA unter AI Act Art. 27, (iv) den Bias-Audit-Bericht ausgerichtet am NYC-AEDT-Format wo anwendbar, und (v) den Entwurf der Betriebsratsbenachrichtigung. Das Schwärzungszertifikat, das Redactic für jeden Job erzeugt, wird die Beweisgrundlage für diese Dokumente, da es Hashes und Zähler, aber keine PII trägt.

Redactic Secure Chat implementiert alle vier. Die Chat-Oberfläche maskiert PII im Browser über dieselbe mehrsprachige GLiNER-Pipeline wie der Dokument-Workflow, sendet den pseudonymisierten Text an OpenAI / Anthropic / Google / Mistral auf ihren EU-Endpunkten (Zero Retention, kein Training auf Input unter signierten AVV), stellt echte Werte clientseitig wieder her. Das Audit-Zertifikat protokolliert den Job. Für Dokument-Workflows — Stellenanzeigen schreiben, Leistungsbeurteilung entwerfen, Vergütungsanalyse, Exit-Interview-Synthese — folgt der Upload-dann-schwärzen-dann-KI-Flow derselben Architektur mit der Schwärzungsschicht vor dem Modell. Die italienische, französische, deutsche, spanische und englische Landing von redactic.eu decken die Use-Cases direkt ab.

7. Der 90-Tage-Rollout für HR-Führungskräfte

Das ist das Zehn-Schritte-Playbook, das wir mit HR-Führungskräften nutzen, die zum ersten Mal offizielle KI einführen. Es nimmt an, dass es heute Shadow AI in Ihrer Organisation gibt (mit hoher Wahrscheinlichkeit ja) und Sie in einem Quartal zu einer offiziellen Alternative wechseln wollen.

1. Tag 0-7. Interne Bestandsaufnahme der Shadow-Nutzung. Befragen Sie HR, L&D und Recruiting, welche KI-Tools sie tatsächlich nutzen, für welche Aufgaben, mit welchen Daten. Versprechen Sie Straffreiheit für ehrliche Antworten — Sie brauchen die Wahrheit, nicht die offizielle Antwort. Rechnen Sie mit ChatGPT in über 70 % der Antworten, Gemini und Claude in 30-50 %, und einer langen Schwanz spezialisierter Tools.
2. Tag 7-14. Use-Cases auf die obigen sieben Kategorien abbilden. Markieren Sie jeden als hohe, mittlere oder niedrige Daten-Sensitivität. Markieren Sie jeden als hochriskant unter AI Act Anhang III oder nicht. Das ist Ihr Ausgangs-Inventar von Verarbeitungsvorgängen.
3. Tag 14-30. Compliance-Baseline. Führen Sie eine Lückenanalyse gegen die sieben Brüche aus Abschnitt 4 durch. Der DSB und Legal unterzeichnen die Lückenanalyse. Das wird der Business Case für das offizielle Tool — und die Beweisspur, falls in der Zwischenzeit der Regulator kommt.
4. Tag 30-45. Anbieter-Auswahl. Wenden Sie die 8-Punkte-Checkliste aus dem Pillar-Leitfaden mit HR-spezifischer Gewichtung auf (b) und (d) oben an (rollenbewusste Schwärzung + Betriebsratsartefakte). Beschaffung unterzeichnet AVV, Unterauftragsverarbeiter-Liste und SCC wo anwendbar.
5. Tag 45-60. DSFA und FRIA. Die DSFA deckt die DSGVO-Seite ab und die FRIA die AI-Act-Seite; beide sind für hochriskante HR-Nutzungen erforderlich. Das Schwärzungszertifikat des Anbieters, die Bias-Audit-Vorlage und die Unterauftragsverarbeiter-Liste speisen beide Dokumente direkt.
6. Tag 60-70. Betriebsrat und Transparenz für Beschäftigte. Informieren Sie den Betriebsrat nach dem anwendbaren nationalen Recht, reichen Sie die Konsultation ein, entwerfen Sie die mitarbeitergerichtete Notice (Art. 13/14 DSGVO plus Art. 26 AI Act für Transparenz). Veröffentlichen Sie die Notice.
7. Tag 70-80. Pilot mit einem Team. Wählen Sie das Team mit der höchsten Shadow-Nutzung — meist Senior Recruiter oder HR Business Partner — und onboarden Sie es auf das offizielle Tool. Messen Sie die Adoption gegen die Shadow-Baseline. Der einzige Erfolgstest ist, ob die Shadow-Nutzung bis Woche 2 sinkt.
8. Tag 80-85. Reibungsprofil justieren. Ist das offizielle Tool langsamer als der Shadow-Pfad, beheben Sie die Reibung (SSO, Browser-Erweiterung, Standardmodelle, Latenz). Die Architektur gewinnt nur, wenn sie schneller ist, nicht nur sicherer.
9. Tag 85-90. Breiterer Rollout. Erweitern Sie auf die nächsten 2-3 Teams. Das Shadow-Verbot wird erst glaubwürdig, nachdem das offizielle Tool im Pilot-Team in Aktion gesehen wurde.
10. Tag 90+. Kontinuierliche Compliance. Monatliche Überprüfung des Bias-Audit-Berichts, vierteljährliche Überprüfung der Unterauftragsverarbeiter-Liste, jährliche Aktualisierung der DSFA/FRIA. Die Logs des offiziellen Tools speisen die regulatorgerichteten Artefakte; die Shadow-Bestandsaufnahme wird vierteljährlich wiederholt, um sicherzustellen, dass die Shadow-Nutzung niedrig bleibt.

Zwei Dinge sind zu erwarten. Erstens: Der Betriebsratsschritt ist, wo Rollouts am häufigsten verlangsamen — starten Sie ihn am Tag 60, auch wenn der technische Pilot noch nicht bereit ist, und lassen Sie beide parallel laufen. Zweitens: Die Reibungs-Feinjustierung an Tag 80-85 ist meist der Unterschied zwischen einem erfolgreichen Rollout und einem, der bei 20 % Adoption stehenbleibt. Der Shadow-Pfad hört nicht auf attraktiv zu sein, nur weil er jetzt offiziell verboten ist; er hört auf attraktiv zu sein, wenn der offizielle Pfad wirklich schneller ist.

8. Häufig gestellte Fragen

Kann ich ChatGPT einfach im Unternehmensnetz blockieren?

Sie können, und viele Firmen haben es getan. Es löst das Problem nicht. Die Shadow-Nutzung wandert auf private Handys, private Laptops im Heimnetz und private Konten auf Firmenrechnern. Netzwerksperren ohne offizielle Alternative sind Compliance-Theater, das weniger Sichtbarkeit, nicht weniger Risiko produziert. Der Shadow-AI-Abschnitt des Pillar-Leitfadens behandelt die Dynamik im Detail.

Wird Art. 22 DSGVO tatsächlich durch KI-Shortlisting ausgelöst?

Das EuGH-Urteil SCHUFA (C-634/21, Dezember 2023) bestätigte eine weite Lesart von "ausschließlich auf automatisierter Verarbeitung beruhend". Wenn die menschliche Entscheidungsträgerin in der Praxis die KI-Ausgabe abnickt, wird die Entscheidung als ausschließlich automatisiert behandelt. Die EDSA-Leitlinien 04/2024 verstärken das. Die sichere Annahme ist, dass jedes KI-Shortlisting-Tool eingebaute Art.-22-Hygiene benötigt: dokumentierte substanzielle menschliche Überprüfung, Erläuterung, Anfechtbarkeit.

Gilt der EU AI Act für meine Nutzung von ChatGPT in HR, obwohl ich es nicht gebaut habe?

Ja. Der AI Act gilt für Betreiber hochriskanter KI-Systeme, nicht nur für Anbieter. Nutzt Ihr HR-Team ein KI-System für einen beliebigen Anhang-III-Absatz-4-Zweck, sind Sie ein Betreiber und tragen die Betreiberpflichten: menschliche Aufsicht, Überwachung, Transparenz gegenüber betroffenen Personen, Aufzeichnungen, Grundrechte-Folgenabschätzung in vielen Fällen. Ein Consumer-LLM zu nutzen befreit Sie nicht; es macht Compliance schwieriger, weil die Dokumentation, die der Anbieter Ihnen unter Art. 13 geben sollte, fehlt.

Ist der Workday-Fall außerhalb der USA bindend?

Nicht unmittelbar, aber die Rechtstheorie — dass ein KI-Anbieter für Diskriminierungszwecke als Agent des Arbeitgebers behandelt werden kann — reist. Das Netzwerk European Equality Bodies hat den Fall in seinem Kommentar 2025 zitiert, und mehrere EU-Jurisdiktionen prüfen ähnliche Auslegungen unter der Race-Richtlinie (2000/43/EG) und der Beschäftigungs-Gleichbehandlungsrichtlinie (2000/78/EG). Planen Sie so, als gelte die Theorie.

Kann der Betriebsrat unsere KI-Bereitstellung blockieren?

In mehreren EU-Jurisdiktionen, einschließlich Deutschland unter BetrVG §87(1)(6) und Italien unter Art. 4 Statuto dei Lavoratori, ja — die Mitbestimmung des Betriebsrats über Überwachungs- und Bewertungstechnologie ist verpflichtend. Fehlende Konsultation kann zu einer rückwirkenden Aussetzung der Bereitstellung und zusätzlichen Verwaltungssanktionen führen. Die richtige Strategie ist, die Konsultation am ersten Tag der Anbieterauswahl zu starten, nicht nach dem Rollout.

Löst die Schwärzung des Lebenslaufs allein das AI-Act-Problem?

Nein. Schwärzen löst das DSGVO-Daten-Leck-Problem für den LLM-Round-Trip. Die AI-Act-Pflichten — Hochrisiko-Klassifizierung, Risikomanagement, menschliche Aufsicht, Transparenz, Bias-Audit, FRIA — gelten unabhängig und werden durch Schwärzen nicht erfüllt. Die beiden Stacks arbeiten zusammen: Die Schwärzungsschicht hält das Datenminimierungs-Prinzip sauber; die menschliche Prüf- und Audit-Schicht hält die AI-Act-Pflichten sauber.

Was ist "algorithmisches Management" und wie unterscheidet es sich von KI in HR?

Algorithmisches Management ist die Nutzung automatisierter Systeme zur Aufgabenverteilung, Leistungsüberwachung und Entscheidungen über Arbeitnehmer — meist mit Plattformarbeit (Foodinho/Glovo) assoziiert, aber zunehmend auch auf traditionelle Beschäftigung angewendet. Die Garante-Entscheidungen zu Foodinho sind die EU-Durchsetzungsgrundlage; die EU-Plattformarbeitsrichtlinie (2024) erweitert spezifische Transparenzrechte auf Plattformarbeitende. Jeder "KI-Scheduler", "KI-Schicht-Optimierer" oder "KI-Produktivitäts-Scorer" in traditioneller Beschäftigung trägt dieselbe rechtliche Exposition, auch wenn sich das Unternehmen nicht als Plattform sieht.

Sind Exit-Interview-Transkripte wirklich hochriskant?

Ja. Sie enthalten typischerweise Art.-9-Informationen (Gesundheit, Gewerkschaftsmitgliedschaft), nennen Dritte, die der Verarbeitung nicht zugestimmt haben, und können Whistleblowing-Inhalte enthalten, die unter EU-Richtlinie 2019/1937 mit eigenständigem Vertraulichkeitsregime geschützt sind. Sie gehören auch zu den reputativ schädlichsten Datenkategorien bei einem Leck. Sie über ein Consumer-LLM zu synthetisieren ist eines der riskantesten einzelnen Shadow-AI-Verhalten, die wir sehen.

Wie lange dauert der 90-Tage-Rollout tatsächlich?

Aus unserer Erfahrung dauert der technische Pilot 4-6 Wochen und die Betriebsratskonsultation 6-8 Wochen in EU-Jurisdiktionen, in denen sie anwendbar ist. Die 90 Tage gehen von paralleler Ausführung aus. Bei sequenzieller Ausführung planen Sie 4-5 Monate ein. Die größte Variable ist die Beschaffungs-Geschwindigkeit, nicht die technische Komplexität.

Wo ist Redactics Datenresidenz für HR-Daten speziell?

Compute und Metadaten-Storage sind EU (Hetzner Helsinki + Cloudflare R2 EU-Jurisdiktion). Der Secure Chat leitet an OpenAI / Anthropic / Google / Mistral auf deren EU-Endpunkten mit Zero Retention und kein Training auf Input unter signierten AVV. Schwärzungszertifikat, Unterauftragsverarbeiter-Liste und AVV sind auf den Trust-Seiten von redactic.eu öffentlich. Für die HR-spezifische Nutzung gilt dieselbe Architektur; nichts am HR-Use-Case umgeht die No-Trace-Garantie.

Hat Ihr Unternehmen Shadow-AI-Nutzung in HR — und das hat es — sind die Kosten des Nichtstuns kein abstraktes regulatorisches Risiko mehr. Es ist ein Workday-artiger Diskriminierungsfall, der darauf wartet, eingereicht zu werden, eine EEOC-Durchsetzungspriorität, eine CNIL- oder Garante-Aktionsvorlage, eine Betriebsratsbeschwerde und eine Sammelklage in der aktiven Pipeline der Diskriminierungs-Klägeranwälte. KI HR Compliance und KI Diskriminierungs-Exposition sind nun ineinandergreifende Risiken — ein undokumentierter Shadow-Workflow ist zugleich ein DSGVO-Verstoß und potenzielle Quelle eines Diskriminierungsanspruchs. Die Lösung ist nicht härter verbieten; die Lösung ist, den offiziellen Pfad schneller als den Shadow-Pfad zu machen und eine Schwärzungsschicht zwischen Team und Modell zu setzen. Die Architektur existiert, die regulatorische Uhr läuft, und der 90-Tage-Rollout ist realistisch. Starten Sie mit der Bestandsaufnahme diese Woche.

Für das fundierende technische Detail hinter der Schwärzungsschicht — Modi, Zertifikate, No-Trace-Architektur, mehrsprachige Erkennung — siehe den Pillar-Leitfaden. Um den Workflow in Aktion zu sehen, deckt die Redactic-Landing die vier Use-Case-Modi mit einer Live-Demo ab.