Shadow AI v kadrovski službi: UI brez kršitev GDPR (2026)

Če leta 2026 vodite kadrovsko ali talentno ekipo, vaše največje tveganje UI ni ponudnik, ki ga je vaš nabavni oddelek pol leta preverjal. Je izkušeni kadrovik, vodja L&D in analitik nagrajevanja, ki ob 23. uri v brezplačen račun ChatGPT na zasebnem prenosniku lepijo življenjepise kandidatov, ocene uspešnosti in plačne tabele, ker je uradno orodje počasnejše. To je shadow AI v kadrovski službi in leži na presečišču dveh predpisov, ki ju v EU zdaj najhitreje izvršujejo: GDPR in uredbe o UI.

To je drugi članek v naši seriji vodnikov o zakrivanju dokumentov. Glavni vodnik obravnava zakrivanje podatkov v vseh primerih uporabe; ta se osredotoča na kadrovsko službo: zaposlovanje, upravljanje uspešnosti, odnose z zaposlenimi, nagrajevanje in L&D. Tam je težava shadow AI najbolj akutna, regulativna izpostavljenost najvišja in operativna rešitev prinaša največjo korist enemu samemu timu. Opomba o obsegu: shadow AI v kadrovski službi v tem članku vključuje zaposlovanje, ista arhitektura pa mora pokrivati več operativno različnih potekov dela, od UI-pregledovanja življenjepisov in pridobivanja talentov do generativnih pomočnikov UI za kadrovsko osebje in kadrovskih klepetalnih robotov za zaposlene. Upravljanje uspešnosti in pisanje posameznih ocen se prekrivata, a sta ločena poteka dela, in oba prizadene enaka težava.

Če je vaše podjetje pogovor „kaj naredimo s ChatGPT“ že imelo in ga izgubilo, je to članek, ki ga lahko date ljudem, ki UI uporabljajo vsak dan. Pojasnjuje, kje se shadow AI pojavlja v kadrovski službi (sedem konkretnih primerov uporabe), zakaj ta uporaba na posebne načine krši GDPR in uredbo o UI, dejanski zapis izvrševanja v letih 2023-2026 (Workday, EEOC, NYC AEDT, italijanski Garante o Foodinho/Glovo, Evropsko sodišče za človekove pravice), kako mora izgledati odobrena alternativa, da jo ljudje res sprejmejo, in uvedbo v desetih korakih, ki pogovor v 90 dneh spremeni v odločitev o odobrenem orodju.

1. Zakaj je kadrovska služba izhodišče za shadow AI

Shadow AI je uporaba potrošniških orodij UI (ChatGPT, Claude, Gemini, Perplexity, Mistral Le Chat, na desetine ovojnic GPT v trgovini App Store) z zaupnimi podatki, mimo vpogleda oddelka IT, običajno prek zasebnih računov. Vsaka funkcija v podjetju je tej izpostavljena v določeni meri; kadrovska služba najbolj. Obstajajo štirje strukturni razlogi.

Prvič, podatki, s katerimi dela kadrovska služba, so večinoma prosto besedilo. Življenjepisi, spremna pisma, komentarji v ocenah uspešnosti, pritožbe zaposlenih, izstopni razgovori, zapiski vodij z individualnih pogovorov, kalibracijske razprave: nič od tega niso tabelarni zapisi, kot so običajno podatki o strankah. Prosto besedilo je ravno tam, kjer se generativna UI zdi najbolj uporabna, zato je skušnjava, da ga prilepite v okno klepeta, največja. Glavni vodnik je zakrivanje osebnih podatkov obravnaval kot tehnično težavo; v kadrovski službi je tudi vedenjska.

Drugič, delo v kadrovski službi je neenakomerno in zahteva presojo. Kadrovik, ki teden dni pred rokom za zaposlitev pregleduje 200 življenjepisov, nima časa vprašati pravne službe, ali je novo orodje za iskanje kandidatov skladno z GDPR. Vodja, ki ob 21. uri piše težko oceno uspešnosti, želi sogovornika za razmislek in ne nabavnega postopka. Uradna orodja, če obstajajo, so bila kupljena za primere HRIS ali ATS in ne za to. Zato kadrovsko osebje po ChatGPT poseže samo.

Tretjič, kadrovski podatki so kot kategorija močno regulirani. 88. člen GDPR državam članicam izrecno omogoča, da določijo podrobnejša pravila za obdelavo podatkov o zaposlenih, in večina je to storila. Uredba o UI uporabe v kadrovski službi razvršča med visoko tveganje v točki 4 Priloge III. Več pravnih redov zunaj EU je napisalo posebne zakone o UI v zaposlovanju: New York City Local Law 144 (Automated Employment Decision Tools, AEDT, v veljavi od julija 2023), Illinois AI Video Interview Act (2020), Colorado AI Act (veljaven od 2026). Površina skladnosti v kadrovski službi je res večja kot pri drugih funkcijah, uporaba shadow AI pa ustvarja nedokumentirano obdelavo po vsej njej.

Četrtič, kadrovska služba stoji med pravno in compliance letvico ter operativnim pritiskom po hitrosti. Isti direktor kadrov, ki mu rečejo, naj z UI doseže dobičke v produktivnosti, je odgovoren tudi za evidence dejavnosti obdelave po GDPR (30. člen), oceno učinka v zvezi z varstvom podatkov za nove tehnologije po 35. členu, pravico iz 22. člena, da za posameznika ne veljajo avtomatizirane odločitve, in v mnogih državah EU za posvetovanje s svetom delavcev o novih orodjih za spremljanje. Brez odobrene alternative, ki obe težavi reši hkrati, se sistem upogne proti senci.

Statistike o shadow AI v kadrovski službi se pogosto ponavljajo v drugačnem obsegu, kot ga je uporabil vir, od kod izvira vsaka številka o shadow AI pa navaja populacijo, metodo in datum za najpogosteje citiranimi.

2. Kje se shadow AI pojavlja v kadrovskih ekipah

Sedem spodnjih primerov uporabe pokriva približno 95 % shadow AI, ki ga vidimo pri kadrovskih revizijah. Vsak ustvarja drugo kategorijo tveganja in drugo priložnost za odobreno alternativo.

1. Pregledovanje življenjepisov in izbor ožjega seznama. Kadrovik v sejo klepeta prilepi 50-200 življenjepisov in prosi: „razvrsti jih po kulturnem ujemanju in tehnični globini v Kubernetesu; daj mi top 10“. Model vidi polna imena, fotografije, naslove, datume rojstva, prejšnje delodajalce in vse druge osebne podatke, ki jih je kandidat razkril. Po 22. členu GDPR popolnoma avtomatizirana odločitev s pravnimi učinki ali podobnim pomembnim vplivom zahteva izrecno pravno podlago; uredba o UI pregledovanje življenjepisov razvršča med visoko tveganje; pristranskost orodij UI za zaposlovanje, ki jo literatura imenuje tudi pristranskost UI pri zaposlovanju, pa ima lastno izpostavljenost diskriminaciji po nacionalnem delovnem pravu. Senčna različica ustvarja nedokumentirano obdelavo posebnih vrst osebnih podatkov (nekateri življenjepisi razkrivajo zdravstvene podatke, članstvo v sindikatu, versko pripadnost) na ameriški končni točki LLM brez DPA. To je učbeniški senčni potek dela pri pridobivanju talentov.

2. Pisanje ocen uspešnosti in upravljanje uspešnosti. Vodja prilepi 12 mesecev zapiskov z individualnih pogovorov in model prosi za osnutek letne ocene. Zapiski običajno vsebujejo neposredne navedke zaposlenega, opažene zdravstvene podatke („tri tedne je bila bolna v tretjem četrtletju“), pogovore o plači in včasih pritožbe čez sodelavce. Pisanje ocen uspešnosti z UI na potrošniški končni točki ustvarja težavo z uvodno izjavo 71 (odločitve s pravnimi učinki ali podobnimi pomembnimi), težavo z 88. členom (obdelava v kontekstu zaposlitve) in pogosto težavo z 9. členom (razkritje posebne vrste). Pristranskost v ocenah uspešnosti, ki jih napiše UI, je dobro dokumentiran način odpovedi: model ojača najmočnejši signal v osnovnih zapiskih, ta signal pa je pogosto že obstoječi vtis vodje o zaposlenem in ne dejansko vedenje zaposlenega.

3. Povzemanje izstopnih razgovorov. Kadrovski poslovni partner opravi izstopne razgovore, nato prepise prilepi v klepetalnega robota, da povzame teme za vodstvo. Prepisi vsebujejo podrobnosti o plačah, obtožbe nadlegovanja, imenske pritožbe čez vodje in včasih prijave kršitev, zaščitene z direktivo EU o prijaviteljih (2019/1937). Senčna različica izpostavi tako osebo, ki odhaja, kot imenovane tretje osebe na javnem LLM. Izstopni razgovori so tudi eno od mest, kjer zaposleni najbolj pričakujejo zaupnost, zato je uhajanje prek orodja UI za ugled resno.

4. Pisanje opisov del in oglasov. Tržnik talentov klepetalnemu robotu poda prejšnji oglas, navodila vodje, ki zaposluje, in oglase konkurentov, da napiše nov opis delovnega mesta. Tveganje za osebne podatke je tu nizko, tveganje diskriminacije pa pomembno: LLM, naučeni na zgodovinskih podatkih o zaposlovanju, nosijo zgodovinsko kodiranje spola in starosti, ki lahko ustvari oglase, ki sistematično odvračajo zaščitene skupine (učbeniški primer je Amazonovo orodje za življenjepise iz leta 2018, ki je znižalo oceno za „women's chess club“). Dokument tehnične pomoči EEOC iz leta 2023 potrjuje, da lahko oglasi kršijo Title VII tudi brez namena.

5. Primerjalna analiza nagrajevanja. Analitik nagrajevanja prilepi tabelo plačnih razredov podjetja in model prosi, naj jo primerja z objavljenimi tržnimi podatki, predlaga novo strukturo ali označi odstopanja. Razredi sami so zaupni, vrstice, povezane z zaposlenimi, so osebni podatki, izhod modela pa je zdaj v ameriškem LLM z možno uporabo za učenje. Primerjalna analiza nagrajevanja prek shadow AI poleg tveganja za zasebnost razkriva tudi konkurenčne informacije.

6. Vprašanja zaposlenih in pomoč pri politikah. Zaposleni kadrovskemu klepetalnemu robotu zastavljajo vprašanja, kot je „sem na starševskem dopustu; kaj mi pripada?“, odgovor pa zahteva pogodbo zaposlenega, državo, vlogo in delovno dobo. Mnoga podjetja so za to postavila generativnega pomočnika UI za kadrovsko službo na potrošniški končni točki, ne da bi se zavedla, da vnos zaposlenega vsebuje zdravstvene podatke („sem na bolniški, ker…“), sindikalno dejavnost („sem na sindikalnem dopustu“) ali družinske podrobnosti. Podatki zaposlenih, ki jih prek takšnih pomočnikov razkrijemo ChatGPT, so ena od težje odkrivnih težav, ker podatki odidejo prek vnosa zaposlenega in ne delodajalca. Italijanski Garante je nakazal, da za pomočnike UI, namenjene zaposlenim, veljajo ista delovnopravna pravila 88. člena kot za obdelavo na strani delodajalca.

7. Algoritemsko upravljanje in načrtovanje delovne sile. Analitik načrtovanja delovne sile LLM poda organigram z imeni, stopnjami, datumi zaposlitve in ocenami ter prosi za scenarije prestrukturiranja ali „seznam zaposlenih z največjim tveganjem odhoda v naslednjih 6 mesecih“. To je algoritemsko upravljanje v smislu primera Foodinho/Glovo in je dalo dve največji izvršilni odločbi o UI v zaposlovanju v EU: 2,6 milijona evrov globe italijanskega Garante za Foodinho (2021) in nadaljnje delo španske AEPD o delavcih prek platform.

Sedem primerov uporabe ima skupen vzorec. Uporabnik ve, da so podatki občutljivi, a se počuti zaščitenega, ker je okno klepeta „samo jaz, ki tipkam“. Model vidi podatke kot vnos; dnevniki ponudnika jih vidijo kot zahtevo; učni tok jih lahko vidi kot učni primer; evidence obdelav vašega podjetja pa ne vidijo ničesar od tega.

3. GDPR, uredba o UI in nacionalno pravo za UI v kadrovski službi

Za uporabo UI v kadrovski službi hkrati veljajo štiri pravne plasti. Niso odveč; vsaka ujame drug način odpovedi.

88. člen GDPR (obdelava v okviru zaposlitve). Države članice lahko določijo podrobnejša pravila za obdelavo osebnih podatkov zaposlenih, med drugim za zaposlovanje, izvajanje pogodbe o zaposlitvi, načrtovanje in organizacijo dela, enakost in raznolikost, zdravje in varnost ter prenehanje zaposlitve. Italija (D.Lgs. 196/2003 s spremembami), Francija (Code du travail L1121-1 in L1222-4), Nemčija (BDSG § 26), Španija (organski zakon 3/2018) in Belgija so to pooblastilo izkoristile. Praktični učinek je, da skladnost v celotni EU ne obstaja: upoštevati morate GDPR in lokalna pravila o podatkih o zaposlenih.

Členi 5, 9 in 22 GDPR: vsebinska hrbtenica za UI v zaposlovanju. 5. člen določa načela (zakonitost, pošteno obravnavanje, preglednost, omejitev namena, najmanjši obseg podatkov, točnost, omejitev shranjevanja, celovitost, odgovornost). 9. člen prepoveduje obdelavo posebnih vrst brez podlage iz drugega odstavka 9. člena, ki je pri zaposlitvi najpogosteje točka (b) drugega odstavka 9. člena, „izpolnjevanje obveznosti na področju delovnega prava“, a samo „če je to dovoljeno s pravom Unije ali držav članic“. 22. člen daje pravico, da za posameznika ne velja odločitev, ki temelji zgolj na avtomatizirani obdelavi, vključno z oblikovanjem profilov, in ima pravne učinke ali nanj na podoben način pomembno vpliva. Smernice EDPB 04/2024 o 22. členu pojasnjujejo, da je „zgolj“ smiseln filter: simboličen človeški pregled ob koncu postopka 22. člena ne obide, izbor v kadrovski službi pa je kanonični primer. Obdelava podatkov zaposlenih po katerem koli od teh členov zahteva pravno podlago, preglednost in dokumentirano oceno.

Uredba o UI, točka 4 Priloge III: uporabe v kadrovski službi z visokim tveganjem. Uredba o UI uporabe v kadrovski službi izrecno navaja kot visoko tvegane: (a) sistemi UI, namenjeni zaposlovanju ali izboru fizičnih oseb, zlasti za objavo ciljno usmerjenih prostih delovnih mest, analizo in filtriranje prijav ter ocenjevanje kandidatov; (b) sistemi UI, namenjeni sprejemanju odločitev, ki vplivajo na pogoje delovnih razmerij, napredovanje ali prenehanje delovnih pogodbenih razmerij, dodeljevanju nalog na podlagi individualnega vedenja ali osebnih lastnosti oziroma značilnosti ali spremljanju in ocenjevanju uspešnosti in vedenja oseb v takih razmerjih. Razvrstitev med visoko tveganje sproži vse obveznosti iz naslova III: sistem za obvladovanje tveganj (9. člen), upravljanje podatkov (10. člen), tehnična dokumentacija (11. člen), vodenje evidenc (12. člen), preglednost (13. člen), človeški nadzor (14. člen), točnost in robustnost (15. člen), ugotavljanje skladnosti, registracija v podatkovni zbirki EU, spremljanje po dajanju na trg in oceno učinka na temeljne pravice (27. člen za javne organe in nekatere zasebne uvajalce). Obveznosti iz uredbe o UI za kadrovsko službo so najzahtevnejši režim skladnosti, v katerem je morala kdaj delovati kakšna kadrovska funkcija. Razvrstitev uporab v kadrovski službi med visoko tveganje po Prilogi III sproži vse to, ocene učinka, ki jih morajo kadrovske ekipe zdaj pripraviti (DPIA po GDPR in FRIA po uredbi o UI), pa so novo operativno dokumentacijsko breme.

Nacionalni zakoni o UI v zaposlovanju. Poleg izvajanja 88. člena GDPR je več pravnih redov napisalo zakone o UI, specifične za zaposlovanje. NYC Local Law 144 (AEDT) od julija 2023 zahteva revizije pristranskosti in obvestilo kandidatom za vsako „avtomatizirano orodje za odločanje o zaposlitvi“, ki „bistveno pomaga“ pri zaposlovanju ali napredovanju v NYC. Illinois AI Video Interview Act (2020) zahteva privolitev, obvestilo o uporabi UI in omejuje deljenje podatkov za UI pri video razgovorih. Colorado AI Act (veljaven od 1. februarja 2026) odraža velik del strukture uredbe o UI za uporabe z visokim tveganjem, vključno z zaposlovanjem. Španija je kodificirala algoritemsko preglednost za delo prek platform (Real Decreto-Ley 9/2021). Italijanski Garante je izdal posebna navodila o biometrični evidenci prisotnosti, geolokaciji in algoritemskem upravljanju. Francoski CNIL je izdal priporočila posebej o UI v kadrovski službi (2024).

Praktični zaključek: vsaka uvedba UI v kadrovski službi leta 2026 mora hkrati skozi GDPR, uredbo o UI, nacionalno pravo o podatkih o zaposlenih in, kjer je ustrezno, zakon o UI, specifičen za zaposlovanje. Uporaba shadow AI obide vse.

4. Sedem posebnih načinov, kako shadow AI v kadrovski službi krši skladnost

Če to predstavljate upravi ali svetu delavcev in potrebujete konkreten seznam, kaj shadow AI dejansko krši, je tu operativna različica.

1. 28. člen: obdelovalec brez DPA. Potrošniški račun ChatGPT ni pogodba o obdelavi podatkov. Izkušeni kadrovik, ki lepi življenjepise, ustvarja obdelavo v imenu podjetja brez klavzul iz tretjega odstavka 28. člena, brez razkritja podobdelovalcev in brez pogodbene podlage za ravnanje v imenu podjetja.
2. 30. člen: nevidna dejavnost obdelave. Evidence dejavnosti obdelave za kadrovsko službo običajno pokrivajo ATS, HRIS, ponudnika plač in platformo L&D. Ne pokrivajo zasebne uporabe ChatGPT pri kadroviku. Evidenca podjetja po 30. členu je zato bistveno nepopolna, kar je samo po sebi kršitev, neodvisna od kakršnega koli uhajanja podatkov.
3. 9. člen: nedokumentirana obdelava posebnih vrst podatkov. Življenjepisi in razprave o uspešnosti rutinsko vsebujejo podatke iz 9. člena (zdravje, članstvo v sindikatu, vera, spolna usmerjenost). Njihova obdelava na potrošniškem LLM ustvarja obdelavo po 9. členu brez podlage iz drugega odstavka 9. člena in brez dodatnih zaščit.
4. 22. člen: izključno avtomatizirana odločitev. Če se shadow AI uporablja za razvrščanje kandidatov in kadrovik razvrstitev izvede, je človeški pregled štampiljka; odločitev „temelji zgolj na avtomatizirani obdelavi“ v smislu 22. člena in uvodne izjave 71. Sodba Sodišča EU SCHUFA (C-634/21, december 2023) je potrdila široko razlago besede „zgolj“.
5. Člena 5 in 35: brez ocene učinka. Obdelava z visokim tveganjem zahteva DPIA po 35. členu, uredba o UI pa pri mnogih uvedbah v kadrovski službi doda oceno učinka na temeljne pravice. Pri uporabi shadow AI je nikoli ni.
6. 88. člen in nacionalno delovno pravo. Večina pravnih redov EU zahteva neko obliko posvetovanja s svetom delavcev (Italija 4. člen Statuto dei Lavoratori; Nemčija Betriebsverfassungsgesetz § 87; Francija Code du travail L2312-38) pred uvedbo tehnologije spremljanja ali ocenjevanja. Shadow AI je tehnologija spremljanja, uvedena brez posvetovanja.
7. Čezmejni prenosi in Schrems II. Potrošniški računi ChatGPT, Claude in Gemini podatke privzeto usmerjajo v ameriške računske zmogljivosti. Ocene učinka prenosa ni, standardnih pogodbenih klavzul ni, podjetje pa ne ve, da do prenosa prihaja. To je pri reviziji najlažje dokazljiva kršitev GDPR, ker so že omrežni dnevniki zadosten dokaz.

Sedem kršitev se sešteva. Ena sama senčna seja pregledovanja življenjepisov lahko sproži šest od sedmih hkrati. Španska AEPD je izrekla globe tudi za manj.

5. Dejansko izvrševanje in cena nedelovanja

Kadrovske ekipe pravno izpostavljenost včasih zavrnejo kot teoretično. Zapis iz let 2023-2026 govori drugače. To so primeri, ki bi jih leta 2026 moral poznati vsak vodja kadrovske službe.

Workday (ZDA, 2024-2025). Zvezna skupinska tožba Mobley v. Workday trdi, da algoritem Workday za pregledovanje kandidatov diskriminira prijavitelje zaradi rase, starosti in invalidnosti. Sodišče je julija 2024 zavrnilo predlog Workday za zavrženje tožbe in maja 2025 potrdilo kolektivno tožbo ter sprejelo teorijo, da se lahko orodje UI za pregledovanje po Title VII obravnava kot zastopnik delodajalca. To je prvi primer, ki ugotavlja, da lahko za diskriminatorne rezultate odgovarja sam ponudnik UI, kar širi površino odgovornosti prek delodajalca.

Tehnična pomoč EEOC in zapis poravnav (ZDA, 2023-2026). Dokument tehnične pomoči EEOC iz maja 2023 o UI pri izboru zaposlenih je določil okvir za uporabo Title VII (posredna diskriminacija) na orodja UI. V zadevi EEOC v. iTutorGroup (avgust 2023, poravnava za 365.000 USD) je EEOC trdila, da je programska oprema podjetja za zaposlovanje programsko zavračala starejše prijaviteljice. EEOC še naprej dodaja primere diskriminacije z UI na svoj seznam skozi vse leto 2026; strateški načrt izvrševanja iz maja 2023 je diskriminacijo, ki jo poganja UI, opredelil kot prioriteto.

Izvrševanje NYC AEDT Law 144 (ZDA, 2023-2026). Od 5. julija 2023 morajo delodajalci, ki za zaposlovanje ali napredovanje v NYC uporabljajo „avtomatizirano orodje za odločanje o zaposlitvi“, vsako leto opraviti neodvisno revizijo pristranskosti, objaviti povzetek rezultatov in obvestiti kandidate. Izvrševanje je zmerno, a resnično, obstoj zakona pa je bistveno preoblikoval vedenje ponudnikov na ameriškem trgu zaposlovanja. Več podjetij je funkcije UI umaknilo s trga NYC, namesto da bi se prilagodila.

Italijanski Garante o Foodinho / Glovo (Italija, 2021-2024). Garante je Foodinho (Glovo Italija) leta 2021 izrekel 2,6 milijona evrov globe zaradi načina, kako je algoritem za ocenjevanje kurirjev obdeloval osebne podatke brez ustrezne podlage po 88. členu in brez zadostne preglednosti, ter leta 2024 znova 5 milijonov evrov v povezanih zadevah. Odločba je temeljna za skladnost algoritemskega upravljanja v Italiji in je bila obsežno citirana v poznejših odločbah po vsej EU.

Italijanski Garante o biometrični evidenci prisotnosti (Italija, 2022-2025). Zaporedne odločbe so ugotovile, da biometrični sistemi prisotnosti in vstopni sistemi z prepoznavo obraza na delovnih mestih zahtevajo posebno pravno podlago poleg privolitve (ki je v kontekstu zaposlitve neveljavna zaradi neravnovesja moči), in so razveljavile več uvedb. Vzorec velja neposredno za vsako orodje UI, ki obdeluje biometrične podatke zaposlenih.

Navodila CNIL o UI v kadrovski službi (Francija, 2024-2025). CNIL je leta 2024 objavil navodila, ki potrjujejo, da mora vsaki uvedbi UI v kadrovski službi predhoditi DPIA, da mora temeljiti na drugi pravni podlagi kot privolitev, vključevati človeški nadzor in spoštovati zahtevo po posvetovanju s svetom delavcev. Regulativno ukrepanje CNIL proti orodjem algoritemskega upravljanja v francoskem javnem sektorju je postavilo merila, ki jih morajo izpolnjevati tudi zasebni delodajalci.

Evropsko sodišče za človekove pravice o spremljanju na delovnem mestu. Sodba velikega senata Bărbulescu proti Romuniji (2017) in novejša López Ribalda proti Španiji (2019) določata evropsko izhodišče za spremljanje na delovnem mestu: delodajalec mora vnaprej jasno in pregledno obvestiti, ukrepi pa morajo biti sorazmerni. Vedenjsko spremljanje na podlagi UI to izhodišče podeduje, uporaba podatkov o uspešnosti zaposlenih v shadow AI pa je zunaj njega skoraj po definiciji.

OpenAI / italijanski Garante (2023-2024). Garantejeva začasna prepoved ChatGPT 30. marca 2023, predhodne ugotovitve delovne skupine EDPB za ChatGPT maja 2024 in 15 milijonov evrov globe, izrečene samemu OpenAI decembra 2024, skupaj potrjujejo, da je obdelava na strani LLM zdaj dejavno izvrševano področje skladnosti. Shadow AI v kadrovski službi vsa ta tveganja podeduje posredno.

Skupni učinek je, da direktor kadrov ne more več predpostavljati, da se „nam še ni nič zgodilo“. Zapis je dovolj gost, da je vprašanje, kdaj in ne ali.

6. Kako izgleda odobrena kadrovska UI, ki je hitrejša od sence

Občutljive informacije pripravite pred neobvezno nalogo UI, preglejte pripravljeno vsebino ter presodite pogoje ponudnika in preostalo možnost identifikacije. Pri kadrovskih potekih dela mora biti zmanjšanje količine podatkov v paru z ustreznim upravljanjem, človeškim nadzorom in zahtevami, specifičnimi za zaposlovanje.

(a) Zakrivanje, ki pozna vlogo. Potek dela pregledovanja življenjepisov mora zakriti ime kandidata, fotografijo, datum rojstva, naslov in vsako razkritje po 9. členu, vendar ne sme zakriti kvalifikacij, izkušenj, izobrazbe in veščin. Osnutek ocene uspešnosti mora zakriti ime zaposlenega in vsako tretjo osebo, omenjeno v zapiskih, vendar ohraniti osnovno vedenje. Splošno orodje, ki zakrije vse, uniči vrednost poteka dela. Odobreno orodje mora razumeti kadrovske kategorije entitet na podrobnosti, ki jo delo dejansko zahteva.

(b) Dokumentirana veriga ponudnikov. Preglejte DPA družbe Redactic glede podobdelovalcev storitve, njihovih vlog in veljavnih pogojev obveščanja o spremembah. Potrdite, kateri neobvezni ponudnik in kateri potek dela sta izbrana za kadrovsko vsebino in katere kategorije informacij se lahko delijo.

(c) Higiena po 22. členu privzeto. Orodje mora strukturno preprečevati izide, ki „temeljijo zgolj na avtomatizirani obdelavi“. V praksi to pomeni, da je izhod vedno svetovalen, da ima vsaka posamezna odločitev zabeleženega človeškega pregledovalca z dokumentiranim korakom pregleda in da revizijski dnevnik pristranskosti beleži delež človeških prepisov. Pisanje ocen uspešnosti z UI pod to disciplino da osnutek, ki ga vodja vsebinsko ureja; plast zakrivanja naredi vnos varen; plast človeškega pregleda naredi izhod varen po 22. členu.

(d) Dokazi o upravljanju. Določite, katere evidence obdelav, ocene, obvestila in posvetovalne dokumente vaša organizacija zahteva. Potrdilo o zakrivanju lahko podpre evidence dejanj; ne nadomešča DPIA, ocene pristranskosti, postopka s svetom delavcev ali drugih veljavnih obveznosti.

Prepoznavanje in zakrivanje dokumentov v družbi Redactic poteka v evropski infrastrukturi, ki jo nadzoruje Redactic, brez sklepanja UI ali strojnega učenja tretjih oseb nad nezakrito vsebino. Neobvezni poteki dela z UI so ločeni: najdene občutljive vrednosti se odstranijo ali zamenjajo, preden se pripravljena vsebina pošlje izbranemu ponudniku. Preglejte besedilo dokumenta, dodatna navodila in sporočila v klepetu; spregledane vrednosti in kontekstualne podrobnosti lahko še vedno identificirajo osebe. Ponudnik, regija, hramba in pogoji učenja so odvisni od izbranega poteka dela in veljavne pogodbe. Več: redactic.eu

Če želite uporabljati UI brez razkrivanja imen in identifikatorjev, lahko Redactic pripravi vaše dokumente za UI: najdene vrednosti postanejo nadomestne oznake, prava imena pa se vrnejo v vaš brskalnik, ko prispe odgovor.

7. 90-dnevna uvedba za kadrovske vodje

To je načrt v desetih korakih, ki ga uporabljamo s kadrovskimi vodjami, ki prvič uvajajo odobreno UI. Predpostavlja, da imate danes v organizaciji shadow AI (skoraj zagotovo ga imate) in želite v četrtletju preiti na odobreno alternativo.

1. Dan 0-7. Notranji popis senčne uporabe. Vprašajte kadrovsko službo, L&D in zaposlovanje, katera orodja UI dejansko uporabljajo, za katere naloge in s kakšnimi podatki. Obljubite amnestijo za iskrene odgovore: potrebujete resnico in ne uradnega odgovora. Pričakujte ChatGPT v več kot 70 % odgovorov, Gemini in Claude v 30-50 % in dolg rep specializiranih orodij.
2. Dan 7-14. Primere uporabe razvrstite v sedem zgornjih kategorij. Vsakega označite z visoko, srednjo ali nizko občutljivostjo podatkov. Vsakega označite kot visoko tveganje po Prilogi III uredbe o UI ali ne. To je vaš začetni popis postopkov obdelave.
3. Dan 14-30. Izhodišče skladnosti. Opravite analizo vrzeli glede na sedem kršitev iz razdelka 4. Pooblaščenec za varstvo podatkov in pravna služba analizo vrzeli podpišeta. Postane poslovna utemeljitev za odobreno orodje in dokazna sled, če se medtem pojavi regulator.
4. Dan 30-45. Izbira ponudnika. Uporabite kontrolni seznam z 8 točkami iz glavnega vodnika s kadrovsko specifično težo pri (b) in (d) zgoraj (zakrivanje, ki pozna vlogo, in gradiva za svet delavcev). Nabava podpiše DPA, seznam podobdelovalcev in, kjer je ustrezno, standardne pogodbene klavzule.
5. Dan 45-60. DPIA in FRIA. DPIA pokriva stran GDPR, FRIA pa stran uredbe o UI; obe sta zahtevani za kadrovske uporabe z visokim tveganjem. Potrdilo o zakrivanju ponudnika, predloga za revizijo pristranskosti in seznam podobdelovalcev neposredno napajajo oba dokumenta.
6. Dan 60-70. Svet delavcev in preglednost do zaposlenih. Obvestite svet delavcev v skladu z veljavnim nacionalnim pravom, začnite posvetovanje, pripravite obvestilo za zaposlene (13. in 14. člen GDPR ter preglednost po 26. členu uredbe o UI). Obvestilo objavite.
7. Dan 70-80. Pilot z enim timom. Izberite ekipo z največ senčne uporabe, običajno starejše kadrovike ali kadrovske poslovne partnerje, in jo uvedite v odobreno orodje. Sprejem merite glede na izhodiščno senčno uporabo. Edini preizkus uspeha je, ali senčna uporaba do tedna 2 upade.
8. Dan 80-85. Prilagodite profil trenja. Če je odobreno orodje počasnejše od senčne poti, odpravite trenje (SSO, razširitev brskalnika, privzeti modeli, zakasnitev). Arhitektura zmaga le, če je hitrejša in ne le varnejša.
9. Dan 85-90. Širša uvedba. Razširite na naslednje 2-3 ekipe. Prepoved shadow AI postane verodostojna šele, ko so uradno orodje videli delovati v pilotni ekipi.
10. Dan 90+. Stalna skladnost. Mesečni pregled poročila o reviziji pristranskosti, četrtletni pregled seznama podobdelovalcev, letna posodobitev DPIA/FRIA. Dnevniki odobrenega orodja napajajo gradiva za regulatorja; popis senčne uporabe se ponavlja četrtletno, da ostane senčna uporaba nizka.

Dve stvari, ki jih lahko pričakujete. Prvič, korak s svetom delavcev je mesto, kjer se uvajanja najpogosteje upočasnijo: začnite ga na dan 60, tudi če tehnični pilot ni pripravljen, in izvajajte oboje vzporedno. Drugič, uravnavanje trenja na dneve 80-85 je običajno razlika med uspešno uvedbo in tisto, ki obstane pri 20-odstotnem sprejemu. Senčna pot ne preneha biti privlačna samo zato, ker je zdaj uradno prepovedana; preneha biti privlačna, ko je odobrena pot resnično hitrejša.

8. Pogosta vprašanja

Ali ne morem ChatGPT preprosto blokirati v podjetniškem omrežju?

Lahko, in veliko podjetij je to storilo. Težave ne reši. Senčna uporaba se preseli na zasebne telefone, zasebne prenosnike v domačem omrežju in zasebne račune na službenih napravah. Omrežne prepovedi brez odobrene alternative so teater skladnosti, ki prinaša manjši vpogled in ne manjšega tveganja. Razdelek o shadow AI v glavnem vodniku to dinamiko podrobno obravnava.

Ali 22. člen GDPR res sproži predizbor kandidatov z UI?

Sodba Sodišča EU v zadevi SCHUFA (C-634/21, december 2023) je potrdila široko razlago besed „samo na podlagi avtomatizirane obdelave“. Če človeški odločevalec v praksi le potrdi rezultat UI, se odločitev obravnava kot izključno avtomatizirana. Smernice EDPB 04/2024 to potrjujejo. Varna predpostavka je, da mora imeti vsako orodje UI za predizbor vgrajene zaščite iz 22. člena: dokumentiran vsebinski človeški pregled, obrazložitev in možnost izpodbijanja.

Ali se uredba o UI uporablja za mojo rabo ChatGPT v kadrovski službi, čeprav ga nisem zgradil?

Da. Uredba o UI velja za uvajalce sistemov UI z visokim tveganjem in ne le za ponudnike. Če vaša kadrovska ekipa uporablja sistem UI za kateri koli namen iz točke 4 Priloge III, ste uvajalec in nosite obveznosti uvajalca: človeški nadzor, spremljanje, preglednost do prizadetih oseb, vodenje evidenc in v mnogih primerih oceno učinka na temeljne pravice. Uporaba potrošniškega LLM vas ne odveže; skladnost oteži, ker manjka dokumentacija, ki bi vam jo ponudnik moral zagotoviti po 13. členu.

Ali je primer Workday zavezujoč zunaj ZDA?

Neposredno ne, a pravna teorija, da se lahko ponudnika UI pri diskriminaciji obravnava kot zastopnika delodajalca, se širi. Evropska mreža teles za enakost je primer navedla v svojem komentarju iz leta 2025, več pravnih redov EU pa razmišlja o podobni razlagi po direktivi o rasni enakosti (2000/43/ES) in direktivi o enakem obravnavanju pri zaposlovanju (2000/78/ES). Načrtujte, kot da teorija velja.

Ali lahko svet delavcev blokira naše uvajanje UI?

V več pravnih redih EU, vključno z Nemčijo po BetrVG § 87 odst. 1 št. 6 in Italijo po 4. členu Statuto dei Lavoratori, da: soodločanje sveta delavcev o tehnologiji spremljanja in ocenjevanja je obvezno. Opustitev posvetovanja lahko privede do retroaktivne prekinitve uvajanja in dodatnih upravnih sankcij. Prava strategija je, da posvetovanje začnete prvi dan izbire ponudnika in ne po uvedbi.

Ali zakrivanje življenjepisa samo reši težavo z uredbo o UI?

Ne. Zakrivanje reši težavo GDPR z uhajanjem podatkov pri poti do LLM. Obveznosti iz uredbe o UI (razvrstitev med visoko tveganje, obvladovanje tveganj, človeški nadzor, preglednost, revizija pristranskosti, FRIA) veljajo neodvisno in jih zakrivanje ne izpolni. Plasti delujeta skupaj: plast zakrivanja ohranja načelo najmanjšega obsega podatkov čisto; človeški pregled in revizijska plast ohranjata čiste obveznosti iz uredbe o UI.

Kaj je „algoritemsko upravljanje“ in kako se razlikuje od UI v kadrovski službi?

Algoritemsko upravljanje je uporaba avtomatiziranih sistemov za dodeljevanje nalog, spremljanje uspešnosti in odločanje o delavcih. Najpogosteje je povezano z delom prek platform (Foodinho/Glovo), vedno bolj pa se uporablja tudi v tradicionalnem zaposlovanju. Odločbe italijanskega Garante o Foodinho so temeljno izvrševanje v EU; direktiva EU o delu prek platform (2024) delavcem prek platform razširja posebne pravice do preglednosti. Vsak „UI-planer“, „UI-optimizator izmen“ ali „UI-ocenjevalec produktivnosti“ v tradicionalnem zaposlovanju prinaša enako pravno izpostavljenost, tudi če se podjetje ne šteje za platformo.

Ali so prepisi izstopnih razgovorov res visoko tvegani?

Da. Običajno vsebujejo podatke iz 9. člena (zdravje, članstvo v sindikatu), imenujejo tretje osebe, ki v obdelavo niso privolile, in lahko vsebujejo prijave kršitev, zaščitene z direktivo EU 2019/1937 z ločenim režimom zaupnosti. Spadajo tudi med kategorije podatkov, katerih uhajanje najbolj škodi ugledu. Njihovo povzemanje prek potrošniškega LLM je eno najtveganejših posameznih ravnanj shadow AI, kar jih opazimo.

Kako dolgo uvajanje v 90 dneh dejansko traja?

Po naših izkušnjah tehnični pilot traja 4-6 tednov, posvetovanje s svetom delavcev pa 6-8 tednov v pravnih redih EU, kjer velja. 90 dni predpostavlja vzporedno izvajanje. Če ju izvajate zaporedno, računajte na 4-5 mesecev. Največja spremenljivka je hitrost nabave in ne tehnična zapletenost.

Kje so podatki kadrovske službe pri Redactic natančno shranjeni?

Dokumenti in rezultati za obdelavo uporabljajo začasno shrambo v evropski infrastrukturi, ki jo nadzoruje Redactic. Vključena je lahko začasna obdelava podatkov za obnovitev na strani strežnika. Evidence računov, obračunavanja, privolitev in dejanj se obravnavajo ločeno. Pogoje hrambe in izbrisa najdete v pogodbi o obdelavi podatkov (DPA) in obvestilu o zasebnosti družbe Redactic, za potrditev profila vašega poteka dela pa nas lahko povprašate. Več: strani zaupanja na redactic.eu

Če ima vaše podjetje shadow AI v kadrovski službi (in ga ima), cena nedelovanja ni več abstraktno regulativno tveganje. To je diskriminacijska tožba v slogu Workday, ki čaka na vložitev, izvršilna prioriteta EEOC, vzorec za ukrepe CNIL ali Garante, pritožba sveta delavcev in skupinska tožba, ki jo odvetniki, ki zastopajo tožnike v diskriminacijskih zadevah, že pripravljajo. Rešitev ni strožja prepoved; rešitev je, da odobreno pot naredite hitrejšo od senčne in med ekipo in model vstavite plast zakrivanja. Skladnost in izpostavljenost diskriminaciji pri UI v kadrovski službi sta zdaj prepleteni tveganji: nedokumentiran senčni potek dela je hkrati kršitev GDPR in možen vir zahtevkov zaradi diskriminacije. Arhitektura obstaja, regulativna ura teče in 90-dnevna uvedba je realna. Z popisom začnite ta teden.

Temeljne tehnične podrobnosti plasti zakrivanja (načini, potrdila, arhitektura brez sledi, večjezično prepoznavanje) najdete v glavnem vodniku. Potek dela v praksi pokaže domača stran družbe Redactic, ki predstavi štiri načine uporabe z demonstracijo v živo.