AI Act a dane osobowe – co się zmienia dla działów HR i rekrutacji?

Wprowadzenie do AI Act i jego znaczenia dla działów HR

W kwietniu 2024 roku Parlament Europejski przyjął Akt o sztucznej inteligencji (AI Act) – pierwsze na świecie kompleksowe ramy prawne regulujące wykorzystanie systemów sztucznej inteligencji. Celem tego aktu prawnego jest zapewnienie, że AI stosowana w Unii Europejskiej będzie bezpieczna, przejrzysta, etyczna i zgodna z prawami podstawowymi obywateli. Dla działów HR i zespołów rekrutacyjnych oznacza to istotne zmiany w podejściu do przetwarzania danych kandydatów i pracowników oraz wykorzystywania narzędzi opartych na AI.

AI Act wprowadza klasyfikację systemów sztucznej inteligencji według poziomów ryzyka – od minimalnego, przez ograniczone, aż po wysokie i niedopuszczalne. Szczególne znaczenie dla HR ma kategoria systemów wysokiego ryzyka, do której zaliczają się m.in. rozwiązania wykorzystywane w procesach rekrutacji, oceny pracowników, zarządzania kapitałem ludzkim czy prognozowania wydajności.

W praktyce może to obejmować m.in.:

• automatyczne systemy do przetwarzania CV i listów motywacyjnych,
• algorytmy służące do oceniania kompetencji kandydatów,
• narzędzia wspierające podejmowanie decyzji o zatrudnieniu lub awansie,
• oprogramowanie analizujące dane behawioralne pracowników.

Wprowadzenie AI Act wymusza na organizacjach większą odpowiedzialność za sposób, w jaki używają sztucznej inteligencji oraz przetwarzają dane osobowe związane z HR. Działy kadrowe muszą nie tylko dostosować swoje procesy do nowych przepisów, ale również zapewnić zgodność narzędzi AI z wymaganiami dotyczącymi etyki, przejrzystości i ochrony prywatności. Nowe regulacje stawiają przed zespołami HR wyzwania, ale też otwierają drogę do bardziej sprawiedliwego i zrównoważonego wykorzystania technologii w obszarze zarządzania personelem.

Nowe obowiązki działów HR w zakresie przetwarzania danych osobowych

Wraz z wejściem w życie AI Act, działy HR stają przed koniecznością dostosowania się do nowych regulacji dotyczących wykorzystania systemów sztucznej inteligencji w przetwarzaniu danych osobowych. Dotyczy to w szczególności systemów używanych w rekrutacji, ocenie pracowników czy planowaniu zatrudnienia, które mogą zostać zakwalifikowane jako systemy wysokiego ryzyka.

Nowe obowiązki obejmują m.in.:

• Identyfikację i klasyfikację systemów AI wykorzystywanych w działaniach HR – działy muszą zrozumieć, czy używane narzędzia podlegają pod kategorię wysokiego ryzyka zgodnie z AI Act.
• Zapewnienie zgodności z zasadami ochrony danych osobowych – konieczne będzie ponowne przeanalizowanie, czy dane zbierane i przetwarzane przez systemy AI są adekwatne, ograniczone do niezbędnego minimum oraz przetwarzane zgodnie z podstawą prawną.
• Obowiązek przejrzystości wobec kandydatów i pracowników – osoby, których dane są przetwarzane przez systemy AI, muszą być o tym jasno informowane, w tym o celach, zasadach działania i możliwych skutkach zastosowania takich narzędzi.
• Monitorowanie i dokumentowanie decyzji podejmowanych przez AI – działy HR będą musiały prowadzić dokumentację dotyczącą działania systemów AI, w tym czynników wpływających na decyzje rekrutacyjne lub kadrowe.
• Szkolenie personelu – osoby korzystające z systemów AI w HR powinny być odpowiednio przeszkolone w zakresie obsługi tych narzędzi oraz rozumienia ich ograniczeń i ryzyk.

Zmiany te wymagają nie tylko dostosowania procedur wewnętrznych, ale również ściślejszej współpracy z działami prawnymi i IT, by zapewnić zgodność z nowymi przepisami i zminimalizować ryzyko naruszeń praw osób, których dane są przetwarzane.

Wpływ AI Act na proces rekrutacji i selekcji kandydatów

AI Act wprowadza istotne zmiany w sposobie, w jaki systemy sztucznej inteligencji mogą być wykorzystywane w procesach rekrutacyjnych. Dotyczy to zarówno etapów selekcji kandydatów, jak i analizy ich profili, a także automatyzacji decyzji kadrowych. W szczególności akt klasyfikuje systemy AI stosowane w rekrutacji jako wysokiego ryzyka, co oznacza konieczność spełnienia określonych wymogów dotyczących przejrzystości, bezpieczeństwa i zgodności z prawami podstawowymi.

Poniższa tabela ilustruje wybrane zmiany, jakie wprowadza AI Act w porównaniu do dotychczasowych praktyk:

Przykładowo, jeśli firma korzysta z narzędzia opartego na AI do oceny profili kandydatów w oparciu o dane z portali społecznościowych, po wejściu w życie AI Act będzie zobowiązana do zapewnienia, że system ten nie prowadzi do dyskryminacji oraz że kandydat zostanie poinformowany o zastosowaniu takiego rozwiązania.

# Przykładowy fragment kodu używanego do scoringu kandydatów
from sklearn.ensemble import RandomForestClassifier
model = RandomForestClassifier()
model.fit(X_train, y_train)

# Zgodnie z AI Act, należy zapewnić, że ten model:
# - nie dyskryminuje (np. ze względu na płeć, wiek)
# - umożliwia wyjaśnienie decyzji (explainability)

W praktyce oznacza to konieczność przeglądu i modyfikacji wielu narzędzi rekrutacyjnych wykorzystywanych obecnie przez działy HR oraz dostosowania ich do nowych ram prawnych przewidzianych przez AI Act. Aby lepiej przygotować się na nadchodzące zmiany, warto rozważyć udział w szkoleniu Kurs AI Act w praktyce – compliance, ryzyka i obowiązki.

Zasady stosowania sztucznej inteligencji w analizie danych personalnych

W kontekście nowych regulacji wprowadzonych przez AI Act, korzystanie z narzędzi sztucznej inteligencji do analizy danych personalnych w działach HR musi odbywać się zgodnie z jasno określonymi zasadami. AI Act klasyfikuje systemy AI według poziomu ryzyka, co wpływa bezpośrednio na sposób ich wykorzystywania w analizie danych kandydatów i pracowników.

Najważniejsze zasady, które należy uwzględnić przy stosowaniu AI w analizie danych osobowych, to:

• Minimalizacja ryzyka: Systemy AI używane do przetwarzania danych HR (np. CV, wyników testów, historii zatrudnienia) muszą być tak zaprojektowane, aby ryzyko naruszenia prywatności i dyskryminacji było jak najmniejsze.
• Transparentność działania: Kandydaci lub pracownicy powinni być informowani, że ich dane przetwarzane są przez systemy AI oraz w jakim celu.
• Zrozumiałość i audytowalność: Algorytmy stosowane w analizie muszą być możliwe do wyjaśnienia – dział HR powinien móc uzasadnić każdą decyzję podjętą przez system.
• Zgoda i podstawy prawne: Przetwarzanie danych osobowych przy pomocy AI powinno opierać się na odpowiednich podstawach prawnych, np. zgodzie lub uzasadnionym interesie.
• Równość i brak uprzedzeń: Systemy AI nie mogą faworyzować ani dyskryminować żadnej grupy kandydatów, co oznacza konieczność wdrożenia mechanizmów kontroli uprzedzeń algorytmicznych.

Poniższa tabela przedstawia różnice między tradycyjną analizą danych HR a analizą wspieraną przez AI:

Przykładowo, wykorzystanie prostego modelu AI do oceny zgodności doświadczenia kandydata z wymogami stanowiska może wyglądać następująco:

from sklearn.feature_extraction.text import TfidfVectorizer
from sklearn.metrics.pairwise import cosine_similarity

# Przykładowe CV i opis stanowiska
cv_text = "Doświadczony specjalista IT z 5-letnim stażem w Pythonie i SQL"
job_desc = "Szukamy programisty z doświadczeniem w Pythonie i bazach danych"

# Wektoryzacja i obliczenie podobieństwa
vectorizer = TfidfVectorizer()
tf_matrix = vectorizer.fit_transform([cv_text, job_desc])
similarity = cosine_similarity(tf_matrix[0:1], tf_matrix[1:2])

print(f"Podobieństwo CV do ogłoszenia: {similarity[0][0]:.2f}")

Choć taki model może przyspieszyć analizę, dział HR musi upewnić się, że jego stosowanie jest zgodne z AI Act, a wynik procesu nie prowadzi do nieuzasadnionej dyskryminacji.

Ocena ryzyka i zgodność z AI Act w kontekście HR

AI Act wprowadza wymóg szczegółowej oceny ryzyka dla systemów sztucznej inteligencji, które są stosowane w obszarach o wysokim ryzyku – a do takich zalicza się m.in. obszar zarządzania zasobami ludzkimi i rekrutacji. Działy HR, wdrażające technologie oparte na AI, będą musiały nie tylko zapewnić zgodność z nowymi przepisami, ale i wykazać się proaktywnym podejściem do identyfikacji zagrożeń, jakie mogą one nieść dla praw i wolności osób fizycznych.

Ocena ryzyka zgodnie z AI Act powinna uwzględniać m.in.:

• zakres przetwarzanych danych osobowych,
• potencjalne uprzedzenia algorytmiczne (bias),
• możliwość błędów w klasyfikacji kandydatów,
• brak przejrzystości działania systemu AI (tzw. black-box AI),
• wpływ decyzji podejmowanych przez AI na dalsze życie zawodowe pracownika lub kandydata.

Dodatkowo, AI Act nakłada obowiązek dokumentowania zgodności systemów AI wykorzystywanych w HR z wymaganiami regulacyjnymi. Oznacza to konieczność prowadzenia tzw. technicznej dokumentacji zgodności, zawierającej m.in. opis funkcjonalności systemu, danych uczących, metryk wydajności oraz mechanizmów nadzoru.

Aby ułatwić ocenę zgodności, można przyjąć uproszczony model analizy ryzyka, np.:

W praktyce oznacza to konieczność wdrożenia jasnych procedur audytu oraz wewnętrznych polityk nadzoru. Proste narzędzia, takie jak checklisty zgodności, czy półautomatyczne narzędzia analizy ryzyka mogą wspierać działy HR w realizacji tych zadań.

{
  "system": "AI w selekcji CV",
  "ocenaRyzyka": "wysokie",
  "zgodnosc": {
    "audyt": true,
    "analizaBiasu": true,
    "przejrzystosc": "częściowa",
    "opisTechniczny": "dokumentacja_v1.2.pdf"
  }
}

Podsumowując, skuteczna ocena ryzyka i zgodność z AI Act wymagają nie tylko znajomości przepisów, ale i aktywnego zarządzania technologią – od momentu jej wyboru, poprzez wdrożenie, aż po codzienne użytkowanie. Warto również zadbać o odpowiednie przeszkolenie zespołu – pomocny może być Kurs RODO w praktyce: bezpieczeństwo danych osobowych w organizacji, który kompleksowo omawia kwestie ochrony danych w kontekście nowych regulacji.

Najlepsze praktyki wdrażania AI zgodnie z AI Act w rekrutacji

Implementacja rozwiązań opartych na sztucznej inteligencji w działach HR i rekrutacji wymaga dostosowania się do nowych wymogów prawnych wynikających z AI Act. Aby zapewnić zgodność, warto wdrażać sprawdzone praktyki, które minimalizują ryzyko prawne, zwiększają przejrzystość procesów i budują zaufanie kandydatów.

• Ocena klasy ryzyka systemu AI – Zanim system zostanie wdrożony, należy określić jego klasę ryzyka zgodnie z AI Act. Narzędzia wykorzystywane w rekrutacji (np. ocena CV, analiza video, scoring kandydatów) często kwalifikują się jako systemy wysokiego ryzyka.
• Wdrożenie mechanizmów audytowalności – Systemy AI powinny posiadać funkcje umożliwiające ich kontrolę i wyjaśnienie decyzji. Przykładowo, należy rejestrować działania algorytmu oraz umożliwić ich późniejszą analizę.
• Transparentność wobec kandydatów – Osoby aplikujące na stanowiska muszą być informowane o wykorzystaniu AI w procesie rekrutacji, jego celu oraz wpływie na podejmowane decyzje.
• Szkolenia dla zespołów HR – Personel odpowiedzialny za rekrutację powinien być przeszkolony z zakresu działania i ograniczeń wykorzystywanych narzędzi AI. Pozwala to na świadome i odpowiedzialne ich stosowanie.
• Weryfikacja dostawców technologii – Przy wyborze rozwiązań AI należy upewnić się, że dostawca spełnia wymagania AI Act. Umowy powinny jasno określać odpowiedzialność za zgodność z przepisami.

Poniżej przykładowa tabela ukazująca różnice między podejściem tradycyjnym a zgodnym z AI Act:

Wdrożenie zgodne z AI Act nie musi oznaczać skomplikowanych rozwiązań technicznych. Poniżej uproszczony przykład kodu informującego kandydata o użyciu AI w formularzu aplikacyjnym:

<label>
  <input type="checkbox" required>
  Wyrażam świadomą zgodę na użycie systemów AI w procesie oceny mojej aplikacji zgodnie z polityką AI Act.
</label>

Stosowanie najlepszych praktyk pozwala nie tylko uniknąć kar finansowych, ale także zwiększa jakość i etykę procesu rekrutacji. Optymalizacja zgodna z AI Act może stać się elementem przewagi konkurencyjnej w pozyskiwaniu talentów.

Rola przejrzystości i odpowiedzialności przy użyciu AI w HR

Zgodnie z założeniami AI Act, stosowanie systemów sztucznej inteligencji w działach HR musi opierać się na dwóch fundamentalnych filarach: przejrzystości oraz odpowiedzialności. Ich zagwarantowanie jest kluczowe dla zapewnienia zgodności z przepisami i budowania zaufania między organizacjami a kandydatami czy pracownikami.

Przejrzystość oznacza, że osoby, których dane są przetwarzane, muszą być jasno poinformowane o tym, że w procesach HR wykorzystywana jest technologia oparta na AI. Dotyczy to zarówno rekrutacji, jak i oceny pracowników, analizy kompetencji czy predykcji rozwoju zawodowego. Kandydaci powinni mieć dostęp do informacji o tym, jakie algorytmy są używane, jakie dane są analizowane i w jaki sposób podejmowane są decyzje.

Odpowiedzialność z kolei wymaga, by organizacje nie tylko wiedziały, jak działa wykorzystywana technologia, ale również były w stanie wyjaśnić i uzasadnić wyniki jej działania. HR musi mieć możliwość audytowania procesów opartych na AI i reagowania na błędy czy nieprawidłowości, zwłaszcza gdy chodzi o decyzje wpływające na losy kandydatów lub pracowników.

W praktyce oznacza to m.in. konieczność:

• prowadzenia dokumentacji opisującej sposób działania algorytmów i źródła danych;
• wdrażania procedur umożliwiających wyjaśnienie decyzji podejmowanych przez systemy AI – tzw. wyjaśnialność AI (explainability);
• zapewnienia nadzoru człowieka nad procesami decyzyjnymi (human oversight);
• przygotowania mechanizmów składania skarg i odwołań dla kandydatów i pracowników;
• szkolenia zespołów HR w zakresie etyki i odpowiedzialnego użycia AI.

Wprowadzenie tych zasad nie tylko wzmacnia zgodność z regulacjami, ale również buduje pozytywny wizerunek organizacji jako pracodawcy dbającego o uczciwość i równe traktowanie.

Podsumowanie i rekomendacje dla działów HR

Wprowadzenie Aktu o sztucznej inteligencji (AI Act) przez Unię Europejską stanowi istotny krok w stronę uregulowania wykorzystania technologii AI, szczególnie w obszarach o wysokim ryzyku, takich jak zarządzanie zasobami ludzkimi i procesy rekrutacyjne. Działy HR stoją przed nowymi wyzwaniami, ale również otrzymują jasne wytyczne, jak odpowiedzialnie i zgodnie z prawem stosować rozwiązania oparte na AI.

Najważniejsze zmiany, które dotkną zespoły HR, dotyczą:

• Klasyfikacji systemów AI – HR będzie musiał określić, czy wykorzystywane narzędzia należą do kategorii wysokiego ryzyka, co wiąże się z dodatkowymi obowiązkami prawnymi.
• Odpowiedzialności za decyzje podejmowane przez AI – konieczność zapewnienia, że decyzje wspierane przez algorytmy są przejrzyste i możliwe do wyjaśnienia.
• Zgodności z RODO – nowe regulacje nie zastępują istniejących przepisów o ochronie danych osobowych, lecz je uzupełniają, co oznacza konieczność wdrożenia zintegrowanego podejścia do compliance.

Aby sprostać wymaganiom AI Act, działy HR powinny podjąć kilka kluczowych działań:

• Dokładna inwentaryzacja stosowanych narzędzi AI i ich ocena pod kątem ryzyka oraz zgodności z nowymi przepisami.
• Wdrożenie polityk transparentności w zakresie wykorzystania AI, szczególnie w komunikacji z kandydatami i pracownikami.
• Szkolenie zespołów HR z zakresu nowych regulacji i odpowiedzialnego stosowania AI w codziennej praktyce.

Wreszcie, podejście do AI w HR powinno opierać się na zasadzie human-in-the-loop, czyli zachowaniu nadzoru człowieka nad kluczowymi decyzjami, przy jednoczesnym wykorzystaniu potencjału technologii do usprawniania działań personalnych.

Zoom dla trenerów – jak prowadzić angażujące szkolenia online? 01 czerwca 2025

Power Apps vs Power Automate: Kluczowe różnice i zastosowania 30 maja 2025