Obowiązki dotyczące systemów wysokiego ryzyka AI miały wejść w życie z początkiem sierpnia 2026 r., tj. 2 sierpnia 2026 r., a wraz z nimi obowiązki dotyczące przejrzystości określone w art. 50 AI Act, obejmujące dostawców i podmioty stosujące (deployerów) te systemy. Właściwie na ostatniej prostej, 24 lipca 2026 r., opublikowano w Dzienniku Urzędowym UE rozporządzenie (UE) 2026/1744 (tzw. Digital Omnibus on AI), które odroczyło w czasie niektóre obowiązki AI Act, w tym reżim systemów wysokiego ryzyka AI. Odroczenie nie objęło jednak obowiązków w zakresie przejrzystości z art. 50 ust. 1AI Act, które są stosowane od 2 sierpnia 2026 r.
Termin 2 sierpnia 2026 r. stosowania obowiązków wobec samodzielnych systemów wysokiego ryzyka z załącznika III został przesunięty na 2 grudnia 2027 r., a wraz z nowym rozporządzeniem pojawiły się wytyczne Komisji Europejskiej dotyczące systemów wysokiego ryzyka AI. Ich ostateczny kształt ma zostać opublikowany do końca bieżącego roku, a w założeniu mają one ułatwić podmiotom dostosowanie się do nowych przepisów AI Act.
Zanim przejdę do głównego tematu tego tekstu, czyli wytycznych związanych z systemami wysokiego ryzyka AI, które stosowane są podczas rekrutacji pracowników, w pierwszej kolejności uporządkuję kwestię osi czasowej nowych przepisów. Same przepisy wprowadzone przez Digital Omnibus on AI i odraczające reżim systemów wysokiego ryzyka AI Act skupiają się w pierwszej kolejności na dacie 2 grudnia 2027 r., która ma być datą graniczną i zgodnie z tym wszystkie nowe systemy wprowadzane po niej muszą być w pełni podporządkowane nowym obowiązkom.
Co jednak z systemami AI, które już istnieją? Zgodnie z art. 111 ust. 2 AI Act (rozporządzenia (UE) 2024/1689), w brzmieniu zmienionym rozporządzeniem (UE) 2026/1744, do systemów wysokiego ryzyka z załącznika III wprowadzonych do obrotu lub oddanych do użytku przed 2 grudnia 2027 r. obowiązki AI Act stosuje się wyłącznie wtedy, gdy od tej daty systemy te podlegają istotnym zmianom w swoim projekcie (przy czym systemy przeznaczone do użytku przez organy publiczne muszą osiągnąć zgodność w każdym przypadku). Chodzi tutaj o zmianę systemu AI po jego wprowadzeniu do obrotu lub oddaniu do użytku, która nie została przewidziana ani zaplanowana w pierwotnej ocenie zgodności przeprowadzonej przez dostawcę i która wpływa na zgodność systemu z wymogami z rozdziału III sekcja 2 AI Act, lub która powoduje zmianę przeznaczenia, dla którego system oceniono (zob. definicję istotnej zmiany w art. 3 pkt 23 AI Act). Pamiętajmy jednak, że systemy AI cały czas się rozwijają i w celu zapewnienia pełni bezpieczeństwa i uniknięcia bolesnej finansowo dla firmy odpowiedzialności, korzystniejsze wydaje się podejście prób dostosowywania się do nowych przepisów. W tym właśnie mają pomóc wytyczne KE.
Jeśli chciałbyś dokładniej przeczytać na temat tego czym są systemy wysokiego ryzyka AI w sensie ogólnym, a także w kontekście działu HR, zachęcam do zapoznania się z innym tekstem na naszym blogu – „Systemy AI wysokiego ryzyka w HR – od kiedy obowiązują i co mówią najnowsze wytyczne Komisji Europejskiej w związku z aktem w sprawie sztucznej inteligencji?”. Przechodząc do meritum niniejszego tekstu, czyli systemów AI w rekrutacji, to kwalifikowanie ich jako systemów wysokiego ryzyka AI wynika z punktu 4 Załącznika III AI Act, a dokładnie jego podpunkt a). Obejmuje on:
Motyw 57 AI Act uzasadnia klasyfikację systemów AI w obszarze zatrudnienia jako systemów wysokiego ryzyka. Zwraca on uwagę, że te systemy mogą znacząco wpływać na przyszłe perspektywy zawodowe oraz źródła utrzymania pracowników i kandydatów, mogą naruszać i podważać prawa pracownicze i – co szczególnie istotne pod kątem rekrutacji – niosą realne zagrożenie utrwalania historycznych wzorców dyskryminacji (punkt 237 wytycznych).
Proces rekrutacji rozpoczyna się już na etapie, którym kandydat dowiaduje się o wakacie w firmie, a więc właściwie od formułowania ogłoszeń pracę. Już sam ich kształt i treść determinuje grupę ich odbiorców, a więc potencjalnych kandydatów na stanowisko. Udział systemów sztucznej inteligencji w sposobie prezentacji ofert może mieć kluczowe znaczenie, komu w internecie wyświetlą się konkretne oferty pracy, a przed kim będą ukrywane.
Dlatego właśnie AI Act bierze pod lupę systemy AI decydujące o tym, a to, które z nich są uznawane za systemy wysokiego ryzyka, zależy od wielu czynników, takich jak groźba nieświadomej dyskryminacji. Które zatem algorytmy AI, według wytycznych KE, będą uznawane za systemy wysokiego ryzyka, a które nie?
Następnym naturalnym etapem rekrutacji jest odpowiadanie na ogłoszenie przez kandydatów. Kiedy ilość dokumentów idzie w setki trudno się dziwić, że życiorysy przeglądane są przez sztuczną inteligencję, jeśli firma posiada odpowiedni ku temu system. I tutaj znów bardzo wiele zależy od sposobu wykorzystania narzędzi AI – z pozoru niewinne, techniczne porządkowanie plików algorytmem może w praktyce zdecydować o odrzuceniu kandydata z dalszej rekrutacji.
Kiedy zatem taki system AI staje się wysokiego ryzyka? Zacznijmy od tego, że nie każde z narzędzi, które „czyta” nadesłane CV, jest z definicji systemem wysokiego ryzyka. Generalna zasada, wynikająca z AI Act, stanowi, że w wypadku, gdy analiza wykonywana przez AI może w jakikolwiek sposób wpłynąć na to, czy kandydat przejdzie do kolejnego etapu, system co do zasady kwalifikowany jest jako system wysokiego ryzyka (pkt 4 lit. a Załącznika III AI Act; z zastrzeżeniem wyjątków z art. 6 ust. 3 AI Act, omówionych poniżej). Zgodnie z tym system AI staje się systemem wysokiego ryzyka, jeśli po przeczytaniu CV, np.:
Nawet jeśli system AI teoretycznie jedynie „analizuje” dokumenty, ale na tej podstawie rekruter odrzuca kandydata, to w praktyce działa jako system wysokiego ryzyka (punkt 253 wytycznych).
Natomiast system nie jest uznawany za wysokiego ryzyka, o ile wykonuje wyłącznie proste, techniczne prace przygotowawcze bez jakiegokolwiek oceniania kandydatów (wyjątek z art. 6 ust. 3 lit. d AI Act). Dzieje się tak na przykład w sytuacji:
Przyjęte w firmie CV poddawane są należytej ocenie, która powinna zadecydować, którzy z kandydatów zostaną przyjęci na stanowisko. Do stosownego oceniania życiorysów (wytyczne za treścią AI Act-u wliczają w to również osoby samozatrudnione) i przebiegu rozmowy kwalifikacyjnej wykorzystywane są często jak najskuteczniejsze narzędzia wspierające rekruterów, przede wszystkim systemy oparte właśnie na sztucznej inteligencji. Wytyczne wyraźnie zaznaczają, że pojęcie „oceny kandydatów” należy rozumieć bardzo szeroko, a prawo obejmuje tu większość nowoczesnych narzędzi wspierających rekruterów.
Chyba najważniejsza zasada warta zapamiętania opiera się na stwierdzeniu, że system AI nie musi samodzielnie decydować o tym, kto dostanie pracę, aby zostać uznany za system wysokiego ryzyka. Wystarczy, że w jakikolwiek zauważalny sposób wartościuje kandydatów i przez to wpływa na ostateczną decyzję człowieka.
Można wyróżnić następujący podział:
Wytyczne przygotowane przez Komisję Europejską podają praktyczne przykłady systemów wysokiego ryzyka AI stosowanych w rekrutacji:
PRZYKŁAD PIERWSZY: Narzędzia AI do analizy kompetencji i tworzenia rankingów kandydatów – nawet jeśli ostateczna decyzję podejmuje człowiek, to taka algorytmiczna ocena pełni tutaj kluczową rolę w jej podejmowaniu, co np. niesie za sobą realne zagrożenie dyskryminacją np. ze względu na płeć. Z prawniczego punktu widzenia sam fakt, że taki system stanowi podstawą do odrzucenia lub faworyzowania kandydatów, jest wystarczającym powodem, aby został objęty rygorystycznymi wymogami AI Act.
PRZYKŁAD DRUGI: System AI przeszukuje bazy danych lub platformy internetowe w celu wyselekcjonowania listy kandydatów do pracy, co bezpośrednio wpływa na ich szanse na zatrudnienie.
PRZYKŁAD TRZECI: System AI oceniający wzrok kandydatów na pilotów bezpośrednio decyduje o ich dopuszczeniu do zawodu.
PRZYKŁAD CZWARTY: System AI, który punktuje odpowiedzi kandydatów i tworzy ranking decydujący o ich zaproszeniu na rozmowę.
PRZYKŁAD PIĄTY: System AI, który służy wyłącznie do rekrutacji praktykantów (np. selekcjonowania CV i tworzenia list kandydatów) – praktyki wiążą się z formalnym zatrudnieniem, a to narzędzie AI realnie decyduje o szansach osób.
PRZYKŁAD SZÓSTY: System AI, który decyduje komu wyświetlić ukierunkowane ogłoszenia o pracę w mediach społecznościowych w oparciu o profilowanie użytkowników. Zgodnie z wytycznymi kwalifikacja taka wymaga, aby dobór odbiorców opierał się na profilowaniu osób fizycznych albo nie mieścił się w wyjątkach przewidzianych dla employer brandingu, reklamy kontekstowej lub kryteriów ściśle związanych z charakterem stanowiska.
PRZYKŁAD SIÓDMY: System AI, który tworzy rankingi samozatrudnionych usługodawców w celu selekcji i stworzenia listy kandydatów do pracy.
PRZYKŁAD ÓSMY: System AI używany przez agencje zatrudnienia, który tworzy rankingi o dopasowuje kandydatów do ofert pracy.
H2 Praktyczne przykłady systemów AI w rekrutacji nie będących systemami wysokiego ryzyka
Na drugim biegunie pozostają sytuacje, gdy mamy pewność, że dany system AI nie będzie uznawany za system wysokiego ryzyka. W jakich przypadkach stosowanie narzędzi opartych na sztucznej inteligencji można uznać za dozwolone bez spełnienia dodatkowych obowiązków?
PRZYKŁAD PIERWSZY: System AI służy wyłącznie do wychwytywania dyskryminujących sformułowań w treści ogłoszeń o pracę – takie narzędzie nie bierze udziału w faktycznej ocenie i doborze kandydatów.
PRZYKŁAD DRUGI: System AI monitorujący anonimowo opinie o pracodawcy w internecie, co ma służyć zbadaniu jego ogólnej reputacji.
PRZYKŁAD TRZECI: System AI, który służy wyłącznie promowaniu wizerunku pracodawcy, a nie odnosi się do konkretnych ofert pracy ani nie służy selekcji kandydatów.
PRZYKŁAD CZWARTY: System AI, który służy kandydatom w wyszukiwaniu i dopasowywaniu na własny użytek ofert pracy. Takie narzędzie działa tylko z inicjatywy kandydata i pozostaje poza kontrolą pracodawcy – nie stanowi części oficjalnego procesu rekrutacji.
H2 Praktyczne przykłady systemów AI wysokiego ryzyka w rekrutacji wyłączonych na podstawie wyjątków z art. 6 ust. 3 AI Act
Dwubiegunowy podział w AI Act przypadków wykorzystania systemów AI zostaje w art. 6 ust. 3 wzbogacony o tzw. mechanizm filtra, czyli regułę istotnych wyjątków. Ten przepis pozwala wyłączyć z najsurowszych obostrzeń systemy, które pełnią tylko i wyłącznie proste funkcje proceduralne, logistyczne lub przygotowawcze i nie mają faktycznego wpływu na wynik oceny kandydata w procesie rekrutacji.
Wytyczne Komisji Europejskiej wymieniają kilka przykładów sytuacji, w których dział HR może bezpiecznie korzystać z automatyzacji opartej na sztucznej inteligencji bez wchodzenia w rygorystyczny reżim AI Act.
PRZYKŁAD PIERWSZY: System AI służący wyłącznie do odczytywania i porządkowania danych z CV w bazie. Do jego zadań należą tylko proste techniczne działania, podczas których nie ocenia samodzielnie kandydatów.
PRZYKŁAD DRUGI: System AI, który służy wyłącznie do automatycznego potwierdzenia uprawnień zawodowych kandydata w oficjalnych rejestrach. Zadanie, jakie wykonuje tutaj narzędzie AI, opiera się na zasadzie TAK/NIE, a nie na ocenieniu, które uprawnienia są lepsze.
PRZYKŁAD TRZECI: System AI służy jedynie do planowania i koordynowania terminów rozmów kwalifikacyjnych, a zatem jego funkcja jest pełni logistyczna.
PRZYKŁAD CZWARTY: System AI jest używany do wysyłania spersonalizowanych wiadomości e-mail, które potwierdzają otrzymanie wysłanego CV, z imieniem i nazwiskiem kandydata. Nie wpływa to w żaden sposób na dokonanie wyboru podczas rekrutacji.
PRZYKŁAD PIĄTY: System AI jest wykorzystywany do audytu zakończonych już procesów rekrutacyjnych. Ma to służyć wykryciu uprzedzeń lub błędów w decyzjach ludzi i nie wpływa to na bieżące losy kandydatów.
Opublikowanie 24 lipca 2026 r. rozporządzenia (UE) 2026/1744 (tzw. Digital Omnibus on AI) w Dzienniku Urzędowym UE opóźniło wejście w życie, między innymi, obowiązków dotyczących systemów wysokiego ryzyka AI Act. Firmy stosujące systemy oparte na sztucznej inteligencji mają czas do 2 grudnia 2027 r. na dostosowanie się do pełnego reżimu AI Act. Choć dzieli nas od tej daty prawie półtora roku, to już teraz warto rozpocząć w swoich działach HR wykonać stosowne działania profilaktyczne.
Nasza Kancelaria oferuje w tym zakresie kompleksowe wsparcie, tak aby Twoja firma przeszła bezpiecznie ten proces, a przede wszystkim zachowała pełne bezpieczeństwo już wdrożywszy odpowiednie środki. Dokonujemy prawnej klasyfikacji używanych przez Państwa przedsiębiorstwo systemów AI oraz ich oceny czy mieszczą się one w kategoriach wysokiego ryzyka. Pomagamy w weryfikacji umów z zewnętrznymi dostawcami oprogramowania HR, opracowujemy wewnętrzne procedury zgodne z unijnymi wytycznymi oraz przeprowadzamy pełnowymiarowy audyt.
Już teraz pomyśl, jak się przygotować, gdyż jak widać, już sam temat rekrutacji wymaga szerokich działań i dostosowania systemów AI.
Potrzebujesz pomocy prawnej związanej z tematem tego artykułu? Chcesz przekonać się czy będziemy potrafili Ci doradzić? Skontaktuj się z nami lub umów na bezpłatną wstępną konsultację online!
