Evropská unie přichází s průlomovou legislativou, která má zkrotit technologie umělé inteligence a zároveň chránit základní práva občanů. Nařízení o umělé inteligenci, známé jako AI Act, přinese zásadní změny i do HR světa – a už klepe na dveře!
Nábor, hodnocení výkonu, řízení týmů – všechny HR procesy využívající AI budou brzy podléhat přísnějším pravidlům. Víte, co to znamená pro vás?
AI v HR: Vysoce riziková technologie?
Nástroje, které v HR využívají umělou inteligenci – například systémy pro nábor nebo hodnocení zaměstnanců – jsou podle AI Act označeny jako vysoce rizikové technologie. To znamená, že jejich používání musí splňovat přísné požadavky na férovost, transparentnost a ochranu práv jednotlivců.
Co to obnáší?
- Systémy řízení rizik: HR oddělení budou muset kontrolovat, zda AI nejedná zaujatě nebo diskriminačně. Technologie nesmí zvýhodňovat nebo znevýhodňovat konkrétní skupiny uchazečů či zaměstnanců.
- Informovanost: Zaměstnanci i uchazeči musí být jasně informováni, že se na rozhodování podílí AI. Pokud například systém filtruje životopisy, kandidáti by měli vědět, že byl použit, a rozumět tomu, jak probíhá výběr.
- Lidský dohled: Nad všemi rozhodnutími AI musí bdít kvalifikovaný člověk, který je může přezkoumat a případně změnit.
Transparentnost a kvalita dat
Důležitou podmínkou bude také důsledná kontrola kvality dat, která AI používá. Je potřeba zajistit, aby vstupní data byla přesná, reprezentativní a bez předsudků. Jakékoli zkreslení by mohlo vést k diskriminaci, což je nepřijatelné nejen podle zákona, ale i z pohledu firemní kultury.
Zaměstnanci a kandidáti mají právo na informace o tom, jak byla jejich data použita a jaké algoritmy byly aplikovány. HR oddělení tedy bude muset zajistit jasnou komunikaci – nejen o použití AI, ale i o výsledcích její práce.
Co AI Act znamená pro HR?
Nařízení má potenciál přinést více férovosti a důvěry do HR procesů. Ale vyžaduje přípravu. HR týmy se budou muset naučit pracovat s novými pravidly, zavést systémy řízení rizik, kontrolovat kvalitu dat a zajistit transparentní komunikaci.
AI Act ale není jen další regulací – svým způsobem je to i šance vytvořit férovější procesy a posílit důvěru mezi zaměstnavateli a zaměstnanci.
Klíčové termíny: Na co se připravit?
Do 2. února 2025:
- Zákaz některých technologií, jako je rozpoznávání emocí na pracovišti.
- Zavedení pravidel pro AI gramotnost.
Do 2. srpna 2026:
- Vysoce rizikové AI systémy (včetně těch HR) musí být plně v souladu s novými požadavky.
Praktické dopady na HR
Nábor: Při použití AI na vyhodnocování životopisů je třeba zajistit, že algoritmy neobsahují předsudky. To zahrnuje pravidelné audity a případné úpravy.
Hodnocení výkonu: Pokud AI sleduje výkon zaměstnanců, musí zaměstnanci jasně vědět, jaká data jsou sbírána a jak ovlivňují hodnocení.
Jak AI Act klasifikuje rizika?
- Nepřijatelné riziko: Zcela zakázané technologie, jako je sociální skórování vládami nebo biometrický dohled.
- Vysoce rizikové systémy: AI s významným dopadem, třeba v dopravě, zdravotnictví nebo HR. Podléhají přísným pravidlům.
- Omezené riziko: Systémy s povinností informovat uživatele, že komunikují s AI.
- Minimální riziko: Neregulované systémy, volně použitelné.
Zvláštní pozornost se věnuje obecným AI systémům, jako je ChatGPT, které budou muset splňovat pravidla transparentnosti a podstoupit hodnocení.
Co to znamená pro firmy?
Firmy budou muset:
- Zavést řízení rizik a kontrolu kvality dat.
- Zajistit lidský dohled nad AI rozhodnutími.
- Informovat uživatele o použití AI a vysvětlit rozhodnutí, zvláště u vysoce rizikových systémů.
Nedodržení pravidel? Vysoké pokuty nebo omezení přístupu na trh EU. I firmy mimo EU musí pravidla respektovat, pokud jejich AI ovlivňuje obyvatele EU.
A co přináší jednotlivcům?
- Ochrana základních práv: Zákaz technologií ohrožujících soukromí nebo rovnost.
- Transparentnost: Jasné informace o použití AI.
- Odpovědnost: Pokud AI způsobí újmu, jednotlivci budou mít možnost se bránit.
Nový standard pro celý svět
AI Act nastavuje globálně poměrně unikátní standard regulace AI. Pro firmy to znamená změny ve vývoji i provozních procesech. Pro jednotlivce přináší bezpečnější a transparentnější digitální prostředí, které chrání jejich práva. Jak to pak bude fungovat v praxi uvidíme už za pár měsíců.
Zaujal vás článek? Chcete být vždy o krok napřed a mít přehled o tom nejlepším, co se v HR děje?
Přihlaste se k našemu newsletteru. Každý čtvrtek vám pošleme výběr těch nejzajímavějších článků, trendů a inspirací přímo do vaší schránky.
Diskuze
Pouze přihlášení uživatelé mohou přidávat reakce
Tato diskuze neobsahuje zatím žádné příspěvky
