Nano-lekce · obvykle trvá 2–3 minuty

Když AI hodnotí lidi

Uchazeči, zaměstnanci, občané — právě tam platí nejpřísnější pravidla. Poznej ten rozdíl.

Ne každá AI je stejná

Nechat AI opravit překlepy v textu je jedna věc. Nechat ji třídit uchazeče, hodnotit výkon zaměstnance nebo rozhodovat o tom, kdo dostane určitou dávku, je něco úplně jiného. Takové použití zákon označuje za vysoce rizikové. Požadavky na tyto nástroje jsou přísné a musí být splněny předtím, než se nástroj začne používat — ne až potom.

Příklady, kdy má zaznít poplach

Nástroj, který seřazuje uchazeče o práci nebo je automaticky vyřazuje.
Něco, co měří nebo hodnotí zaměstnance — počet kusů za hodinu, data o jízdě, hodnocení od zákazníků — a používá se to k povýšení nebo propuštění.
Systémy, které rozhodují o přístupu k úvěru, pojištění, vzdělání nebo veřejným dávkám.

A pozor na zkreslené vzorce

AI se učí z reality. Byla-li realita zkreslená, naučí se to zkreslení s sebou — a reprodukuje ho pěkným, věcným jazykem, kde ho těžko odhalíš. Rychlá zkouška: vyměň jméno, věk nebo bydliště v tom, na co se díváš. Vypadá návrh najednou jinak? Pak stojí za to to zmínit. Nemusíš zkreslení statisticky dokázat — stačí si ho všimnout a říct to.

Co máš dělat

Nemusíš znát pravidla nazpaměť. Musíš umět rozpoznat situaci a nahlas ji pojmenovat dřív, než se nástroj začne používat: „Tohle hodnotí lidi — bylo to prověřeno?“ Ta otázka je celá tvoje role a je to levná pojistka.

Zapamatuj si

Pokud nástroj hodnotí lidi, tak se zeptej — než se použije, ne až potom.

Otázka 1 z 3

Které z těchto použití AI je vysoce rizikové?

Nástroj, který navrhuje formulace v e-mailu Nástroj, který seřazuje uchazeče o práci Nástroj, který překládá návod

Otázka 2 z 3

Tvé oddělení chce použít nový AI nástroj k výběru kandidátů. Co je tvůj nejdůležitější úkol?

Nahlas říct, že hodnotí lidi, dřív než se začne používat Zkontrolovat, jestli je levnější než ten starý Nejprve nástroj důkladně poznat

Otázka 3 z 3

Zjistíš, že nástroj soustavně hodnotí jednu skupinu níže. Nemůžeš to statisticky dokázat. Co uděláš?

Řekneš to odpovědné osobě okamžitě Počkáš, až budeš mít dost čísel Necháš to být — vždyť se můžeš mýlit

Skvělá práce!

Prošel sis jeden ze základních kurzů – ten, který dostane každý zdarma.

S bezplatným přihlášením:

Tvoje body, pokrok i certifikát se ti uloží.
Dostaneš kurzy šité na míru tvé roli – nejen základní kurzy.
Training ti pošleme přesně ve chvíli, kdy ho potřebuješ – například jako reakci na phishingovou simulaci.

Vytvořit bezplatné přihlášení → ← Zobrazit další kurzy