Nano-lekce · obvykle trvá 2–3 minuty

AI navrhuje, ty rozhoduješ

Nebezpečné není, že se AI zmýlí. Nebezpečné je, že nikdo nestihne zkontrolovat.

Když se z návrhu stane rozhodnutí

Začíná to rozumně: AI vytvoří návrh, ty si ho pročteš, opravíš. Ale když jsou návrhy pořád dost dobré, přestaneš je číst. Tomu se říká automatizační slepota a to je ta skutečná hrozba — ne že se stroj zmýlí, ale že to už nikdo nekontroluje. Neplatí to jen pro text: pokud vždycky následuješ návrh systému — trasu, seznam k vychystání, dávkování — aniž bys zpozorněl, když něco vypadá špatně, jsi ve stejné situaci.

Drž se tří věcí

Návrh je návrh. Tvůj podpis je tvůj, i když text vznikl někde jinde.
Čti to, jako by to napsal kolega. Poslal bys dál návrh kolegy, aniž bys ho přečetl?
Ozvi se, když to nejde zkontrolovat. Pokud máš schvalovat sto návrhů za hodinu, nemůžeš pořádně schválit ani jeden z nich. To je informace, kterou tvůj vedoucí potřebuje.

Zvlášť když jde o lidi

Má-li se o někom rozhodnout — o přijetí do práce, o stížnosti, o dávce — nesmí rozhodnutí nikdy ležet jen na stroji. Musí do toho vstoupit člověk, který může výsledek reálně změnit, ne jen zmáčknout schválit.

Zapamatuj si

AI smí připravovat. Rozhoduje člověk.

Co říká výzkum

V nemocnicích zkoumali systémy, které lékaři nebo sestře navrhují, co by se mělo udělat. Když systém navrhl něco chybného, riziko špatného rozhodnutí stouplo o 26 % — zkušení lidé změnili svou vlastní správnou odpověď na chybnou, protože obrazovka říkala něco jiného. To není hloupost. Je to to, co se stane, když má něco mnohokrát po sobě pravdu.

Goddard et al., JAMIA 2012 (systematický přehled).

Otázka 1 z 3

Schválil jsi 40 návrhů od AI za sebou a všechny byly dobré. Jaké je teď největší riziko?

Že budeš příliš pomalý Že se nástroj časem zhorší Že je přestaneš pořádně číst

Otázka 2 z 3

Kdy „člověk se na to podívá“ není skutečný dohled?

Když člověk nemůže výsledek reálně změnit Když člověk stráví méně než pět minut Když člověk není vedoucí

Otázka 3 z 3

Dostaneš pokyn schválit víc případů, než stíháš přečíst. Co je správné udělat?

Namátkově zkontrolovat každý desátý a zbytek schválit Říct vedoucímu, že takové množství nelze zodpovědně schválit Schválit je rychle — vždyť je to tvůj úkol

Skvělá práce!

Prošel sis jeden ze základních kurzů – ten, který dostane každý zdarma.

S bezplatným přihlášením:

Tvoje body, pokrok i certifikát se ti uloží.
Dostaneš kurzy šité na míru tvé roli – nejen základní kurzy.
Training ti pošleme přesně ve chvíli, kdy ho potřebuješ – například jako reakci na phishingovou simulaci.

Vytvořit bezplatné přihlášení → ← Zobrazit další kurzy