weakestlink

← Všechny kurzy

Nano-lekce · obvykle trvá 2–3 minuty

Umělá inteligence zní sebejistě — i když se mýlí

Píše se stejnou sebejistotou bez ohledu na to, jestli má pravdu. Takhle si to ověříš.

Nejdřív: co je to za nástroj?

Zeptáš se, na kolik dní volna máš nárok po svátku. Odpověď přijde za dvě vteřiny, dobře formulovaná a přesná — a špatná, protože nezná vaši kolektivní smlouvu. Jestli se to může stát, závisí na tom, s jakým nástrojem pracuješ: některé vyhledávají a odkazují na zdroje; jiné odpovídají jen na základě toho, co se předem naučily, a nemůžou nic ověřit. Vypadají stejně — stejné pole, stejná klidná odpověď — ale nejsou stejně spolehlivé. Vědět, s jakým druhem pracuješ, je právě ta dovednost.

Zeptej se sám sebe

dokáže tenhle nástroj něco vyhledat, když se ptám? Ukazuje mi, odkud odpověď pochází? Pokud je odpověď na obojí ne, dostáváš jen dobře formulovanou vzpomínku.

Kde to selhává

  • Nezná VAŠI realitu. Vaši smlouvu, váš postup, vaše ceny. Odpoví obecně a zní stejně sebejistě — to je nejběžnější chyba na pracovišti.
  • Skutečný zdroj použitý špatně. Je tam odkaz, a odkaz funguje — takže ho nikdo neotevře. A pak je ve zdroji napsáno něco trochu jiného, než se tvrdilo. Odkaz je odkaz, který máš následovat, ne důkaz.
  • Výpočty na několik kroků. Jedna částka většinou dopadne dobře. Lhůta, kterou je potřeba složit z výpovědní doby, víkendu a svátku, je přesně to, kde se to zvrtne.

A tón nic neprozradí

Neexistuje nejistý hlas. Píše se stejným klidem bez ohledu na to, jestli stojí na pevné půdě. Zeptat se „jsi si jistá?“ taky není ověření — dostaneš stejně klidnou odpověď zpátky.

Ověřuj to, co má následky

Nemusíš ověřovat všechno. Ale všechno, co stojí peníze, dopadne na člověka nebo jde ven z firmy, musíš umět najít ještě na jednom dalším místě. Pokud to nedokážeš, tak to neposílej.

Zapamatuj si

Sebejistý tón není důkaz. Ověř si to, pokud to má následky.

Co říká výzkum

Stanford testoval právní AI nástroje, které se prodávají se slibem „100% bezhalucinačních“ odkazů na zdroje — ty, které vyhledávají ve skutečných databázích a odkazují na zdroj. Mýlily se u 17–33 % odpovědí. Nástroj, který ti ukáže zdroj, ho za tebe neověřil; jen ti ušetřil práci s jeho hledáním.

Magesh et al., Journal of Empirical Legal Studies 2025.

Otázka 1 z 3

AI nástroj ti odpoví se zdrojem a odkaz funguje. Stojíš tedy na pevné půdě?

Otázka 2 z 3

Zeptáš se AI, jak dlouhou výpovědní lhůtu má zákazník. Odpoví jasně a přesně. Jaké je největší riziko?

Otázka 3 z 3

Kterou z těchto odpovědí NEMUSÍŠ zvlášť pečlivě ověřovat?

Skvělá práce!

Prošel sis jeden ze základních kurzů – ten, který dostane každý zdarma.

S bezplatným přihlášením:

  • Tvoje body, pokrok i certifikát se ti uloží.
  • Dostaneš kurzy šité na míru tvé roli – nejen základní kurzy.
  • Training ti pošleme přesně ve chvíli, kdy ho potřebuješ – například jako reakci na phishingovou simulaci.