Nano-lecke · általában 2–3 percet vesz igénybe

Az AI javasol, te döntesz

A veszélyes nem az, hogy az AI téved. Hanem az, hogy senki nem néz utána.

Amikor a piszkozatból döntés lesz

Ésszerűen indul: az AI készít egy piszkozatot, te átolvasod, javítasz rajta. De amikor a piszkozatok folyamatosan elég jók, az ember abbahagyja az olvasást. Ezt hívják automatizálási vakságnak, és ez az igazi kockázat — nem az, hogy a gép hibázik, hanem az, hogy már senki nem néz utána. Ez nemcsak a szövegre igaz: ha mindig követed a rendszer javaslatát — egy útvonalat, egy összekészítési listát, egy adagolást — anélkül, hogy megakadnál, amikor valami hibásnak tűnik, ugyanott vagy.

Tarts szem előtt három dolgot

A piszkozat az piszkozat. Az aláírásod a tiéd, akkor is, ha a szöveg máshonnan érkezett.
Úgy olvasd, mintha egy kollégád írta volna. Továbbküldenéd egy kolléga piszkozatát anélkül, hogy elolvasnád?
Szólj, amikor nem lehet ellenőrizni. Ha óránként száz javaslatot kell jóváhagynod, egyiket sem tudod rendesen jóváhagyni. Ez olyan információ, amelyre a vezetődnek szüksége van.

Különösen, ha emberekről van szó

Ha valamit egy személyről kell eldönteni — egy alkalmazásról, egy panaszról, egy juttatásról —, a döntés soha nem maradhat egyedül a gépnél. Kell egy ember, aki valóban meg tudja változtatni az eredményt, nem csak megnyomni a jóváhagyás gombot.

Ne feledd

Az AI előkészíthet. Az ember dönt.

Amit a kutatások mondanak

A kórházakban megvizsgálták azokat a rendszereket, amelyek javaslatot tesznek az orvosnak vagy az ápolónak, hogy mit kellene tenni. Amikor a rendszer valami hibásat javasolt, a rossz döntés kockázata 26%-kal nőtt — a tapasztalt szakemberek a saját helyes válaszukat a hibásra változtatták, mert a képernyő mást mondott. Ez nem butaság. Ez az, ami akkor történik, amikor valaminek sokszor egymás után igaza volt.

Goddard et al., JAMIA 2012 (szisztematikus áttekintés).

1. / 3 kérdés

Egymás után 40 AI-piszkozatot hagytál jóvá, és mind jó volt. Mi most a legnagyobb kockázat?

Hogy abbahagyod az alapos olvasásukat Hogy az eszköz idővel egyre rosszabb lesz Hogy túl lassú leszel

2. / 3 kérdés

Mikor nem valódi felügyelet az, hogy „egy ember ránéz”?

Amikor az ember nem vezető Amikor az ember valójában nem tudja megváltoztatni az eredményt Amikor az ember öt percnél kevesebbet tölt vele

3. / 3 kérdés

Azt az utasítást kapod, hogy több ügyet hagyj jóvá, mint amennyit el tudsz olvasni. Mi a helyes teendő?

Szólni a vezetődnek, hogy ezt a mennyiséget nem lehet felelősen jóváhagyni Minden tizediket kiszúrópróbázni, a többit jóváhagyni Gyorsan jóváhagyni őket — hiszen ez a feladatod

Szép munka!

Elvégezted az egyik alapkurzust — ezeket mindenki ingyen megkapja.

Egy ingyenes bejelentkezéssel:

Elmentjük a pontjaidat, a fejlődésedet és a kurzusbizonyítványodat.
A szerepedhez szabott kurzusokat kapsz — nem csak az alapkurzusokat.
A képzést pontosan akkor küldjük el, amikor szükséged van rá — például egy phishing-teszt utáni gyakorlásként.

Ingyenes bejelentkezés létrehozása → ← Nézd meg a többi kurzust