Lühiõppetund · võtab tavaliselt 2–3 minutit

Tehisintellekt soovitab, sina otsustad

Oht ei ole selles, et tehisintellekt eksib. Oht on selles, et keegi ei jõua järele vaadata.

Kui mustandist saab otsus

Algus on mõistlik: tehisintellekt teeb mustandi, sina loed selle läbi ja parandad. Aga kui mustandid jäävad pidevalt piisavalt heaks, siis lakatakse neid lugemast. Seda nimetatakse automatiseerimispimeduseks ja see ongi tegelik risk — mitte see, et masin eksib, vaid see, et keegi enam järele ei vaata. See ei kehti ainult teksti kohta: kui järgid alati süsteemi soovitust — marsruuti, korjeloendit, annustamist — ilma et miski sind takistaks, kui midagi tundub vale, oled sa täpselt samas kohas.

Pea kinni kolmest asjast

Mustand on mustand. Sinu allkiri on sinu oma ka siis, kui tekst tuli kuskilt mujalt.
Loe seda nii, nagu oleks selle kirjutanud kolleeg. Kas saadaksid kolleegi mustandi edasi seda lugemata?
Ütle „ei“, kui kontrollida ei ole võimalik. Kui sind on pandud kinnitama sada soovitust tunnis, ei suuda sa ühtegi neist korralikult kinnitada. See on teave, mida sinu juht vajab.

Eriti siis, kui asi puudutab inimesi

Kui midagi tuleb otsustada inimese kohta — töölevõtmine, kaebus, hüvitis — ei tohi otsus kunagi jääda ainult masina teha. Kaasatud peab olema inimene, kes suudab tulemust tegelikult muuta, mitte lihtsalt kinnitusnuppu vajutada.

Pea meeles

Tehisintellekt võib ette valmistada. Otsustab inimene.

Teadus ütleb

Haiglates on uuritud süsteeme, mis soovitavad arstile või õele, mida tuleks teha. Kui süsteem soovitas midagi valesti, kasvas vale otsuse risk 26 % võrra — kogenud inimesed muutsid oma õige vastuse valeks, sest ekraan ütles midagi muud. See ei ole rumalus. See on see, mis juhtub, kui miski on paljudel kordadel järjest õigus olnud.

Goddard et al., JAMIA 2012 (süstemaatiline ülevaade).

Küsimus 1 / 3

Oled kinnitanud 40 tehisintellekti mustandit järjest ja need kõik olid head. Mis on nüüd suurim risk?

Et tööriist muutub ajaga halvemaks Et lõpetad nende korraliku lugemise Et muutud liiga aeglaseks

Küsimus 2 / 3

Millal ei ole „inimene vaatab selle üle“ tegelik järelevalve?

Kui inimene ei saa tulemust tegelikult muuta Kui inimene kulutab vähem kui viis minutit Kui inimene ei ole juht

Küsimus 3 / 3

Sulle antakse ülesanne kinnitada rohkem juhtumeid, kui jõuad läbi lugeda. Mis on õige teha?

Öelda oma juhile, et sellist hulka ei ole võimalik vastutustundlikult kinnitada Kinnitada need kiiresti — see on ju sinu ülesanne Kontrollida pisteliselt iga kümnendat ja ülejäänud kinnitada

Tubli töö!

Sa oled läbinud ühe põhikursustest — need, mida kõik saavad tasuta.

Tasuta kontoga saad:

Sinu punktid, edenemine ja kursusetunnistus jäävad talletatuks.
Kursused, mis on kohandatud sinu rolli järgi — mitte ainult põhikursused.
Koolituse saadame just siis, kui seda vaja on — näiteks kui järelmeetmena pärast phishing-testi.

Loo tasuta konto → ← Vaata teisi kursusi