Örlexía · tekur yfirleitt 2–3 mínútur

Gervigreind stingur upp á, þú ákveður

Hættan er ekki að gervigreindin geri mistök. Hún er að enginn nái að líta yfir.

Þegar uppkastið verður að ákvörðuninni

Það byrjar skynsamlega: Gervigreindin gerir uppkast, þú lest það yfir, þú leiðréttir. En þegar uppköstin halda áfram að vera nógu góð, hættir maður að lesa. Þetta kallast sjálfvirknisblinda, og það er hin raunverulega áhætta — ekki að vélin geri mistök, heldur að enginn lítur lengur yfir. Þetta á ekki bara við um texta: ef þú fylgir alltaf tillögum kerfisins — leið, tínslulista, skammti — án þess að hika þegar eitthvað lítur rangt út, ertu á sama stað.

Haltu fast í þrjú atriði

Uppkast er uppkast. Undirskriftin þín er þín, líka þegar textinn kom annars staðar frá.
Lestu eins og samstarfsmaður hefði skrifað það. Myndir þú senda uppkast frá samstarfsmanni áfram án þess að lesa það?
Segðu frá þegar ekki er hægt að yfirfara. Ef þér er ætlað að samþykkja hundrað tillögur á klukkustund, geturðu ekki samþykkt neina þeirra almennilega. Það er upplýsing sem stjórnandinn þinn þarf á að halda.

Sérstaklega þegar það snýst um fólk

Eigi að ákveða eitthvað um manneskju — ráðningu, kvörtun, bótarétt — má ákvörðunin aldrei liggja hjá vélinni einni. Það þarf manneskju sem getur raunverulega breytt niðurstöðunni, ekki bara ýtt á samþykkja.

Mundu

Gervigreind má undirbúa. Manneskjan ákveður.

Rannsóknir sýna

Á sjúkrahúsum hafa verið rannsökuð þau kerfi sem stinga upp á við lækninn eða hjúkrunarfræðinginn hvað ætti að gera. Þegar kerfið stakk upp á einhverju röngu, jókst hættan á rangri ákvörðun um 26 % — reynt fólk breytti sínu eigin rétta svari í rangt, af því að skjárinn sagði eitthvað annað. Þetta er ekki heimska. Þetta er það sem gerist þegar eitthvað hefur haft rétt fyrir sér mörgum sinnum í röð.

Goddard et al., JAMIA 2012 (kerfisbundin yfirferð).

Spurning 1 af 3

Þú hefur samþykkt 40 gervigreindaruppköst í röð, og þau voru öll góð. Hver er stærsta áhættan núna?

Að þú hættir að lesa þau almennilega Að þú verðir of hæg/ur Að verkfærið versni með tímanum

Spurning 2 af 3

Hvenær er „manneskja lítur yfir það“ ekki raunverulegt eftirlit?

Þegar manneskjan er ekki stjórnandi Þegar manneskjan getur ekki raunverulega breytt niðurstöðunni Þegar manneskjan notar minna en fimm mínútur

Spurning 3 af 3

Þér er sagt að samþykkja fleiri mál en þú nærð að lesa. Hvað er rétt að gera?

Segja stjórnandanum þínum að þessu magni sé ekki hægt að samþykkja á ábyrgan hátt Samþykkja þau hratt — það er jú það sem þér er ætlað Taka úrtak úr hverju tíunda og samþykkja restina

Vel gert!

Þú hefur klárað eitt af grunnnámskeiðunum — sem allir fá frítt.

Með ókeypis innskráningu:

Stigin þín, framvindan og skírteinið þitt eru vistuð.
Þú færð námskeið sniðin að þínu hlutverki — ekki bara grunnnámskeiðin.
Við sendum þjálfunina akkúrat þegar þú þarft á henni að halda — til dæmis sem eftirfylgni við phishing-prófun.

Búðu til frían aðgang → ← Skoða hin námskeiðin