Nanolektion · tar oftast 2–3 minuter

AI föreslår, du beslutar

Det farliga är inte att AI har fel. Det är att ingen hinner kontrollera.

När utkastet blir till beslutet

Det börjar förnuftigt: AI gör ett utkast, du läser igenom det, du rättar. Men när utkasten fortsätter att vara tillräckligt bra slutar man läsa. Det kallas automationsblindhet, och det är den egentliga risken — inte att maskinen felar, utan att ingen längre kontrollerar. Det gäller inte bara text: följer du alltid systemets förslag — en rutt, en plocklista, en dosering — utan att haja till när något ser fel ut, är du på samma ställe.

Håll fast vid tre saker

Ett utkast är ett utkast. Din underskrift är din, även när texten kom någon annanstans ifrån.
Läs som om en kollega hade skrivit det. Skulle du skicka vidare en kollegas utkast utan att läsa det?
Säg ifrån när det inte går att kontrollera. Är du satt att godkänna hundra förslag i timmen kan du inte godkänna något av dem ordentligt. Det är en upplysning din chef behöver.

Särskilt när det handlar om människor

Ska något avgöras om en person — en anställning, ett klagomål, en förmån — får beslutet aldrig ligga hos maskinen ensam. Det ska in en människa som reellt kan ändra resultatet, inte bara trycka på godkänn.

Kom ihåg

AI får förbereda. Människan beslutar.

Forskningen visar

På sjukhus har man undersökt de system som föreslår för läkaren eller sjuksköterskan vad som bör göras. När systemet föreslog något felaktigt ökade risken för ett felaktigt beslut med 26 % — erfarna personer ändrade sitt eget riktiga svar till det felaktiga, för att skärmen sa något annat. Det är inte dumhet. Det är vad som händer när något har haft rätt många gånger i rad.

Goddard et al., JAMIA 2012 (systematisk review).

Fråga 1 av 3

Du har godkänt 40 AI-utkast i rad, och alla var bra. Vad är den största risken nu?

Att du slutar läsa dem ordentligt Att du blir för långsam Att verktyget blir sämre med tiden

Fråga 2 av 3

När är "en människa tittar på det" inte riktig tillsyn?

När människan inte är chef När människan inte reellt kan ändra resultatet När människan lägger mindre än fem minuter

Fråga 3 av 3

Du får besked om att godkänna fler ärenden än du hinner läsa. Vad är det rätta att göra?

Stickprova var tionde och godkänna resten Säga till din chef att mängden inte kan godkännas på ett försvarbart sätt Godkänna dem snabbt — det är ju det du är satt att göra

Bra jobbat!

Du har tagit en av grundkurserna — de som alla får gratis.

Med ett gratis konto:

Dina poäng, dina framsteg och ditt kursintyg sparas.
Du får kurser skräddarsydda för din roll — inte bara grundkurserna.
Vi skickar utbildningen precis när du behöver den — till exempel som uppföljning på ett phishing-test.

Skapa gratis konto → ← Se de andra kurserna