Nanolektion · tar oftast 2–3 minuter

När AI bedömer människor

Sökande, medarbetare, medborgare — där gäller de strängaste reglerna. Känn skillnaden.

All AI är inte likadan

Att låta en AI rätta stavfel i en text är en sak. Att låta den sortera sökande, bedöma en medarbetares insats eller avgöra vem som ska få en förmån är något helt annat. Den sortens användning kallar lagen högrisk. Kraven på de verktygen är stränga, och de måste vara uppfyllda innan verktyget tas i bruk — inte efteråt.

Exempel där larmet ska gå

Ett verktyg som rangordnar jobbsökande eller sorterar bort dem automatiskt.
Något som mäter eller bedömer medarbetare — plock per timme, kördata, kundomdömen — och används för befordran eller uppsägning.
System som avgör tillgång till kredit, försäkring, utbildning eller offentliga förmåner.

Och se upp för det sneda mönstret

En AI har lärt sig av verkligheten. Var verkligheten sned lär den sig snedheten med — och återger den i ett prydligt, sakligt språk där den är svår att få syn på. En snabb koll: byt ut namnet, åldern eller bostadsorten i det du tittar på. Ser förslaget plötsligt annorlunda ut är det värt att nämna. Du behöver inte kunna bevisa en snedhet statistiskt — du ska lägga märke till den och säga det.

Vad du ska göra

Du behöver inte kunna reglerna utantill. Du ska kunna känna igen situationen och säga det högt innan verktyget tas i bruk: ”Det här bedömer människor — är det kontrollerat?” Den frågan är hela din roll, och den är en billig försäkring.

Kom ihåg

Bedömer verktyget människor, så fråga — innan det används, inte efter.

Fråga 1 av 3

Vilket av dessa är högriskanvändning av AI?

Ett verktyg som föreslår formuleringar i ett mejl Ett verktyg som översätter en vägledning Ett verktyg som rangordnar jobbsökande

Fråga 2 av 3

Din avdelning vill använda ett nytt AI-verktyg för att välja ut kandidater. Vad är din viktigaste uppgift?

Att lära känna verktyget grundligt först Att kontrollera om det är billigare än det gamla Att säga högt att det bedömer människor, innan det tas i bruk

Fråga 3 av 3

Du upptäcker att ett verktyg konsekvent bedömer en grupp lägre. Du kan inte bevisa det statistiskt. Vad gör du?

Låter bli — du kan ju ha fel Säger det till den ansvariga med en gång Väntar tills du har tillräckligt med siffror

Bra jobbat!

Du har tagit en av grundkurserna — de som alla får gratis.

Med ett gratis konto:

Dina poäng, dina framsteg och ditt kursintyg sparas.
Du får kurser skräddarsydda för din roll — inte bara grundkurserna.
Vi skickar utbildningen precis när du behöver den — till exempel som uppföljning på ett phishing-test.

Skapa gratis konto → ← Se de andra kurserna