Nanoles · duurt meestal 2–3 minuten

AI stelt voor, jij beslist

Het gevaarlijke is niet dat AI zich vergist. Het is dat niemand nog de tijd neemt om te controleren.

Wanneer het concept de beslissing wordt

Het begint verstandig: AI maakt een concept, jij leest het door, jij corrigeert. Maar wanneer de concepten steeds goed genoeg blijven, houd je op met lezen. Dat heet automatiseringsblindheid, en dat is het echte risico — niet dat de machine faalt, maar dat niemand meer controleert. Dat geldt niet alleen voor tekst: volg je altijd het voorstel van het systeem — een route, een piklijst, een dosering — zonder te stokken wanneer iets er verkeerd uitziet, dan zit je in hetzelfde schuitje.

Houd drie dingen vast

Een concept is een concept. Je handtekening is van jou, ook als de tekst ergens anders vandaan kwam.
Lees alsof een collega het had geschreven. Zou je het concept van een collega doorsturen zonder het te lezen?
Trek aan de bel als het niet te controleren valt. Als je honderd voorstellen per uur moet goedkeuren, kun je er geen enkele fatsoenlijk goedkeuren. Dat is informatie die je leidinggevende nodig heeft.

Vooral wanneer het over mensen gaat

Moet er iets over een persoon worden beslist — een aanstelling, een klacht, een uitkering — dan mag de beslissing nooit alleen bij de machine liggen. Er moet een mens bij komen die het resultaat daadwerkelijk kan wijzigen, niet alleen op goedkeuren drukken.

Onthoud dit

AI mag voorbereiden. De mens beslist.

Wat het onderzoek zegt

In ziekenhuizen zijn de systemen onderzocht die de arts of verpleegkundige voorstellen wat er moet gebeuren. Wanneer het systeem iets verkeerds voorstelde, steeg het risico op een verkeerde beslissing met 26% — ervaren mensen veranderden hun eigen juiste antwoord in het verkeerde, omdat het scherm iets anders zei. Dat is geen domheid. Dat is wat er gebeurt wanneer iets al heel vaak achter elkaar gelijk heeft gehad.

Goddard et al., JAMIA 2012 (systematische review).

Vraag 1 van 3

Je hebt 40 AI-concepten achter elkaar goedgekeurd, en ze waren allemaal goed. Wat is nu het grootste risico?

Dat je te traag wordt Dat je ophoudt ze fatsoenlijk te lezen Dat het hulpmiddel na verloop van tijd slechter wordt

Vraag 2 van 3

Wanneer is “er kijkt een mens naar” geen echt toezicht?

Wanneer de mens het resultaat niet daadwerkelijk kan wijzigen Wanneer de mens geen leidinggevende is Wanneer de mens minder dan vijf minuten gebruikt

Vraag 3 van 3

Je krijgt de opdracht om meer zaken goed te keuren dan je kunt lezen. Wat is het juiste om te doen?

Elke tiende steekproefsgewijs controleren en de rest goedkeuren Ze snel goedkeuren — dat is toch waar je voor bent aangesteld Tegen je leidinggevende zeggen dat die hoeveelheid niet verantwoord goedgekeurd kan worden

Goed gedaan!

Je hebt een van de basiscursussen gevolgd — die zijn voor iedereen gratis.

Met een gratis login:

Je punten, je vooruitgang en je kursusbevis worden bewaard.
Je krijgt cursussen die zijn afgestemd op jouw rol — niet alleen de basiscursussen.
We sturen de training precies op het moment dat je die nodig hebt — bijvoorbeeld als opvolging van een phishing-test.

Gratis login aanmaken → ← Bekijk de andere cursussen