Nano-leçon · généralement 2 à 3 minutes

L'IA propose, vous décidez

Le danger n'est pas que l'IA se trompe. C'est que personne ne prend le temps de vérifier.

Quand le brouillon devient la décision

Tout commence raisonnablement : l'IA rédige un brouillon, vous le relisez, vous le corrigez. Mais lorsque les brouillons restent toujours assez bons, on cesse de les lire. C'est ce qu'on appelle la cécité d'automatisation, et c'est là le vrai risque — non pas que la machine se trompe, mais que plus personne ne vérifie. Cela ne concerne pas que le texte : si vous suivez toujours la suggestion du système — un itinéraire, une liste de prélèvement, un dosage — sans tiquer quand quelque chose paraît anormal, vous êtes exactement au même point.

Gardez trois choses en tête

Un brouillon reste un brouillon. Votre signature est la vôtre, même lorsque le texte vient d'ailleurs.
Lisez-le comme si un collègue l'avait écrit. Transmettriez-vous le brouillon d'un collègue sans le lire ?
Dites stop quand ce n'est pas vérifiable. Si l'on vous demande de valider cent propositions à l'heure, vous ne pouvez en valider aucune correctement. C'est une information dont votre responsable a besoin.

Surtout quand il s'agit de personnes

Lorsqu'une décision doit être prise à propos d'une personne — une embauche, une réclamation, une prestation — cette décision ne doit jamais reposer sur la seule machine. Il faut l'intervention d'un être humain qui puisse réellement modifier le résultat, et pas seulement appuyer sur « valider ».

À retenir

L'IA peut préparer. C'est l'humain qui décide.

Ce que dit la recherche

Dans les hôpitaux, on a étudié les systèmes qui suggèrent au médecin ou à l'infirmier ce qu'il convient de faire. Lorsque le système proposait quelque chose d'erroné, le risque d'une mauvaise décision augmentait de 26 % — des professionnels expérimentés modifiaient leur propre réponse pourtant correcte pour la remplacer par la mauvaise, parce que l'écran affichait autre chose. Ce n'est pas de la bêtise. C'est ce qui arrive quand quelque chose a eu raison de nombreuses fois d'affilée.

Goddard et al., JAMIA 2012 (revue systématique).

Question 1 sur 3

Vous avez validé 40 brouillons d'IA d'affilée, et ils étaient tous bons. Quel est aujourd'hui le plus grand risque ?

Que vous deveniez trop lent Que l'outil se dégrade avec le temps Que vous cessiez de les lire correctement

Question 2 sur 3

Quand « un humain y jette un œil » n'est-il pas un véritable contrôle ?

Quand l'humain y consacre moins de cinq minutes Quand l'humain n'est pas un responsable Quand l'humain ne peut pas réellement modifier le résultat

Question 3 sur 3

On vous demande de valider plus de dossiers que vous ne pouvez en lire. Quelle est la bonne chose à faire ?

Dire à votre responsable que ce volume ne peut pas être validé de façon responsable Contrôler un dossier sur dix et valider le reste Les valider rapidement — c'est bien pour cela que vous êtes là

Bien joué !

Vous avez suivi l'une des formations de base — offertes gratuitement à tous.

Avec un compte gratuit :

Vos points, votre progression et votre attestation de formation sont conservés.
Vous recevez des formations adaptées à votre rôle — pas seulement les formations de base.
Nous envoyons la formation au moment où vous en avez besoin — par exemple en suivi d'un test de phishing.

Créer un compte gratuit → ← Voir les autres formations