Laisser une IA corriger les fautes d'orthographe dans un texte est une chose. La laisser trier des candidats, évaluer la performance d'un collaborateur ou décider qui a droit à une prestation en est une tout autre. Ce genre d'usage, la loi le qualifie de haut risque. Les exigences applicables à ces outils sont strictes, et elles doivent être remplies avant la mise en service de l'outil — pas après.

Une IA a appris à partir de la réalité. Si cette réalité était biaisée, elle en apprend aussi le biais — et le reproduit dans un langage soigné et objectif, où il est difficile à repérer. Une vérification rapide : remplacez le nom, l'âge ou le lieu de résidence dans ce que vous examinez. Si la proposition change soudain d'allure, cela vaut la peine d'en parler. Vous n'avez pas à prouver un biais statistiquement — vous devez le remarquer et le signaler.

Vous n'avez pas à connaître les règles par cœur. Vous devez savoir reconnaître la situation et le dire à voix haute avant la mise en service de l'outil : « Ceci évalue des personnes — est-ce que ça a été vérifié ? » Cette question, c'est tout votre rôle, et c'est une assurance à bas prix.