Dejar que una IA corrija faltas de ortografía en un texto es una cosa. Dejar que filtre candidatos, evalúe el desempeño de un empleado o decida quién recibe una prestación es algo completamente distinto. Ese tipo de uso lo califica la ley como de alto riesgo. Los requisitos para esas herramientas son estrictos y deben cumplirse antes de poner la herramienta en marcha, no después.

Una IA ha aprendido de la realidad. Si la realidad estaba sesgada, la IA aprende ese sesgo y lo reproduce con un lenguaje pulido y aparentemente objetivo, donde es difícil de detectar. Una comprobación rápida: cambia el nombre, la edad o el lugar de residencia en lo que estés mirando. Si la propuesta de repente cambia, vale la pena mencionarlo. No tienes que demostrar el sesgo estadísticamente: solo tienes que notarlo y decirlo.

No hace falta que te sepas las reglas de memoria. Tienes que saber reconocer la situación y decirlo en voz alta antes de poner la herramienta en marcha: «Esto evalúa a personas, ¿se ha comprobado?». Esa pregunta es todo tu papel, y es un seguro barato.