Nano-lección · suele llevar 2–3 minutos
La IA propone, tú decides
Lo peligroso no es que la IA se equivoque. Es que nadie llega a comprobarlo.
Cuando el borrador se convierte en la decisión
Empieza de forma razonable: la IA hace un borrador, tú lo lees, lo corriges. Pero cuando los borradores siguen siendo lo bastante buenos, dejas de leerlos. Se llama ceguera por automatización, y ese es el verdadero riesgo — no que la máquina falle, sino que ya nadie lo compruebe. No solo aplica al texto: si siempre sigues la propuesta del sistema — una ruta, una lista de recogida, una dosis — sin extrañarte cuando algo parece mal, estás en el mismo punto.
Aférrate a tres cosas
- Un borrador es un borrador. Tu firma es tuya, también cuando el texto vino de otro sitio.
- Léelo como si lo hubiera escrito un compañero. ¿Reenviarías el borrador de un compañero sin leerlo?
- Di que no cuando no se puede comprobar. Si te ponen a aprobar cien propuestas por hora, no puedes aprobar ninguna como es debido. Esa es una información que tu jefe necesita.
Especialmente cuando se trata de personas
Cuando hay que decidir algo sobre una persona — una contratación, una reclamación, una prestación — la decisión nunca debe recaer únicamente en la máquina. Tiene que intervenir una persona que pueda cambiar realmente el resultado, no solo pulsar aprobar.
Recuerda
Según la investigación
En los hospitales se han estudiado los sistemas que sugieren al médico o a la enfermera qué debería hacerse. Cuando el sistema sugería algo incorrecto, el riesgo de una decisión errónea aumentaba un 26 % — gente con experiencia cambiaba su propia respuesta correcta por la equivocada, porque la pantalla decía otra cosa. No es estupidez. Es lo que ocurre cuando algo ha acertado muchas veces seguidas.
Pregunta 1 de 3
Has aprobado 40 borradores de IA seguidos y todos eran buenos. ¿Cuál es el mayor riesgo ahora?
✓ ¡Correcto!
Ceguera por automatización. El problema no es el fallo del borrador nº 41 — es que ya nadie lo detectaría.
Pregunta 2 de 3
¿Cuándo «una persona lo revisa» no es una supervisión real?
✓ ¡Correcto!
La supervisión exige que puedas decir que no y que eso tenga efecto. Si solo puedes pulsar aprobar, eres un mero trámite.
Pregunta 3 de 3
Te ordenan aprobar más casos de los que puedes leer. ¿Qué es lo correcto?
✓ ¡Correcto!
No puedes responder por algo que no has leído. Decirlo en voz alta es parte de la supervisión, no una molestia.
¡Muy bien hecho!
Has hecho uno de los cursos básicos, los que recibe todo el mundo gratis.
Con una cuenta gratuita:
- Tus puntos, tu progreso y tu certificado quedan guardados.
- Recibes cursos adaptados a tu rol, no solo los básicos.
- Te enviamos la formación justo cuando la necesitas, por ejemplo, como seguimiento a una prueba de phishing.