Een AI spelfouten in een tekst laten corrigeren is één ding. Hem sollicitanten laten sorteren, de prestatie van een medewerker laten beoordelen of laten bepalen wie een uitkering krijgt, is iets heel anders. Dat soort dingen noemt de wet hoog risico. De eisen aan die tools zijn streng en er moet aan worden voldaan voordat de tool in gebruik wordt genomen — niet achteraf.

Een AI heeft geleerd van de werkelijkheid. Was die werkelijkheid scheef, dan leert hij die scheefheid mee — en geeft die weer in nette, zakelijke taal, waar hij moeilijk op te merken is. Een snelle check: verwissel de naam, de leeftijd of de woonplaats in wat je bekijkt. Ziet het voorstel er ineens anders uit, dan is het het waard om te noemen. Je hoeft een scheefheid niet statistisch te bewijzen — je hoeft hem alleen op te merken en te melden.

Je hoeft de regels niet uit je hoofd te kennen. Je moet de situatie kunnen herkennen en het hardop zeggen voordat de tool in gebruik wordt genomen: “Dit beoordeelt mensen — is dat gecontroleerd?” Die vraag is jouw hele rol, en het is een goedkope verzekering.