Eine KI Rechtschreibfehler in einem Text korrigieren zu lassen, ist eine Sache. Sie Bewerber sortieren, die Leistung von Mitarbeitenden bewerten oder entscheiden zu lassen, wer eine Leistung erhält, ist etwas ganz anderes. So etwas nennt das Gesetz Hochrisiko. Die Anforderungen an diese Werkzeuge sind streng, und sie müssen erfüllt sein, bevor das Werkzeug eingesetzt wird — nicht danach.

Eine KI hat von der Wirklichkeit gelernt. War die Wirklichkeit schief, lernt sie die Schieflage mit — und gibt sie in einer schönen, sachlichen Sprache wieder, in der sie schwer zu erkennen ist. Ein schneller Test: tausche den Namen, das Alter oder den Wohnort aus in dem, was du dir ansiehst. Sieht der Vorschlag plötzlich anders aus, ist es das wert, erwähnt zu werden. Du musst eine Schieflage nicht statistisch beweisen — du musst sie bemerken und aussprechen.

Du musst die Regeln nicht auswendig können. Du musst die Situation erkennen und sie laut aussprechen, bevor das Werkzeug eingesetzt wird: „Das hier bewertet Menschen — ist das geprüft?“ Diese Frage ist deine ganze Rolle, und sie ist eine günstige Versicherung.