Pozwolić AI poprawiać literówki w tekście to jedno. Pozwolić jej selekcjonować kandydatów, oceniać pracę pracownika czy decydować, kto ma otrzymać świadczenie, to coś zupełnie innego. Takie zastosowania prawo nazywa wysokim ryzykiem. Wymogi wobec tych narzędzi są surowe i muszą być spełnione zanim narzędzie zostanie wdrożone — a nie po fakcie.

AI uczyła się z rzeczywistości. Jeśli rzeczywistość była skrzywiona, to AI wraz z nią uczy się tej skrzywy — i odtwarza ją w ładnym, rzeczowym języku, w którym trudno ją dostrzec. Szybki test: zamień imię, wiek lub miejsce zamieszkania w tym, na co patrzysz. Jeśli propozycja nagle wygląda inaczej, warto o tym wspomnieć. Nie musisz udowadniać skrzywy statystycznie — masz ją zauważyć i powiedzieć o niej.

Nie musisz znać przepisów na pamięć. Masz umieć rozpoznać sytuację i powiedzieć głośno, zanim narzędzie zostanie wdrożone: „To ocenia ludzi — czy zostało sprawdzone?”. To pytanie to cała twoja rola i jest tanim ubezpieczeniem.