Nano-Lektion · dauert in der Regel 2–3 Minuten

KI schlägt vor, du entscheidest

Die Gefahr ist nicht, dass die KI sich irrt. Die Gefahr ist, dass niemand mehr nachschaut.

Wenn aus dem Entwurf die Entscheidung wird

Es fängt vernünftig an: Die KI erstellt einen Entwurf, du liest ihn durch, du korrigierst. Aber wenn die Entwürfe immer wieder gut genug sind, hört man auf zu lesen. Das nennt man Automatisierungsblindheit, und das ist das eigentliche Risiko — nicht, dass die Maschine Fehler macht, sondern dass niemand mehr nachschaut. Das gilt nicht nur für Texte: Wenn du dem Vorschlag des Systems immer folgst — einer Route, einer Kommissionierliste, einer Dosierung — ohne stutzig zu werden, wenn etwas falsch aussieht, bist du an derselben Stelle.

Halte an drei Dingen fest

Ein Entwurf ist ein Entwurf. Deine Unterschrift ist deine, auch wenn der Text von woanders kam.
Lies ihn, als hätte ihn ein Kollege geschrieben. Würdest du den Entwurf eines Kollegen ungelesen weiterleiten?
Sag Bescheid, wenn sich etwas nicht prüfen lässt. Wenn du hundert Vorschläge pro Stunde genehmigen sollst, kannst du keinen davon ordentlich genehmigen. Das ist eine Information, die deine Führungskraft braucht.

Besonders, wenn es um Menschen geht

Wenn über eine Person entschieden werden soll — eine Einstellung, eine Beschwerde, eine Leistung — darf die Entscheidung niemals allein bei der Maschine liegen. Es muss ein Mensch beteiligt sein, der das Ergebnis tatsächlich ändern kann, nicht nur auf Genehmigen drücken.

Merk dir

Die KI darf vorbereiten. Der Mensch entscheidet.

Das sagt die Forschung

In Krankenhäusern hat man die Systeme untersucht, die dem Arzt oder der Pflegekraft vorschlagen, was getan werden sollte. Wenn das System etwas Falsches vorschlug, stieg das Risiko einer falschen Entscheidung um 26 % — erfahrene Fachkräfte änderten ihre eigene richtige Antwort in die falsche, weil der Bildschirm etwas anderes sagte. Das ist keine Dummheit. Das ist, was passiert, wenn etwas viele Male hintereinander recht hatte.

Goddard et al., JAMIA 2012 (systematischer Review).

Frage 1 von 3

Du hast 40 KI-Entwürfe hintereinander genehmigt, und sie waren alle gut. Was ist jetzt das größte Risiko?

Dass das Werkzeug mit der Zeit schlechter wird Dass du aufhörst, sie ordentlich zu lesen Dass du zu langsam wirst

Frage 2 von 3

Wann ist „ein Mensch schaut sich das an“ keine echte Aufsicht?

Wenn der Mensch keine Führungskraft ist Wenn der Mensch das Ergebnis nicht tatsächlich ändern kann Wenn der Mensch weniger als fünf Minuten braucht

Frage 3 von 3

Du bekommst den Auftrag, mehr Vorgänge zu genehmigen, als du lesen kannst. Was ist das Richtige?

Sie schnell genehmigen — das ist ja dein Auftrag Deiner Führungskraft sagen, dass die Menge nicht verantwortungsvoll genehmigt werden kann Jeden zehnten stichprobenartig prüfen und den Rest genehmigen

Gut gemacht!

Du hast einen der Grundkurse absolviert – den alle kostenlos bekommen.

Mit einem kostenlosen Login:

Deine Punkte, dein Fortschritt und dein Kursnachweis werden gespeichert.
Du bekommst Kurse, die auf deine Rolle zugeschnitten sind – nicht nur die Grundkurse.
Wir schicken dir das Training genau dann, wenn du es brauchst – zum Beispiel als Nachfassaktion nach einer Phishing-Simulation.

Kostenloses Login erstellen → ← Weitere Kurse ansehen