weakestlink

← Alle Kurse

Nano-Lektion · dauert in der Regel 2–3 Minuten

KI klingt sicher — auch wenn sie sich irrt

Sie schreibt mit derselben Selbstsicherheit, egal ob sie recht hat. So überprüfst du es.

Zuerst: Was für ein Werkzeug ist das?

Du fragst, auf wie viele freie Tage du nach einem Feiertag Anspruch hast. Die Antwort kommt in zwei Sekunden, gut formuliert und präzise — und falsch, denn sie kennt euren Tarifvertrag nicht. Ob das passieren kann, hängt davon ab, mit welchem Werkzeug du gerade arbeitest: Manche recherchieren und verweisen auf Quellen, andere antworten nur aus dem, was sie vorher gelernt haben, und können nichts überprüfen. Sie sehen gleich aus — dasselbe Feld, dieselbe ruhige Antwort — aber sie sind nicht gleich verlässlich. Zu wissen, mit welcher Art du es zu tun hast, ist genau die Fähigkeit, die zählt.

Frag dich selbst

Kann sie etwas nachschlagen, während ich frage? Zeigt sie mir, woher die Antwort stammt? Ist die Antwort auf beides nein, dann bekommst du nur ein gut formuliertes Gedächtnis.

Wo es schiefgeht

  • Sie kennt EURE Wirklichkeit nicht. Euren Vertrag, euren Ablauf, eure Preise. Sie antwortet allgemein und klingt genauso sicher — das ist der häufigste Fehler am Arbeitsplatz.
  • Eine echte Quelle, falsch verwendet. Da steht ein Link, und der Link funktioniert — also öffnet ihn niemand. Und dann steht in der Quelle etwas leicht anderes, als behauptet wurde. Ein Link ist ein Verweis, dem du folgen musst, kein Beweis.
  • Rechnungen über mehrere Schritte. Ein einzelner Betrag geht meist gut. Eine Frist, die sich aus Ankündigung, Wochenende und Feiertag zusammensetzen muss, ist genau die Stelle, an der es kippt.

Und der Ton verrät nichts

Es gibt keine unsichere Stimme. Sie schreibt mit derselben Ruhe, egal ob sie auf sicherem Boden steht. Zu fragen „Bist du sicher?“ ist auch keine Überprüfung — du bekommst eine genauso ruhige Antwort zurück.

Überprüfe das, was Folgen hat

Du musst nicht alles nachprüfen. Aber alles, was Geld kostet, einen Menschen betrifft oder aus dem Haus geht, musst du an einer anderen Stelle wiederfinden können. Kannst du das nicht, dann verschicke es nicht.

Merk dir

Ein selbstsicherer Ton ist kein Beweis. Schlag es nach, wenn es Folgen hat.

Das sagt die Forschung

Stanford testete die juristischen KI-Werkzeuge, die mit dem Versprechen „100 % halluzinationsfreier“ Quellenverweise verkauft werden — jene, die in echten Datenbanken nachschlagen und auf die Quelle verlinken. Sie lagen bei 17–33 % der Antworten falsch. Ein Werkzeug, das dir eine Quelle zeigt, hat sie nicht für dich überprüft; es hat dir nur das Suchen erspart.

Magesh et al., Journal of Empirical Legal Studies 2025.

Frage 1 von 3

Ein KI-Werkzeug antwortet dir mit einer Quelle, und der Link funktioniert. Bist du damit auf sicherem Boden?

Frage 2 von 3

Du fragst eine KI, wie lang die Kündigungsfrist eines Kunden ist. Sie antwortet klar und präzise. Was ist das größte Risiko?

Frage 3 von 3

Welche dieser Antworten musst du NICHT besonders gründlich nachprüfen?

Gut gemacht!

Du hast einen der Grundkurse absolviert – den alle kostenlos bekommen.

Mit einem kostenlosen Login:

  • Deine Punkte, dein Fortschritt und dein Kursnachweis werden gespeichert.
  • Du bekommst Kurse, die auf deine Rolle zugeschnitten sind – nicht nur die Grundkurse.
  • Wir schicken dir das Training genau dann, wenn du es brauchst – zum Beispiel als Nachfassaktion nach einer Phishing-Simulation.