Wenn AI sich irrt: Prüfen statt glauben.

Sprachmodelle formulieren überzeugend, auch wenn sie falschliegen. Wer KI nutzt, braucht einen Prüfprozess.

Warum Modelle erfinden

Ein Sprachmodell sagt das nächste Wort voraus, das statistisch passt. Es greift nicht auf eine gesicherte Faktenbank zu. Deshalb klingt eine Antwort flüssig, selbst wenn Quelle, Zahl oder Zusammenhang erfunden sind.

Typische Muster

• Erfundene Quellen, Studien oder Zitate.
• Falsche Zahlen, Daten und Namen.
• Veraltete Angaben ohne Hinweis auf den Wissensstand.
• Selbstsichere Formulierungen ohne Unsicherheit.

Vier Prüfschritte, die sich lohnen

• Quelle verlangen, und die Quelle selbst öffnen.
• Zahlen, Rechtliches und Medizinisches immer gegenprüfen.
• Antworten in prüfbare Teile zerlegen lassen.
• Mit eigenen Unterlagen arbeiten: aktuelle Texte als Referenz mitgeben.

Technik allein reicht nicht

Risikomanagement-Rahmen wie das NIST AI Risk Management Framework setzen auf vier Schritte: Kontext verstehen, Risiken benennen, Wirkung messen, Massnahmen führen. Entscheidend bleibt die menschliche Kontrolle, gerade bei Entscheidungen mit Folgen.

Eine falsche Antwort ist schnell geschrieben. Eine geprüfte Antwort schafft Vertrauen.

Fazit

Halluzinationen sind kein Ausreisser, sondern eine Eigenschaft des Systems. Wer das weiss, prüft, und nutzt KI dort, wo Prüfen möglich ist.