KI halluziniert?
Erfundene Funktionen, falsche Parameter, APIs die es nicht gibt: Halluzinationen sind der häufigste KI-Fehler im Code. Ursachen verstehen, Gegenmittel anwenden, Rest per Verifikation abfangen.
01 Woran erkenne ich Halluzinationen?
Typische Signale: Importe aus Paketen, die nicht installiert sind; Methoden, die in der Doku nicht existieren; selbstbewusste Erklärungen zu falschem Code. Faustregel: Alles, was du nicht verifizieren kannst, ist verdächtig – also verifiziere alles (siehe KI-Code prüfen & absichern).
02 Ursache 1: Veraltetes Modellwissen
Modelle kennen nur ihren Trainingsstand. Bei neuen Library-Versionen raten sie. Gegenmittel: Aktuelle Doku als Kontext mitgeben oder einen Recherche-Spezialisten (im AG Kit: @bibliothekar) erst die Doku lesen lassen, bevor Code entsteht.
03 Ursache 2: Zu vage Aufträge
„Bau ein Login" lädt zum Raten ein; „Bau ein Login mit NextAuth, Credentials-Provider, Zod-Validierung" nicht. Präzise Aufträge, Beispiel-Tests und Abnahmekriterien halbieren die Halluzinationsrate – plus Zweitmeinung per /council bei kritischen Stellen.
04 Ursache 3: Fehlende Verifikation
Der Rest lässt sich nicht verhindern, nur entlarven: Code ausführen, Tests schreiben lassen, Security scannen. Was halluziniert ist, fliegt beim ersten Testlauf auf – garantiert.