Ein Modell kann einen schwierigen Text überzeugend erklären und im nächsten Satz eine Quelle erfinden. Seine Stärken sind ungleich verteilt, und Sicherheit im Ton ist kein Maß für Sicherheit im Inhalt. Für die Nutzung helfen drei Fragen: Welche Informationen hatte es, wie entstand die Antwort und was lässt sich davon prüfen?
3 Min. Lesezeit
7 Abschnitte
6 Quellen
Stand: 16. Juni 2026
Wenn plausible Antworten falsch sind
Halluzinationen sind sachlich falsche oder erfundene Ausgaben: eine nicht existierende Studie, eine falsche Jahreszahl oder eine erfundene Funktion. Training auf Sprachvorhersage allein sichert keine Faktentreue. Die Arbeit „Why Language Models Hallucinate“ beschreibt zudem, wie Bewertungen das Raten gegenüber einem ehrlichen „weiß ich nicht“ belohnen können.
Quellen im Kontext und die Möglichkeit, eine Antwort abzulehnen, können helfen. Eine Quellenangabe allein reicht jedoch nicht: Auch Links und Zitate können erfunden sein oder die Behauptung nicht stützen. Prüfe bei wichtigen Aussagen die verlinkte Originalstelle.
MerksatzPrüfe nicht nur, ob eine Quelle genannt wird, sondern ob sie die Aussage trägt.
Warum dieselbe Frage anders beantwortet wird
Sampling bestimmt, welches Token aus der berechneten Verteilung ausgewählt wird. Die Temperatur verändert diese Verteilung: Niedrige Werte konzentrieren sie stärker auf wahrscheinliche Fortsetzungen, höhere lassen mehr Variation zu. Sie ist kein Regler für Wahrheit oder verlässliche Kreativität.
Auch bei Temperatur null sind identische Ausgaben im praktischen Betrieb nicht garantiert. Unterschiedliche Ausführungsbedingungen können kleine numerische Abweichungen erzeugen. Für wiederholbare Abläufe gehören daher auch Modellversion, Eingaben, Werkzeuge und das Ausgabeformat unter Kontrolle.
Reasoning-Modelle verwenden zusätzliche Rechenschritte für eine Antwort. Bei mehrstufigen Aufgaben kann das nützen, etwa beim Herleiten einer Lösung oder beim Untersuchen eines Programmfehlers. Der Aufwand kostet Zeit und kann zusätzliche abrechenbare Tokens erzeugen.
Bei einer einfachen Extraktion ist umfangreiches Reasoning oft unnötig. Vergleiche die Modi an deiner Aufgabe: Wird das Ergebnis besser, oder nur länger? Auch eine ausführlich hergeleitete Antwort braucht eine Prüfung.
Was der Wissensstichtag aussagt
Der Knowledge Cutoff beschreibt den vom Anbieter angegebenen Wissens- oder Trainingsstichtag. Er garantiert keine vollständige Kenntnis aller früheren Ereignisse. Für spätere Entwicklungen braucht das Modell Informationen aus der Anfrage, einer Suche oder anderen Werkzeugen.
Die richtige Frage bei aktuellen Aussagen lautet deshalb: Woher stammt diese Information? Bitte etwa bei einem Produktpreis um die aktuelle Preisseite. Ein neues Erscheinungsdatum des Modells ersetzt diesen Nachweis nicht.
Mit allgemeiner künstlicher Intelligenz, kurz AGI, sind meist Systeme mit breit einsetzbaren Fähigkeiten gemeint. Welche Aufgaben und welches Leistungsniveau dafür genügen, ist umstritten. Eine einzelne bestandene Prüfung beantwortet diese Frage nicht.
In der Forschung stehen unter anderem weiteres Skalieren, Lernen durch Interaktion und Weltmodelle zur Debatte. Für keine dieser Richtungen folgt aus den hier belegten Befunden ein verlässlicher Zeitplan. Für die eigene Nutzung ist die konkrete Fähigkeit eines Systems aussagekräftiger als ein AGI-Etikett.
Ein gutes Ergebnis in einer Aufgabe lässt sich nicht beliebig übertragen. Ein Modell kann Code erklären und trotzdem beim Ändern derselben Software wichtige Randbedingungen übersehen. Dieses ungleichmäßige Fähigkeitsprofil wird auch „jagged“ genannt.
Teste daher nicht nur einen gelungenen Vorzeigefall. Nimm typische Aufgaben, seltene Sonderfälle und Beispiele, bei denen eine Enthaltung die richtige Antwort wäre. So erkennst du eher, wo Nachkontrolle nötig ist.
Ein einfacher Prüffall ist eine Frage, deren Antwort im mitgegebenen Material fehlt. Eine brauchbare Reaktion benennt die Lücke. Eine erfundene Zahl ist dagegen ein Fehler, selbst wenn die übrigen Antworten des Modells gut waren.
Ein ausgegebener Denkweg kann eine Lösung verständlich machen. Er ist aber kein zuverlässiges Protokoll aller internen Ursachen der Antwort. Forschung zur Treue von Chain-of-Thought zeigt, dass relevante Einflüsse im sichtbaren Text fehlen können.
Nutze die Erklärung zum Nachvollziehen und Nachrechnen. Bei einer Rechnung zählt, ob die Schritte gültig sind; bei einer Quellenanalyse, ob die Belege passen. Ein überzeugender Denkweg ersetzt beides nicht.