Kurz erklärt
Als Halluzination bezeichnet man eine plausibel klingende, aber falsche KI-Antwort. Deshalb braucht es bei wichtigen Ergebnissen immer eine menschliche Prüfung.
Als Halluzination bezeichnet man eine plausibel klingende, aber falsche KI-Antwort. Deshalb braucht es bei wichtigen Ergebnissen immer eine menschliche Prüfung.
Eine Halluzination entsteht, weil ein Sprachmodell Text nach Wahrscheinlichkeit erzeugt und nicht auf eine geprüfte Wissensdatenbank zugreift. Fehlt eine Information, füllt das Modell die Lücke mit dem plausibelsten Text, der falsch sein kann.
Das Modell unterscheidet dabei nicht zwischen sicherem Wissen und Vermutung. Es formuliert beides gleich überzeugend, weshalb falsche Aussagen oft sehr glaubwürdig klingen.
Begünstigt wird das durch unklare Prompts, fehlende Quellen und Fragen außerhalb des Trainingswissens. Genau dort erfindet ein Large Language Model am ehesten Details.
Ganz vermeiden lassen sich Halluzinationen nicht, aber deutlich reduzieren. Der wirksamste Hebel ist, die KI an verlässliche Quellen zu binden.
Bewährte Maßnahmen:
Entscheidend bleibt die Prüfung. Bei rechtlichen, finanziellen oder sicherheitskritischen Themen darf keine KI-Antwort ungeprüft übernommen werden.
FAQ
Kurz und konkret beantwortet.
Weil das Modell auf flüssige, plausible Sprache optimiert ist, nicht auf Wahrheitsprüfung. Es formuliert erfundene Details im selben sicheren Ton wie korrekte Fakten. Da es keine Unsicherheit kennzeichnet, lässt sich Richtig und Falsch am Text allein oft nicht erkennen, eine inhaltliche Prüfung bleibt nötig.
Ja. Besonders riskant sind Fragen nach konkreten Zahlen, Daten, Quellen, Zitaten oder Personen sowie sehr spezielle Fachthemen außerhalb des Trainingswissens. Auch erfundene Literaturangaben sind häufig. Bei solchen Aufgaben ist eine Anbindung an belegte Quellen und eine sorgfältige Kontrolle besonders wichtig.
Nur eingeschränkt. Quellenangaben erhöhen die Nachvollziehbarkeit, können aber selbst erfunden oder unpassend sein. Verlässlich wird es erst, wenn die KI nachweislich aus einer angebundenen, geprüften Wissensbasis schöpft und die genannten Quellen tatsächlich existieren und das Gesagte belegen. Stichproben bleiben sinnvoll.
Noch Fragen?
Ob KI & Daten oder ein anderes Thema — wir schauen uns Ihre Situation an und sagen Ihnen ehrlich, was sinnvoll ist.
Kontakt aufnehmenKostenlose Erstberatung
Unverbindlich und ohne Fachchinesisch. Wählen Sie den Weg, der Ihnen am liebsten ist.
4,7 ★ GoogleAntwort in unter 4 Stundenpersönlich seit 2002
Rückruf anfordern
Innerhalb von 4 Stunden — kostenlos und unverbindlich.
Wir melden uns innerhalb von 4 Stunden bei Ihnen.