Hallucination (KI)
Definition
Hallucination beschreibt das Phaenomen, dass ein LLM selbstbewusst falsche oder erfundene Informationen ausgibt. Es entsteht durch statistische Muster im Training, die nicht mit Fakten uebereinstimmen. RAG und bessere Fine-Tuning-Methoden reduzieren Halluzinationen.
Beispiel
Ein LLM koennte eine realistisch klingende, aber komplett frei erfundene Biografie einer echten Person generieren.
Verwandte Begriffe
Mehr aus “AI/ML”
LlamaIndex
LlamaIndex ist ein Data-Framework fuer LLM-Anwendungen, spezialisiert auf die Verbindung von Datenquellen mit LLMs. Es bietet Connector fuer ueber 100 Datenquellen, Index-Strukturen und Retrieval-Methoden. LlamaIndex ist besonders stark im Bereich strukturierte Daten und RAG.
Constitutional AI
Constitutional AI ist eine von Anthropic entwickelte Trainingsmethode, bei der ein LLM anhand einer 'Verfassung' von Prinzipien sich selbst korrigiert. Das Modell bewertet seine eigenen Antworten und ueberarbeitet sie. Claude wurde mit dieser Methode trainiert.
GAN (Generative Adversarial Network)
GANs bestehen aus zwei Neural Networks, die gegeneinander antreten. Ein Generator erzeugt gefaelschte Daten, ein Diskriminator versucht, diese von echten zu unterscheiden. Durch diesen Wettbewerb werden beide besser. GANs werden fuer Deepfakes und Bildgenerierung verwendet.
MoE (Mixture of Experts)
MoE ist eine Architektur, bei der nur ein Teil der Modell-Parameter pro Token aktiviert wird. Ein Router entscheidet, welche Experten (Sub-Netzwerke) fuer jede Eingabe verwendet werden. DeepSeek-V3 und Mixtral nutzen MoE fuer hohe Kapazitaet bei niedriger Inferenz-Kosten.