RAG (Retrieval-Augmented Generation)
Definition
RAG kombiniert ein LLM mit einer externen Wissensdatenbank, um aktuellere und praesisere Antworten zu liefern. Das System sucht zuerst relevante Dokumente und uebergibt sie als Kontext an das LLM. RAG reduziert Halluzinationen und ermueglicht das Abfragen privater Daten.
Beispiel
Ein Unternehmens-Chatbot mit RAG kann interne Handbuecher in Echtzeit durchsuchen und korrekt zitieren.
Verwandte Begriffe
Mehr aus “AI/ML”
Transformer (Architektur)
Die Transformer-Architektur wurde 2017 von Google eingefuehrt und ist die Grundlage aller modernen LLMs. Sie nutzt Self-Attention-Mechanismen, um Beziehungen zwischen allen Tokens gleichzeitig zu erfassen. Dadurch sind Transformer stark parallelisierbar und skalierbar.
Deep Learning
Deep Learning ist ein Teilbereich des Machine Learning, der Neural Networks mit vielen Schichten verwendet. Es ermoeglicht das Lernen hierarchischer Merkmale aus grossen Datenmengen. Deep Learning treibt Innovationen in Bilderkennung, Sprachverarbeitung und autonomen Systemen.
Zero Trust (Sicherheit)
Zero Trust ist ein Sicherheitsmodell, das keinem Geraet oder Benutzer von vornherein vertraut, unabhaengig vom Netzwerk. Jede Anfrage muss authentifiziert und autorisiert werden. In KI-Systemen verhindert Zero Trust, dass kompromittierte Endgeraete auf Modelle oder Daten zugreifen.
Edge Inference
Edge Inference fuehrt KI-Modelle direkt auf dem Endgeraet aus, ohne Cloud-Verbindung. Dies reduziert Latenz, spart Bandbreite und schuetzt die Privatsphaere. NPUs mit 40+ TOPS ermoeglichen Edge Inference fuer LLMs mit bis zu 7 Milliarden Parametern.