Neural Network (Neuronales Netz)
Definition
Ein Neural Network ist ein vom menschlichen Gehirn inspiriertes KI-Modell aus verbundenen Knoten (Neuronen) in Schichten. Es lernt aus Daten, indem es Gewichte anpasst. Tiefe Netzwerke (Deep Learning) mit vielen Schichten können extrem komplexe Muster erkennen.
Beispiel
Ein Convolutional Neural Network (CNN) kann medizinische Röntgenbilder mit über 95% Genauigkeit klassifizieren.
Verwandte Begriffe
Mehr aus “AI/ML”
Vector Database
Eine Vector Database speichert Embeddings und ermöglicht schnelle Ähnlichkeitssuche. Sie ist essenziell für RAG-Systeme und AI-Anwendungen. Bekannte Vector DBs sind Pinecone, Weaviate, Qdrant und Chroma. Sie nutzen Approximate Nearest Neighbor (ANN) Algorithmen.
Attention Mechanism
Attention ist ein Konzept in Neural Networks, das dem Modell ermöglicht, sich auf relevante Teile der Eingabe zu konzentrieren. Self-Attention berechnet für jedes Token, wie stark es alle anderen Tokens beeinflusst. Multi-Head Attention ist ein Kernbaustein der Transformer-Architektur.
Hallucination (KI)
Hallucination beschreibt das Phänomen, dass ein LLM selbstbewusst falsche oder erfundene Informationen ausgibt. Es entsteht durch statistische Muster im Training, die nicht mit Fakten übereinstimmen. RAG und bessere Fine-Tuning-Methoden reduzieren Hallucinationen.
Context Window (Kontextfenster)
Das Context Window ist die maximale Anzahl an Tokens, die ein LLM gleichzeitig verarbeiten kann. Es umfasst Eingabe und Ausgabe. Größere Context Windows erlauben längere Dokumente, mehrfew-Shot-Beispiele und ausgedehntere Konversationen. Gemini 2 erreicht 2 Millionen Tokens.