Fine-Tuning
Definition
Fine-Tuning ist die Anpassung eines vortrainierten Modells an eine spezifische Aufgabe oder Domäne. Es benötigt deutlich weniger Daten und Rechenleistung als das Training von Grund auf. LoRA und QLoRA sind beliebte effiziente Fine-Tuning-Methoden.
Beispiel
Ein auf medizinischen Texten fine-getuntes LLM kann Diagnosen präziser erstellen als das Basis-Modell.
Verwandte Begriffe
Mehr aus “AI/ML”
TOPS (Tera Operations Per Second)
TOPS ist die Maßeinheit für die KI-Rechenleistung eines Prozessors. Ein TOPS entspricht einer Billion Operationen pro Sekunde. Microsofts Copilot+ Standard erfordert mindestens 40 TOPS. Höhere TOPS bedeuten jedoch nicht automatisch bessere AI-Performance, da auch Software-Optimierung eine Rolle spielt.
Inference (Inferenz)
Inference ist die Anwendung eines trainierten KI-Modells auf neue Daten, um Vorhersagen zu generieren. Sie ist weniger rechenintensiv als das Training, erfordert aber dennoch NPUs oder GPUs für Echtzeit-Anwendungen. Edge-Inference findet direkt auf dem Gerät statt.
Training (Modell-Training)
Training ist der Prozess, bei dem ein KI-Modell aus Daten lernt, indem es seine internen Gewichte iterativ anpasst. Es verwendet Algorithmen wie Backpropagation und Gradient Descent. Das Training großer Modelle kann Wochen bis Monate auf Clustern von GPUs dauern.
Context Window (Kontextfenster)
Das Context Window ist die maximale Anzahl an Tokens, die ein LLM gleichzeitig verarbeiten kann. Es umfasst Eingabe und Ausgabe. Größere Context Windows erlauben längere Dokumente, mehrfew-Shot-Beispiele und ausgedehntere Konversationen. Gemini 2 erreicht 2 Millionen Tokens.