AI/ML

Context Window (Kontextfenster)

Definition

Das Context Window ist die maximale Anzahl an Tokens, die ein LLM gleichzeitig verarbeiten kann. Es umfasst Eingabe und Ausgabe. Größere Context Windows erlauben längere Dokumente, mehrfew-Shot-Beispiele und ausgedehntere Konversationen. Gemini 2 erreicht 2 Millionen Tokens.

Beispiel

Mit einem 1M-Token-Context-Window kann ein LLM ein ganzes Buch auf einmal zusammenfassen.