Das Kontextfenster beschreibt, wie viele Token ein Sprachmodell gleichzeitig verarbeiten kann – also wie viel Eingabe (z. B. Dokumente, Verlauf) und erzeugte Ausgabe zusammen „hineinpassen". Ein größeres Kontextfenster erlaubt es, längere Texte am Stück zu analysieren.