Ein Token ist die kleinste Einheit, in die ein Sprachmodell Text zerlegt – oft ein Wort, ein Wortteil oder ein Satzzeichen. LLMs verarbeiten Text Token für Token und rechnen intern mit ihnen. Die Kosten und die Kontextgröße von KI-Diensten werden meist in Token gemessen.