Token sayacı (LLM token sayacı) nedir?
Token sayacı, metni bir dil modelinin kendi tokenizer'ıyla token'lara ayırıp sayar; böylece API maliyetini ve bağlam uzunluğunu tahmin edebilirsiniz. Burada metni kutuya yapıştırmanız (ya da bir metin dosyası açmanız) yeterli: tablo DeepSeek, iki Qwen kuşağı, GPT-5 / GPT-4o ve GPT-4 için token sayısını aynı anda gösterir, “Metin nasıl bölündü” bölümü de her token'ı işaretler; giriş maliyetini tahmin etmek için bir fiyat girin. Kayıt gerekmez.
Bir Çince karakter kaç token'dır? DeepSeek'in verdiği 0,6 doğru mu?
Bu sitenin Çince düzyazısında ölçüldüğünde DeepSeek, Çince karakter başına yaklaşık 0,77–0,79 token kullanır; noktalama ve boşluklar da karakter sayılırsa karakter başına yaklaşık 0,62 token. DeepSeek'in kendi belgelerinde “1 Çince karakter ≈ 0,6 token” yazar; bu, ikinci sayma yöntemiyle örtüşür. Yaygın kelimeler tek token'da birleşir; nadir karakterler ikiye bölünür (örneğin 龘). Diğer modellerin değerleri yukarıdaki hızlı başvuruda yer alıyor.
API farklı bir sayı bildiriyor. Sayım yanlış mı?
Araç metnin kendisini sayar ve resmi tokenizer'larla ID ID eşleşir. Bir API'nin prompt_tokens değeri, sohbet şablonunun her mesaja eklediği rol işaretlerini ve ayırıcıları da içerir: Qwen'in belgelerindeki örnekte 你好 tek başına 1 token'dır, ancak 11 token olarak faturalandırılır. Sistem prompt'ları, araç tanımları ve önceki mesajlar da sayılır. Sabit bir fark şablon yükünüzdür; sonraki tahminleri kalibre etmek için kullanın.
DeepSeek V4, R1, Qwen3.6 ve GPT-5 hangi sözlüğü kullanıyor?
DeepSeek'in temel sözlüğü V3, R1, V3.1 ve V3.2'den V4 ve V4.1'e kadar aynıdır; yalnızca özel token'lar farklıdır. Qwen'in iki kuşağı vardır: Qwen3.5, 3.6 ve 3.8 yeni 248K sözlüğü, Qwen3, Qwen2.5 ve QwQ ise 151K sözlüğü kullanır (bunlar açık ağırlıkların sözlükleridir; Alibaba Cloud belgeleri, barındırılan Model Studio modellerinin hangisini kullandığını belirtmez). OpenAI tarafında, tiktoken'ın model eşlemesine göre GPT-5, GPT-4.1, GPT-4o, o1, o3 ve o4-mini o200k_base; GPT-4, GPT-3.5 Turbo ve text-embedding-3 ise cl100k_base kullanır.
GPT-4, Çince için neden GPT-4o'dan çok daha fazla token kullanır?
GPT-4'ün cl100k_base sözlüğünde yaklaşık 100.000 girdi vardır ve bunların azı Çincedir; bu yüzden birçok karakter iki ya da üç bayt düzeyi token tutar. GPT-4o'nun o200k_base sözlüğünde ise yaklaşık 200.000 girdi ve çok sayıda Çince kelime bulunur. Bu sayfanın “Çince” örneği GPT-4'te 156, GPT-4o'da 111 token'dır.
Qwen'de sayılar neden bu kadar çok token tutar?
Qwen'in ön tokenizasyon adımı her rakamı ayrı bir parçaya koyar, bu yüzden 1234567 7 token'dır; DeepSeek ve GPT rakamları üçerli gruplara ayırır ve 3 token'la yetinir. Tablolar, faturalar ve loglar gibi sayı ağırlıklı metinler Qwen'de belirgin biçimde daha yüksek sayılır.
Metnim bir yere yükleniyor mu?
Sunucularımıza gönderilmez. Token'lara ayırma tarayıcınızdaki bir arka plan iş parçacığında çalışır; aracın indirdiği tek dosyalar, ilk kullanımda bu siteden alınan sözlüklerdir.
Satır sonları token sayısını değiştirir mi?
Evet, en çok da DeepSeek'te: bir Windows satır sonunu (\r\n) iki token'a böler, bu yüzden CRLF satır sonlu aynı kod yaklaşık %15 daha pahalıya gelir; diğer sözlüklerde fark %0,5'in altındadır. Tarayıcının metin kutusu yapıştırılan satır sonlarını \n karakterine çevirir, bu yüzden yapıştırılan metin LF ile sayılır; “Dosya aç” ile yüklenen dosyalar ise özgün satır sonlarını ve BOM'u korur.
<|im_start|> ya da <think> gibi işaretler nasıl sayılır?
Sıradan metin olarak, birkaç token'a bölünerek — tiktoken'ın encode_ordinary işleviyle aynı şekilde — sayılır; metninizde bunlardan biri varsa sayfa sizi uyarır. Açık bir modeli kendiniz barındırıyorsanız çıkarım (inference) sunucusu genellikle her birini tek bir özel token olarak okur; bu yüzden onun sayısı daha düşük çıkar.
Akıl yürütme modelinin düşünme token'ları nasıl sayılır?
Düşünme çıktısını model üretir, bu yüzden çağrıdan önce bilinemez; bu araç elinizde zaten olan metni sayar. Qwen'in belgeleri düşünme çıktısının çıkış token'ı olarak faturalandırıldığını belirtir; diğer akıl yürütme modelleri için her sağlayıcının belgelerine bakın. Düşünme çıktısı çoğu zaman son yanıttan uzundur, bu yüzden onun için ayrı bir bütçe ayırın.
Metin ne kadar uzun olabilir?
Kesin bir sınır yoktur; sınırı tarayıcı belleği belirler. Testimizde sözlükler yüklendikten sonra 200.000 Çince karakter bir saniyenin altında sayıldı. Çok uzun metinlerde bölme görünümü ilk 2.000 token'ı gösterir, sayılar ise her zaman metnin tamamını kapsar. Açılan dosyalar en fazla 20 MB olabilir.
tiktoken, DeepSeek ya da Qwen token'larını sayabilir mi?
Hayır. tiktoken yalnızca OpenAI'nin sözlüklerini (o200k_base, cl100k_base) içerir; DeepSeek ya da Qwen için kullanıldığında Çince metinde yaklaşık iki kat sapar (bu sayfanın “Çince” örneği: cl100k_base ile 156, DeepSeek'te 75). DeepSeek ve Qwen için resmi tokenizer'ı Hugging Face transformers ile yükleyin ve bu aracın düz metin sayısıyla eşleşmesi için add_special_tokens=False verin; DeepSeek'in API belgeleri, token kullanımı sayfasında çevrimdışı bir tokenizer paketi de sunar.