Skip to content

DeepSeek, Qwen ve GPT için Token Sayacı

DeepSeek, Qwen ve GPT için sağlayıcının kendi tokenizer'ıyla kesin token sayısı; karakter tahmini değil. Metni yapıştırın, beş sözlüğü yan yana karşılaştırın, her token'ın nerede bölündüğünü görün. Ücretsiz, tarayıcıda çalışır.

Tarayıcıda Çalışır Ücretsiz
Her sağlayıcının kendi sözlüğüyle tarayıcınızda token'lara ayrılır — metniniz sunucularımıza gönderilmez.
Örnekler:

Karakter
0
Çince karakter
0
UTF-8 bayt
0
Model Token Karakter başına token
DeepSeek V4 / V3 / R1 DeepSeek · 128K —
Qwen3.5 / 3.6 / 3.8 Qwen · 248K —
Qwen3 / Qwen2.5 / QwQ Qwen · 151K —
GPT-5 / GPT-4.1 / GPT-4o / o3 o200k_base —
GPT-4 / GPT-3.5 Turbo cl100k_base —

Bunlar metnin kendi token'larıdır. Bir API çağrısı her mesajın çevresindeki sohbet şablonunu da sayar; bu yüzden bildirilen prompt_tokens genellikle birkaç fazla olur.

Metin nasıl bölündü

Her token'ı görmek için metin yazın ya da yapıştırın.

Sağlayıcınızın fiyatlandırma sayfasındaki giriş fiyatını girin. Fiyatlar değiştiği için araçta sabit fiyat yoktur.

Beş sözlüğün tamamının çıktısı, 26.714 test metni (3,88 milyon karakter) ve bir dizi Unicode sürüm sınırı karakteri üzerinde Hugging Face tokenizers 0.23.3 ve OpenAI tiktoken 0.14.0 ile ID ID karşılaştırıldı ve eşleşti; bu sayfadaki her örnek sayı da aynı referans uygulamalarla kontrol edildi. Karakter başına oranlar bu sitenin kendi metinleri üzerindeki ölçümlerden gelir (blog düzyazısında 29.500, araç belgelerinde 52.500 Çince karakter). Model–sözlük eşlemesi, tiktoken'ın model eşlemesinden ve sağlayıcıların resmi depolarının dosya dosya karşılaştırılmasından alınmıştır; Kasım 2026'da kontrol edilmiştir. — Go Tools Mühendislik Ekibi · 8 Kas 2026

Go Tools Mühendislik Ekibi tarafından geliştirildi ve doğrulandı.

Token dönüşümü için hızlı başvuru

Bir token kaç karakterdir?

İngilizcede token başına yaklaşık 4 karakter Sözlüğe ve dile bağlıdır. Bu sitenin kendi metinleri (yaklaşık 82.000 Çince karakter) üzerinde ölçüldüğünde İngilizcede token başına yaklaşık 4,3–4,4 karakter, yani kelime başına yaklaşık 1,4 token düşer; Çince düzyazıda bir Çince karakter DeepSeek ve Qwen3.5'te yaklaşık 0,8, Qwen3'te 0,9, GPT-4o'da 1,0 ve GPT-4'te 1,3 token tutar.

10.000 Çince karakter kaç token eder?

DeepSeek'te yaklaşık 6.300, GPT-4'te 10.000 Noktalama işaretleri de karakter sayıldığında, sitenin Çince düzyazısında ölçülen değerler şöyle: DeepSeek'te yaklaşık 6.200–6.300, Qwen3.5'te 6.400–6.500, Qwen3'te 7.000–7.200, GPT-4o'da 7.700 ve GPT-4'te 10.300–10.500. Kod ve sayı ağırlıklı metinler daha fazla tutar.

Çince neden İngilizceden daha fazla token kullanır?

Aynı metin: İngilizcede 59–60, Çincede 71–156 token Bu sayfanın “Çince” ve “İngilizce” örnekleri aynı metindir. İngilizce sürüm beş sözlüğün hepsinde 59–60 token'dır; Çince sürüm ise Qwen3.5'te 71, DeepSeek'te 75, Qwen3'te 84, GPT-4o'da 111 ve GPT-4'te 156 token'dır — %18 ile %160 arasında daha fazla. İngilizcede sözlükler arasındaki fark küçüktür (bu sitenin metinlerinde kelime başına yaklaşık 1,4 token); Çincede ise sonuç sözlükteki Çince girdi sayısına bağlıdır ve Çince girdisi az olan bir sözlük (GPT-4'ün cl100k_base sözlüğü) birçok karakteri 2–3 bayt düzeyi token'a böler.

Token nasıl bir birimdir?

Modelin metni böldüğü ve faturalandırdığı en küçük birim Token, bir dil modelinin metni böldüğü en küçük birimdir; API faturalandırmasının ve bağlam pencerelerinin birimi de odur. Bir kelime, kelimenin bir parçası, bir karakter, bir ifade ya da tek bir karakterin birkaç baytı olabilir — buna her modelin sözlüğü karar verir.

Claude, Gemini ya da Doubao için token sayabilir mi?

Herkese açık tokenizer yok — yalnızca resmi sayma API'leri Kesin olarak hayır. Claude 3'ten bu yana Claude'un herkese açık bir tokenizer'ı yok; Anthropic bunun yerine bir count_tokens API'si sunuyor (belgelerinde, Claude 4.7 ve sonrasının aynı metin için yaklaşık %30 daha fazla token üreten daha yeni bir tokenizer kullandığı da belirtiliyor). Gemini ve Doubao da aynı şekilde resmi API'leri üzerinden sayılır; Doubao için ayrıca Volcano Engine Ark konsolunda resmi bir token hesaplayıcı vardır (oturum açmak gerekir). Bu araç yalnızca resmi sözlüğü herkese açık olan ve ID ID eşleşen modelleri listeler.

Token nedir?

Token, bir dil modelinin okuyup yazdığı birimdir; API'lerin faturalandırdığı ve bağlam pencerelerinin ölçüldüğü birim de odur. Model harfleri ya da Çince karakterleri hiçbir zaman doğrudan görmez: tokenizer'ı metni önce sözlüğünde bulunan parçalara böler ve her parçayı bir tam sayı ID'ye çevirir. Yaygın kelime ve ifadelerin kendi girdileri vardır ve tek token tutar; sözlükte olmayan her şey UTF-8 baytlarına geri düşer, bu yüzden tek bir Çince karakter iki ya da üç token'a mal olabilir. Dolayısıyla sayı sözlüğe bağlıdır. DeepSeek ve Qwen, 人工智能 (yapay zekâ) kelimesini tek bir token olarak saklar, GPT-4o ise ikiye böler; GPT-4'ün cl100k_base sözlüğünde Çince girdi azdır ve aşağıdaki cümle için 12 token gerekir — DeepSeek'in 5 token'ının iki katından fazla. Aşağıda bu aracın gerçek bölme sonucu yer alıyor.

文本:人工智能正在改变世界。(11 个字符)

DeepSeek V4        5  [人工智能][正在][改变][世界][。]
Qwen3.5 / 3.6      5  [人工智能][正在][改变][世界][。]
Qwen3 / 2.5        5  [人工智能][正在][改变][世界][。]
GPT-5 / GPT-4o     6  [人工][智能][正在][改变][世界][。]
GPT-4             12  [人][工][智×2][能][正在][改][变][世×2][界][。]

×2 表示这个字被拆成了 2 个字节级 token

Bu token sayacı neler yapar?

İki Qwen sözlüğü de tam olarak sayılır

Qwen3.5, 3.6 ve 3.8, farklı bölme kurallarıyla yeni bir 248K sözlüğe geçti; Qwen3, Qwen2.5 ve QwQ 151K sözlükte kaldı. İkisi de resmi açık ağırlıklardaki tokenizer.json dosyasından alınır ve ayrı ayrı sayılır — hiçbir zaman bir GPT tokenizer'ıyla yaklaşık hesaplanmaz.

Resmi sözlükler, ID ID doğrulanmış

DeepSeek kendi resmi sözlüğünü kullanır (V3'ten V4.1'e kadar aynıdır); GPT ise OpenAI'nin o200k_base ve cl100k_base sözlüklerini. 26.714 test metnini (15 dilde 3,88 milyon karakter, kod, boşluk karakterleri ve Unicode sürüm sınırlarındaki karakterler) Hugging Face tokenizers ve OpenAI tiktoken ile ID ID karşılaştırdık: beş sözlüğün tamamı eşleşiyor.

Beş model yan yana

Tek yapıştırma beş sayı verir; metninizi hangi modelin en az token'la işlediğini hemen görürsünüz. Karakter başına token sütunu, farklı uzunluktaki metinleri adil biçimde karşılaştırmayı sağlar.

Her token görünür

Bölme görünümü her token'ı renklendirir ve ID'sini gösterebilir. Birkaç bayt düzeyi token ancak birlikte tam karakter oluşturuyorsa, bozuk baytlar yerine tek bir kesikli blokta toplanır; sıfır genişlikli boşluk gibi görünmez karakterler kod noktasıyla yazılır, örneğin ⟨U+200B⟩.

Dosyalar olduğu gibi sayılır

Açılan dosyalar özgün CRLF satır sonlarını ve BOM'u korur. DeepSeek bir Windows satır sonunu (\r\n) iki token'a böler; bu yüzden CRLF satır sonlu aynı kod yaklaşık %15 daha pahalıya gelir. Kutuya yapıştırılan metin, tarayıcının bıraktığı LF satır sonlarıyla sayılır.

Tarayıcınızda çalışır

Token'lara ayırma bir arka plan iş parçacığında (Web Worker) yapılır; metniniz sunucularımıza gönderilmez. Sözlükler yüklendikten sonra 200.000 Çince karakter bir saniyenin altında sayılır ve metin kutusu takılmadan yanıt vermeye devam eder.

Kodda token saymak

tiktoken (Python)

len(tiktoken.get_encoding("o200k_base").encode_ordinary(text))

OpenAI'nin resmi kütüphanesi; yalnızca OpenAI sözlüklerini içerir. GPT-5 ve GPT-4o giriş token'larını saymanın en doğrudan yolu; DeepSeek ya da Qwen'i sayamaz.

transformers AutoTokenizer

AutoTokenizer.from_pretrained("Qwen/Qwen3.6-35B-A3B").encode(text, add_special_tokens=False)

DeepSeek ve Qwen gibi açık modellerin resmi tokenizer'larını yükler. İlk çalıştırmada sözlük dosyalarını Hugging Face'ten indirir.

DeepSeek'in çevrimdışı tokenizer'ı

DeepSeek API belgeleri, token kullanımı sayfası

transformers ile birlikte kullanılan resmi çevrimdışı tokenizer. Sözlüğü bu aracın DeepSeek satırıyla aynıdır.

Resmi sayma API'leri

Anthropic messages/count_tokens, Gemini countTokens, OpenAI responses/input_tokens

Herkese açık tokenizer'ı olmayan modeller için tek yol; sonuç sohbet biçiminin ek yükünü de içerir. Bir istek ve API anahtarı gerektirir, metin de sağlayıcıya gider.

Bu token sayacı

Yapıştırın, beş sayıyı okuyun

Kod yok, bağımlılık yok — tek bir prompt'u kontrol etmek ya da modelleri karşılaştırmak için pratik. Toplu işler için yukarıdaki kütüphaneleri kullanın.

Token sayma örnekleri: tek metin, beş farklı bölünme

Tek Çince metin, bir modelde iki kat token

Bu sayfadaki “Çince” örneğine tıklayın: 117 karakterlik gündelik bir metin (106 Çince karakter)
DeepSeek V4        75
Qwen3.5 / 3.6      71
Qwen3 / 2.5        84
GPT-5 / GPT-4o    111
GPT-4             156

Çince karakter başına: Qwen3.5 yaklaşık 0,67, DeepSeek 0,71, Qwen3 0,79, GPT-4o 1,05 ve GPT-4 1,47 token. Aynı metnin İngilizcesi için “İngilizce” örneğine tıklayın: beşi de 59 ile 60 arasında kalır.

Sayılar: Qwen her rakama bir token harcar

订单金额 12345.67 元,共 2026 件
DeepSeek V4   16   …[123][45][.][67]…[202][6]…
Qwen3.5       22   …[1][2][3][4][5][.][6][7]…[2][0][2][6]…
Qwen3         22   (rakamlar aynı şekilde bölünür)
GPT-4o        13   …[123][45][.][67][ 元][,共]…
GPT-4         16   …[123][45][.][67]…

İki Qwen kuşağı da her rakamı ayrı böler; DeepSeek ve GPT ise rakamları üçerli gruplara ayırır. Tablolar, faturalar, loglar gibi sayı ağırlıklı metinler Qwen'de belirgin biçimde daha pahalıdır.

Görünmez sıfır genişlikli boşluklar

你​好​世​界 (karakterlerin arasında üç adet U+200B sıfır genişlikli boşluk)
Boşluksuz: DeepSeek 2 · Qwen3.5 2 · Qwen3 2 · GPT-4o 2 · GPT-4 5
Boşluklu:  DeepSeek 7 · Qwen3.5 7 · Qwen3 7 · GPT-4o 7 · GPT-4 8

Sıfır genişlikli boşluklar 你好 ve 世界 kelimelerini böler; böylece her karakter ayrı bir token olur ve her sıfır genişlikli boşluk da bir token daha tutar. Web'den kopyalanan metinlerde sık görülürler; bölme görünümü onları ⟨U+200B⟩ olarak gösterir.

Emoji: yeni sözlük daha pahalı

👍🎉
DeepSeek V4   3
Qwen3.5       6
Qwen3         2
GPT-4o        3
GPT-4         6

Qwen3'ün eski sözlüğü iki emojiyi de bütün olarak saklar; yeni 248K sözlük ise onları UTF-8 baytlarına geri düşürür, bu yüzden 4 baytlık bir emoji 3 token tutar. Yeni sözlük her yerde daha ucuz değildir — kendi gerçek metninizi sayın.

Token sayacı nasıl kullanılır?

  1. 1

    Metninizi yapıştırın

    Bir prompt, belge ya da kod yapıştırın veya .txt, .md, .json, .csv gibi bir metin dosyası yüklemek için “Dosya aç” düğmesini kullanın. Elinizde metin yok mu? Örneklerden birine tıklayın. İlk sayımda bu siteden beş sözlük indirilir (her biri gzip ile 0,4–2,2 MB); sayfa açık kaldığı sürece yeniden indirilmez.

  2. 2

    Beş sayıyı okuyun

    Tablo DeepSeek, Qwen3.5/3.6/3.8, Qwen3/Qwen2.5, GPT-5/GPT-4o ve GPT-4/GPT-3.5 için token sayısını ve karakter başına ortalama token'ı aynı anda gösterir. Üstünde, karaktere dayalı tahminlerle karşılaştırmanız için karakter, Çince karakter ve UTF-8 bayt sayıları yer alır.

  3. 3

    Bölünmeyi inceleyin

    “Metin nasıl bölündü” altındaki her renkli blok bir token'dır. Kesikli çerçeve, birkaç bayt düzeyi token'ın ancak birlikte tam karakter oluşturduğunu gösterir. Bir API'nin ya da tiktoken'ın döndürdüğü ID'lerle karşılaştırmak için “Token ID'lerini göster” seçeneğini açın. Model değiştirmek için tablodaki herhangi bir satıra tıklayın.

  4. 4

    Maliyeti tahmin edin

    Seçili modelin milyon token başına giriş fiyatını girin; bu metnin girdi olarak maliyeti hesaplanır. Araçta fiyat listesi yoktur: sağlayıcılar fiyatları sık değiştirir, yoğun saatlere ve önbellek isabetlerine göre ayırır; bu yüzden fiyatlandırma sayfasındaki güncel rakamı kullanın.

Yaygın token sayma hataları

Token'ı “karakter × sabit” diye tahmin etmek

Bir sabit yalnızca tek tür metin için geçerlidir. Aynı 24 karakterlik 订单金额 12345.67 元,共 2026 件 metni GPT-4o'da 13, Qwen'de 22 token'dır — rakam arttıkça fark büyür.

✗ Yanlış
token ≈ karakter × 0.6
✓ Doğru
Hedef modelin sözlüğüyle bölüp say

DeepSeek ya da Qwen için GPT tokenizer'ı kullanmak

tiktoken yalnızca OpenAI sözlüklerini içerir. Bu sayfanın “Çince” örneği cl100k_base ile 156 token sayılır, oysa DeepSeek 75 token kullanır — tahmin iki kat yüksek çıkar.

✗ Yanlış
tiktoken.get_encoding("cl100k_base")  # DeepSeek için kullanılıyor
✓ Doğru
AutoTokenizer.from_pretrained("deepseek-ai/DeepSeek-V4.1-Flash")

Metnin token sayısını fatura sanmak

Faturaya sohbet şablonu, sistem prompt'u, çıktı ve akıl yürütme modelinin düşünme çıktısı da girer; bazı hizmetler önbellek isabetlerini de farklı fiyatlandırır. Yalnızca giriş metninden yapılan tahmin düşük kalır.

✗ Yanlış
maliyet = prompt token'ları × giriş fiyatı
✓ Doğru
maliyet = prompt_tokens × giriş fiyatı + completion_tokens × çıkış fiyatı

Metindeki görünmez karakterler

Sıfır genişlikli boşluklar (U+200B) kelimeleri böler: 你好世界 DeepSeek'te 2 token'dır, karakterlerin arasına üç sıfır genişlikli boşluk girince 7 olur.

✗ Yanlış
你\u200b好\u200b世\u200b界   → 7 tokens
✓ Doğru
你好世界   → 2 tokens

Token saymanız gereken durumlar

API maliyetini tahmin edin
Yayına almadan önce tipik bir prompt'u, sistem prompt'unu ve getirilen bağlamı yapıştırıp metnin kendi token sayısını bulun; her çağrının girdisi için mesaj başına şablon yükünü ekleyin (bkz. “Düz metin token'ları ve API sayıları”), ardından fiyat ve çağrı hacmiyle çarparak aylık tahmini çıkarın.
Bağlam penceresinin içinde kalın
Uzun belgeler, sohbet geçmişi ve arama sonuçları hızla birikir. Önce her parçayı sayın, sonra neyi kısaltacağınıza ya da özetleyeceğinize karar verin.
Modelleri kendi dilinizde karşılaştırın
Aynı Çince metin bir sözlükte diğerine göre iki kat token tutabilir. Maliyeti yalnızca fiyata bakarak değil, fiyat × metninizin o modeldeki token sayısı olarak karşılaştırın.
RAG parçalarını token'la boyutlandırın
Arama için parça boyutları genellikle token cinsinden ayarlanır. Parça başına sabit bir karakter uzunluğu belirlemeden önce gerçek bir metin bölümünün hedef modelde kaç token tuttuğunu kontrol edin.
Bir prompt'un neden pahalı olduğunu bulun
Web sayfalarından, Word'den ya da PDF'lerden kopyalanan metin çoğu zaman sıfır genişlikli boşluklar, bölünemez boşluklar ve art arda boşluklar taşır; bunlar görünmeden token harcar. Bölme görünümü onları işaretler. Her birini adı ve kod noktasıyla bulmak için Unicode Dönüştürücü aracındaki “Görünmez karakterleri göster” seçeneğini kullanın.

Metin token'lara nasıl kesilir?

BPE: baytlardan yukarı doğru birleştirme
Beş sözlüğün tamamı bayt düzeyinde BPE'dir (byte pair encoding). Metin UTF-8 baytlarına çevrilir, ardından komşu parçalar sabit bir sırayla daha uzun sözlük girdilerine birleştirilir; birleştirilecek bir şey kalmayınca işlem durur. Sıra eğitim istatistiklerinden gelir; bu yüzden aynı metin her sözlükte farklı bir bölünmede durur.
Bir karakter neden 2–3 token olabilir?
Yaygın bir Çince karakter UTF-8'de 3 bayttır. Sözlükte kendisi (ya da onu içeren bir kelime) varsa tek token'dır; yoksa bayt parçaları olarak kalır — iki ya da üç token. Çinceye en az uygun olan GPT-4'ün cl100k_base sözlüğüdür: en yaygın 3.755 karakter tek tek kodlandığında yalnızca %14,1'i tek token olur; bu oran DeepSeek'te %95,7, Qwen3'te %99,9'dur.
Ön tokenizasyon: önce böl, sonra birleştir
BPE'den önce bir düzenli ifade (regex) metni parçalara ayırır ve birleştirmeler hiçbir zaman parça sınırını aşmaz. Kurallar farklıdır: GPT-4o ve GPT-4 rakamları üçerli gruplara ayırır, Qwen her parçada tek rakam tutar, DeepSeek ise önce Çince karakter ve kana dizilerini ayırır (yalnızca U+9FA5'e kadar; sonraki karakterler genel kurala uyar). Bu araç her kuralı yeniden üretir ve karakter sınıflarını referans uygulamaların kullandığı sürüm olan Unicode 16'ya sabitler; böylece sonuçlar tarayıcınızın Unicode sürümüne göre değişmez.
Düz metin token'ları ve API sayıları
Sayılar metnin kendisine aittir: dizi başı token'ı da sohbet şablonu da yoktur. API'ler her mesajı bir şablona sarar: OpenAI Cookbook'taki sayma fonksiyonu mesaj başına 3 token, rol adını ve yanıtı başlatmak için 3 token ekler — tek mesajda yaklaşık 7 fazladan token; Qwen'in resmi belgelerinde 你好 tek başına 1 token, şablona sarıldığında 11 token'dır; DeepSeek ise prompt_tokens değerinin şablonu içerip içermediğini belgelemez. Modelin yanıtı ve düşünme çıktısı, çıkış token'ı olarak faturalandırılır.
Sözlükler nereden geliyor?
o200k_base ve cl100k_base, OpenAI'nin tiktoken için yayımladığı sözlük dosyalarından; DeepSeek, Hugging Face'teki resmi DeepSeek-V4.1-Flash-1017 deposundaki tokenizer.json dosyasından (MIT); Qwen ise resmi Qwen3-8B ve Qwen3.6-35B-A3B depolarından (Apache-2.0) alınmıştır. Araç yalnızca token'lara ayırma için gerekeni, yani her token'ın baytlarını ve birleştirme sırasını tutar: sözlük başına 0,4–2,2 MB, ilk kullanımda bu siteden indirilir. Kaynaklar ve lisanslar, dosyaların yanındaki THIRD_PARTY_NOTICES.txt dosyasında listelenir.

Token tahmini için ipuçları

Hedef modelin sözlüğüyle sayın
DeepSeek ya da Qwen kullanımını bir GPT tokenizer'ıyla saymak, Çince metinde iki kata varan sapma yaratabilir. Qwen'de doğru kuşağı da seçin: Qwen3.5 ve sonraki modeller “Qwen3.5 / 3.6 / 3.8” satırını kullanır.
Şablonlar ve çıktı için pay bırakın
Düz metin sayısı bir alt sınırdır. Bağlam ve maliyet için mesaj başına şablon yükünü, sistem prompt'unu ve beklenen çıktı uzunluğunu ekleyin; bir akıl yürütme modelinin düşünme çıktısı da çıktı sayılır.
API'nin usage alanına göre kalibre edin
Canlıya geçtikten sonra API'nin döndürdüğü usage değerine güvenin. Aynı prompt'u burada sayıp prompt_tokens ile karşılaştırın: aradaki fark şablon yükünüzdür ve sonraki tahminlere eklenebilir.
Karaktere göre değil, token'a göre parçalayın
RAG parça boyutlarını ve kırpma sınırlarını token cinsinden ayarlayın. Birden fazla dil içeren metinler, kod ve sayılar karakter/token oranını büyük ölçüde değiştirir.
Göndermeden önce görünmez karakterleri temizleyin
Web sayfalarından ya da belgelerden kopyalanan metni bölme görünümünde inceleyin. Sıfır genişlikli boşluklar, bölünemez boşluklar ve art arda boşluklar boşuna token harcar. Web sayfasının tamamını gönderecekseniz önce HTML'den Markdown'a Dönüştürücü ile etiketleri ve stilleri temizleyin, ardından sonucu modele gönderin.

Token sayacı SSS

Token sayacı (LLM token sayacı) nedir?
Token sayacı, metni bir dil modelinin kendi tokenizer'ıyla token'lara ayırıp sayar; böylece API maliyetini ve bağlam uzunluğunu tahmin edebilirsiniz. Burada metni kutuya yapıştırmanız (ya da bir metin dosyası açmanız) yeterli: tablo DeepSeek, iki Qwen kuşağı, GPT-5 / GPT-4o ve GPT-4 için token sayısını aynı anda gösterir, “Metin nasıl bölündü” bölümü de her token'ı işaretler; giriş maliyetini tahmin etmek için bir fiyat girin. Kayıt gerekmez.
Bir Çince karakter kaç token'dır? DeepSeek'in verdiği 0,6 doğru mu?
Bu sitenin Çince düzyazısında ölçüldüğünde DeepSeek, Çince karakter başına yaklaşık 0,77–0,79 token kullanır; noktalama ve boşluklar da karakter sayılırsa karakter başına yaklaşık 0,62 token. DeepSeek'in kendi belgelerinde “1 Çince karakter ≈ 0,6 token” yazar; bu, ikinci sayma yöntemiyle örtüşür. Yaygın kelimeler tek token'da birleşir; nadir karakterler ikiye bölünür (örneğin 龘). Diğer modellerin değerleri yukarıdaki hızlı başvuruda yer alıyor.
API farklı bir sayı bildiriyor. Sayım yanlış mı?
Araç metnin kendisini sayar ve resmi tokenizer'larla ID ID eşleşir. Bir API'nin prompt_tokens değeri, sohbet şablonunun her mesaja eklediği rol işaretlerini ve ayırıcıları da içerir: Qwen'in belgelerindeki örnekte 你好 tek başına 1 token'dır, ancak 11 token olarak faturalandırılır. Sistem prompt'ları, araç tanımları ve önceki mesajlar da sayılır. Sabit bir fark şablon yükünüzdür; sonraki tahminleri kalibre etmek için kullanın.
DeepSeek V4, R1, Qwen3.6 ve GPT-5 hangi sözlüğü kullanıyor?
DeepSeek'in temel sözlüğü V3, R1, V3.1 ve V3.2'den V4 ve V4.1'e kadar aynıdır; yalnızca özel token'lar farklıdır. Qwen'in iki kuşağı vardır: Qwen3.5, 3.6 ve 3.8 yeni 248K sözlüğü, Qwen3, Qwen2.5 ve QwQ ise 151K sözlüğü kullanır (bunlar açık ağırlıkların sözlükleridir; Alibaba Cloud belgeleri, barındırılan Model Studio modellerinin hangisini kullandığını belirtmez). OpenAI tarafında, tiktoken'ın model eşlemesine göre GPT-5, GPT-4.1, GPT-4o, o1, o3 ve o4-mini o200k_base; GPT-4, GPT-3.5 Turbo ve text-embedding-3 ise cl100k_base kullanır.
GPT-4, Çince için neden GPT-4o'dan çok daha fazla token kullanır?
GPT-4'ün cl100k_base sözlüğünde yaklaşık 100.000 girdi vardır ve bunların azı Çincedir; bu yüzden birçok karakter iki ya da üç bayt düzeyi token tutar. GPT-4o'nun o200k_base sözlüğünde ise yaklaşık 200.000 girdi ve çok sayıda Çince kelime bulunur. Bu sayfanın “Çince” örneği GPT-4'te 156, GPT-4o'da 111 token'dır.
Qwen'de sayılar neden bu kadar çok token tutar?
Qwen'in ön tokenizasyon adımı her rakamı ayrı bir parçaya koyar, bu yüzden 1234567 7 token'dır; DeepSeek ve GPT rakamları üçerli gruplara ayırır ve 3 token'la yetinir. Tablolar, faturalar ve loglar gibi sayı ağırlıklı metinler Qwen'de belirgin biçimde daha yüksek sayılır.
Metnim bir yere yükleniyor mu?
Sunucularımıza gönderilmez. Token'lara ayırma tarayıcınızdaki bir arka plan iş parçacığında çalışır; aracın indirdiği tek dosyalar, ilk kullanımda bu siteden alınan sözlüklerdir.
Satır sonları token sayısını değiştirir mi?
Evet, en çok da DeepSeek'te: bir Windows satır sonunu (\r\n) iki token'a böler, bu yüzden CRLF satır sonlu aynı kod yaklaşık %15 daha pahalıya gelir; diğer sözlüklerde fark %0,5'in altındadır. Tarayıcının metin kutusu yapıştırılan satır sonlarını \n karakterine çevirir, bu yüzden yapıştırılan metin LF ile sayılır; “Dosya aç” ile yüklenen dosyalar ise özgün satır sonlarını ve BOM'u korur.
<|im_start|> ya da <think> gibi işaretler nasıl sayılır?
Sıradan metin olarak, birkaç token'a bölünerek — tiktoken'ın encode_ordinary işleviyle aynı şekilde — sayılır; metninizde bunlardan biri varsa sayfa sizi uyarır. Açık bir modeli kendiniz barındırıyorsanız çıkarım (inference) sunucusu genellikle her birini tek bir özel token olarak okur; bu yüzden onun sayısı daha düşük çıkar.
Akıl yürütme modelinin düşünme token'ları nasıl sayılır?
Düşünme çıktısını model üretir, bu yüzden çağrıdan önce bilinemez; bu araç elinizde zaten olan metni sayar. Qwen'in belgeleri düşünme çıktısının çıkış token'ı olarak faturalandırıldığını belirtir; diğer akıl yürütme modelleri için her sağlayıcının belgelerine bakın. Düşünme çıktısı çoğu zaman son yanıttan uzundur, bu yüzden onun için ayrı bir bütçe ayırın.
Metin ne kadar uzun olabilir?
Kesin bir sınır yoktur; sınırı tarayıcı belleği belirler. Testimizde sözlükler yüklendikten sonra 200.000 Çince karakter bir saniyenin altında sayıldı. Çok uzun metinlerde bölme görünümü ilk 2.000 token'ı gösterir, sayılar ise her zaman metnin tamamını kapsar. Açılan dosyalar en fazla 20 MB olabilir.
tiktoken, DeepSeek ya da Qwen token'larını sayabilir mi?
Hayır. tiktoken yalnızca OpenAI'nin sözlüklerini (o200k_base, cl100k_base) içerir; DeepSeek ya da Qwen için kullanıldığında Çince metinde yaklaşık iki kat sapar (bu sayfanın “Çince” örneği: cl100k_base ile 156, DeepSeek'te 75). DeepSeek ve Qwen için resmi tokenizer'ı Hugging Face transformers ile yükleyin ve bu aracın düz metin sayısıyla eşleşmesi için add_special_tokens=False verin; DeepSeek'in API belgeleri, token kullanımı sayfasında çevrimdışı bir tokenizer paketi de sunar.

Harf Dönüştürücü — UPPER, lower, camelCase ve Daha Fazlası

Metin İşleme

Metni UPPERCASE, lowercase, Title Case, Sentence case, camelCase, PascalCase, snake_case, kebab-case, CONSTANT_CASE ve 6 biçim daha arasında anında dönüştürün. Ücretsiz, çevrimiçi, kayıt yok.

Lorem Ipsum Oluşturucu — Ücretsiz Yer Tutucu Metin

Metin İşleme

Lorem Ipsum yer tutucu metni anında oluşturun — paragraf, cümle, kelime, bayt veya liste olarak. Düz metin, HTML, Markdown veya JSON olarak kopyalayın ya da indirin. %100 ücretsiz, gizli, tarayıcı içi. Kayıt gerekmez.

Ücretsiz Regex Tester — İfadeleri Çevrimiçi Sınayın

Metin İşleme

Düzenli ifadeleri herhangi bir metne karşı anında test edin. Canlı eşleşme vurgulama, yakalama grupları, değiştirme önizlemesi, bölme ve desen açıklayıcı. JavaScript lehçesi regex, %100 gizli, çevrimiçi, ücretsiz, kayıt yok.

Metinden Yinelenen Satırları Kaldır

Metin İşleme

Metinden yinelenen satırları çevrimiçi kaldırın — ücretsiz, anında, %100 tarayıcınızda. Büyük/küçük harf veya boşluğu yoksayın, ilk ya da son tekrarı tutun ve kaldırılan sayıyı görün. Ayrıca sıralayın ve temizleyin. Kayıt yok.

URL Slug Üretici — Her Metni Slug'a Çevirin

Metin İşleme

Her başlığı anında temiz, SEO dostu bir URL slug'ına çevirin. Aksanları ve Kiril'i harf çevirisiyle dönüştürün veya Unicode harfleri koruyun. %100 gizli, tarayıcınızda.

Metin Satırlarını Alfabetik ve Doğal Sırala

Metin İşleme

Metin satırlarını alfabetik, sayısal (doğal sıra) veya uzunluğa göre, artan ya da azalan sıralayın. Ücretsiz çevrimiçi satır sıralayıcı, %100 tarayıcınızda. Ayrıca yineleme kaldırma, ters çevirme ve liste temizleme. Kayıt yok.