Qu'est-ce qu'un compteur de tokens (compteur de tokens LLM) ?
Un compteur de tokens découpe un texte en tokens avec le tokenizer propre à un modèle de langage et les compte, pour estimer le coût d'une API et la longueur de contexte. Ici, collez un texte dans la zone de saisie (ou ouvrez un fichier texte) : le tableau affiche d'un coup le nombre de tokens pour DeepSeek, les deux générations de Qwen, GPT-5 / GPT-4o et GPT-4, et « Découpage du texte » signale chaque token ; saisissez un prix pour estimer le coût en entrée. Aucune inscription requise.
Combien de tokens fait un caractère chinois ? Le 0,6 de DeepSeek est-il juste ?
Mesuré sur la prose chinoise de ce site, DeepSeek utilise environ 0,77 à 0,79 token par sinogramme, soit environ 0,62 par caractère quand la ponctuation et les espaces comptent comme des caractères. La documentation de DeepSeek indique « 1 caractère chinois ≈ 0,6 token », ce qui correspond à la seconde façon de compter. Les mots courants fusionnent en un seul token ; les caractères rares se découpent en deux (par exemple 龘). Les chiffres des autres modèles figurent dans les repères de conversion ci-dessus.
L'API renvoie un autre nombre. Le décompte est-il faux ?
L'outil compte le texte lui-même et concorde ID par ID avec les tokenizers officiels. Le prompt_tokens d'une API inclut en plus les marqueurs de rôle et les séparateurs que le template de chat ajoute à chaque message : dans l'exemple documenté par Qwen, 你好 fait 1 token seul et est facturé 11. Les prompts système, les définitions d'outils et les messages précédents comptent aussi. Un écart constant correspond au surcoût de votre template — servez-vous-en pour calibrer vos estimations suivantes.
Quel vocabulaire utilisent DeepSeek V4, R1, Qwen3.6 et GPT-5 ?
Le vocabulaire de base de DeepSeek est identique de V3, R1, V3.1 et V3.2 jusqu'à V4 et V4.1 ; seuls les tokens spéciaux diffèrent. Qwen compte deux générations : Qwen3.5, 3.6 et 3.8 utilisent le nouveau vocabulaire de 248K, Qwen3, Qwen2.5 et QwQ celui de 151K (il s'agit des vocabulaires des poids ouverts ; la documentation d'Alibaba Cloud ne précise pas lequel utilisent ses modèles hébergés sur Model Studio). Côté OpenAI, d'après la table des modèles de tiktoken : GPT-5, GPT-4.1, GPT-4o, o1, o3 et o4-mini utilisent o200k_base ; GPT-4, GPT-3.5 Turbo et text-embedding-3 utilisent cl100k_base.
Pourquoi GPT-4 a-t-il besoin de tellement plus de tokens que GPT-4o pour le chinois ?
Le cl100k_base de GPT-4 compte environ 100 000 entrées, dont peu de chinoises : beaucoup de caractères y prennent deux ou trois tokens de niveau octet ; le o200k_base de GPT-4o compte environ 200 000 entrées et de nombreux mots chinois. L'exemple « Chinois » de cette page fait 156 tokens avec GPT-4 et 111 avec GPT-4o.
Pourquoi les nombres coûtent-ils autant de tokens avec Qwen ?
Le prétokeniseur de Qwen place chaque chiffre dans son propre segment : 1234567 fait donc 7 tokens ; DeepSeek et GPT regroupent les chiffres par trois et n'en ont besoin que de 3. Les textes riches en nombres, comme les tableaux, les factures et les journaux, comptent nettement plus avec Qwen.
Mon texte est-il envoyé quelque part ?
Il n'est pas envoyé à nos serveurs. La tokenisation s'exécute dans un thread d'arrière-plan de votre navigateur ; les seuls fichiers que l'outil télécharge sont les vocabulaires, depuis ce site, à la première utilisation.
Les sauts de ligne changent-ils le nombre de tokens ?
Oui, surtout avec DeepSeek : il découpe un saut de ligne Windows \r\n en deux tokens, si bien que le même code avec des fins de ligne CRLF coûte environ 15 % de plus, contre moins de 0,5 % dans les autres vocabulaires. Une zone de texte de navigateur convertit les sauts de ligne collés en \n : le texte collé est donc compté avec LF ; les fichiers chargés avec « Ouvrir un fichier » conservent leurs sauts de ligne et leur BOM d'origine.
Comment sont comptés les marqueurs comme <|im_start|> ou <think> ?
Comme du texte ordinaire, découpé en plusieurs tokens — comme le fait encode_ordinary de tiktoken —, et la page vous signale leur présence dans votre texte. Si vous hébergez vous-même un modèle ouvert, le serveur d'inférence lit généralement chacun d'eux comme un seul token spécial : son décompte sera donc plus bas.
Comment sont comptés les tokens de réflexion d'un modèle de raisonnement ?
La réflexion est générée par le modèle : on ne peut pas la connaître avant l'appel, et cet outil compte un texte que vous avez déjà. La documentation de Qwen indique que la réflexion est facturée comme tokens de sortie ; pour les autres modèles de raisonnement, consultez la documentation de chaque éditeur. La réflexion est souvent plus longue que la réponse finale : prévoyez-lui un budget à part.
Quelle longueur de texte est acceptée ?
Il n'y a pas de limite stricte ; seule la mémoire du navigateur fixe une borne. Dans notre test, 200 000 caractères chinois ont été comptés en moins d'une seconde une fois les vocabulaires chargés. Pour un texte très long, la vue de découpage affiche les 2 000 premiers tokens, tandis que les décomptes couvrent toujours l'ensemble. Les fichiers ouverts peuvent atteindre 20 Mo.
tiktoken peut-il compter les tokens de DeepSeek ou de Qwen ?
Non. tiktoken ne fournit que les vocabulaires d'OpenAI (o200k_base, cl100k_base) ; utilisé pour DeepSeek ou Qwen, il se trompe d'un facteur deux environ sur du chinois (exemple « Chinois » de cette page : 156 avec cl100k_base, 75 avec DeepSeek). Pour DeepSeek et Qwen, chargez le tokenizer officiel avec Hugging Face transformers et passez add_special_tokens=False pour retrouver le décompte de texte brut de cet outil ; la documentation de l'API DeepSeek propose aussi un paquet de tokenizer hors ligne sur sa page consacrée à l'usage des tokens.