Skip to content

Compteur de tokens pour DeepSeek, Qwen et GPT

Compteur de tokens exact pour DeepSeek, Qwen et GPT via le tokenizer de chaque éditeur, sans estimation par caractère. Collez un texte, comparez cinq vocabulaires et voyez où chaque token se coupe. Gratuit, dans votre navigateur.

Fonctionne dans le navigateur Gratuit
Tokenisation dans votre navigateur, avec le vocabulaire de chaque éditeur — votre texte n'est pas envoyé à nos serveurs.
Exemples :

Caractères
0
Sinogrammes
0
Octets UTF-8
0
Modèle Tokens Tokens par caractère
DeepSeek V4 / V3 / R1 DeepSeek · 128K —
Qwen3.5 / 3.6 / 3.8 Qwen · 248K —
Qwen3 / Qwen2.5 / QwQ Qwen · 151K —
GPT-5 / GPT-4.1 / GPT-4o / o3 o200k_base —
GPT-4 / GPT-3.5 Turbo cl100k_base —

Ce sont les tokens du texte lui-même. Un appel d'API compte aussi le template de chat autour de chaque message : le prompt_tokens qu'il renvoie est donc généralement un peu plus élevé.

Découpage du texte

Saisissez ou collez un texte pour voir chaque token.

Saisissez le prix d'entrée indiqué sur la page de tarifs de votre fournisseur. Les prix changent : l'outil ne les code donc pas en dur.

La sortie des cinq vocabulaires a été comparée ID par ID avec Hugging Face tokenizers 0.23.3 et OpenAI tiktoken 0.14.0 sur 26 714 textes de test (3,88 millions de caractères), plus un jeu de caractères situés aux frontières des versions Unicode, et concorde ; chaque nombre cité en exemple sur cette page a été vérifié avec les mêmes implémentations de référence. Les ratios par caractère proviennent de mesures sur les textes de ce site (29 500 sinogrammes de prose du blog et 52 500 de documentation des outils). La correspondance entre modèles et vocabulaires provient de la table des modèles de tiktoken et d'une comparaison fichier par fichier des dépôts officiels des éditeurs, vérifiée en novembre 2026. — Équipe d'ingénierie Go Tools · 8 nov. 2026

Conçu et vérifié par l'équipe d'ingénierie Go Tools.

Repères de conversion des tokens

Combien de caractères fait un token ?

Environ 4 caractères d'anglais par token Cela dépend du vocabulaire et de la langue. Mesuré sur les textes de ce site (environ 82 000 sinogrammes de texte chinois) : en anglais, environ 4,3 à 4,4 caractères par token, soit environ 1,4 token par mot ; dans la prose chinoise, un sinogramme coûte environ 0,8 token avec DeepSeek et Qwen3.5, 0,9 avec Qwen3, 1,0 avec GPT-4o et 1,3 avec GPT-4.

Combien de tokens pour 10 000 caractères chinois ?

Environ 6 300 avec DeepSeek, 10 000 avec GPT-4 En comptant la ponctuation comme des caractères, mesuré sur la prose chinoise de ce site : environ 6 200 à 6 300 avec DeepSeek, 6 400 à 6 500 avec Qwen3.5, 7 000 à 7 200 avec Qwen3, 7 700 avec GPT-4o et 10 300 à 10 500 avec GPT-4. Le code et les textes riches en nombres en demandent davantage.

Pourquoi le chinois consomme-t-il plus de tokens que l'anglais ?

Même passage : 59 à 60 tokens en anglais, 71 à 156 en chinois Les exemples « Chinois » et « Anglais » de cette page sont le même passage. La version anglaise fait 59 à 60 tokens dans les cinq vocabulaires ; la version chinoise en fait 71 avec Qwen3.5, 75 avec DeepSeek, 84 avec Qwen3, 111 avec GPT-4o et 156 avec GPT-4 — de 18 % à 160 % de plus. L'anglais varie peu d'un vocabulaire à l'autre (environ 1,4 token par mot sur les textes de ce site) ; pour le chinois, tout dépend du nombre d'entrées chinoises du vocabulaire, et un vocabulaire qui en a peu (le cl100k_base de GPT-4) découpe beaucoup de caractères en 2 à 3 tokens de niveau octet.

Quelle unité représente un token ?

La plus petite unité de découpage et de facturation d'un modèle Un token est la plus petite unité en laquelle un modèle de langage découpe le texte, et l'unité de facturation des API comme de mesure des fenêtres de contexte. Ce peut être un mot, une partie de mot, un caractère, une expression ou quelques octets d'un seul caractère — c'est le vocabulaire de chaque modèle qui en décide.

Peut-il compter les tokens de Claude, Gemini ou Doubao ?

Pas de tokenizer public — seulement les API de comptage officielles Pas exactement. Claude n'a plus de tokenizer public depuis Claude 3 ; Anthropic propose à la place une API count_tokens (sa documentation précise que Claude 4.7 et les versions ultérieures utilisent un tokenizer plus récent, qui produit environ 30 % de tokens en plus pour le même texte). Gemini et Doubao se comptent de même via leurs API officielles, et Doubao dispose aussi d'un calculateur de tokens officiel dans la console Volcano Engine Ark (connexion requise). Cet outil ne liste que les modèles dont le vocabulaire officiel est public et concorde ID par ID.

Qu'est-ce qu'un token ?

Un token est l'unité qu'un modèle de langage lit et écrit, celle que les API facturent et dans laquelle se mesurent les fenêtres de contexte. Un modèle ne voit jamais directement les lettres ni les caractères chinois : son tokenizer découpe d'abord le texte en morceaux présents dans son vocabulaire, puis convertit chaque morceau en un identifiant entier. Les mots et expressions courants ont leur propre entrée et prennent un seul token ; tout ce qui manque retombe sur les octets UTF-8, si bien qu'un seul caractère chinois peut coûter deux ou trois tokens. Le décompte dépend donc du vocabulaire. DeepSeek et Qwen stockent 人工智能 (intelligence artificielle) comme un seul token et GPT-4o le coupe en deux, alors que le cl100k_base de GPT-4, pauvre en entrées chinoises, a besoin de 12 tokens pour la phrase ci-dessous — plus du double des 5 de DeepSeek. Voici le découpage réel produit par cet outil.

文本:人工智能正在改变世界。(11 个字符)

DeepSeek V4        5  [人工智能][正在][改变][世界][。]
Qwen3.5 / 3.6      5  [人工智能][正在][改变][世界][。]
Qwen3 / 2.5        5  [人工智能][正在][改变][世界][。]
GPT-5 / GPT-4o     6  [人工][智能][正在][改变][世界][。]
GPT-4             12  [人][工][智×2][能][正在][改][变][世×2][界][。]

×2 表示这个字被拆成了 2 个字节级 token

Ce que fait ce compteur de tokens

Les deux vocabulaires Qwen, comptés exactement

Qwen3.5, 3.6 et 3.8 sont passés à un nouveau vocabulaire de 248K, avec d'autres règles de découpage ; Qwen3, Qwen2.5 et QwQ conservent celui de 151K. Les deux proviennent du tokenizer.json des poids ouverts officiels et sont comptés séparément — jamais approximés avec un tokenizer GPT.

Vocabulaires officiels, vérifiés ID par ID

DeepSeek utilise son vocabulaire officiel (identique de V3 à V4.1) ; GPT utilise les vocabulaires o200k_base et cl100k_base d'OpenAI. Nous avons comparé 26 714 textes de test (3,88 millions de caractères en 15 langues, du code, des blancs et des caractères situés aux frontières des versions Unicode) ID par ID avec Hugging Face tokenizers et OpenAI tiktoken : les cinq vocabulaires concordent.

Cinq modèles côte à côte

Un seul collage donne cinq décomptes : vous voyez tout de suite quel modèle traite votre texte avec le moins de tokens. La colonne des tokens par caractère permet de comparer équitablement des textes de longueurs différentes.

Chaque token visible

La vue de découpage colore chaque token et peut afficher son ID. Quand plusieurs tokens de niveau octet ne forment des caractères entiers qu'ensemble, ils sont regroupés dans un seul bloc en pointillés au lieu d'afficher des octets illisibles ; les caractères invisibles, comme les espaces de largeur nulle, sont écrits par leur point de code, par exemple ⟨U+200B⟩.

Fichiers comptés tels quels

Les fichiers ouverts conservent leurs sauts de ligne CRLF et leur BOM d'origine. DeepSeek découpe un saut de ligne Windows \r\n en deux tokens, si bien que le même code avec des fins de ligne CRLF coûte environ 15 % de plus. Le texte collé dans la zone de saisie est compté avec les sauts de ligne LF que conserve le navigateur.

Fonctionne dans votre navigateur

La tokenisation s'exécute dans un thread d'arrière-plan (Web Worker) ; votre texte n'est pas envoyé à nos serveurs. Une fois les vocabulaires chargés, 200 000 caractères chinois sont comptés en moins d'une seconde, et la zone de texte reste réactive.

Compter les tokens dans du code

tiktoken (Python)

len(tiktoken.get_encoding("o200k_base").encode_ordinary(text))

La bibliothèque officielle d'OpenAI, limitée aux vocabulaires OpenAI. Le moyen le plus direct de compter les tokens d'entrée de GPT-5 et GPT-4o ; elle ne sait compter ni DeepSeek ni Qwen.

transformers AutoTokenizer

AutoTokenizer.from_pretrained("Qwen/Qwen3.6-35B-A3B").encode(text, add_special_tokens=False)

Charge les tokenizers officiels des modèles ouverts comme DeepSeek et Qwen. La première exécution télécharge les fichiers de vocabulaire depuis Hugging Face.

Tokenizer hors ligne de DeepSeek

Documentation de l'API DeepSeek, page sur l'usage des tokens

Le tokenizer hors ligne officiel, à utiliser avec transformers. Son vocabulaire est le même que celui de la ligne DeepSeek de cet outil.

API de comptage officielles

Anthropic messages/count_tokens, Gemini countTokens, OpenAI responses/input_tokens

Le seul moyen pour les modèles sans tokenizer public, et le résultat inclut le surcoût du format de chat. Il faut une requête et une clé API, et le texte part chez l'éditeur.

Ce compteur de tokens

Collez, puis lisez cinq décomptes

Ni code ni dépendance — pratique pour vérifier un prompt ou comparer des modèles. Pour les traitements par lots, utilisez les bibliothèques ci-dessus.

Exemples de décompte : un texte, cinq découpages

Un même passage chinois, deux fois plus de tokens selon le modèle

Cliquez sur l'exemple « Chinois » de cette page : un passage du quotidien de 117 caractères (106 sinogrammes)
DeepSeek V4        75
Qwen3.5 / 3.6      71
Qwen3 / 2.5        84
GPT-5 / GPT-4o    111
GPT-4             156

Tokens par sinogramme : Qwen3.5 environ 0,67, DeepSeek 0,71, Qwen3 0,79, GPT-4o 1,05 et GPT-4 1,47. Cliquez sur « Anglais » pour le même passage en anglais : les cinq se situent entre 59 et 60.

Nombres : Qwen dépense un token par chiffre

订单金额 12345.67 元,共 2026 件
DeepSeek V4   16   …[123][45][.][67]…[202][6]…
Qwen3.5       22   …[1][2][3][4][5][.][6][7]…[2][0][2][6]…
Qwen3         22   (chiffres découpés de la même façon)
GPT-4o        13   …[123][45][.][67][ 元][,共]…
GPT-4         16   …[123][45][.][67]…

Les deux générations de Qwen isolent chaque chiffre, alors que DeepSeek et GPT regroupent les chiffres par trois. Les textes chargés en nombres — tableaux, factures, journaux — coûtent nettement plus cher avec Qwen.

Espaces de largeur nulle invisibles

你​好​世​界 (trois espaces de largeur nulle U+200B entre les caractères)
Sans eux : DeepSeek 2 · Qwen3.5 2 · Qwen3 2 · GPT-4o 2 · GPT-4 5
Avec eux : DeepSeek 7 · Qwen3.5 7 · Qwen3 7 · GPT-4o 7 · GPT-4 8

Les espaces de largeur nulle séparent 你好 et 世界 : chaque caractère devient alors son propre token, et chaque espace de largeur nulle en prend un de plus. Le texte copié depuis le web en contient souvent ; la vue de découpage les affiche sous la forme ⟨U+200B⟩.

Emojis : le vocabulaire le plus récent coûte plus cher

👍🎉
DeepSeek V4   3
Qwen3.5       6
Qwen3         2
GPT-4o        3
GPT-4         6

L'ancien vocabulaire de Qwen3 stocke les deux emojis entiers ; le nouveau vocabulaire de 248K les renvoie aux octets UTF-8, si bien qu'un emoji de 4 octets prend 3 tokens. Un vocabulaire plus récent n'est pas moins cher partout — comptez votre vrai texte.

Comment utiliser le compteur de tokens

  1. 1

    Collez votre texte

    Collez un prompt, un document ou du code, ou utilisez « Ouvrir un fichier » pour charger un fichier .txt, .md, .json, .csv ou tout autre fichier texte. Pas de texte sous la main ? Cliquez sur l'un des exemples. Le premier calcul télécharge cinq vocabulaires depuis ce site (0,4 à 2,2 Mo chacun, compressés en gzip) ; ils ne sont pas retéléchargés tant que la page reste ouverte.

  2. 2

    Lisez les cinq décomptes

    Le tableau affiche d'un coup le nombre de tokens pour DeepSeek, Qwen3.5/3.6/3.8, Qwen3/Qwen2.5, GPT-5/GPT-4o et GPT-4/GPT-3.5, ainsi que le nombre moyen de tokens par caractère. Au-dessus figurent le nombre de caractères, de sinogrammes et d'octets UTF-8, pour comparer avec les estimations fondées sur les caractères.

  3. 3

    Examinez le découpage

    Sous « Découpage du texte », chaque bloc coloré est un token. Un contour en pointillés signale plusieurs tokens de niveau octet qui ne forment des caractères entiers qu'ensemble. Activez « Afficher les ID des tokens » pour comparer avec les ID que renvoie une API ou tiktoken. Cliquez sur une ligne du tableau pour changer de modèle.

  4. 4

    Estimez le coût

    Saisissez le prix d'entrée du modèle sélectionné pour un million de tokens afin d'obtenir le coût de ce texte en entrée. L'outil n'embarque aucune grille tarifaire : les éditeurs changent souvent leurs prix et les modulent selon les heures de pointe et les succès de cache ; reprenez donc le chiffre affiché aujourd'hui sur leur page de tarifs.

Erreurs courantes dans le décompte des tokens

Estimer les tokens comme caractères × une constante

Une constante ne vaut que pour un type de texte. Les mêmes 24 caractères 订单金额 12345.67 元,共 2026 件 font 13 tokens avec GPT-4o et 22 avec Qwen — plus il y a de chiffres, plus l'écart se creuse.

✗ Incorrect
tokens ≈ caractères × 0.6
✓ Correct
Découper avec le vocabulaire du modèle cible, puis compter

Utiliser un tokenizer GPT pour DeepSeek ou Qwen

tiktoken ne fournit que les vocabulaires d'OpenAI. L'exemple « Chinois » de cette page compte 156 tokens avec cl100k_base, contre 75 pour DeepSeek — une estimation deux fois trop élevée.

✗ Incorrect
tiktoken.get_encoding("cl100k_base")  # utilisé pour DeepSeek
✓ Correct
AutoTokenizer.from_pretrained("deepseek-ai/DeepSeek-V4.1-Flash")

Prendre le décompte du texte pour la facture

La facture inclut aussi le template de chat, le prompt système, la sortie et la réflexion d'un modèle de raisonnement ; certains services facturent en outre différemment les succès de cache. Une estimation fondée sur le seul texte d'entrée reste trop basse.

✗ Incorrect
coût = tokens du prompt × prix d'entrée
✓ Correct
coût = prompt_tokens × prix d'entrée + completion_tokens × prix de sortie

Caractères invisibles dans le texte

Les espaces de largeur nulle (U+200B) séparent les mots : 你好世界 fait 2 tokens avec DeepSeek, et 7 dès que trois espaces de largeur nulle s'intercalent entre les caractères.

✗ Incorrect
你\u200b好\u200b世\u200b界   → 7 tokens
✓ Correct
你好世界   → 2 tokens

Quand compter les tokens

Estimer le coût des API
Avant la mise en production, collez un prompt type, le prompt système et le contexte récupéré pour obtenir les tokens du texte lui-même ; ajoutez le surcoût du template par message (voir « Tokens du texte brut et décomptes des API ») pour obtenir l'entrée de chaque appel, puis multipliez par le prix et le volume d'appels pour une estimation mensuelle.
Rester dans la fenêtre de contexte
Documents longs, historique de conversation et passages récupérés s'additionnent vite. Comptez d'abord chaque partie, puis décidez quoi couper ou résumer.
Comparer les modèles sur votre langue
Le même passage en chinois peut prendre deux fois plus de tokens dans un vocabulaire que dans un autre. Comparez le coût comme prix × nombre de tokens de votre texte dans ce modèle, et non sur le seul prix.
Dimensionner les chunks RAG en tokens
La taille des chunks de recherche se fixe généralement en tokens. Vérifiez combien de tokens un vrai passage occupe dans le modèle cible avant de fixer une longueur en caractères par chunk.
Comprendre pourquoi un prompt coûte cher
Le texte copié depuis des pages web, Word ou des PDF contient souvent des espaces de largeur nulle, des espaces insécables et des suites d'espaces qui coûtent des tokens sans être visibles. La vue de découpage les signale. Pour identifier chacun par son nom et son point de code, utilisez « Révéler les caractères invisibles » dans le Convertisseur Unicode.

Comment les tokens sont découpés

BPE : fusionner à partir des octets
Les cinq vocabulaires sont des BPE au niveau des octets (byte pair encoding). Le texte est converti en octets UTF-8, puis les morceaux adjacents sont fusionnés en entrées de vocabulaire plus longues, dans un ordre fixe, jusqu'à ce que plus rien ne puisse être fusionné. Cet ordre provient des statistiques d'entraînement, si bien que le même texte s'arrête sur un découpage différent dans chaque vocabulaire.
Pourquoi un caractère peut valoir 2 à 3 tokens
Un caractère chinois courant occupe 3 octets en UTF-8. Si le vocabulaire le contient (ou contient un mot qui l'inclut), c'est un seul token ; sinon, il reste en morceaux d'octets — deux ou trois tokens. Le cl100k_base de GPT-4 est le moins favorable au chinois : sur les 3 755 caractères les plus courants encodés un par un, seuls 14,1 % tiennent en un seul token, contre 95,7 % pour DeepSeek et 99,9 % pour Qwen3.
Prétokenisation : découper d'abord, fusionner ensuite
Avant le BPE, une expression régulière découpe le texte en segments, et les fusions ne franchissent jamais la limite d'un segment. Les règles diffèrent : GPT-4o et GPT-4 regroupent les chiffres par trois, Qwen garde un chiffre par segment, et DeepSeek isole d'abord les suites de caractères chinois et de kana (jusqu'à U+9FA5 seulement ; les caractères suivants relèvent de la règle générale). Cet outil reproduit chaque règle et fige les classes de caractères sur Unicode 16 — la version qu'utilisent les implémentations de référence —, si bien que les résultats ne varient pas avec la version Unicode de votre navigateur.
Tokens du texte brut et décomptes des API
Les décomptes portent sur le texte lui-même : ni token de début de séquence, ni template de chat. Les API enveloppent chaque message dans un template : la fonction de comptage de l'OpenAI Cookbook ajoute 3 tokens par message, le nom du rôle et 3 tokens d'amorce de la réponse — environ 7 de plus pour un seul message ; dans la documentation officielle de Qwen, 你好 fait 1 token seul et 11 une fois enveloppé ; DeepSeek ne précise pas si prompt_tokens inclut son template. La réponse du modèle et sa réflexion sont facturées comme tokens de sortie.
D'où viennent les vocabulaires
o200k_base et cl100k_base proviennent des fichiers de vocabulaire qu'OpenAI publie pour tiktoken ; DeepSeek, du tokenizer.json du dépôt officiel DeepSeek-V4.1-Flash-1017 sur Hugging Face (MIT) ; Qwen, des dépôts officiels Qwen3-8B et Qwen3.6-35B-A3B (Apache-2.0). L'outil ne garde que ce dont la tokenisation a besoin — les octets de chaque token et l'ordre des fusions —, soit 0,4 à 2,2 Mo par vocabulaire, téléchargés depuis ce site à la première utilisation. Les sources et les licences sont listées dans THIRD_PARTY_NOTICES.txt, à côté des fichiers.

Conseils pour estimer les tokens

Comptez avec le vocabulaire du modèle cible
Compter la consommation de DeepSeek ou de Qwen avec un tokenizer GPT peut se tromper d'un facteur deux sur du texte chinois. Pour Qwen, choisissez aussi la bonne génération : à partir de Qwen3.5, les modèles utilisent la ligne « Qwen3.5 / 3.6 / 3.8 ».
Gardez de la marge pour les templates et la sortie
Le décompte du texte brut est un plancher. Pour le contexte et le coût, ajoutez le surcoût du template par message, le prompt système et la longueur de sortie attendue ; la réflexion d'un modèle de raisonnement compte aussi comme sortie.
Calibrez avec le champ usage de l'API
Une fois en production, fiez-vous au champ usage que renvoie l'API. Comptez le même prompt ici et comparez avec prompt_tokens : l'écart correspond au surcoût de votre template, que vous pouvez ajouter à vos estimations suivantes.
Découpez en tokens, pas en caractères
Fixez la taille des chunks RAG et les limites de troncature en tokens. Un texte mêlant plusieurs langues, du code et des nombres fait fortement varier le rapport entre caractères et tokens.
Nettoyez les caractères invisibles avant l'envoi
Passez par la vue de découpage pour tout texte copié depuis des pages web ou des documents. Espaces de largeur nulle, espaces insécables et suites d'espaces consomment tous des tokens pour rien. Pour une page web entière, retirez d'abord les balises et les styles avec HTML vers Markdown, puis envoyez le résultat au modèle.

FAQ du compteur de tokens

Qu'est-ce qu'un compteur de tokens (compteur de tokens LLM) ?
Un compteur de tokens découpe un texte en tokens avec le tokenizer propre à un modèle de langage et les compte, pour estimer le coût d'une API et la longueur de contexte. Ici, collez un texte dans la zone de saisie (ou ouvrez un fichier texte) : le tableau affiche d'un coup le nombre de tokens pour DeepSeek, les deux générations de Qwen, GPT-5 / GPT-4o et GPT-4, et « Découpage du texte » signale chaque token ; saisissez un prix pour estimer le coût en entrée. Aucune inscription requise.
Combien de tokens fait un caractère chinois ? Le 0,6 de DeepSeek est-il juste ?
Mesuré sur la prose chinoise de ce site, DeepSeek utilise environ 0,77 à 0,79 token par sinogramme, soit environ 0,62 par caractère quand la ponctuation et les espaces comptent comme des caractères. La documentation de DeepSeek indique « 1 caractère chinois ≈ 0,6 token », ce qui correspond à la seconde façon de compter. Les mots courants fusionnent en un seul token ; les caractères rares se découpent en deux (par exemple 龘). Les chiffres des autres modèles figurent dans les repères de conversion ci-dessus.
L'API renvoie un autre nombre. Le décompte est-il faux ?
L'outil compte le texte lui-même et concorde ID par ID avec les tokenizers officiels. Le prompt_tokens d'une API inclut en plus les marqueurs de rôle et les séparateurs que le template de chat ajoute à chaque message : dans l'exemple documenté par Qwen, 你好 fait 1 token seul et est facturé 11. Les prompts système, les définitions d'outils et les messages précédents comptent aussi. Un écart constant correspond au surcoût de votre template — servez-vous-en pour calibrer vos estimations suivantes.
Quel vocabulaire utilisent DeepSeek V4, R1, Qwen3.6 et GPT-5 ?
Le vocabulaire de base de DeepSeek est identique de V3, R1, V3.1 et V3.2 jusqu'à V4 et V4.1 ; seuls les tokens spéciaux diffèrent. Qwen compte deux générations : Qwen3.5, 3.6 et 3.8 utilisent le nouveau vocabulaire de 248K, Qwen3, Qwen2.5 et QwQ celui de 151K (il s'agit des vocabulaires des poids ouverts ; la documentation d'Alibaba Cloud ne précise pas lequel utilisent ses modèles hébergés sur Model Studio). Côté OpenAI, d'après la table des modèles de tiktoken : GPT-5, GPT-4.1, GPT-4o, o1, o3 et o4-mini utilisent o200k_base ; GPT-4, GPT-3.5 Turbo et text-embedding-3 utilisent cl100k_base.
Pourquoi GPT-4 a-t-il besoin de tellement plus de tokens que GPT-4o pour le chinois ?
Le cl100k_base de GPT-4 compte environ 100 000 entrées, dont peu de chinoises : beaucoup de caractères y prennent deux ou trois tokens de niveau octet ; le o200k_base de GPT-4o compte environ 200 000 entrées et de nombreux mots chinois. L'exemple « Chinois » de cette page fait 156 tokens avec GPT-4 et 111 avec GPT-4o.
Pourquoi les nombres coûtent-ils autant de tokens avec Qwen ?
Le prétokeniseur de Qwen place chaque chiffre dans son propre segment : 1234567 fait donc 7 tokens ; DeepSeek et GPT regroupent les chiffres par trois et n'en ont besoin que de 3. Les textes riches en nombres, comme les tableaux, les factures et les journaux, comptent nettement plus avec Qwen.
Mon texte est-il envoyé quelque part ?
Il n'est pas envoyé à nos serveurs. La tokenisation s'exécute dans un thread d'arrière-plan de votre navigateur ; les seuls fichiers que l'outil télécharge sont les vocabulaires, depuis ce site, à la première utilisation.
Les sauts de ligne changent-ils le nombre de tokens ?
Oui, surtout avec DeepSeek : il découpe un saut de ligne Windows \r\n en deux tokens, si bien que le même code avec des fins de ligne CRLF coûte environ 15 % de plus, contre moins de 0,5 % dans les autres vocabulaires. Une zone de texte de navigateur convertit les sauts de ligne collés en \n : le texte collé est donc compté avec LF ; les fichiers chargés avec « Ouvrir un fichier » conservent leurs sauts de ligne et leur BOM d'origine.
Comment sont comptés les marqueurs comme <|im_start|> ou <think> ?
Comme du texte ordinaire, découpé en plusieurs tokens — comme le fait encode_ordinary de tiktoken —, et la page vous signale leur présence dans votre texte. Si vous hébergez vous-même un modèle ouvert, le serveur d'inférence lit généralement chacun d'eux comme un seul token spécial : son décompte sera donc plus bas.
Comment sont comptés les tokens de réflexion d'un modèle de raisonnement ?
La réflexion est générée par le modèle : on ne peut pas la connaître avant l'appel, et cet outil compte un texte que vous avez déjà. La documentation de Qwen indique que la réflexion est facturée comme tokens de sortie ; pour les autres modèles de raisonnement, consultez la documentation de chaque éditeur. La réflexion est souvent plus longue que la réponse finale : prévoyez-lui un budget à part.
Quelle longueur de texte est acceptée ?
Il n'y a pas de limite stricte ; seule la mémoire du navigateur fixe une borne. Dans notre test, 200 000 caractères chinois ont été comptés en moins d'une seconde une fois les vocabulaires chargés. Pour un texte très long, la vue de découpage affiche les 2 000 premiers tokens, tandis que les décomptes couvrent toujours l'ensemble. Les fichiers ouverts peuvent atteindre 20 Mo.
tiktoken peut-il compter les tokens de DeepSeek ou de Qwen ?
Non. tiktoken ne fournit que les vocabulaires d'OpenAI (o200k_base, cl100k_base) ; utilisé pour DeepSeek ou Qwen, il se trompe d'un facteur deux environ sur du chinois (exemple « Chinois » de cette page : 156 avec cl100k_base, 75 avec DeepSeek). Pour DeepSeek et Qwen, chargez le tokenizer officiel avec Hugging Face transformers et passez add_special_tokens=False pour retrouver le décompte de texte brut de cet outil ; la documentation de l'API DeepSeek propose aussi un paquet de tokenizer hors ligne sur sa page consacrée à l'usage des tokens.

Convertisseur de casse — UPPERCASE, lowercase, camelCase

Traitement de texte

Convertissez instantanément du texte entre UPPERCASE, lowercase, Title Case, Sentence case, camelCase, PascalCase, snake_case, kebab-case, CONSTANT_CASE et 6 autres formats. Gratuit, navigateur, sans inscription.

Générateur de Lorem Ipsum gratuit

Traitement de texte

Générez du faux texte Lorem Ipsum instantanément — par paragraphe, phrase, mot, octet ou liste. Copiez ou téléchargez en texte brut, HTML, Markdown ou JSON. 100 % gratuit, privé, dans le navigateur. Sans inscription.

Testeur Regex gratuit — Déboguez vos motifs en ligne

Traitement de texte

Testez vos expressions régulières en ligne, gratuit. Correspondances en direct, groupes de capture, aperçu de remplacement, découpe et explication du motif. Regex JavaScript, 100 % confidentialité — sans inscription.

Supprimer les lignes en double d'un texte

Traitement de texte

Supprimez les lignes en double d'un texte en ligne — gratuit et instantané, 100 % dans le navigateur. Ignorez la casse ou les espaces, gardez la première ou la dernière occurrence. Sans inscription.

Générateur de slug URL — Sluggifiez tout texte

Traitement de texte

Transformez n'importe quel titre en slug d'URL propre et optimisé SEO instantanément. Translittérez accents et cyrillique, ou conservez les lettres Unicode. 100 % privé, dans votre navigateur.

Trier des lignes alphabétiquement et naturellement

Traitement de texte

Triez des lignes de texte par ordre alphabétique, numérique (ordre naturel) ou par longueur, croissant ou décroissant. Trieur de lignes en ligne, 100 % dans le navigateur. Dédoublonnez, inversez, nettoyez. Sans inscription.