Skip to content

Contador de tokens para DeepSeek, Qwen e GPT

Contador de tokens exato para DeepSeek, Qwen e GPT com o tokenizador de cada fornecedor, sem estimar por caractere. Cole um texto, compare cinco vocabulários e veja onde cada token é cortado. Grátis, no seu navegador.

Roda no navegador Grátis
Tokenização no seu navegador com o vocabulário de cada fornecedor — seu texto não é enviado aos nossos servidores.
Exemplos:

Caracteres
0
Caracteres chineses
0
Bytes UTF-8
0
Modelo Tokens Tokens por caractere
DeepSeek V4 / V3 / R1 DeepSeek · 128K —
Qwen3.5 / 3.6 / 3.8 Qwen · 248K —
Qwen3 / Qwen2.5 / QwQ Qwen · 151K —
GPT-5 / GPT-4.1 / GPT-4o / o3 o200k_base —
GPT-4 / GPT-3.5 Turbo cl100k_base —

Estes são os tokens do próprio texto. Uma chamada de API também conta o template de chat em volta de cada mensagem, então o prompt_tokens informado costuma ser um pouco maior.

Como o texto é dividido

Digite ou cole um texto para ver cada token.

Digite o preço de entrada da página de preços do seu provedor. Os preços mudam, por isso a ferramenta não os deixa fixos no código.

A saída dos cinco vocabulários foi comparada ID a ID com o Hugging Face tokenizers 0.23.3 e o OpenAI tiktoken 0.14.0 em 26.714 textos de teste (3,88 milhões de caracteres), mais um conjunto de caracteres nos limites entre versões do Unicode, e bateu; cada número de exemplo desta página foi conferido com as mesmas implementações de referência. As proporções por caractere vêm de medições nos textos deste site (29.500 caracteres chineses de prosa do blog e 52.500 de documentação das ferramentas). O mapeamento de modelos para vocabulários vem do mapa de modelos do tiktoken e de uma comparação arquivo a arquivo dos repositórios oficiais dos fornecedores, conferida em novembro de 2026. — Equipe de Engenharia da Go Tools · 8 de nov. de 2026

Desenvolvido e verificado pela equipe de engenharia da Go Tools.

Referência rápida de conversão de tokens

Quantos caracteres tem um token?

Cerca de 4 caracteres de inglês por token Depende do vocabulário e do idioma. Medido nos textos deste site (cerca de 82.000 caracteres chineses): em inglês, cerca de 4,3–4,4 caracteres por token, ou cerca de 1,4 token por palavra; em prosa chinesa, um caractere chinês custa cerca de 0,8 token no DeepSeek e no Qwen3.5, 0,9 no Qwen3, 1,0 no GPT-4o e 1,3 no GPT-4.

Quantos tokens são 10.000 caracteres chineses?

Cerca de 6.300 no DeepSeek, 10.000 no GPT-4 Contando a pontuação como caractere, medido na prosa chinesa deste site: cerca de 6.200–6.300 no DeepSeek, 6.400–6.500 no Qwen3.5, 7.000–7.200 no Qwen3, 7.700 no GPT-4o e 10.300–10.500 no GPT-4. Código e textos cheios de números ocupam mais.

Por que o chinês usa mais tokens que o inglês?

Mesmo trecho: 59–60 tokens em inglês, 71–156 em chinês Os exemplos “Chinês” e “Inglês” desta página são o mesmo trecho. A versão em inglês dá 59–60 tokens nos cinco vocabulários; a chinesa dá 71 no Qwen3.5, 75 no DeepSeek, 84 no Qwen3, 111 no GPT-4o e 156 no GPT-4 — de 18% a 160% a mais. O inglês varia pouco entre vocabulários (cerca de 1,4 token por palavra nos textos deste site); no chinês, depende de quantas entradas em chinês o vocabulário tem, e um com poucas (o cl100k_base do GPT-4) quebra muitos caracteres em 2–3 tokens em nível de byte.

Que unidade é um token?

A menor unidade em que um modelo divide e cobra o texto Um token é a menor unidade em que um modelo de linguagem divide o texto, e a unidade de cobrança das APIs e de medida das janelas de contexto. Pode ser uma palavra, parte de uma palavra, um caractere, uma expressão ou alguns bytes de um caractere — quem decide é o vocabulário de cada modelo.

Dá para contar tokens do Claude, do Gemini ou do Doubao?

Sem tokenizador público — só APIs oficiais de contagem Não com exatidão. O Claude não tem tokenizador público desde o Claude 3; em vez disso, a Anthropic oferece uma API count_tokens (a documentação acrescenta que o Claude 4.7 e posteriores usam um tokenizador mais novo, que gera cerca de 30% mais tokens para o mesmo texto). Gemini e Doubao também são contados pelas APIs oficiais, e o Doubao tem ainda uma calculadora de tokens oficial no console do Volcano Engine Ark (exige login). Esta ferramenta só lista modelos cujo vocabulário oficial é público e bate ID a ID.

O que é um token?

Um token é a unidade que um modelo de linguagem lê e escreve, e também a unidade em que as APIs cobram e as janelas de contexto são medidas. O modelo nunca vê letras ou caracteres chineses diretamente: o tokenizador primeiro corta o texto em pedaços que existem no vocabulário e transforma cada pedaço em um ID inteiro. Palavras e expressões comuns têm entrada própria e ocupam um token; o que não está no vocabulário cai para os bytes UTF-8, e assim um único caractere chinês pode custar dois ou três tokens. Por isso a contagem depende do vocabulário. DeepSeek e Qwen guardam 人工智能 (inteligência artificial) como um único token e o GPT-4o o divide em dois, enquanto o cl100k_base do GPT-4 tem poucas entradas em chinês e precisa de 12 tokens para a frase abaixo — mais que o dobro dos 5 do DeepSeek. Abaixo está a divisão real feita por esta ferramenta.

文本:人工智能正在改变世界。(11 个字符)

DeepSeek V4        5  [人工智能][正在][改变][世界][。]
Qwen3.5 / 3.6      5  [人工智能][正在][改变][世界][。]
Qwen3 / 2.5        5  [人工智能][正在][改变][世界][。]
GPT-5 / GPT-4o     6  [人工][智能][正在][改变][世界][。]
GPT-4             12  [人][工][智×2][能][正在][改][变][世×2][界][。]

×2 表示这个字被拆成了 2 个字节级 token

O que este contador de tokens faz

Os dois vocabulários do Qwen, contados com exatidão

Qwen3.5, 3.6 e 3.8 passaram para um novo vocabulário de 248K com outras regras de divisão; Qwen3, Qwen2.5 e QwQ mantêm o de 151K. Os dois vêm do tokenizer.json dos pesos abertos oficiais e são contados separadamente — nunca aproximados com um tokenizador do GPT.

Vocabulários oficiais, conferidos ID a ID

O DeepSeek usa seu vocabulário oficial (idêntico do V3 ao V4.1); o GPT usa o o200k_base e o cl100k_base da OpenAI. Comparamos 26.714 textos de teste (3,88 milhões de caracteres em 15 idiomas, código, espaços em branco e caracteres nos limites entre versões do Unicode) ID a ID com o Hugging Face tokenizers e o OpenAI tiktoken: os cinco vocabulários batem.

Cinco modelos lado a lado

Uma única colagem dá cinco contagens, e você vê na hora qual modelo processa seu texto com menos tokens. A coluna de tokens por caractere permite comparar de forma justa textos de tamanhos diferentes.

Cada token visível

A visualização da divisão colore cada token e pode mostrar seu ID. Quando vários tokens em nível de byte só formam caracteres inteiros juntos, eles ficam agrupados em um único bloco tracejado em vez de exibir bytes ilegíveis; caracteres invisíveis, como espaços de largura zero, aparecem escritos pelo ponto de código, por exemplo ⟨U+200B⟩.

Arquivos contados como são

Arquivos abertos mantêm as quebras de linha CRLF e o BOM originais. O DeepSeek divide uma quebra de linha do Windows \r\n em dois tokens, então o mesmo código com finais de linha CRLF custa cerca de 15% a mais. Texto colado na caixa é contado com as quebras de linha LF que o navegador mantém.

Roda no seu navegador

A tokenização acontece em uma thread em segundo plano (Web Worker); seu texto não é enviado aos nossos servidores. Com os vocabulários carregados, 200.000 caracteres chineses são contados em menos de um segundo, e a caixa de texto continua respondendo.

Contar tokens em código

tiktoken (Python)

len(tiktoken.get_encoding("o200k_base").encode_ordinary(text))

A biblioteca oficial da OpenAI, só com vocabulários da OpenAI. O jeito mais direto de contar tokens de entrada do GPT-5 e do GPT-4o; não conta DeepSeek nem Qwen.

transformers AutoTokenizer

AutoTokenizer.from_pretrained("Qwen/Qwen3.6-35B-A3B").encode(text, add_special_tokens=False)

Carrega os tokenizadores oficiais de modelos abertos como DeepSeek e Qwen. A primeira execução baixa os arquivos de vocabulário do Hugging Face.

Tokenizador offline do DeepSeek

Documentação da API do DeepSeek, página sobre uso de tokens

O tokenizador offline oficial, usado com o transformers. O vocabulário é o mesmo da linha DeepSeek desta ferramenta.

APIs oficiais de contagem

Anthropic messages/count_tokens, Gemini countTokens, OpenAI responses/input_tokens

A única opção para modelos sem tokenizador público, e o resultado inclui o overhead do formato de chat. Exige uma requisição e uma chave de API, e o texto vai para o fornecedor.

Este contador de tokens

Cole e leia cinco contagens

Sem código e sem dependências — prático para conferir um prompt ou comparar modelos. Para processamento em lote, use as bibliotecas acima.

Exemplos de contagem de tokens: um texto, cinco divisões

Um trecho em chinês, o dobro de tokens em um modelo

Clique no exemplo “Chinês” desta página: um trecho do dia a dia com 117 caracteres (106 caracteres chineses)
DeepSeek V4        75
Qwen3.5 / 3.6      71
Qwen3 / 2.5        84
GPT-5 / GPT-4o    111
GPT-4             156

Tokens por caractere chinês: Qwen3.5 cerca de 0,67, DeepSeek 0,71, Qwen3 0,79, GPT-4o 1,05 e GPT-4 1,47. Clique em “Inglês” para ver o mesmo trecho em inglês: os cinco ficam entre 59 e 60.

Números: o Qwen gasta um token por dígito

订单金额 12345.67 元,共 2026 件
DeepSeek V4   16   …[123][45][.][67]…[202][6]…
Qwen3.5       22   …[1][2][3][4][5][.][6][7]…[2][0][2][6]…
Qwen3         22   (dígitos divididos do mesmo jeito)
GPT-4o        13   …[123][45][.][67][ 元][,共]…
GPT-4         16   …[123][45][.][67]…

As duas gerações do Qwen separam cada dígito, enquanto o DeepSeek e o GPT agrupam os dígitos de três em três. Textos cheios de números — tabelas, faturas, logs — custam bem mais no Qwen.

Espaços de largura zero invisíveis

你​好​世​界 (três espaços de largura zero U+200B entre os caracteres)
Sem eles: DeepSeek 2 · Qwen3.5 2 · Qwen3 2 · GPT-4o 2 · GPT-4 5
Com eles: DeepSeek 7 · Qwen3.5 7 · Qwen3 7 · GPT-4o 7 · GPT-4 8

Os espaços de largura zero separam 你好 e 世界, então cada caractere vira um token próprio e cada espaço de largura zero ocupa mais um. Texto copiado da web costuma tê-los; a visualização da divisão os mostra como ⟨U+200B⟩.

Emojis: o vocabulário mais novo custa mais

👍🎉
DeepSeek V4   3
Qwen3.5       6
Qwen3         2
GPT-4o        3
GPT-4         6

O vocabulário antigo do Qwen3 guarda os dois emojis inteiros; o novo vocabulário de 248K os devolve para bytes UTF-8, e um emoji de 4 bytes passa a ocupar 3 tokens. Um vocabulário mais novo não é mais barato em tudo — conte o seu texto real.

Como usar o contador de tokens

  1. 1

    Cole seu texto

    Cole um prompt, um documento ou um trecho de código, ou use “Abrir arquivo” para carregar um .txt, .md, .json, .csv ou outro arquivo de texto. Não tem um texto à mão? Clique em um dos exemplos. A primeira contagem baixa cinco vocabulários deste site (0,4–2,2 MB cada, com gzip); eles não são baixados de novo enquanto a página estiver aberta.

  2. 2

    Leia as cinco contagens

    A tabela mostra de uma vez a contagem de tokens de DeepSeek, Qwen3.5/3.6/3.8, Qwen3/Qwen2.5, GPT-5/GPT-4o e GPT-4/GPT-3.5, além da média de tokens por caractere. Acima dela ficam os caracteres, os caracteres chineses e os bytes UTF-8, para comparar com estimativas baseadas em caracteres.

  3. 3

    Inspecione a divisão

    Cada bloco colorido em “Como o texto é dividido” é um token. Um contorno tracejado indica vários tokens em nível de byte que só formam caracteres inteiros juntos. Ative “Mostrar IDs dos tokens” para comparar com os IDs que uma API ou o tiktoken retorna. Clique em qualquer linha da tabela para trocar de modelo.

  4. 4

    Estime o custo

    Digite o preço de entrada por milhão de tokens do modelo selecionado para ver o custo deste texto como entrada. A ferramenta não traz tabela de preços: os fornecedores mudam os preços com frequência e os diferenciam por horário de pico e por acerto de cache, então use o valor que estiver hoje na página de preços deles.

Erros comuns na contagem de tokens

Estimar tokens como caracteres × uma constante

Uma constante só vale para um tipo de texto. Os mesmos 24 caracteres 订单金额 12345.67 元,共 2026 件 dão 13 tokens no GPT-4o e 22 no Qwen — quanto mais dígitos, maior a diferença.

✗ Incorreto
tokens ≈ caracteres × 0.6
✓ Correto
Dividir com o vocabulário do modelo de destino e contar

Usar um tokenizador do GPT para DeepSeek ou Qwen

O tiktoken só traz vocabulários da OpenAI. O exemplo “Chinês” desta página conta 156 tokens com o cl100k_base, enquanto o DeepSeek usa 75 — uma estimativa com o dobro do valor real.

✗ Incorreto
tiktoken.get_encoding("cl100k_base")  # usado para o DeepSeek
✓ Correto
AutoTokenizer.from_pretrained("deepseek-ai/DeepSeek-V4.1-Flash")

Tratar a contagem do texto como a fatura

A fatura também inclui o template de chat, o prompt de sistema, a saída e o pensamento de um modelo de raciocínio; alguns serviços ainda cobram de forma diferente os acertos de cache. Estimar só pelo texto de entrada dá um valor baixo demais.

✗ Incorreto
custo = tokens do prompt × preço de entrada
✓ Correto
custo = prompt_tokens × preço de entrada + completion_tokens × preço de saída

Caracteres invisíveis no texto

Espaços de largura zero (U+200B) separam palavras: 你好世界 dá 2 tokens no DeepSeek e 7 quando há três espaços de largura zero entre os caracteres.

✗ Incorreto
你\u200b好\u200b世\u200b界   → 7 tokens
✓ Correto
你好世界   → 2 tokens

Quando você precisa contar tokens

Estimar custos de API
Antes do lançamento, cole um prompt típico, o prompt de sistema e o contexto recuperado para obter os tokens do texto em si; some o overhead do template por mensagem (veja “Tokens do texto puro vs. contagens da API”) para ter a entrada de cada chamada e depois multiplique pelo preço e pelo volume de chamadas para ter uma estimativa mensal.
Caber na janela de contexto
Documentos longos, histórico de conversa e resultados de busca se acumulam rápido. Conte cada parte primeiro e depois decida o que cortar ou resumir.
Comparar modelos no seu idioma
O mesmo trecho em chinês pode ocupar o dobro de tokens em um vocabulário em relação a outro. Compare o custo como preço × tokens do seu texto naquele modelo, e não só pelo preço.
Dimensionar chunks de RAG em tokens
O tamanho dos chunks de recuperação costuma ser definido em tokens. Veja quantos tokens um trecho real ocupa no modelo de destino antes de fixar um comprimento em caracteres por chunk.
Descobrir por que um prompt está caro
Texto copiado de páginas web, do Word ou de PDFs muitas vezes traz espaços de largura zero, espaços não separáveis e sequências de espaços em branco que custam tokens sem aparecer. A visualização da divisão marca todos eles. Para identificar cada um pelo nome e pelo ponto de código, use “Mostrar caracteres invisíveis” no Conversor Unicode.

Como os tokens são cortados

BPE: fundindo a partir dos bytes
Os cinco vocabulários são BPE em nível de byte (byte pair encoding). O texto vira bytes UTF-8 e, em seguida, pedaços adjacentes são fundidos em entradas mais longas do vocabulário, numa ordem fixa, até que nada mais possa ser fundido. Essa ordem vem de estatísticas de treinamento, por isso o mesmo texto termina numa divisão diferente em cada vocabulário.
Por que um caractere pode valer 2–3 tokens
Um caractere chinês comum ocupa 3 bytes em UTF-8. Se o vocabulário o contém (ou contém uma palavra que o inclui), ele é um token; se não, fica em pedaços de bytes — dois ou três tokens. O cl100k_base do GPT-4 é o menos amigável ao chinês: dos 3.755 caracteres mais comuns codificados um a um, só 14,1% são um único token, contra 95,7% no DeepSeek e 99,9% no Qwen3.
Pré-tokenização: primeiro dividir, depois fundir
Antes do BPE, uma expressão regular corta o texto em segmentos, e as fusões nunca atravessam o limite de um segmento. As regras variam: GPT-4o e GPT-4 agrupam os dígitos de três em três, o Qwen mantém um dígito por segmento e o DeepSeek isola primeiro as sequências de caracteres chineses e kana (só até U+9FA5; caracteres posteriores seguem a regra geral). Esta ferramenta reproduz cada regra e fixa as classes de caracteres no Unicode 16 — a versão que as implementações de referência usam —, para que os resultados não mudem com a versão do Unicode do seu navegador.
Tokens do texto puro vs. contagens da API
As contagens são do texto em si: sem token de início de sequência e sem template de chat. As APIs envolvem cada mensagem num template: a função de contagem do OpenAI Cookbook soma 3 tokens por mensagem, o nome do papel (role) e 3 tokens de preparação da resposta — cerca de 7 a mais para uma única mensagem; na documentação oficial do Qwen, 你好 é 1 token sozinho e 11 depois de envolvido; o DeepSeek não documenta se o prompt_tokens inclui o template dele. A resposta do modelo e o pensamento dele são cobrados como tokens de saída.
De onde vêm os vocabulários
o200k_base e cl100k_base vêm dos arquivos de vocabulário que a OpenAI publica para o tiktoken; o DeepSeek, do tokenizer.json do repositório oficial DeepSeek-V4.1-Flash-1017 no Hugging Face (MIT); o Qwen, dos repositórios oficiais Qwen3-8B e Qwen3.6-35B-A3B (Apache-2.0). A ferramenta guarda só o que a tokenização precisa — os bytes de cada token e a ordem de fusão —, 0,4–2,2 MB por vocabulário, baixados deste site no primeiro uso. Fontes e licenças estão listadas em THIRD_PARTY_NOTICES.txt, ao lado dos arquivos.

Dicas para estimar tokens

Conte com o vocabulário do modelo de destino
Contar o uso do DeepSeek ou do Qwen com um tokenizador do GPT pode errar por um fator de dois em texto chinês. No Qwen, escolha também a geração certa: a partir do Qwen3.5, os modelos usam a linha “Qwen3.5 / 3.6 / 3.8”.
Reserve espaço para templates e saída
A contagem do texto puro é um piso. Para contexto e custo, some o overhead do template por mensagem, o prompt de sistema e o tamanho de saída esperado; o pensamento de um modelo de raciocínio também conta como saída.
Calibre com o campo usage da API
Em produção, confie no campo usage que a API retorna. Conte o mesmo prompt aqui e compare com prompt_tokens: a diferença é o overhead do seu template, que você pode somar às próximas estimativas.
Divida por tokens, não por caracteres
Defina em tokens o tamanho dos chunks de RAG e os limites de truncamento. Texto com vários idiomas, código e números mudam muito a proporção entre caracteres e tokens.
Limpe caracteres invisíveis antes de enviar
Confira na visualização da divisão os textos copiados de páginas web ou documentos. Espaços de largura zero, espaços não separáveis e sequências de espaços em branco gastam tokens à toa. Para páginas web inteiras, tire antes as tags e os estilos com HTML para Markdown e depois envie o resultado ao modelo.

Perguntas frequentes sobre o contador de tokens

O que é um contador de tokens (contador de tokens LLM)?
Um contador de tokens divide o texto em tokens com o próprio tokenizador de um modelo de linguagem e conta quantos são, para você estimar o custo de API e o tamanho do contexto. Aqui, cole o texto na caixa (ou abra um arquivo de texto): a tabela mostra de uma vez a contagem de tokens de DeepSeek, das duas gerações do Qwen, de GPT-5 / GPT-4o e de GPT-4, e “Como o texto é dividido” marca cada token; digite um preço para estimar o custo de entrada. Não precisa de cadastro.
Quantos tokens tem um caractere chinês? O 0,6 do DeepSeek está certo?
Medido na prosa chinesa deste site, o DeepSeek usa cerca de 0,77–0,79 token por caractere chinês, ou cerca de 0,62 por caractere quando pontuação e espaços contam como caracteres. A própria documentação do DeepSeek diz “1 caractere chinês ≈ 0,6 token”, o que corresponde à segunda forma de contar. Palavras comuns se fundem em um token; caracteres raros se dividem em dois (por exemplo, 龘). Os números dos outros modelos estão na referência rápida acima.
A API informa outro número. A contagem está errada?
A ferramenta conta o texto em si e bate ID a ID com os tokenizadores oficiais. O prompt_tokens de uma API inclui também os marcadores de papel e os separadores que o template de chat acrescenta a cada mensagem: no exemplo documentado pelo Qwen, 你好 é 1 token sozinho e é cobrado como 11. Prompts de sistema, definições de ferramentas e mensagens anteriores também contam. Uma diferença constante é o overhead do seu template — use-a para calibrar as próximas estimativas.
Que vocabulário usam DeepSeek V4, R1, Qwen3.6 e GPT-5?
O vocabulário base do DeepSeek é idêntico desde V3, R1, V3.1 e V3.2 até V4 e V4.1; só os tokens especiais mudam. O Qwen tem duas gerações: Qwen3.5, 3.6 e 3.8 usam o novo vocabulário de 248K; Qwen3, Qwen2.5 e QwQ, o de 151K (estes são os vocabulários dos pesos abertos; a documentação da Alibaba Cloud não diz qual deles os modelos hospedados no Model Studio usam). Na OpenAI, segundo o mapa de modelos do tiktoken: GPT-5, GPT-4.1, GPT-4o, o1, o3 e o4-mini usam o200k_base; GPT-4, GPT-3.5 Turbo e text-embedding-3 usam cl100k_base.
Por que o GPT-4 precisa de tantos tokens a mais que o GPT-4o para chinês?
O cl100k_base do GPT-4 tem cerca de 100.000 entradas, poucas em chinês, então muitos caracteres ocupam dois ou três tokens em nível de byte; o o200k_base do GPT-4o tem cerca de 200.000 entradas e muitas palavras chinesas. O exemplo “Chinês” desta página dá 156 tokens no GPT-4 e 111 no GPT-4o.
Por que números custam tantos tokens no Qwen?
O pré-tokenizador do Qwen coloca cada dígito num segmento próprio, então 1234567 dá 7 tokens; o DeepSeek e o GPT agrupam os dígitos de três em três e precisam de 3. Textos cheios de números, como tabelas, faturas e logs, contam bem mais no Qwen.
Meu texto é enviado para algum lugar?
Ele não é enviado aos nossos servidores. A tokenização roda numa thread em segundo plano do seu navegador; os únicos arquivos que a ferramenta baixa são os vocabulários, deste site, no primeiro uso.
Quebras de linha mudam a contagem de tokens?
Sim, sobretudo no DeepSeek: ele divide uma quebra de linha do Windows \r\n em dois tokens, então o mesmo código com finais de linha CRLF custa cerca de 15% a mais, contra menos de 0,5% nos outros vocabulários. A caixa de texto do navegador converte as quebras de linha coladas em \n, então o texto colado é contado com LF; arquivos carregados com “Abrir arquivo” mantêm as quebras de linha e o BOM originais.
Como são contados marcadores como <|im_start|> ou <think>?
Como texto comum, divididos em vários tokens — igual ao encode_ordinary do tiktoken —, e a página avisa quando o seu texto os contém. Se você hospeda um modelo aberto por conta própria, o servidor de inferência normalmente lê cada um como um único token especial, então a contagem dele será menor.
Como são contados os tokens de pensamento de um modelo de raciocínio?
O pensamento é gerado pelo modelo, então não dá para conhecê-lo antes da chamada; esta ferramenta conta o texto que você já tem. A documentação do Qwen informa que o pensamento é cobrado como tokens de saída; para outros modelos de raciocínio, consulte a documentação de cada fornecedor. O pensamento costuma ser mais longo que a resposta final, então reserve um orçamento separado para ele.
Qual o tamanho máximo do texto?
Não há limite fixo; o limite é a memória do navegador. No nosso teste, 200.000 caracteres chineses foram contados em menos de um segundo com os vocabulários já carregados. Em textos muito longos, a visualização da divisão mostra os primeiros 2.000 tokens, mas as contagens sempre cobrem tudo. Arquivos abertos podem ter até 20 MB.
O tiktoken consegue contar tokens do DeepSeek ou do Qwen?
Não. O tiktoken só traz os vocabulários da OpenAI (o200k_base, cl100k_base); usado para DeepSeek ou Qwen, ele erra por um fator de cerca de dois em texto chinês (exemplo “Chinês” desta página: 156 com o cl100k_base, 75 no DeepSeek). Para DeepSeek e Qwen, carregue o tokenizador oficial com o Hugging Face transformers e passe add_special_tokens=False para bater com a contagem de texto puro desta ferramenta; a documentação da API do DeepSeek também oferece um pacote de tokenizador offline na página sobre uso de tokens.

Ferramentas relacionadas

Ver todas as ferramentas →

Conversor de Maiúsculas — UPPER, lower, camelCase

Processamento de Texto

Converta texto entre UPPERCASE, lowercase, Title Case, Sentence case, camelCase, PascalCase, snake_case, kebab-case, CONSTANT_CASE e mais 6 formatos instantaneamente. Grátis, no navegador, sem cadastro.

Gerador de Lorem Ipsum — Texto de Preenchimento

Processamento de Texto

Gere texto de preenchimento Lorem Ipsum na hora — por parágrafo, frase, palavra, byte ou lista. Copie ou baixe como texto puro, HTML, Markdown ou JSON. 100% grátis e privado, no navegador. Sem cadastro.

Testador Regex Grátis — Depure e Combine Padrões Online

Processamento de Texto

Teste padrões de expressões regulares instantaneamente contra qualquer texto. Destaque ao vivo, grupos de captura, prévia de substituição, divisão e explicador. Regex JavaScript, 100% privado, sem cadastro, grátis e online.

Remover linhas duplicadas de texto

Processamento de Texto

Remova linhas duplicadas de texto online — grátis, instantâneo, 100% no navegador. Ignore maiúsculas ou espaços, mantenha a primeira ou última ocorrência e veja quantas duplicatas foram removidas. Sem cadastro.

Gerador de Slug de URL — Slugify de Texto

Processamento de Texto

Transforme qualquer título em um slug de URL limpo e otimizado para SEO instantaneamente. Translitera acentos e cirílico ou mantém letras Unicode. 100% privado, no navegador.

Ordenar linhas de texto: alfabética e natural

Processamento de Texto

Ordene linhas de texto por ordem alfabética, numérica (ordem natural) ou por comprimento — crescente ou decrescente. Grátis, 100% no navegador. Também remova duplicatas, inverta e limpe listas. Sem cadastro.