O que é um contador de tokens (contador de tokens LLM)?
Um contador de tokens divide o texto em tokens com o próprio tokenizador de um modelo de linguagem e conta quantos são, para você estimar o custo de API e o tamanho do contexto. Aqui, cole o texto na caixa (ou abra um arquivo de texto): a tabela mostra de uma vez a contagem de tokens de DeepSeek, das duas gerações do Qwen, de GPT-5 / GPT-4o e de GPT-4, e “Como o texto é dividido” marca cada token; digite um preço para estimar o custo de entrada. Não precisa de cadastro.
Quantos tokens tem um caractere chinês? O 0,6 do DeepSeek está certo?
Medido na prosa chinesa deste site, o DeepSeek usa cerca de 0,77–0,79 token por caractere chinês, ou cerca de 0,62 por caractere quando pontuação e espaços contam como caracteres. A própria documentação do DeepSeek diz “1 caractere chinês ≈ 0,6 token”, o que corresponde à segunda forma de contar. Palavras comuns se fundem em um token; caracteres raros se dividem em dois (por exemplo, 龘). Os números dos outros modelos estão na referência rápida acima.
A API informa outro número. A contagem está errada?
A ferramenta conta o texto em si e bate ID a ID com os tokenizadores oficiais. O prompt_tokens de uma API inclui também os marcadores de papel e os separadores que o template de chat acrescenta a cada mensagem: no exemplo documentado pelo Qwen, 你好 é 1 token sozinho e é cobrado como 11. Prompts de sistema, definições de ferramentas e mensagens anteriores também contam. Uma diferença constante é o overhead do seu template — use-a para calibrar as próximas estimativas.
Que vocabulário usam DeepSeek V4, R1, Qwen3.6 e GPT-5?
O vocabulário base do DeepSeek é idêntico desde V3, R1, V3.1 e V3.2 até V4 e V4.1; só os tokens especiais mudam. O Qwen tem duas gerações: Qwen3.5, 3.6 e 3.8 usam o novo vocabulário de 248K; Qwen3, Qwen2.5 e QwQ, o de 151K (estes são os vocabulários dos pesos abertos; a documentação da Alibaba Cloud não diz qual deles os modelos hospedados no Model Studio usam). Na OpenAI, segundo o mapa de modelos do tiktoken: GPT-5, GPT-4.1, GPT-4o, o1, o3 e o4-mini usam o200k_base; GPT-4, GPT-3.5 Turbo e text-embedding-3 usam cl100k_base.
Por que o GPT-4 precisa de tantos tokens a mais que o GPT-4o para chinês?
O cl100k_base do GPT-4 tem cerca de 100.000 entradas, poucas em chinês, então muitos caracteres ocupam dois ou três tokens em nível de byte; o o200k_base do GPT-4o tem cerca de 200.000 entradas e muitas palavras chinesas. O exemplo “Chinês” desta página dá 156 tokens no GPT-4 e 111 no GPT-4o.
Por que números custam tantos tokens no Qwen?
O pré-tokenizador do Qwen coloca cada dígito num segmento próprio, então 1234567 dá 7 tokens; o DeepSeek e o GPT agrupam os dígitos de três em três e precisam de 3. Textos cheios de números, como tabelas, faturas e logs, contam bem mais no Qwen.
Meu texto é enviado para algum lugar?
Ele não é enviado aos nossos servidores. A tokenização roda numa thread em segundo plano do seu navegador; os únicos arquivos que a ferramenta baixa são os vocabulários, deste site, no primeiro uso.
Quebras de linha mudam a contagem de tokens?
Sim, sobretudo no DeepSeek: ele divide uma quebra de linha do Windows \r\n em dois tokens, então o mesmo código com finais de linha CRLF custa cerca de 15% a mais, contra menos de 0,5% nos outros vocabulários. A caixa de texto do navegador converte as quebras de linha coladas em \n, então o texto colado é contado com LF; arquivos carregados com “Abrir arquivo” mantêm as quebras de linha e o BOM originais.
Como são contados marcadores como <|im_start|> ou <think>?
Como texto comum, divididos em vários tokens — igual ao encode_ordinary do tiktoken —, e a página avisa quando o seu texto os contém. Se você hospeda um modelo aberto por conta própria, o servidor de inferência normalmente lê cada um como um único token especial, então a contagem dele será menor.
Como são contados os tokens de pensamento de um modelo de raciocínio?
O pensamento é gerado pelo modelo, então não dá para conhecê-lo antes da chamada; esta ferramenta conta o texto que você já tem. A documentação do Qwen informa que o pensamento é cobrado como tokens de saída; para outros modelos de raciocínio, consulte a documentação de cada fornecedor. O pensamento costuma ser mais longo que a resposta final, então reserve um orçamento separado para ele.
Qual o tamanho máximo do texto?
Não há limite fixo; o limite é a memória do navegador. No nosso teste, 200.000 caracteres chineses foram contados em menos de um segundo com os vocabulários já carregados. Em textos muito longos, a visualização da divisão mostra os primeiros 2.000 tokens, mas as contagens sempre cobrem tudo. Arquivos abertos podem ter até 20 MB.
O tiktoken consegue contar tokens do DeepSeek ou do Qwen?
Não. O tiktoken só traz os vocabulários da OpenAI (o200k_base, cl100k_base); usado para DeepSeek ou Qwen, ele erra por um fator de cerca de dois em texto chinês (exemplo “Chinês” desta página: 156 com o cl100k_base, 75 no DeepSeek). Para DeepSeek e Qwen, carregue o tokenizador oficial com o Hugging Face transformers e passe add_special_tokens=False para bater com a contagem de texto puro desta ferramenta; a documentação da API do DeepSeek também oferece um pacote de tokenizador offline na página sobre uso de tokens.