一个 token 是多少个字符?
一个汉字约 0.8–1.3 个 token 取决于词表和语言。在本站语料上实测(约 8.2 万个汉字):纯中文正文里一个汉字约 0.8 个 token(DeepSeek、Qwen3.5)、0.9 个(Qwen3)、1.0 个(GPT-4o)、1.3 个(GPT-4);英文约 4.3–4.4 个字符算 1 个 token,一个英文单词约 1.4 个 token。
在线 Token 计算器:用 DeepSeek、通义千问、GPT 的官方分词器精确计数,不按字数估算。一个汉字几个 token、每个 token 切在哪,一眼看清;通义千问新旧两代词表分开算。免费,文本在浏览器本地计算。
| 模型 | Token 数 | 每字符 token | 词表 |
|---|---|---|---|
| DeepSeek V4 / V3 / R1 DeepSeek · 128K | — | DeepSeek · 128K | |
| Qwen3.5 / 3.6 / 3.8 Qwen · 248K | — | Qwen · 248K | |
| Qwen3 / Qwen2.5 / QwQ Qwen · 151K | — | Qwen · 151K | |
| GPT-5 / GPT-4.1 / GPT-4o / o3 o200k_base | — | o200k_base | |
| GPT-4 / GPT-3.5 Turbo cl100k_base | — | cl100k_base |
这是文本本身的 token 数。通过 API 调用时,对话模板还会给每条消息加几个 token,接口返回的 prompt_tokens 通常会略多。
输入或粘贴文本后,这里会显示每一个 token。
按服务商定价页上的输入价格填写。价格经常调整,本工具不内置价格。
由 Go Tools 工程团队构建并验证。
一个汉字约 0.8–1.3 个 token 取决于词表和语言。在本站语料上实测(约 8.2 万个汉字):纯中文正文里一个汉字约 0.8 个 token(DeepSeek、Qwen3.5)、0.9 个(Qwen3)、1.0 个(GPT-4o)、1.3 个(GPT-4);英文约 4.3–4.4 个字符算 1 个 token,一个英文单词约 1.4 个 token。
DeepSeek 约 6,300,GPT-4 约 1 万 按字数含标点计,在本站中文正文语料上实测:DeepSeek 约 6,200–6,300 个,Qwen3.5 约 6,400–6,500 个,Qwen3 约 7,000–7,200 个,GPT-4o 约 7,700 个,GPT-4 约 10,300–10,500 个。代码和数字多的文本会更多。
同一段话:英文 59–60 个 token,中文 71–156 个 本页「中文」「英文」两个示例是同一段话:英文版在五套词表里都是 59–60 个 token,中文版在 Qwen3.5 是 71 个、DeepSeek 75 个、Qwen3 84 个、GPT-4o 111 个、GPT-4 156 个,多用 18%–160%。英文在各家词表里差别很小(本站语料实测一个英文单词约 1.4 个 token);中文差多少要看词表收了多少中文词,收得少的(GPT-4 的 cl100k_base)会把不少汉字拆成 2–3 个字节级 token。
大模型切分文本和计费的最小单位 Token 是大模型切分文本的最小单位,也是 API 计费和上下文窗口的计量单位。它可以是一个词、半个词、一个汉字、一个词组,也可以是一个字的几个字节,由每家模型的词表决定。
没有公开分词器,只能用官方计数接口 不能精确算。Claude 从 3 代起没有公开分词器,官方只提供 count_tokens 接口(官方文档还说明 Claude 4.7 起换了新分词器,同一段文本约多 30% 的 token);Gemini、豆包也以官方计数接口为准,豆包还可以用火山方舟控制台里的官方 Token 计算器(需登录)。本工具只列官方词表公开、能逐个对得上的模型。
Token 是大模型读写文本的最小单位,也是 API 计费和上下文长度的计量单位。模型不直接读汉字或字母,而是先用分词器(tokenizer)把文本切成词表里有的片段,再把每个片段换成一个整数 id。常用的词、词组在词表里有现成条目,一个 token 就能表示;词表里没有的字会退回到 UTF-8 字节,一个汉字可能要 2–3 个 token。所以 token 数取决于词表:DeepSeek 和通义千问的词表里,「人工智能」整个是 1 个 token,GPT-4o 切成「人工」「智能」2 个;GPT-4 的词表(cl100k_base)中文条目少,下面这句话要切成 12 个 token,是 DeepSeek 的两倍多。下面是本工具对同一句话的实际切分。
文本:人工智能正在改变世界。(11 个字符) DeepSeek V4 5 [人工智能][正在][改变][世界][。] Qwen3.5 / 3.6 5 [人工智能][正在][改变][世界][。] Qwen3 / 2.5 5 [人工智能][正在][改变][世界][。] GPT-5 / GPT-4o 6 [人工][智能][正在][改变][世界][。] GPT-4 12 [人][工][智×2][能][正在][改][变][世×2][界][。] ×2 表示这个字被拆成了 2 个字节级 token
Qwen3.5、3.6、3.8 换成了 248K 的新词表,切分规则也改了;Qwen3、Qwen2.5、QwQ 仍用 151K 的旧词表。两代都用官方开源权重里的 tokenizer.json 逐个切分,新旧型号分开给数,不拿 GPT 的分词器代替。
DeepSeek 用官方词表(V3 到 V4.1 的词表逐项相同),GPT 用 OpenAI 的 o200k_base / cl100k_base。我们拿 26,714 段测试文本(388 万字符,含 15 种语言、代码、各种空白和 Unicode 新旧版本边界字符)与 Hugging Face tokenizers、OpenAI tiktoken 的输出逐个 token ID 比对,五套词表全部一致。
同一段文本一次给出五个数,直接看出哪家模型处理你的中文更省 token。表格里的「每字符 token」比单看总数更好比较长短不同的文本。
切分结果用色块标出每个 token,可显示 token ID。几个字节级 token 合起来才是一个字时,合成一个虚线框,不会显示成乱码;零宽空格、BOM 这类看不见却占 token 的字符写出码位,例如 ⟨U+200B⟩。
从文件导入时保留原始的 CRLF 换行和 BOM:DeepSeek 把 Windows 换行 \r\n 切成两个 token,同一份代码改成 CRLF 后 token 数会多出约 15%。粘贴进输入框的文本则按浏览器保留的 LF 计。
分词在浏览器的后台线程(Web Worker)里完成,文本不会发到我们的服务器。词表下载完后,20 万字的中文在一秒内算完,输入框不卡顿。
len(tiktoken.get_encoding("o200k_base").encode_ordinary(text)) OpenAI 官方库,只包含 OpenAI 的词表。算 GPT-5、GPT-4o 的输入 token 最直接;不能用来算 DeepSeek 或千问。
AutoTokenizer.from_pretrained("Qwen/Qwen3.6-35B-A3B").encode(text, add_special_tokens=False) 能加载 DeepSeek、通义千问等开源模型的官方分词器。首次运行会从 Hugging Face 下载词表文件,国内网络常需要镜像。
官方提供的离线分词器,配合 transformers 使用。词表与本工具的 DeepSeek 一行相同。
messages/count_tokens、Gemini countTokens、OpenAI responses/input_tokens 没有公开分词器的模型只能这样计数,而且结果含对话格式的开销。要发请求、要密钥,文本会发到服务商。
不用写代码、不用装依赖,适合临时核对一段提示词或比较几家模型;批量处理还是用上面的库。
点页面上的「中文」示例:一段 117 个字符的日常叙述(106 个汉字)
DeepSeek V4 75 Qwen3.5 / 3.6 71 Qwen3 / 2.5 84 GPT-5 / GPT-4o 111 GPT-4 156
折合每个汉字:Qwen3.5 约 0.67、DeepSeek 0.71、Qwen3 0.79、GPT-4o 1.05、GPT-4 1.47 个 token。点「英文」示例看同一段话的英文版:五家都在 59–60 个之间。
订单金额 12345.67 元,共 2026 件
DeepSeek V4 16 …[123][45][.][67]…[202][6]… Qwen3.5 22 …[1][2][3][4][5][.][6][7]…[2][0][2][6]… Qwen3 22 (数字切法同上) GPT-4o 13 …[123][45][.][67][ 元][,共]… GPT-4 16 …[123][45][.][67]…
通义千问两代的规则都把每个数字单独切开,DeepSeek 和 GPT 则三位一组。数字多的文本(表格、账单、日志)在千问里会明显多出 token。
你好世界(字间夹了 3 个 U+200B 零宽空格)
不夹零宽空格:DeepSeek 2 · Qwen3.5 2 · Qwen3 2 · GPT-4o 2 · GPT-4 5 夹了之后: DeepSeek 7 · Qwen3.5 7 · Qwen3 7 · GPT-4o 7 · GPT-4 8
零宽空格把「你好」「世界」拆散,每个字只能单独成 token,零宽空格自己也各占一个。从网页复制的文本里常有这种字符,切分结果会把它显示成 ⟨U+200B⟩。
👍🎉
DeepSeek V4 3 Qwen3.5 6 Qwen3 2 GPT-4o 3 GPT-4 6
Qwen3 的旧词表把这两个 emoji 都收成了整词;换成 248K 新词表后,它们退回到 UTF-8 字节,一个 4 字节的 emoji 要 3 个 token。换代不一定处处更省,要用你的真实文本算。
把提示词、文档或代码粘贴到输入框,或点「打开文件」载入 .txt、.md、.json、.csv 等文本文件;没有现成文本时先点一个示例。第一次计算时,浏览器会从本站下载五套词表(gzip 后每套 0.4–2.2 MB),之后在本页里不再重复下载。
表格同时给出 DeepSeek、Qwen3.5/3.6/3.8、Qwen3/Qwen2.5、GPT-5/GPT-4o 和 GPT-4/GPT-3.5 的 token 数,以及平均每个字符占几个 token。上方还有字符数、汉字数和 UTF-8 字节数,方便和按字数估算的结果对照。
「切分结果」里每个色块是一个 token。虚线框表示几个字节级 token 合起来才组成完整的字;打开「显示 token ID」可以和 API 或 tiktoken 返回的 id 逐个对照。点表格里任意一行,就切换到那个模型的切分。
在「单价」里填所选模型每百万 token 的输入价格,就能得到这段文本作为输入时的费用。本工具不内置价格表——各家经常调价,还分峰谷时段和缓存命中,按服务商定价页当前的数字填,结果才不会过时。
系数只在某一种文本上大致成立。同样 24 个字符的「订单金额 12345.67 元,共 2026 件」,GPT-4o 是 13 个 token,通义千问是 22 个——数字越多差得越多。
tokens ≈ 字数 × 0.6
按目标模型的词表实际切分计数
tiktoken 只有 OpenAI 的词表。本页「中文」示例用 cl100k_base 算是 156 个 token,DeepSeek 实际只用 75 个,估算会偏高一倍。
tiktoken.get_encoding("cl100k_base") # 用来算 DeepSeek AutoTokenizer.from_pretrained("deepseek-ai/DeepSeek-V4.1-Flash") 账单还包括对话模板、系统提示、输出和推理模型的思考过程;有的服务还分缓存命中与未命中。只按输入文本估,实际费用会更高。
费用 = 提示词 token × 输入单价
费用 = prompt_tokens × 输入单价 + completion_tokens × 输出单价
零宽空格(U+200B)会把词拆散:「你好世界」在 DeepSeek 里是 2 个 token,字间夹进 3 个零宽空格后变成 7 个。
你\u200b好\u200b世\u200b界 → 7 tokens
你好世界 → 2 tokens
add_special_tokens=False,结果才和本工具的纯文本口径一致;DeepSeek 官方文档的「Token 用量计算」页也提供了离线分词器包。 文本处理
在浏览器里把文本一键转成 UPPERCASE、lowercase、Title Case、Sentence case、camelCase、PascalCase、snake_case、kebab-case、CONSTANT_CASE 等共 15 种命名格式。免费、纯本地、无需注册。
文本处理
即时生成 Lorem Ipsum 占位文本 — 按段落、句子、单词、字节或列表生成。可复制或下载为纯文本、HTML、Markdown 或 JSON。100% 免费、隐私、纯浏览器运行,无需注册。
文本处理
在浏览器里实时测试正则表达式:高亮匹配、捕获组、命名分组、替换预览、字符串切分与逐 token 解释,支持 JavaScript(ECMA-262)方言、g/i/m/s/u/y/d 七个 flag、ReDoS 超时保护。100% 本地运行、免费、无需注册。
文本处理
在线从文本中删除重复行——免费、即时、100% 在你的浏览器里完成。可忽略大小写或空白,保留首次或末次出现,并显示删除了多少重复行。还能排序与清理。无需注册。
文本处理
在线把任意标题即时转成干净、利于 SEO 的 URL slug。可音译重音字符与西里尔字母,也可保留 Unicode 文字。100% 本地运行,数据不离开浏览器。
文本处理
在浏览器里对文本行排序:按字母顺序、数字顺序(自然排序)或行长度,升序或降序皆可。免费在线行排序工具,100% 纯本地运行。还能去重、反转与清理列表。无需注册,数据不上传。