General
PromptBeginner5 minmarkdown
<h1 align="center">
<a href="https://prompts.chat">
5
General
FAQ
建议使用4.31.0。
promptBeginner5 min to valuemarkdown
0 views
Feb 1, 2026
Sign in to like and favorite skills
建议使用4.31.0。
Sign in to like and favorite skills
建议使用4.31.0。
答：别着急，先检查你的代码是不是更新到最新版本，然后确认你是否完整地将模型checkpoint下到本地。
qwen.tiktoken这个是我们的tokenizer的merge文件，你必须下载它才能使用我们的tokenizer。注意，如果你使用git clone却没有使用git-lfs，这个文件不会被下载。如果你不了解git-lfs，可点击官网了解。
运行如下命令：
pip install -r requirements.txtweb_demo_mm.pyQwen-VL当前不支持流式推理。
请检查是否加载的是Qwen-VL-Chat模型进行推理，Qwen-VL模型是未经align的预训练基模型，不期望具备响应用户指令的能力。我们在模型最新版本已经对
chat目前Qwen-VL不支持量化，后续我们将支持高效的量化推理实现。
请确认是否开启ntk。若要启用这些技巧，请将
config.jsonuse_dynamc_ntkuse_logn_attntruetrue在训练过程中，我们仅使用<|endoftext|>这一token作为sample/document之间的分隔符及padding位置占位符，你可以将bos_id, eos_id, pad_id均指向tokenizer.eod_id。请阅读我们关于tokenizer的文档，了解如何设置这些id。