【免费下载链接】Qwen2.5-Coder-1.5B-Instruct_rai_1.8.0_npu_4K项目地址https://ai.gitcode.com/hf_mirrors/amd/Qwen2.5-Coder-1.5B-Instruct_rai_1.8.0_npu_4K点击查看免费下载本文详解Qwen2.5-Coder-1.5B-Instruct_rai_1.8.0_npu_4K这个专为 AMD Ryzen AI NPU 优化的代码大模型从核心推理引擎model.onnx、外部权重model.onnx.data到词表tokenizer.json、对话模板与 NPU 运行时状态文件逐一拆解仓库中每个模型文件的作用帮助你快速理解这套 ONNX 模型文件的组成结构。这个模型是什么简单来说这是阿里Qwen2.5-Coder-1.5B-Instruct15 亿参数代码模型经过 AMD 官方改造的版本使用Quark 量化框架压缩AWQ 算法、Group 128 分组、UINT4 权重、BFP16 激活通过OGA Model Builder导出为 ONNX 格式完成Full Fusion 4K 上下文后处理可直接部署在 Ryzen AI 300/PRO 系列 NPU 上关键参数一览来自 config.json参数值模型结构Qwen2ForCausalLMqwen2隐藏层数28 层隐藏维度1536注意力头12 头KV 头 2 个GQA词表大小151936最大位置编码32768量化方式AWQ / Group 128 / UINT4 权重完整文件清单速览文件真实大小作用model.onnx约 32.7 MBONNX 模型计算图decoder 会话model.onnx.data约 572 MB模型权重数据外部存储config.json3.5 KB模型架构与量化配置genai_config.json1.9 KBONNX Runtime GenAI 运行配置NPU 后端rai_config.json0.2 KB各 Ryzen AI 版本支持的最大提示长度generation_config.json0.2 KB默认采样参数temperature、top_k 等tokenizer.json约 11.4 MB分词器主文件tokenizer_config.json4.9 KB分词器行为配置vocab.json约 2.8 MB词表15.1 万个 tokenmerges.txt约 1.7 MBBPE 合并规则15 万余条added_tokens.json0.6 KB新增特殊 token 映射special_tokens_map.json0.6 KB特殊 tokeneos、pad定义chat_template.jinja2.6 KBQwen 对话模板支持工具调用dd_metastate_*系列约 2 KB/个NPU 运行时内核状态文件README.md2.8 KB项目说明文档LICENSE11 KB许可证MIT核心文件详解1. model.onnx 与 model.onnx.data推理引擎本体这是整个模型最核心的两个文件二者是骨架 血肉的关系model.onnxONNX 计算图描述 28 层 Transformer 的计算流程输入input_ids/attention_mask/position_ids输出logits和 KV cache。文件本身约 32.7 MB结构定义见 genai_config.json 中model.decoder部分。model.onnx.data以外部数据形式存储的全部量化权重约 572 MB。这正是 UINT4 量化带来的效果——原始 BF16 权重大约 3 GB 级别压缩后不到 600 MB才能塞进 NPU 的内存预算。⚠️新手提示这两个文件托管在 Git LFS 上。clone 后若model.onnx只有 133 字节说明你拿到的只是 LFS 指针需要执行git lfs pull拉取真实数据。2. config.json 与 genai_config.json两份身份证config.json面向 Transformers 生态的模型描述包含架构参数、词表大小以及quantization_config节点——详细记录了 AWQ 量化方案uint4权重、group_size: 128、PerGroupMinMaxObserver观测器等量化细节可参考 config.json 的quantization_config段落。genai_config.json面向 ONNX Runtime GenAI 运行时的配置是 NPU 部署的总开关filename: model.onnx指明加载哪个模型文件hybrid_opt_token_backend: npu表示解码阶段混合使用 NPU 加速model.context_length: 32768与search.max_length: 4096分别约束上下文与生成长度3. tokenizer.json 及配套文件文本进出的翻译官模型只认数字分词器负责文字 ↔ token 编号的互转相关 6 个文件分工如下文件作用tokenizer.json分词器主文件含完整分词规则独立可用vocab.jsontoken ↔ 编号对照表151936 个词元merges.txtBPE 合并规则决定i n如何合并成Ġintokenizer_config.json行为配置如add_bos_token: falseadded_tokens.json新增的特殊 token 及编号如 赞分享【免费下载链接】Qwen2.5-Coder-1.5B-Instruct_rai_1.8.0_npu_4K项目地址https://ai.gitcode.com/hf_mirrors/amd/Qwen2.5-Coder-1.5B-Instruct_rai_1.8.0_npu_4K点击查看免费下载相关推荐Qwen2.5-Coder-7B-Instruct_rai_1.8.0_hybrid文件清单详解model.onnx、genai_config.json各文件到底有什么作用Qwen2.5 Coder 7B Instruct_rai_1.8.0_hybrid文件清单详解model.onnx、genai_config.json各文件Qwen2.5-0.5B-Instruct_rai_1.8.0_npu_4K 仓库文件全解析model.onnx 与 dd_metastate 到底是什么Qwen2.5 0.5B Instruct_rai_1.8.0_npu_4K 仓库文件全解析model.onnx 与 dd_metastate 到底是什么十分钟跑完第一份微信聊天记录导出存档留痕WeChatMsg上手教程十分钟跑完第一份微信聊天记录导出存档留痕WeChatMsg上手教程 微信自带备份是私有格式换个设备基本就用不了了。留痕WeChatMsg做的是另一件上一篇Vike国际化性能优化终极指南语言包加载与切换机制详解下一篇高动态范围成像 HDR 完整指南告别死白死黑的照片创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考