AI 技能人工智能大模型深度学习【免费下载链接】AI-Research-SKILLsComprehensive open-source library of AI research and engineering skills for any AI model. Package the skills and your claude code/codex/gemini agent will be an AI research agent with full horsepower. Maintained by Orchestra Research.项目地址https://gitcode.com/gh_mirrors/ai/AI-Research-SKILLs点击查看免费下载本文是 AI-Research-SKILLs 技能库中 model-merging 技能 的实战案例篇对应 references/examples.md围绕 mergekit 生态中真实存在的成功合并模型逐条拆解其 SLERP、Task Arithmetic、TIES、DARE-TIES、passthrough、MoE 等方法的完整 YAML 配置。读者读完将掌握如何复现 Open LLM Leaderboard 头部合并模型的配置、如何针对数学/代码/医疗/法律/多语言等任务设计合并策略以及如何把渐进式合并、A/B 测试、批量合并与上传落地到生产流水线。案例总览从排行榜榜首到生产落地模型合并Model Merging的核心价值在于无需任何 GPU 训练仅靠权重层面的代数运算就能把多个微调模型的能力组合进一个模型通常在几分钟内即可产出新变体。本文案例覆盖三大梯队梯队代表案例核心方法排行榜级Marcoro14-7B-slerp、goliath-120bSLERP、层特异 SLERP架构系Mixtral 系MathCode、ChatRoleplay、TIES、Llama 系Platypus-Hermes、DARE-TIESTask Arithmetic、SLERP、TIES、Linear、DARE-TIES任务专项医疗、法律、多语言Task Arithmetic、SLERPfilter 定向生产策略渐进式合并、A/B 测试、Frankenmerge、MoEpassthrough、moe、分步 SLERP若需要方法本身的算法级推导TIES 的 TRIM/ELECT/MERGE、DARE 的丢放与重缩放、SLERP 的球面插值公式参见 references/methods.md合并后的评测基准与方法参见 references/evaluation.md。排行榜级成功案例SLERP 的巅峰之作Marcoro14-7B-slerpOpen LLM Leaderboard 榜首Marcoro14-7B-slerp 是 2024 年 2 月 Open LLM Leaderboard 排名第一的合并模型采用 SLERPSpherical Linear Interpolation球面线性插值将两个 Mistral-7B 架构的模型按t 0.5等比例融合# marcoro14-7b-slerp.yml merge_method: slerp slices: - sources: - model: AIDC-ai-business/Marcoroni-7B-v3 layer_range: [0, 32] - model: EmbeddedLLM/Mistral-7B-Merge-14-v0.1 layer_range: [0, 32] parameters: t: 0.5 # Equal blend dtype: bfloat16结果Open LLM Leaderboard 平均分 74.32各任务表现均衡能力组合平滑、无断崖式退化。原理深入SLERP 与普通线性加权最大的区别在于“保持权重向量模长”。其核心公式为merged (sin((1-t)*θ) / sin(θ)) * model1 (sin(t*θ) / sin(θ)) * model2 其中 θ arccos(dot(model1, model2))t ∈ [0, 1]当θ极小时两模型权重几乎平行SLERP 退化为线性插值。t是唯一的插值系数t0完全等于第一个模型t1完全等于第二个模型t0.5即对半融合。这正是本案例“Equal blend”的由来。完整的可运行实现见 references/methods.md。goliath-120b层特异 SLERP 的工程化实践goliath-120b 是当时表现优异的 120B 级模型其配置展示了 SLERP 的进阶用法——按层组layer group施加不同的插值系数# goliath-120b.yml merge_method: slerp slices: - sources: - model: alpindale/c4ai-command-r-plus-GPTQ layer_range: [0, 40] - model: CohereForAI/c4ai-command-r-v01 layer_range: [0, 40] parameters: t: - filter: self_attn value: [0, 0.5, 0.3, 0.7, 1] # Layer-specific blending - filter: mlp value: [1, 0.5, 0.7, 0.3, 0] - value: 0.5 # Default dtype: float16filter 机制解读parameters.t不再是一个标量而是一组带filter的规则filter: self_attn—— 仅作用于注意力模块value: [0, 0.5, 0.3, 0.7, 1]表示沿 40 层按段施加t 0 → 0.5 → 0.3 → 0.7 → 1的渐变混合filter: mlp—— 仅作用于前馈网络模块施加方向相反的[1, 0.5, 0.7, 0.3, 0]value: 0.5—— 其余未匹配模块的默认值。注意力与 MLP 采用“互补”的插值曲线是这类大模型合并中常见的做法让不同模块从不同父模型中取长补短。这里选择dtype: float16而非 bfloat16说明当模型规模巨大时数据精度也是控制显存/内存开销的重要决策点examples.md 中两个头部案例分别使用了 bfloat16 与 float16。Mixtral 系合并多能力叠加与冲突消解Mixtral 系模型含 MoE 结构的 Mixtral-8x7B在合并实践中非常活跃本组案例覆盖 Task Arithmetic、SLERP、TIES 三种方法。Math Code 专家合并Task Arithmetic目标是把数学推理与代码生成能力合入同一模型# math-code-mixtral.yml merge_method: task_arithmetic base_model: mistralai/Mixtral-8x7B-v0.1 models: - model: WizardLM/WizardMath-7B-V1.1 parameters: weight: 0.6 # Emphasize math - model: ajibawa-2023/Code-Mixtral-8x7B parameters: weight: 0.4 # Add code dtype: bfloat16原理深入Task Arithmetic 先为每个微调模型提取“任务向量”task vector 微调权重 − 基座权重再加权求和后加回基座即merged base α₁·tv₁ α₂·tv₂。这里weight: 0.6表示任务向量 1数学的放大系数更大数学能力被优先强调0.4用于注入代码能力。注意 Task Arithmetic 的权重不要求相加等于 1因为它是任务向量层面的叠加而非参数层面的加权平均——这与 Linear 方法有本质区别。预期能力强数学推理、代码生成与理解、综合技术问题求解。Chat Roleplay 合并SLERP对话能力与角色扮演能力的双模型 SLERP 融合# chat-roleplay.yml merge_method: slerp slices: - sources: - model: teknium/OpenHermes-2.5-Mistral-7B layer_range: [0, 32] - model: Undi95/MLewd-ReMM-L2-Chat-20B-Part1 layer_range: [0, 32] parameters: t: 0.5 dtype: bfloat16两个模型架构一致同属 Mistral-7B 派生系layer_range: [0, 32]表示全 32 层参与融合t: 0.5对半混合。多任务 TIES 合并当要合并 3 个以上任务模型时直接用 Task Arithmetic 会产生参数符号冲突与冗余干扰。TIES-MergingNeurIPS 2023通过“稀疏化 符号表决”缓解该问题# multi-task-mixtral.yml merge_method: ties base_model: mistralai/Mixtral-8x7B-v0.1 models: - model: WizardLM/WizardMath-7B-V1.1 parameters: density: 0.5 weight: 1.0 - model: teknium/OpenHermes-2.5-Mistral-7B parameters: density: 0.5 weight: 1.0 - model: ajibawa-2023/Code-Mixtral-8x7B parameters: density: 0.5 weight: 1.0 parameters: normalize: true dtype: bfloat16算法三步走完整实现见 references/methods.mdTRIM裁剪按幅度保留每个任务向量的前density此处 50%的参数其余置零ELECT符号表决对每个参数位置统计各任务向量的符号选举占多数的符号作为该位置的“当选符号”平票时保留第一个模型符号MERGE对齐合并只累加与当选符号一致的参数取平均后按λ缩放加回基座。density: 0.5是保守与激进的中间值论文默认 0.2实践中 0.5 常见normalize: true表示对任务向量做归一化处理weight: 1.0表示各任务权重相等。TIES 尤其适合“多任务专才”场景——数学、对话、代码三模型同源均基于 Mixtral-8x7B合并后可以同时保留三方面能力。Llama 系合并权重分配与 DARE 稀疏化Platypus-Hermes 三模型线性合并Linear又称 Model Soup是最简单的合并方式——对参数做加权平均# platypus-hermes-13b.yml merge_method: linear models: - model: garage-bAInd/Platypus2-13B parameters: weight: 0.5 - model: WizardLM/WizardLM-13B-V1.2 parameters: weight: 0.3 - model: psmathur/orca_mini_v3_13b parameters: weight: 0.2 dtype: float16权重规则Linear 的权重通常要求满足w1 w2 ... 1此处0.5 0.3 0.2 1.0。三模型均为 13B 级 Llama 派生模型架构一致是合并的前提。Linear 实现即merged w1·model1 w2·model2 w3·model3见 methods.md 中的linear_merge实现与权重断言。DARE-TIES Llama 合并DAREDrop And REscalearXiv:2311.03099论文标题直译为“语言模型是超级马里奥”的核心思想是微调产生的 delta 参数δ 微调权重 − 基座权重中大部分是冗余的可以随机丢弃并重缩放从而以更低开销获得等价甚至更好的能力注入# dare-ties-llama.yml merge_method: dare_ties base_model: meta-llama/Llama-2-7b-hf models: - model: WizardLM/WizardLM-7B-V1.0 parameters: density: 0.5 # Keep top 50% weight: 0.6 dare: drop_rate: 0.9 # Drop 90% of deltas - model: garage-bAInd/Platypus-7B parameters: density: 0.5 weight: 0.4 dare: drop_rate: 0.9 parameters: int8_mask: true dtype: bfloat16DARE 数学原理methods.md 中有完整实现随机丢弃m_t ~ Bernoulli(p)δ̃_t (1 - m_t) ⊙ δ_t重缩放δ̂_t δ̃_t / (1 - p)以保持期望不变重建θ̂_t θ₀ δ̂_t。参数dare.drop_rate: 0.9表示丢弃 90% 的 delta 参数论文实验显示大模型在 0.9~0.99 的高丢弃率下依然稳健density: 0.5是 TIES 裁剪保留率int8_mask: true表示用 int8 存储掩码以节省内存。DARE-TIES 即“先 DARE 再 TIES”是目前多模型生产合并中综合效果最好的组合之一。任务专项合并医疗 / 法律 / 多语言医疗领域专家用 Task Arithmetic 在通用基座上叠加医学知识与对话能力# medical-specialist.yml merge_method: task_arithmetic base_model: mistralai/Mistral-7B-v0.1 models: - model: medalpaca/medalpaca-7b parameters: weight: 0.7 # Strong medical knowledge - model: teknium/OpenHermes-2.5-Mistral-7B parameters: weight: 0.3 # Add general chat ability dtype: bfloat16weight: 0.7让医学任务向量占主导weight: 0.3补充通用对话能力避免合并后模型“只会医学术语、不会聊天”。法律助手filter 定向插值法律场景的配置展示了 SLERP 中 filter 的另一形态——按模块给不同插值系数# legal-assistant.yml merge_method: slerp slices: - sources: - model: law-ai/legal-bert-7b layer_range: [0, 32] - model: teknium/OpenHermes-2.5-Mistral-7B layer_range: [0, 32] parameters: t: - filter: self_attn value: 0.7 # Emphasize legal model in attention - filter: mlp value: 0.3 # More general chat in MLPs - value: 0.5 dtype: bfloat16这里的filter用法与 goliath-120b 不同不提供数组而是单一标量。注意力模块取t0.7更偏向法律模型MLP 模块取t0.3更偏向通用对话模型其余模块默认t0.5。经验上注意力与 MLP 承担的功能不同分而治之往往优于一刀切的全局系数——这也是 SKILL.md 中“Layer-specific Merging”最佳实践所强调的。多语言合并# multilingual-merge.yml merge_method: linear models: - model: mistralai/Mistral-7B-v0.1 parameters: weight: 0.4 # English - model: CohereForAI/aya-23-7B parameters: weight: 0.3 # Multilingual - model: Qwen/Qwen3-7B parameters: weight: 0.3 # Asian languages dtype: bfloat16注意事项多语言合并虽然直观三个模型按权重线性混合覆盖英语、多语种、亚洲语言但必须确认三者共享同一架构与词表兼容性。若词表差异过大线性合并会在 embedding 层产生对齐问题此时需要配合 Tokenizer 合并策略见下文“生产级合并策略”中的 tokenizer 配置以及 SKILL.md 的 Tokenizer Merging 章节。生产级合并策略渐进式合并Gradual Merge更安全生产环境推荐“小步快跑”每次只合并两个模型、用保守系数逐步叠加第三、第四个专家每步都做评测质量退化即可止损# Step 1: Merge two models # step1.yml merge_method: slerp slices: - sources: - model: base_model layer_range: [0, 32] - model: specialist_1 layer_range: [0, 32] parameters: t: 0.3 # Conservative blend dtype: bfloat16# Step 2: Add third model to result # step2.yml merge_method: slerp slices: - sources: - model: ./merged_step1 # Previous merge layer_range: [0, 32] - model: specialist_2 layer_range: [0, 32] parameters: t: 0.3 # Conservative dtype: bfloat16注意第 2 步的model: ./merged_step1直接指向第 1 步的输出目录——mergekit 支持把上一次合并结果作为下一次的输入这是“渐进式”得以成立的关键机制。收益每步可测、易调试、质量劣化时可随时停止。A/B 测试配置对同一对基座模型与专家模型准备保守与激进两个变体跑同一批评测再择优上线# variant_a.yml - Conservative merge_method: slerp slices: - sources: - model: base_model layer_range: [0, 32] - model: specialist layer_range: [0, 32] parameters: t: 0.3 # 30% specialist dtype: bfloat16# variant_b.yml - Aggressive merge_method: slerp slices: - sources: - model: base_model layer_range: [0, 32] - model: specialist layer_range: [0, 32] parameters: t: 0.7 # 70% specialist dtype: bfloat16两个变体都测选表现优者。评测框架可参考 references/evaluation.md 中的 A/B 测试、回归测试与部署检查清单。Frankenmerge实验性拼接merge_method: passthrough允许从不同模型各取一段层直接拼接构造非常规层数的模型# frankenmerge.yml merge_method: passthrough slices: # First 8 layers from model A - sources: - model: model_a layer_range: [0, 8] # Middle 16 layers from model B - sources: - model: model_b layer_range: [8, 24] # Last 8 layers from model C - sources: - model: model_c layer_range: [24, 32] dtype: bfloat16适用场景创建非标准层数的模型。⚠️警告这是实验性方案层间连接可能不兼容合并后不一定能正常推理。同样基于 passthrough 的还有 SKILL.md 中的“Layer-wise Merging”模式——保留基座的首尾层不动只替换中间层常用于稳定性要求高的场景。MoE from Merges提示词驱动的专家路由将多个专家模型以 MoEMixture of Experts方式组装由提示词自动决定走哪个专家# moe-from-merges.yml merge_method: moe base_model: mistralai/Mistral-7B-v0.1 experts: - source_model: WizardLM/WizardMath-7B-V1.1 positive_prompts: - math - calculate - solve - equation - source_model: ajibawa-2023/Code-Mistral-7B positive_prompts: - code - python - function - programming - source_model: teknium/OpenHermes-2.5-Mistral-7B positive_prompts: - chat - conversation - help - question dtype: bfloat16结果模型会依据输入提示词与各专家positive_prompts的匹配度动态选择专家实现“数学题走数学专家、编程题走代码专家”的按需路由。这是不经过任何训练就把多个专才模型组织成 MoE 的轻量方案。进阶组合若在合并过程中涉及词表不同的模型可参考 SKILL.md 的 Tokenizer Merging 配置tokenizer.source: union合并词表并指定特殊 token 来源若不想手工调t/weight/density等系数可采用 references/coefficient-tuning.md 记录的“生成一致性”无监督选参方法AdaMMSCVPR 2025arXiv:2503.23733——用少量无标注提示词评测各候选系数的邻域输出一致性自动选出最稳定的系数。命令行实战从单次合并到批量流水线所有 YAML 配置最终都通过mergekit-yaml命令执行本节覆盖四种典型执行方式命令来源于 examples.md 的命令行示例。基础合并两模型 SLERP# Simple two-model SLERP mergekit-yaml config.yml ./output-model \ --cuda \ --lazy-unpickle--cuda使用 GPU 加速合并--lazy-unpickle启用惰性反序列化减少峰值内存占用。大模型低显存合并# Merge on CPU (slow but works with 8GB VRAM) mergekit-yaml config.yml ./output-model \ --allow-crimes \ # Enable CPU offloading --low-cpu-memory当模型规模超过显存时--allow-crimes启用 CPU offloading合并过程会变慢但能在 8GB 显存机器上运行--low-cpu-memory进一步压低 CPU 内存占用。注意合并本身不需要训练纯 CPU 也能跑完这正是模型合并“零训练成本”优势的体现SKILL.md 中同样强调 merges 可运行于 CPU。合并并上传 HuggingFace# Merge and push to HuggingFace mergekit-yaml config.yml ./merged-model --cuda cd merged-model python EOF from transformers import AutoModel, AutoTokenizer model AutoModel.from_pretrained(./) tokenizer AutoTokenizer.from_pretrained(./) model.push_to_hub(username/my-merged-model) tokenizer.push_to_hub(username/my-merged-model) EOF合并产物是标准 transformers 模型目录加载后可直接通过push_to_hub发布该流程与 SKILL.md 的“Save and Upload”章节一致。发布前建议先按 references/evaluation.md 的部署检查清单逐项验证。批量合并# Merge multiple configs for config in configs/*.yml; do output./output/$(basename $config .yml) mergekit-yaml $config $output --cuda done把不同方法、不同权重的配置放入configs/目录一条循环即可批量产出候选模型——这正是 A/B 测试、无监督系数搜索coefficient-tuning.md所依赖的自动化基础。成功合并的经验法则来自头部合并案例的六条实战经验examples.md 原文要点保守起步SLERP 先取t 0.3~0.5评测通过后再逐步调高架构匹配只合并同基座架构的模型例如不要混搭 Llama 与 Mistral充分评测上线前在多个任务上跑基准可用 lm-evaluation-harness 技能 执行 Open LLM Leaderboard 等套件层特异合并注意力与 MLP 使用不同t值往往效果更好见 goliath-120b、法律助手案例多模型用 DARE合并 3 个以上模型时DARE-TIES 通常效果最佳渐进式合并生产环境增量合并、逐步测试见上文 Step1/Step2 配置。在此基础上可再补充一条系数不要拍脑袋——当t、weight、density等系数难以人工确定时用“生成一致性”无监督搜索自动选择详见 coefficient-tuning.md并注意边界候选alpha_min/alpha_max只有单侧邻居、分数会被低估应从最终选择中剔除或扩大搜索范围。相关资源与仓库导航SKILL.md —— 技能总览安装、快速开始、配置结构、最佳实践与常见坑references/methods.md —— 五种合并算法的逐步推导与对比表references/examples.md —— 本文对应的真实案例配置源文档references/coefficient-tuning.md —— 无监督系数选择生成一致性 / AdaMMS完整流水线references/evaluation.md —— 评测套件Open LLM Leaderboard、MT-Bench、MMLU、HumanEval、回归测试与部署清单11-evaluation/lm-evaluation-harness —— 仓库内可复用的开源评测框架文中所有案例均以 mergekit 生态的 YAML 配置为核心骨架配置中的模型标识符来自原始文档实际运行时需替换为本地路径或可访问的模型仓库 ID并确保各模型架构一致同源 7B/13B 派生模型方可复现稳定的合并效果。赞分享AI 技能人工智能大模型深度学习【免费下载链接】AI-Research-SKILLsComprehensive open-source library of AI research and engineering skills for any AI model. Package the skills and your claude code/codex/gemini agent will be an AI research agent with full horsepower. Maintained by Orchestra Research.项目地址https://gitcode.com/gh_mirrors/ai/AI-Research-SKILLs点击查看免费下载相关推荐AI Research Skills 仓库实战TensorRT-LLM 高性能推理优化与生产部署完全指南AI Research Skills 仓库实战TensorRT LLM 高性能推理优化与生产部署完全指南 TensorRT LLM 是 NVIDIA 开源的AI 技能人工智能大模型深度学习Phoenix AI 可观测性平台实战指南基于 OpenTelemetry 的 LLM 追踪、评估与生产监控AI-Research-SKILLsPhoenix AI 可观测性平台实战指南基于 OpenTelemetry 的 LLM 追踪、评估与生产监控AI Research SKILLs PhoeAI 技能人工智能大模型深度学习Pinecone 生产部署指南Serverless 与 Pod 架构选型、混合检索与多租户实战AI-Research-SKILLsPinecone 生产部署指南Serverless 与 Pod 架构选型、混合检索与多租户实战AI Research SKILLs 本指南以 AI ResAI 技能人工智能大模型深度学习创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考