大模型本地部署多模态模型量化【免费下载链接】Mitsuba_and_HiMitsuba-27B-GGUF项目地址https://ai.gitcode.com/hf_mirrors/isichan-ai/Mitsuba_and_HiMitsuba-27B-GGUF点击查看免费下载Mitsuba_and_HiMitsuba-27B-GGUF 是一款专为 ComfyUI 打造的三值化1.58-bit大语言模型它最拿手的事就是帮你写出严格合规的 Stable DiffusionSD提示词——英文标签要多少个、必须包含哪些词、结尾的 Negative 行怎么写、视频要分成几段它都能照你的规矩来。这篇指南会带你快速看懂它的能力边界并给出两套可直接套用的图像 / 视频提示词撰写模板。 它不是通用聊天模型也不适合写代码coding 得分仅 4/100。它的定位很聚焦写提示词 描述图片。Mitsuba 是什么为什么它专为提示词而生一句话把 Qwen3.8-27B 三值化、再针对 ComfyUI 提示词场景调优过的模型。体积小、跑得动PQ2_0 约 7.3 GB、PTQ1_0 约 6.0 GB单张 16 GB 显存的显卡就能跑。强在守规矩在规则遵循正答率维度拿到 84 分与未量化原版持平提示词生成维度 6/10 通过是同类三值模型里最高的。看得到图自带视觉能力87.8 分能把图片反写成可用的生成提示词。核心文件推荐 PQ2_0文件作用Mitsuba-ComfyUI-27B-v1.18-PQ2_0.gguf模型本体推荐mmproj-Q8_0.gguf视觉编码器用于看图片HiMitsuba-Uncensored-LoRA.gguf可选 LoRA见后文图像提示词的 5 条硬规矩Stable Diffusion 严格条件Mitsuba 的合规体现在它能同时满足多条约束。下面是官方测试用到的 5 条典型硬条件只要把它们写进请求文本它就有机会一次全部满足仅英文——提示词全部用英文。标签数量固定——例如 15–25 个标签逗号分隔。必含指定词——点名的关键词必须出现。结尾 Negative 行——最后一行固定以Negative:开头。避开禁用词——指定要排除的词不能出现。✅ 给 Mitsuba 下指令的模板直接改写即可Write a Stable Diffusion prompt in English.Use exactly 18 tags, separated by commas.Must include: rain, neon, cyberpunk.End with a line starting with Negative:.Do NOT use the word ugly. 关键点条件要写在请求文本本身里。官方评测的每一道题条件都是直接写在请求中的而不是靠系统提示词或模型自己猜。视频提示词的时间分段模板0-3s / 3-6s / 6-9s做视频生成时Mitsuba 擅长按时间分段 每段一个镜头运动来组织提示词。官方测试的视频条件是分成3 个时间段0-3s:、3-6s:、6-9s:每段必须包含一个相机运动pan 平移 / zoom 缩放 / tilt 俯仰 等全文控制在80–150 词之间。 视频提示词撰写模板Write a video prompt in exactly 3 time segments, formatted as: 0-3s: / 3-6s: / 6-9s:.Each segment must include one camera move (pan, zoom, tilt, etc.).Keep the total length between 80 and 150 words.这样产出的提示词能直接喂给按时间段驱动的视频生成模型如 Krea。让 Mitsuba 稳定输出的 2 个关键设置① 一定要关掉思考模式thinking / reasoning。Mitsuba 只在关闭思考的情况下调优过。开着思考它会重复同一句话、甚至写完推理却不输出答案。llama-server加一个参数--reasoning off或按请求设置chat_template_kwargs: {enable_thinking: false}② 条件写进请求别指望它记住。把字数、必含词、禁用词、输出格式都放进你这次的请求里命中率最高。官方评测用的核心启动命令供参考重点是--reasoning off与采样参数llama-server -m Mitsuba-ComfyUI-27B-v1.18-PQ2_0.gguf --mmproj mmproj-Q8_0.gguf \ --no-mmproj-offload --reasoning off \ --jinja --temperature 0.6 --top-k 20 --top-p 0.95 \ --ctx-size 131072 --cache-type-k q4_0 --cache-type-v q4_0 --n-gpu-layers 99实测表现Mitsuba 能过多少严格提示词测试官方用同一套题、同样条件测了 4 个模型。看两个最相关的维度维度Mitsuba PQ2_0未量化原版 BF16规则遵循正答率8484提示词生成全条件命中6/103/10图像识别Vision87.889.8 结论三值化后它几乎没损失守规矩和写提示词的能力提示词全条件命中甚至从 3/10 涨到了 6/10。完整数据见 docs/EVALUATION.md。想要更敢答可选的 HiMitsuba LoRA如果题材偏成人 / 敏感素模 Mitsuba 会拒绝或打折扣。加一个 70 MB 的 HiMitsuba-Uncensored-LoRA.gguf它会自动切换普通请求照常敏感请求才放行。只需在启动命令加一行--lora-scaled HiMitsuba-Uncensored-LoRA.gguf:1.0仅适用于 PQ2_0PTQ1_0 用不了。副作用速度略降119 → 103 t/s自制心下降遇到工具错误更容易放弃。好消息加 LoRA 后提示词生成从 6/10 升到8/10而规则遵循84不受影响——也就是说它更敢答的同时写提示词反而更稳。Windows 一键启动 Mitsuba无需敲命令Windows 用户可直接双击 bat不用手动装环境AI 应用OpenAI 兼容双击 HiMitsuba_start.bat应用里把 Base URL 设为http://127.0.0.1:8080/v1模型填mitsuba素或himitsuba带 LoRAAPI key 随便填。ComfyUIOllama 节点双击HiMitsuba_ComfyUI.batOllama Connectivity 里 url 填http://127.0.0.1:11434keep_alive 建议设0答完立刻释放显存不和画图模型抢。停止双击HiMitsuba_stop.bat。首次运行会自动下载运行时之后几秒启动。AMD 显卡请用Mitsuba_bridge_AMD/下的_AMD.batβ 版。上手建议与能力边界✅最适合Stable Diffusion 风格提示词、按时间段组织的视频提示词、把图片反写成生成提示词。⚠️记得人工核对官方提示词生成约 6/10加 LoRA 约 8/10通过严格用例并非绝对 100%。拿到提示词后对照你的条件词数、必含词、Negative 行再核一遍。❌别用它写代码coding 得分 4/100长文阅读也一般。 标题里的100% 合规是能力目标实际使用时请以全条件命中 人工复核为准产出才真正稳定。赞分享大模型本地部署多模态模型量化【免费下载链接】Mitsuba_and_HiMitsuba-27B-GGUF项目地址https://ai.gitcode.com/hf_mirrors/isichan-ai/Mitsuba_and_HiMitsuba-27B-GGUF点击查看免费下载相关推荐不会写视频提示词100 条开源 H3 prompt 合集直接抄不会写视频提示词100 条开源 H3 prompt 合集直接抄 MiniMax H3 开源之后社区里最热闹的话题不是能不能跑而是提示词怎么写。掘金人工智能大模型LoRA视频媒体生成如何写出让AI唱得动人的歌词和风格提示词MiniMax-Music3-nvfp4提示词编写12技巧清单如何写出让AI唱得动人的歌词和风格提示词MiniMax Music3 nvfp4提示词编写12技巧清单 MiniMax Music3 nvfp4 是一个运行在awesome-seedance 27个AI视频提示词模板全解析:复制、填空,让AI替你写提示词awesome seedance 27个AI视频提示词模板全解析:复制、填空,让AI替你写提示词 awesome seedance 是一个证据驱动的 See上一篇XSwitch完整指南如何轻松实现Chrome请求转发与跨域调试下一篇Ludusavi高效自动化游戏存档备份的终极解决方案创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考