【免费下载链接】Qwen-Image-Layered-6bit项目地址https://ai.gitcode.com/hf_mirrors/zimengxiong/Qwen-Image-Layered-6bit点击查看免费下载Qwen-Image-Layered-6bit 是图像图层分解模型Qwen-Image-Layered的6-bit 量化版本专为 Apple Silicon 上的MLX 推理优化。它能把任意图片自动拆解为多个带透明通道的 RGBA 图层每一层都可以独立移动、缩放、改色。相比 BF16 原版约 55 GB6-bit 量化版将权重压缩到约 31 GB让 Mac 首次可以本地运行这类图层分解大模型。本文用通俗的方式讲清楚三件事6-bit 量化到底压缩了什么、MLX 推理是怎么跑起来的、你如何在 Mac 上一键跑通。一、先看懂Qwen-Image-Layered 是什么普通 AI 绘图模型输出的是一张拍平的图而 Qwen-Image-Layered 做的事情更接近 Photoshop把一张图自动拆成多层 RGBA 图层类似透明 PNG 叠在一起每层可独立编辑且各层之间保持一致性。整个模型由三大组件协同工作详见 README.md组件作用关键点Transformer扩散主干负责去噪生成是显存大户QwenImageTransformer2DModel使用 Layer3D RoPE 位置编码把[图层, 高, 宽]三个维度一起编码VAE编解码器在像素与潜空间之间转换4 通道 RGBA 支持 3D 时间卷积天生为多层而设计Text EncoderQwen2.5-VL把提示词编码为条件信号多模态编码器理解图文混合指令三个组件在本仓库中各自独立存放这正是理解压缩了什么的钥匙 二、6-bit 量化压缩了什么怎么压的2.1 一张表看懂压缩收益版本权重大小运行内存占用BF16原版~55 GB~55 GB6-bit本仓库~31 GB~29 GB接近44% 的体积缩减直接把门槛从工作站级拉到了高配 Mac 级。2.2 为什么选 6-bit而不是 8-bit 或 4-bit量化位宽是在精度与体积之间的取舍8-bit几乎无损但只省一半空间Mac 内存压力依然很大4-bit省得最多但对大模型精度损失更明显6-bit精度损失很小体积只有 8-bit 的 3/4是 Apple 统一内存场景下的甜点档。2.3 仿射量化每个权重张量的三件套打开量化张量的索引文件 transformer/model.safetensors.index.json元数据里明确标注metadata: { quantization_level: 6, mflux_version: 0.13.3 }注意一个有意思的细节——Transformer 里的每个线性层都有三组张量attn.to_q.weight ← 6-bit 量化后的权重主角 attn.to_q.scales ← 缩放因子scale attn.to_q.biases ← 偏移量bias这就是典型的MLX 仿射量化Affine Quantization套路原理可以一句话概括把 16-bit 浮点权重线性映射到 6-bit 整数上整数 ≈ (原值 - bias) / scale。推理时再用 scale 和 bias 反算回近似原值参与计算。.scales和.biases就是这次线性映射的钥匙它们体积很小所以几乎不影响总大小。整个 Transformer 中共有846 个线性层完成了这样的量化这就是 55 GB → 31 GB 的主要来源。2.4 一个容易被忽略的设计只压大象不压蚂蚁对比另外两个索引文件会发现vae/model.safetensors.index.json192 个张量没有 scales/biasestext_encoder/model.safetensors.index.json367 个张量没有 scales/biases。也就是说VAE 和 Text Encoder 保留了全精度只有占内存大头的 Transformer 被量化到 6-bit。这样做很聪明大模型压缩收益最大先压它VAE 负责图像还原的最后一米保持全精度可避免细节劣化。这个按需量化的思路也是本仓库权重压缩方案的核心。三、MLX 推理在 Apple Silicon 上如何跑起来MLX 是 Apple 官方的机器学习框架专为 M 系列芯片的**统一内存Unified Memory**设计。它的关键优势统一内存GPU 与 CPU 共享同一块物理内存32 GB 的 Mac 就能装下 29 GB 的模型不存在显存不够的问题惰性求值 零拷贝推理算子直接贴近 Metal GPU 执行权重加载即推理就绪。本仓库的权重由推理框架MFLUX直接消费一次完整的图层分解推理流程如下输入图 提示词 │ ▼ ① Text Encoder全精度──► 文本条件向量 │ ▼ ② Transformer6-bit 量化──► 多步去噪逐层生成 RGBA 潜表示 │ ▼ ③ VAE 解码全精度──► 输出 N 个 RGBA 图层 │ ▼ layer_0.png … layer_N.png带透明通道第 ② 步是内存消耗的主战场也是 6-bit 量化收益最大的环节① 和 ③ 保持全精度则保证了输出质量。四、快速上手Mac 上的运行参数硬件要求Apple SiliconM1–M4 最低 24 GB 统一内存推荐 32 GB 及以上 macOS 13.0。准备好支持 Qwen-Image-Layered 的 MFLUX 环境后用一行命令即可开始分解uv run flux-generate-qwen-layered \ --image input.png \ --layers 4 \ --steps 50 \ -q 6 \ --output-dir ./layers核心参数速查参数说明默认值--image输入图片路径必填—--layers分解的图层数量4--steps去噪推理步数越大越精细、越慢50-q量化位宽4 / 6 / 8无BF16--resolution分辨率档位640 或 1024640--output-dir图层输出目录./ 小贴士先用--resolution 640试跑确认效果后再上 1024可以明显缩短等待时间。如果想在本地完整下载本仓库的全部权重文件text_encoder、transformer、vae、tokenizer 四大目录可以克隆git clone https://gitcode.com/hf_mirrors/zimengxiong/Qwen-Image-Layered-6bit分词器配置位于 tokenizer/chat_template.jinja用于提示词的模板化处理。五、常见问题 FAQQ16-bit 量化后画质会明显下降吗损失很小。Transformer 是容错率高的生成式主干6-bit 仿射量化 全精度 VAE 的组合在视觉上几乎不可察觉换来的是近一半的内存占用。Q2为什么我的 Mac 跑不了 20B 级模型这里却可以关键在统一内存 量化双重buff。55 GB 的 BF16 模型没有 Mac 装得下而 29 GB 的 6-bit 模型落在 32 GB 统一内存的舒适区内。Q3能改成 4-bit 吗命令行支持-q 4。如果你只有 16 GB 内存的 Mac可以尝试 4-bit 档位代价是细节还原能力进一步下降。总结Qwen-Image-Layered-6bit 的价值可以用三句话概括压缩有重点——只把 846 个线性层的 Transformer 主干量化到 6-bitVAE 与 Text Encoder 保持全精度落地有依托——借助 MLX 对 Apple 统一内存的原生支持32 GB Mac 即可本地运行图层分解大模型使用有门槛极低——一行flux-generate-qwen-layered命令50 步去噪后得到 4 个可独立编辑的 RGBA 图层。这正展示了量化技术的一条实用路径不是越压越小越好而是把省下的显存变成更多人能跑起来的入口。赞分享【免费下载链接】Qwen-Image-Layered-6bit项目地址https://ai.gitcode.com/hf_mirrors/zimengxiong/Qwen-Image-Layered-6bit点击查看免费下载相关推荐TiXL 场距离可视化算子 VisualizeFieldDistance 深入解析SDF 等值线切片调试指南TiXL 场距离可视化算子 VisualizeFieldDistance 深入解析SDF 等值线切片调试指南 本指南围绕 TiXL 的 VisualizeFi看懂MLX affine 4-bit量化Qwen-Image-2.1-mflux-q4内存减半背后的技术原理看懂MLX affine 4 bit量化Qwen Image 2.1 mflux q4内存减半背后的技术原理 Qwen Image 2.1 mflux q4YOLO26m-OptiQ-6bit量化原原理析136层仅占6-bit4.4倍压缩精度几乎零损失YOLO26m OptiQ 6bit量化原原理析136层仅占6 bit4.4倍压缩精度几乎零损失 YOLO26m OptiQ 6bit 是面向 Apple上一篇终极指南如何在Neovim中使用packer.nvim安装游戏插件下一篇Disque客户端断线重连机制构建可靠消息队列的终极指南创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考