【免费下载链接】Lumina-Image-2.0-FP8项目地址https://ai.gitcode.com/hf_mirrors/unsloth/Lumina-Image-2.0-FP8点击查看免费下载Lumina-Image-2.0-FP8是 Unsloth 为开源文生图模型 Lumina-Image-2.020 亿参数流匹配扩散 Transformer制作的FP8 / INT8 量化版权重仓库。搭配 diffusers 的enable_model_cpu_offload()把用不到的模型组件临时放到内存、用到的才搬上显卡显存占用再降一档——低显存 GPU约 8 GB 级别也能流畅生成 1024×1024 的 AI 图片且画质几乎无肉眼可见损失。本文带你读懂 FP8 与 INT8 的取舍 → 搞懂 CPU offload 原理 → 一条命令安装 → 十几行代码出图。 先搞懂FP8 量化版省在哪里量化就是把模型参数从 16 位bf16压到 8 位存储和计算。体积大致减半速度不降反升8 位矩阵乘在支持 8 位运算的显卡上更快代价是极小的精度损失。本仓库两种量化方案对比方案主干体积量化细节LPIPS同种子 vs bf16越低越接近SSIM越高越接近FP8e4m32.6 GB逐行动态激活 逐行权重缩放torch._scaled_mm0.116✅0.946✅INT82.9 GB逐 token 激活 逐通道权重torch._int_mm0.1460.937结论很直白FP8 体积更小、画质更接近原版INT8 适合追求极致兼容性的场景。详细数据见 README.md。⏱ 小提示FP8 加载器依赖 torchao 0.13 的activation_value_lb1e-12兜底避免全零激活行产生零缩放按本文的安装步骤升级即可自动满足。 enable_model_cpu_offload 原理为什么能省显存扩散模型跑图时要依次调用四个组件文本编码器 → VAE 解码器 → 扩散 Transformer 主干。enable_model_cpu_offload()的机制是所有组件默认放在 CPU 内存中显存几乎不占轮到谁执行谁才被搬上 GPU执行完再让位显存峰值 ≈单个最大组件 激活值而不是全部模型 激活值。再叠加 FP8 量化权重本身小了近一半双重保险量化把每个组件的体积压到 ~2.6 GB 量级offload保证 GPU 上任意时刻只驻留当前一个组件。代价是组件搬运带来一点额外延迟对 50 步生成来说占比很小。如果你的显卡已经 24 GB可删掉 offload 一行换取更快速度。 仓库文件清单文件体积说明Lumina-Image-2.0-FP8.pt2.6 GBFP8 扩散主干推荐Lumina-Image-2.0-FP8.safetensors≈2.6 GBFP8 主干safetensors 格式Lumina-Image-2.0-INT8.pt2.9 GBINT8 扩散主干Lumina-Image-2.0-INT8.safetensors≈2.9 GBINT8 主干safetensors 格式Lumina-Image-2.0-text_encoder-FP8.pt3.2 GBFP8 预转换文本编码器官方为 10.5 GB fp32缩小 3.3 倍Lumina-Image-2.0-text_encoder-FP8.safetensors≈3.2 GBFP8 文本编码器safetensors 格式 加载 FP8 检查点与现场量化 bf16 主干结果逐位一致只是省去了先下大文件再量化的环节。 快速安装最快配置方法1️⃣ 克隆仓库git clone https://gitcode.com/hf_mirrors/unsloth/Lumina-Image-2.0-FP8.git2️⃣ 安装依赖需要 CUDA 显卡torch 2.10 / torchao 0.17 已验证通过pip install diffusers torch2.10.* torchao0.17 transformers3️⃣ 国内网络可选把模型仓库加入 Hugging Face 离线/镜像环境或直接使用下方本地路径加载。 实战出图完整代码import torch from diffusers import Lumina2Pipeline # 从本仓库加载 FP8 量化模型也可换成官方 bf16 仓库名 pipe Lumina2Pipeline.from_pretrained( hf_mirrors/unsloth/Lumina-Image-2.0-FP8, torch_dtypetorch.bfloat16, ) # ★ 核心一行低显存救星把空闲组件卸载到 CPU pipe.enable_model_cpu_offload() prompt A serene photograph of the golden sun reflection on a vast expanse of water, golden hour, photorealistic, expansive composition image pipe( prompt, height1024, width1024, guidance_scale4.0, num_inference_steps50, cfg_trunc_ratio0.25, cfg_normalizationTrue, generatortorch.Generator(cpu).manual_seed(0), ).images[0] image.save(lumina_fp8_demo.png)关键参数速查参数推荐值作用height/width1024输出分辨率想省显存可降到 768num_inference_steps50去噪步数降低可提速但略损画质guidance_scale4.0提示词跟随强度cfg_trunc_ratio0.25CFG 截断比例官方默认cfg_normalizationTrueCFG 归一化稳定出图generator固定种子保证结果可复现⚠️ 常见问题排查❓ 显存还是爆CUDA out of memory按顺序尝试把height/width降到 768 → 步数降到 30~40 → 改用更激进的pipe.enable_sequential_cpu_offload()逐层搬运最省显存但更慢。❓ 速度变慢了CPU offload 的搬运有微小开销属正常现象24 GB 以上显存可直接删掉enable_model_cpu_offload()一行。❓ 生成结果发黑 / 报错 non-finite升级torchao至 0.13本文推荐 0.17FP8 加载器依赖其动态激活缩放下限机制。❓ 完全不想装环境项目提供了官方 Gradio 在线演示链接见 README.md打开浏览器即可试玩。✅ 总结Lumina-Image-2.0-FP8 更小体积2.6 GB 更快计算 几乎无损画质SSIM 0.946的量化文生图模型enable_model_cpu_offload()一行代码让显存峰值只取决于当前组件8 GB 级显卡也能生成 1024×1024 图片两者组合就是低显存 GPU 跑 AI 绘画的完整方案FP8 权重负责小CPU offload 负责稳。快去试试吧第一张图 1024×1024几分钟内见分晓赞分享【免费下载链接】Lumina-Image-2.0-FP8项目地址https://ai.gitcode.com/hf_mirrors/unsloth/Lumina-Image-2.0-FP8点击查看免费下载相关推荐12GB显存也能跑AI绘图Boogu-Image低显存Offload配置清单12GB显存也能跑AI绘图Boogu Image低显存Offload配置清单 Boogu Image 是 10B 参数的开源 AI 图像生成与编辑模型家族官人工智能基础模型媒体生成计算机视觉3个技巧让6G显存电脑也能跑AI绘画FLUX低显存方案实战指南3个技巧让6G显存电脑也能跑AI绘画FLUX低显存方案实战指南 还在为AI绘画模型太吃显存发愁普通电脑也能玩转顶级图像生成本文将用最通俗的方式教你如何用raspberry-pi-cross-compilers vs 官方工具链谁才是树莓派开发的最佳选择raspberry pi cross compilers vs 官方工具链谁才是树莓派开发的最佳选择 树莓派开发中选择合适的工具链对项目效率和性能至关重要创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考