资讯动态

逐行读懂cosmos3-nano-libero10-sdg-export-D5的config.json:VAE、FSDP并行、FP8量化与LoRA关键参数清单

发布时间:2026/10/21 5:16:10 来源:尧图企业网站定制
人工智能大模型具身智能机器人【免费下载链接】cosmos3-nano-libero10-sdg-export-D5项目地址https://ai.gitcode.com/hf_mirrors/nvidia/cosmos3-nano-libero10-sdg-export-D5点击查看免费下载 本文带你逐行读懂cosmos3-nano-libero10-sdg-export-D5 的 config.json这是一个基于 Cosmos3-Nano 的机器人策略模型LIBERO-10 微调版约 15.2B 参数。我们将重点拆解VAE 视频编解码、FSDP 数据并行、FP8 量化开关、LoRA 微调参数四大核心配置块帮你快速建立完整参数认知。一、模型档案这是什么模型先看清家底再读配置项目数值模型架构Cosmos3OmniModelMoT 架构总参数量约 151.7 亿15.17B权重体积约 30GB7 个 safetensors 分片基础模型nvidia/Cosmos3-Nano训练数据379 条真实 LIBERO-10 演示 1895 条重复样本标准场景成功率93.4% ± 1.2%扰动场景成功率82.9% ± 1.9%参数总量记录在 model.safetensors.index.json分片分布可通过weight_map字段查询每个权重张量落在哪个分片里。模型定位见 README.md这是 Cosmos Cookbook 合成数据对照实验中 cell D5 的训练检查点导出。二、顶层架构模型如何被加载config.json 的前几行决定了加载入口参数值含义architecturesCosmos3OmniModel模型类名auto_mapcosmos3.model.*自定义类的查找路径HuggingFaceAutoConfig/AutoModel会据此加载dtypebfloat16默认精度 BF16model._targetomni_mot_model实际实例化的模型工厂名MoT Mixture of Transformersmodel_typecosmos3_omni模型家族标识auto_mapconfig.json是关键没有它加载器就不知道去哪里找Cosmos3OmniModel这个自定义类。三、VAE 参数清单视频如何压缩进潜空间 视频生成模型的灵魂是 VAE。本模型复用Wan2.2 视频 VAE配置块在 config.json参数值作用_targetwan2pt2_vae_interfaceWan2.2 VAE 接口实现causaltrue因果编码可逐帧流式处理视频spatial_compression_factor16空间压缩 16 倍720p 帧宽 1280→80 潜变量temporal_compression_factor4时间压缩 4 倍30 帧→约 8 个 latent 步chunk_duration93单次编码处理的最大时长encode_chunk_frames256→68 / 480→24 / 720→8按分辨率分档的编码分块帧数防止显存溢出vae_pathWan2.2_VAE.pthVAE 权重文件位置几个联动参数值得注意latent_downsample_factor: 16config.json与空间压缩因子一致主网络在潜空间上工作的步长patch_spatial: 2config.json潜变量再做 2×2 patch 化等效空间 32× 下采样max_vae_latent_side_after_patchify: 20patch 化后潜空间单边不超过 20 个 token限制序列长度load_vision_tokenizer: trueconfig.json确认 VAE 随模型一起加载。 换算一下720p 下每 4 帧、每 32×32 像素区域 → 1 个 latent token这就是视频怎么变成 token的全部答案。四、FSDP 并行参数清单4 路数据并行怎么切 训练时的并行策略集中在parallelism块config.json参数值说明data_parallel_shard_degree4FSDP 分片数据并行4 路切分参数/优化器状态data_parallel_replicate_degree1副本型数据并行关闭context_parallel_shard_degree1上下文并行关闭cfg_parallel_shard_degree1CFG分类器自由引导并行关闭fsdp_master_dtypefloat32主权重 FP32 保存保证数值稳定fsdp_reduce_dtypebfloat16梯度归约用 BF16省带宽fsdp_cpu_offloadfalse不把参数卸载到 CPUvae_load_balance_group_size1VAE 编码不做额外负载均衡分组配套的计算布局参数attention_io_layout: sequence_shardedconfig.json注意力输入按序列维分片配合长视频 tokenactivation_checkpointing.mode: selectiveconfig.json选择性激活检查点只对fmha融合注意力等算子重算省显存又不太牺牲速度correct_cp_gradients: falseconfig.json上下文并行关闭时此项自然无效max_num_tokens_after_packing: 74000config.json样本打包后单序列 token 上限直接决定单卡显存峰值。✅ 结论这是一套4 卡 FSDP FP32 主权重 BF16 梯度的经典稳健配方——分片降显存FP32 保精度BF16 提速度。五、FP8 量化参数清单开关到底开没开 这是新手最容易误读的一块。quantization块config.json虽然字段齐全但参数值含义methodnull未启用任何量化方法如 modelopt FP8fp8_granularityper_row若启用 FP8采用按行缩放粒度exclude_regex/include_regex[]无量化范围过滤modelopt_fp8_checkpoint_pathnull无 FP8 检查点mixed_precision_reasoner_policyhigh_precision推理时 reasoner 走高精度策略mixed_precision_first_steps/last_steps0首尾混合精度过渡步数为 0一句话总结本导出未做 FP8 量化全程 BF16与顶层dtype: bfloat16、precision: bfloat16相互印证。per_row等字段只是框架预留的开关方便你后续一键启用 FP8 推理。六、LoRA 参数清单微调配置为什么是关闭状态LoRA 相关 4 个参数非常简洁config.json参数值含义lora_enabledfalse当前导出未使用 LoRA是全参数微调后的完整权重lora_rank16若启用低秩矩阵秩为 16lora_alpha32缩放系数 32有效缩放 alpha/rank 2.0lora_target_modulesq/k/v/o_proj_moe_gen只注入生成专家MoT 的 gen 分支注意力投影层两个细节值得品味目标模块全部带_moe_gen后缀——MoT 架构中理解und与生成gen是两套并行参数LoRA 只动生成分支理解能力不被扰动rank 16 / alpha 32 是社区常见稳健比例即使以后想在此基础上继续 LoRA 微调这套超参可直接沿用。另外 checkpoint.json 的experiment_overrides揭示了训练时的三个关键动作关闭预训练权重加载diffusion expert 与 VLM 预训练、禁用对象存储、以及use_ema_weights: true——导出的 7 个分片是 EMA 平滑权重比原始检查点更稳。七、其余高频参数速查表参数值一句话解释action_gentrue启用动作生成这是 VLA 模型不只生成视频vision_gentrue启用视频/图像生成sound_genfalse声音生成关闭max_action_dim64动作向量最大维度 64机器人关节/末端位姿state_ch/state_t48/300机器人状态通道 48 维、最多 300 时间步num_embodiment_domains32最多支持 32 种具身域domain_aware 投影器resolution720训练分辨率档位base_fps24视频基准帧率 24fpsrectified_flow_inference_configunipc/ shift 1 / 1000 步推理采样器UniPC去噪时间步 1000shift训练256→3 / 480→5 / 720→10按分辨率加噪声的 shift 档位720p 用 10action_loss_weight10.0动作损失权重动作学习被显著放大train_time_video_distributionwaver视频时间步采样分布input_caption_key/input_image_key/input_video_keyai_caption/images/video数据集字段映射vlm_config.model_nameQwen/Qwen3-VL-8B-Instruct语言骨干为 Qwen3-VL-8Btie_word_embeddingstrueVLM 内部词嵌入与 lm_head 共享参数省显存语言骨干细节见 config.jsonlayer_module为Qwen2MoTDecoderLayerfreeze_und: false表示理解分支也参与训练qk_norm_for_text: true开启 QK 归一化以稳定长序列注意力。处理管线由 export_manifest.json 声明processor 来自 Qwen3-VL-8B-Instruct视频预处理参数patch 16、merge 2、均值/方差 0.5见 video_preprocessor_config.json。八、总结一份配置读懂四个决策回顾全文这份 config.json 回答了四个核心工程决策压缩怎么做→ Wan2.2 因果 VAE空间 16×、时间 4×720p 档 8 帧分块编码怎么并行训练→ 4 路 FSDP 分片数据并行FP32 主权重 BF16 梯度选择性激活检查点要不要量化→ 不要quantization.method: null全 BF16FP8 字段为未来预留要不要 LoRA→ 不要全参数训练LoRA 参数rank 16 / alpha 32 / gen 分支注意力层仅作模板保留。配合 checkpoint.json 的 EMA 权重导出与 model.safetensors.index.json 的 15.17B 参数清单你现在可以完整还原这个 LIBERO-10 策略模型的训练与加载全貌。赞分享人工智能大模型具身智能机器人【免费下载链接】cosmos3-nano-libero10-sdg-export-D5项目地址https://ai.gitcode.com/hf_mirrors/nvidia/cosmos3-nano-libero10-sdg-export-D5点击查看免费下载相关推荐cosmos3-nano-libero10-sdg-export-S_best部署指南bf16推理、FSDP并行配置与显存优化的实战清单cosmos3 nano libero10 sdg export S_best部署指南bf16推理、FSDP并行配置与显存优化的实战清单 cosmos3 na人工智能具身智能机器人微调config.json逐字段解析Cosmos3-Nano LIBERO-10 SDG S5_all 精度、FSDP并行与LoRA配置全清单config.json逐字段解析Cosmos3 Nano LIBERO 10 SDG S5_all 精度、FSDP并行与LoRA配置全清单 本文逐字段解析 C人工智能大模型具身智能机器人Cosmos3-Nano LIBERO-10 训练配置逐行解读cosmos3-nano-libero10-sdg-export-D2 的 EMA 权重、2048 全局批次与 1000→2000 迭代Cosmos3 Nano LIBERO 10 训练配置逐行解读cosmos3 nano libero10 sdg export D2 的 EMA 权重、204人工智能大模型机器人具身智能上一篇FlatBuffers 白皮书深度解读零解析、零拷贝的二进制序列化设计原理与实现下一篇core-js 中 ECMAScript Reflect 全面解析模块清单、内置方法签名与多入口使用指南创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考

读完文章,也想定制专属网站?

尧图设计师 24 小时内与您沟通定制方案

免费获取报价 →
↑