【免费下载链接】InternVL3_5-8B-Pretrained项目地址https://ai.gitcode.com/OpenGVLab/InternVL3_5-8B-Pretrained点击查看免费下载如果你正在寻找一款可本地部署、能同时理解图片与文本的开源多模态大模型那么InternVL3_5-8B-Pretrained值得重点关注。它是知名多模态模型系列InternVL3.5中 8B 规格模型的预训练版本Pretrained由 OpenGVLab 团队开源发布基于InternViT-300M视觉编码器与Qwen3-8B语言模型构建采用 Apache-2.0 许可证适合科研人员与开发者在此基础上进行继续训练与微调。一句话定位这是一款打好地基的多模态基座模型——它完成了多模态持续预训练但尚未做指令对齐因此更适合用来继续微调而不是直接拿来聊天对话。什么是 InternVL3_5-8B-Pretrained先搞懂预训练版在 InternVL3.5 的完整训练流水线中模型会经历CPT多模态持续预训练→ SFT监督微调→ CascadeRL级联强化学习三个阶段。而本仓库InternVL3_5-8B-Pretrained恰好对应第一阶段 CPT 的产物阶段含义本模型是否包含CPT持续预训练在大规模文本 图文语料上联合更新全部参数✅ 已完成SFT监督微调用高质量指令数据教会模型按指令回答❌ 未包含CascadeRL级联强化学习离线 MPO 在线 GSPO强化推理能力❌ 未包含对新手的关键提示因为缺少 SFT 与对齐它的回答风格不会像成品对话模型那样规整。想直接对话请选无后缀的InternVL3_5-8B完整版想在自己的数据上继续训练选这个 Pretrained 基座更灵活。核心参数速览InternVL3.5 8B 预训练模型配置一览以下信息来自仓库中的 config.json帮你快速判断它适不适合你的场景项目说明模型名称InternVL3_5-8B-Pretrained所属系列InternVL3.5总参数量约 8.5B视觉 0.3B 语言 8.2B视觉编码器InternViT-300M448px 输入动态高分辨率语言模型Qwen3-8B36 层隐层 4096整体架构ViT – MLP – LLM 三段式上下文长度最长 40960约 40K tokens动态切片单图最多 12 块max_dynamic_patch推理精度bfloat16模型文件4 个权重分片约 17GB许可证Apache-2.0 从 model.safetensors.index.json 可看到权重被拆成model-00001-of-00004.safetensors等 4 个分片其中language_model.*对应语言模型、vision_model.*对应视觉编码器方便按显存分片加载。模型架构解析ViT–MLP–LLM 三段式设计InternVL3.5 沿用了系列一贯的ViT–MLP–LLM范式你可以把它理解为眼睛 翻译官 大脑三部分协作️ ViT视觉编码器由InternViT-300M负责把输入图片切成 14×14 的小块patch输出图像语义特征。配置定义在 configuration_intern_vit.py 与 modeling_intern_vit.py 中。 MLP投影层把视觉特征翻译成语言模型能理解的向量空间完成从像素到语义的桥梁作用。 LLM语言模型由Qwen3-8B担任接收文本 图像融合后的 token 序列生成最终回答。定义见 modeling_internvl_chat.py。这套设计配合 InternVL1.5 起保留的动态高分辨率策略——模型会根据图片比例自动切分成 1~12 个 448×448 的块让细节图、文档、图表都能被看清楚。关键文件结构InternVL3_5-8B 预训练仓库怎么组织打开仓库你会看到一组职责分明的文件下面按配置 / 模型 / 分词器 / 权重四类帮你理清文件作用README.md项目说明、架构原理与使用指南建议先读config.json模型主配置同时包含视觉vision_config与语言llm_configconfiguration_internvl_chat.py多模态聊天模型的配置类InternVLChatConfigconfiguration_intern_vit.py视觉编码器的配置类InternVisionConfigmodeling_internvl_chat.py多模态聊天模型的核心定义InternVLChatModelmodeling_intern_vit.py视觉编码器的核心定义InternVisionModelconversation.py对话模板控制输入输出的拼接格式vocab.json / merges.txt词表与 BPE 合并规则tokenizer_config.json分词器配置special_tokens_map.json特殊 token如image映射generation_config.json生成默认参数model-0000X-of-00004.safetensors模型权重4 个分片⚙️ 由于使用了trust_remote_code机制见 config.json 中的auto_map字段加载时会自动引用上述自定义的.py文件这也是它能用标准transformers接口加载的原因。快速上手如何加载 InternVL3_5-8B-Pretrained推荐使用官方transformers需4.52.1接口加载。以下是最精简的加载方式多卡自动分配import torch from transformers import AutoTokenizer, AutoModel model AutoModel.from_pretrained( OpenGVLab/InternVL3_5-8B-Pretrained, # 可替换为本地路径 torch_dtypetorch.bfloat16, low_cpu_mem_usageTrue, use_flash_attnTrue, trust_remote_codeTrue, device_mapauto, # 自动分配到可用 GPU ).eval() tokenizer AutoTokenizer.from_pretrained( OpenGVLab/InternVL3_5-8B-Pretrained, trust_remote_codeTrue, use_fastFalse, )注意模型名OpenGVLab/InternVL3_5-8B-Pretrained是模型平台上的标识本地部署时可替换为下载后的本地目录路径。硬件需求与部署建议官方给出了清晰的显存门槛方便你评估是否跑得动模型规格最低显存配置≤ 30B含本 8B 模型单卡 A10038B2 × A100241B-A28B8 × A100作为 8B 级别的模型单张 A10080G即可在 bf16 精度下部署入门门槛相当友好。若显存吃紧README 中还提供BNB 8-bit 量化加载方式load_in_8bitTrue可进一步压缩占用。基于预训练版做微调Finetune这正是 Pretrained 版本最大的价值所在——在你自己的数据上继续训练快速得到贴合业务的定制模型。主流开源训练框架都已支持 InternVL 系列SWIFTModelScope 团队XTunerInternLM 团队LMDeploy压缩、部署、微调一体典型工作流是以InternVL3_5-8B-Pretrained为基座补充指令跟随数据与高质量多模态样本运行 SFT即可得到听得懂话的 Instruct 版本。具体参数与脚本建议参考仓库 README.md 中的Finetune章节以及对应训练框架的官方文档。选型小结想开箱即用→ 选无后缀完整版想自己训练→ 选这个Pretrained基座想省资源高效推理→ 关注后续 Flash 版本。许可证与引用本项目基于Apache-2.0许可证发布语言组件 Qwen3 同样采用 Apache-2.0商用与研究都相对友好。若用于学术工作可在论文中引用 InternVL3.5 的技术报告arXiv:2508.18265。写在最后InternVL3_5-8B-Pretrained用一个 8.5B 的轻量基座把多模态理解 可继续训练这两件事做到了很好的平衡。它既是科研人员探索多模态对齐的优质起点也是开发者构建垂直视觉应用OCR、文档理解、图表问答、GUI 交互的可靠底座。如果你正打算动手建议从 README.md 的 Quick Start 开始一步步跑起来。赞分享【免费下载链接】InternVL3_5-8B-Pretrained项目地址https://ai.gitcode.com/OpenGVLab/InternVL3_5-8B-Pretrained点击查看免费下载相关推荐一文看懂InternVL3.5-241B-A28B-Pretrained开源多模态大模型预训练底座全貌解读一文看懂InternVL3.5 241B A28B Pretrained开源多模态大模型预训练底座全貌解读 InternVL3_5 241B A28B PreInternVL3_5-8B-Pretrained训练原理如何看懂多模态持续预训练CPT与平方平均损失完整指南InternVL3_5 8B Pretrained训练原理如何看懂多模态持续预训练CPT与平方平均损失完整指南 InternVL3_5 8B Pretrai开源多模态大模型InternVL3_5-14B-MPO入门指南InternVL3.5家族14B推理强化版完整解读开源多模态大模型InternVL3_5 14B MPO入门指南InternVL3.5家族14B推理强化版完整解读 想找一个看得懂图、算得对题、跑得动上一篇终极macOS清理神器Pearcleaner 3步彻底卸载应用不留痕迹下一篇终极免费方案3分钟实现STL到STEP格式的无缝转换指南创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考