【免费下载链接】InternVL3-1B-Pretrained项目地址https://ai.gitcode.com/OpenGVLab/InternVL3-1B-Pretrained点击查看免费下载InternVL3-1B-Pretrained 是 OpenGVLab 推出的 InternVL3 多模态大语言模型MLLM的预训练底座它已完成原生多模态预训练但没有经过 SFT监督微调和 MPO混合偏好优化等后训练。一句话结论官方建议——如果你不确定该用哪个版本就直接用完整版 InternVL3-1B只有当你需要继续训练、研究预训练范式时才考虑这个底座。↑ 仓库自带的示例图片可直接用于测试 InternVL3-1B 的图像描述能力见 examples/先搞懂预训练底座和完整版差在哪多模态模型从会看图到能对话通常要经过三个训练阶段阶段作用是否已包含在 Pretrained 版✅ 原生多模态预训练语言与视觉在同一阶段联合学习建立看图说话的基础能力✅ 已完成❌ SFT 监督微调学会遵循指令、多轮对话、OCR、推理等任务❌ 未做❌ MPO 偏好优化通过正负样本对齐回答分布提升推理与数学能力❌ 未做官方在 README.md 中明确说明This is the pretrained version of InternVL3-1B, which has undergone native multimodal pre-training but has not undergone post-training (i.e., SFT and MPO).所以两个版本的区别不在结构而在教养Pretrained 底座像刚读完通识课程的毕业生知识面广图文预训练但不太会按人类指令办事完整版 InternVL3-1B毕业后又经过了实习SFT和绩效考核MPO能直接上岗干活。选型速查什么场景该用哪个版本 选 Pretrained 底座的场景自己继续微调你有垂直领域数据医疗影像、工业质检、电商图文想在此基础上做领域适配研究训练范式复现或改进原生多模态预训练、MPO 等算法需要一个干净的起点降低整体训练成本从底座出发续训比从头预训练省资源。 选完整版 InternVL3-1B 的场景直接落地应用图像问答、OCR 文档理解、多图对比、视频理解等开箱即用需要对话体验多轮对话、指令遵循、低幻觉这些主要靠后训练塑造资源和时间有限不想再投入一轮微调成本。 记住官方那句不确定就用完整版——对绝大多数用户来说这就是最省心的答案。底座解剖1B 参数是怎么组成的InternVL3-1B 沿用经典的ViT–MLP–LLM三段式架构组件具体模型说明️ 视觉编码器InternViT-300M-448px-V2_5约 3 亿参数动态分辨率切图 语言模型Qwen2.5-0.5B24 层 Transformer上下文 32K 投影层MLP projector把视觉特征翻译成语言空间几个值得新手知道的细节可从 config.json 中直接看到force_image_size: 448图像按 448×448 像素切块支持动态分辨率max_dynamic_patch: 12最多切 12 块分辨率越高细节越好但 token 更多template: internvl2_5对话模板版本加载模型时会自动生效。代码侧的实现分别在 modeling_internvl_chat.py整体对话模型和 modeling_intern_vit.py视觉编码器配置文件见 configuration_intern_vit.py 与 conversation.py。快速上手一条命令拉取并加载一键安装步骤1️⃣ 克隆仓库或从模型平台下载权重git clone https://gitcode.com/OpenGVLab/InternVL3-1B-Pretrained2️⃣ 用 transformers 加载要求transformers4.37.2import torch from transformers import AutoTokenizer, AutoModel model AutoModel.from_pretrained( OpenGVLab/InternVL3-1B-Pretrained, torch_dtypetorch.bfloat16, use_flash_attnTrue, trust_remote_codeTrue, ).eval().cuda() tokenizer AutoTokenizer.from_pretrained(OpenGVLab/InternVL3-1B-Pretrained, trust_remote_codeTrue, use_fastFalse)3️⃣ 调用model.chat()即可进行纯文本对话、单图/多图问答和视频多轮对话完整示例见 README.md。⚠️ 提醒由于底座没有经过 SFT直接用它闲聊回答格式和情商会明显不如完整版——这是预期内的现象不是加载出错。新手常见疑问FAQQ1Pretrained 版和完整版大小一样吗架构完全相同参数规模一致差别只在权重训练阶段。显存占用基本没有区别。Q2底座的纯文本能力如何它的语言部分由 Qwen2.5-0.5B 初始化。官方实验表明得益于原生多模态预训练InternVL3 系列整体文本表现甚至超过了 Qwen2.5 系列——所以底座并非只会看图不会写字。Q3我可以在这个底座上微调吗可以。InternVL 官方训练库以及 SWIFT、XTuner 等主流微调框架均支持 InternVL 系列具体用法参考各框架文档见 README.md。Q4V2PE 是什么跟我选型有关吗Variable Visual Position Encoding可变视觉位置编码让模型对长上下文和多图理解更好。它是 InternVL3 全系标配与 Pretrained/完整版的选择不冲突了解一下即可。一页纸总结普通用户 / 直接部署→ 用完整版 InternVL3-1B开箱即用有领域数据要微调 / 研究训练方法→ 选 InternVL3-1B-Pretrained 底座拿不准官方原话不确定就用完整版。选对起点才能把有限的算力花在真正有价值的数据上。赞分享【免费下载链接】InternVL3-1B-Pretrained项目地址https://ai.gitcode.com/OpenGVLab/InternVL3-1B-Pretrained点击查看免费下载相关推荐一体化 vs 最佳组合一个平台替掉一堆 SaaS到底该不该信一体化 vs 最佳组合一个平台替掉一堆 SaaS到底该不该信 过去一年中文技术社区里反复出现同一个句式——一个平台替掉一堆 SaaSEver企业应用后端前端桌面应用Pretrained版和后训练版怎么选InternVL3-8B-Pretrained版本差异完整说明Pretrained版和后训练版怎么选InternVL3 8B Pretrained版本差异完整说明 InternVL3 8B Pretrained 是上海InternVideo2-Stage1-1B-224p-K700 权重选型指南1B_ft_k710_ft_k700_f16 与 f8 到底该怎么选InternVideo2 Stage1 1B 224p K700 权重选型指南1B_ft_k710_ft_k700_f16 与 f8 到底该怎么选 Inte上一篇buffer模块与Typed Arrays深入理解底层技术原理下一篇RabbitMQ 3.8.15 维护版本深度解析安全补丁、Quorum 队列修复与运维要点创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考