【免费下载链接】Intern-S2-397B-FP8项目地址https://ai.gitcode.com/InternLM/Intern-S2-397B-FP8点击查看免费下载Intern-S2-397B是上海 AI Lab 推出的面向科学智能与长程智能体long-horizon agents的多模态基础模型。它最引人注目的地方在于一套全新的视觉预训练范式让模型直接读科研文献的原始页面跳过 OCR 与版面解析的中间环节在共享表示空间中同时建模符号语义与视觉关系。本文将用通俗的语言为你完整解读这套范式为什么有效以及 Intern-S2-397B 的核心能力与技术底座。传统范式为什么先解析再学习反而成了瓶颈大多数多模态模型处理科研文献时走的是一条经典流水线PDF 原始页面 → OCR 识别 → 版面解析/结构化 → 纯文本 标注 → 语言模型训练这条链路看似稳妥但有两个天然的代价信息在中间环节流失。科研文献里公式、图表、分子结构与正文文字的相对位置本身就是知识。一旦解析成纯文本文字与图形的对应关系、空间布局信息就被打散了。数据效率被解析质量卡脖子。解析器识别错一个上标、错排一个表格错误就会污染下游训练数据且很难回溯修复。换句话说模型从未真正看过文献长什么样只是读了一份有损的转写稿。Intern-S2 的新范式把原始页面直接喂给视觉预训练Intern-S2-397B 的做法可以概括为一句话不做中间解析让视觉预训练直接学习科研文献的原始页面。官方 README 中对这一范式的描述见 README.md是通过视觉预训练模型直接从科研文献的原始页面中学习在共享表示空间中联合建模符号语义与视觉关系无需中间解析环节。这一做法保留了文本-视觉的对应关系强化了空间与视觉推理能力并提升了数据效率。翻译成大白话就是符号语义和视觉结构同框学习。模型同时看到这个公式写在图 3 下方和这条曲线对应表 2 的第二组数据两者在同一个表示空间里对齐文字和图形不再各说各话。空间与视觉推理能力被天然强化。版面位置、图表结构这些在解析流程里被丢掉的信息在这里变成了正向训练信号。数据效率更高。省去了构建高质量解析标注的成本原始页面本身就能直接用作预训练语料。三大核心能力预训练只是起点这套预训练范式与大规模多任务强化学习、长程智能体强化学习相结合让 Intern-S2-397B 在三个维度上形成了能力跃迁 详见 README.md 的 Features 章节能力方向核心做法效果 新预训练范式直接读取科研文献原始页面跳过中间解析保留文本-视觉对应强化空间推理数据效率更高 科学模态推理与生成覆盖 20 领域的科学强化学习任务联合训练开源模型中领先的通用推理生物分子相互作用设计、材料结构生成等任务表现突出 通用与科学长程智能体多个智能体框架接入大规模沙盒环境黑盒智能体强化学习提升泛化能力抬高通用与科学领域长程任务的能力上限评测方面文本推理基准使用最大 256K token 的推理长度多模态基准使用 64K token完整的成绩对比表可在 README.md 的 Performance 章节查看。技术底座速览从 config.json 看懂397B 为什么能装下科学打开 config.json 和 model.safetensors.index.json几个关键数字很能说明问题MoE 架构512 个专家num_experts: 512每个 token 激活 10 个专家num_experts_per_tok: 1060 层num_hidden_layers: 60以稀疏激活支撑起 397B 级别的总参数量。线性注意力 全注意力混合layer_types显示每 4 层中 3 层为linear_attention、1 层为full_attention原生支持 256Kmax_position_embeddings: 262144的长上下文——这对整本论文一口气读完至关重要。FP8 量化quantization_config采用fp8量化e4m3格式、128×128 分块让 397B 模型可以部署在 8 卡 H100/H200 上显著降低显存门槛。视觉编码器vision_config为 27 层 ViThidden_size: 1152patch_size: 16配合 preprocessor_config.json 完成图像切块与归一化。科学模态专用分词器仓库里除了主分词器 tokenizer.json 与 tokenizer_config.json还附带了三个科学专属分词器——tokenizer_PROT.model蛋白质序列、tokenizer_SMILES.model化学分子 SMILES、tokenizer_XNA.model核酸序列。这正是科学模态推理与生成能力在词表层面的落地。快速上手部署与推荐参数一键部署选型Intern-S2-397B 支持三大主流推理框架LMDeploy、vLLM、SGLang。官方推荐在 H100x8或 H200x8节点上部署并提供了三种典型配置示例基础服务、MTP 投机解码、YaRN RoPE 长上下文推理最高 512K。完整命令见 deployment_guide.md建议直接照着执行即可。推荐采样参数为确保最佳效果README 推荐以下超参数⚠️ 与 generation_config.json 中的默认值略有不同建议以 README 推荐值为准top_p 0.95 top_k 50 min_p 0.0 temperature 0.8两个实用技巧思考模式Intern-S2-397B 默认开启 thinking 模式以增强推理质量如需关闭在tokenizer.apply_chat_template中设置enable_thinkingFalse即可。官方提示智能体类任务不建议关闭思考模式。时间序列推理模型还支持地震 P 波/S 波检测、电力负荷预测等时间序列任务仅 LMDeploy 支持例如可直接判定一段地震波形文件中是否发生地震事件。总结Intern-S2-397B 的价值不只是又一个大参数量的多模态模型更在于它验证了一条路线与其把文献拆解成模型能懂的中间形式不如训练模型去理解文献的本来面貌。直接读原始页面的视觉预训练范式让符号语义与视觉空间关系在同一表示空间中生长为科学智能提供了更忠实、更高效的数据利用方式。如果你关注多模态大模型在科研场景的落地这套范式非常值得深入研究。赞分享【免费下载链接】Intern-S2-397B-FP8项目地址https://ai.gitcode.com/InternLM/Intern-S2-397B-FP8点击查看免费下载相关推荐3分钟学会Illustrator批量替换神器ReplaceItems.jsx完整指南3分钟学会Illustrator批量替换神器ReplaceItems.jsx完整指南 还在为Adobe Illustrator中重复繁琐的替换操作而烦恼吗想工作流自动化DLSS Swapper 指南不等游戏更新几步把游戏里的 DLSS 版本换掉DLSS Swapper 指南不等游戏更新几步把游戏里的 DLSS 版本换掉 你的游戏还停在旧版 DLSS 上而新版在画质和帧率上的提升是看得见的可游戏桌面应用游戏开发原生内置时序预测书生S2 为什么押注能算数据、会看文献的科学模型原生内置时序预测书生S2 为什么押注能算数据、会看文献的科学模型 科学 AI 的演进正处在一个分叉路口一类方案主张把会读文献的大语言模型与会算数据人工智能大模型基础模型多模态预训练强化学习上一篇Vim窗口管理灵活布局调整技巧下一篇Umi.js 资源预加载机制:从 dist 产物反推 preload_helper.js 的生成链路创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考