AI 硬件这个圈子的一个重要特征是真正影响长期决策的信息往往不在发布会 PPT 上而在芯片测试报告、服务器散热方案、存储合约价和机器人供应链订单里。这期 AI 硬件周报我按老规矩把最近一周值得记录的动态做了脱敏梳理厂商、型号和具体数字按行业惯例做了模糊处理但判断方法可以放心复用。本期延续算力、端侧、存储、机器人硬件、供应链细节这五条线索展开也顺手写了几个我最近实测带回来的判断口径。阅读对象是关注智算基础设施、边缘设备和具身智能的硬件从业者如果你想在建站选型或采购评估时少踩几个坑这一期值得看完。1. 算力供给端训练芯片、集群互联与新散热形态这一周最值得记的是一颗内部代号 T1 的云端训练芯片开始进入规模验证阶段。它最让我留意的不是单卡峰值算力而是把卡间互联带宽放到了和计算单元同等重要的位置来设计。单卡 FP8 精度算力在 900 TFLOPS 级别卡间互联带宽做到了 300GB/s 以上。如果没在千卡集群里跑过大型训练任务可能对这个数字没有体感但真实情况是集群训练时通信耗时经常能占到端到端时间的 30% 以上互联效率决定的是真金白银的集群利用率。1.1 训练芯片“换卡”背后的互联效率之争掰开看互联路线的分化这周同时有两类动作。做专用互连方案的团队迭代了新一代交换芯片带宽和端口密度都有明显提升另一边某类超以太网协议的技术方案被集成进了一批机柜级交换模块开始做真实集群验证。两条路线短期内会并存但要注意一个老问题网卡驱动里看到的线速率和实际跑集合通信时的有效吞吐完全是两回事。很多团队换卡之后跑 benchmark 发现性能没上来问题往往出在互联协议栈的配置和物理拓扑不匹配。所以我拿到新硬件之后从来不会先跑算力 benchmark而是固定做三件事满载 15 分钟看温升曲线判断散热是否压得住持续功耗跑一遍集合通信基准记录真实有效带宽再做一次 72 小时长稳训练看中间有没有降频、断链或者显存水位异常。我见过不少标称峰值很漂亮的产品能维持 3 秒峰值之后就开始阶梯式降频这在多卡训练场景下根本不可用。1.2 集群侧机架级液冷与供电密度单卡功耗从 450W 级别往 700W 级别走单机柜功率密度提到 80-120kW 之后风冷已经没有讨论空间了。这一周某整机厂商开始交付一体化冷板式液冷机柜冷板不只是覆盖计算卡连内存和电源模组也纳入冷却回路。这个细节值得留意内存和 VRM 在工作负载波动时升温并不比计算芯片小只给核心芯片做液冷、其余部分靠风道吹在高密度机柜里迟早会在局部形成热岛。液冷真正麻烦的不是散热本身而是运维逻辑的变化。漏液检测传感器、冷却液电导率监测、电源管理总线上的功耗监控这些是传统风冷机房不需要面对的新增环节。作为采购方不能只看厂商宣传的 PUE 数字要问清平均修复时间MTTR和单点故障的隔离方案。我这边实测里比较有效的手段是双回路冗余泵组加压力降异常监测的组合。早期密封失效往往表现为冷却回路压力差的微小漂移而不是立刻漏液单纯靠漏液传感器报警通常已经晚了。2. 端侧与边缘硬件NPU 路线开始分化这周端侧信号明显密集起来。新一代旗舰移动 SoC 把 NPU 算力拉到 50 TOPS 左右最高内存配置从 16GB 升到 24GBPC 平台也开始出现独立的 AI 加速模块。这个变化背后是需求变了端侧要跑的不再是“语音唤醒”这类简单任务而是整段的量化模型推理内存容量和带宽成了第一约束。如果只看算力数字很容易高估端侧硬件的实际能力。2.1 手机与 PC 端大模型应用把内存规格“卷”上去了一个 13B 参数量模型的 4bit 量化版本体积在 7-8GB 左右加上系统、应用和常驻服务16GB 内存只能算“能跑”24GB 才算“舒服”。所以这周新机内存规格的全面抬升表面上看是堆料本质上是本地推理需求的刚性拉动。硬件设计上内存频率和带宽比容量更难做LPDDR5X 以上频率的高速信号布线、供电纹波、功耗控制都在考验整机设计能力。PC 端的情况更有意思。某平台加了独立 AI 加速器之后纸面 TOPS 数据很好看实际连续出图时会出现明显的掉速。原因也不复杂官方跑分通常取最优热状态下的峰值而真实应用是连续负载加速器模块的独立供电和散热往往跟不上。我的建议是买 AI PC 的时候别只看 TOPS优先确认内存规格是不是 LPDDR5X 级别、AI 加速器有没有独立供电设计以及整机在持续负载下是否会出现频率骤降。下面这个表格是我做选型时常用的三种路线对比路线代表形式优势典型痛点统一内存 SoC手机旗舰、部分 PC数据不用跨总线搬运功耗低生态成熟容量受封装和成本限制扩展困难独立 AI 加速器PC 扩展卡、部分轻薄本算力升级灵活不挤占 CPU 功耗供电散热容易掉链子驱动栈割裂专用视觉协处理器工业相机、智能眼镜极低功耗确定性延时好编程模型不通用只适合单一任务2.2 边缘小盒子功耗预算才是真正的门槛边缘 AI 开发套件这一周更新了两个方向一个 0.4 TOPS 级别的超低功耗视觉方案主打电池供电的产品另一个 6.2 TOPS 的中算力盒子面向质检和安防前装场景。我比较在意的是这类设备正从“GPU 小板”转向“集成 NPU 摄像头 ISP 工业接口”的一体化设计。工业现场对功耗、宽温、确定性延时都有硬约束纯 GPU 方案在 5-15W 功耗区间里根本不划算NPU 加专用 ISP 才是正解。选边缘盒子的时候很多人都被“标称算力”带偏了。我这里有个实际案例某款开发板标称 6 TOPSSDK 对 INT8 量化导出的支持还算完善但常用的目标检测模型里有两个关键算子没有实现在硬件单元上只能走 CPU 回退跑起来延迟直接翻倍。所以拿到板子第一件事是跑一遍算子覆盖检查而不是先跑跑分。0.4 TOPS 那个超低功耗方案我实测下来跑分类或简单缺陷检测问题不大想跑目标检测就不现实了算力预算在选型时就锁死了场景。3. 存储与接口供应链价格信号与选型参考这周存储市场的价格信号非常明确服务器 DDR5 内存模组均价环比上涨 5%-8%新一代高带宽内存在季度谈判里继续上行。AI 服务器消耗了这类内存绝大部分产能多层堆叠工艺良率爬坡又偏慢供应紧张的局面短期很难缓解。这种波动不只是期货行情它会直接影响硬件设计师的选型节奏和预算分配。3.1 内存与高带宽内存供需节奏怎么看高带宽内存为什么紧俏一句话解释工艺过于复杂。硅通孔、多层堆叠、逐层测试这些环节的良率爬坡速度远没有市场需求的增速快。供应商在产能分配上会倾向于往更高层数转移因为新一代训练卡对单卡容量的需求几乎是翻倍在走而层数越高单片晶圆能切出来的可用片数越少。这个供需缺口不是靠扩产线能短期补上的至少要看 12-18 个月的爬坡周期。对做硬件产品的人我的建议是别因为一周的价格波动就改长期路线但一定要在方案设计时留出“双源兼容”的口子。具体来说PCB 和引脚定义上尽量兼容两家供应商的同类内存颗粒软件层把内存控制器的初始化参数做成可配置。这样即使一家供不上货换第二家也不至于重新改板。存储接口的演进同样值得提前布局DDR5、LPDDR5X再到高带宽内存每一代切换都会带来一版新的主板设计和测试投入早一步预留兼容会省大量开发时间。3.2 光模块与内存扩展集群互联之外的增量800G 光模块这周开始进入批量上量阶段1.6T 样品也开始送测。随着训练集群从千卡走向万卡光模块在整个系统里的数量和成本权重迅速上升。光电共封装技术又一次被拿出来讨论但我倾向性判断它会先出现在交换侧而不是服务器侧。原因是可维护性交换机坏了整机替换还能接受服务器在机房里的带电维护是刚需光电共封装一旦坏了现场几乎没有修复手段这个代价绝大多数运营团队承担不起。另一个值得记录的是内存池化方案的进展。某类内存扩展控制芯片进入量产验证阶段让“内存池化”真正从 demo 走向工程可用。对单机推理或者小规模集群来说CXL 类内存扩展可能比加算力卡更划算。我的判断口径是这样如果模型已经量化但内存容量或带宽不够优先扩展内存如果模型算力瓶颈明显、推理延迟居高不下再考虑加算力。很多时候加一张内存扩展卡先解决带宽问题成本比换整机低一个数量级效果却立竿见影。4. 机器人硬件触觉、灵巧手与高密度关节具身智能这一周在硬件侧有两个进展值得记录阵列式触觉传感器进入量产规划新一代 12 自由度灵巧手公布了关键参数。这两个方向放到一起看很有意思它们都不是“更强的电机”或“更长的续航”这类传统机器人议题而是机器人在从“能动能看”走向“能感觉、能精细操作”这一步的意义比单纯提高负载能力大得多。4.1 触觉传感从“有没有”走向“量程与分辨率”阵列式触觉传感器的分辨率正从“能感知接触”升级到“能区分材质纹理”。背后的需求逻辑很清楚抓取规划不再只靠视觉推断视觉看不到遮挡区域的接触状态力、位置、触觉的多模态融合才能支撑可靠的精细操作。这周某整机团队放进量产规划的那款传感器为了做到指面 16 路通道的一致性和温度漂移可控在标定方法和封装工艺上下了不少功夫。选型经验上我要强调一句触觉传感器别只看灵敏度和阵列密度这两个数字是宣传口径中最容易注水的。真正决定能不能量产的是批量一致性也就是同一批传感器之间通道响应的偏差范围以及温漂和串扰指标。还有一个容易被忽视的成本因素柔性排线和模组封装的良率它们直接决定单个通道的成本能不能降到几元人民币以下。达不到这个量级任何整机方案都没有商业化的可能。4.2 关节电机与灵巧手的轻量化取舍新一代 12 自由度灵巧手的公开参数是空心杯电机加行星齿轮箱方案单手重量控制在 350 克以下指尖力达到 15N。这个数据放在两年前已经属于很不错的水平。对比无刷直驱方案空心杯电机加齿轮箱的优势是响应快、惯量低、力控带宽高很契合抓取动作对快速起停的要求缺点是电刷寿命是硬上限高频次高负载作业时换刷周期会变短。无刷直驱寿命长但电机本体大且重灵巧手会显得笨拙。做整机集成时的实际调试点最耗时间的往往不在深度学习模型而在“拇指对掌姿态”的行程规划和接触力闭环的 PID 参数整定。触觉反馈回路和关节电流环必须放在同一个实时控制核上处理如果分成两个内核哪怕多出 20ms 的通信延迟都会直接表现为抓握失败。另外一个小细节是手指传感器走线要用柔性排线加弹簧弯曲保护手臂旋转部位附近的断线问题是机器人硬件里最常见的隐性故障源比电机本身坏得都快。5. 一周观察几个容易忽略的供应链细节最后这部分偏行业面没有新硬件发布那么热闹但往往决定一个产品明年能不能按时交付、有没有成本竞争力。这一周我更关注三件事电源转换效率、AI 服务器整机 BOM 的结构变化以及下周值得重点盯的清单。5.1 电源转换效率的隐性成本电源模块在 AI 服务器里的占比持续提升48V 中间母线方案的整机转换效率普遍做到 97% 以上。硬件选型时很多人习惯只看满载效率但 AI 服务器实际运行负载大多维持在 50%-70% 区间我建议重点看 40%-80% 负载率这个区间的半载效率曲线它的差距才真正反映到电费账单里。毛估一个数字单机柜年电费经常能达到整机采购成本的两三成1% 的效率差异在多机柜规模下累计就是相当可观的运营成本差额。这周还有一个不太起眼但值得注意的动态某厂商发布了机架级锂电备电模块把备电时间从分钟级拉到小时级。这个变化会连锁影响机房供电架构和运维策略有了小时级备电很多核心进程可以在断电后优雅下线而不是整机直接掉电导致训练任务中断重来。对长期运行的智算集群来说这比多一组柴油发电机更实在。5.2 AI 服务器 BOM 的结构变动拆开一台 AI 服务器看物料成本计算芯片和高速内存仍然占比最高但内存模组、光模块、液冷组件、电源模组的合计成本已经超过了传统意义上“其余所有部分”的大头。更深远的变化是定制化算力项目兴起之后供应链从“标准品采购”转向“共同定义”硬件设计师从选型者变成了规格的共同制定者。这意味着拥有系统级能力的人而不是单点硬件专家会在整个链条里获得更多话语权。对做硬件开发的朋友我的感受是如果只会优化单板路会越走越窄能把液冷、供电、散热、存储、互联放在一个系统里做整体 TCO 设计的人价值会明显更高。客户需要的不是一块参数漂亮的板卡而是一套在真实负载下运行稳定、维护方便、电费可控的整机方案。这套能力短时间没法从规格书里学到需要扎在机房和产线上反复趟坑。5.3 值得放入下周关注列表的五件事按照惯例我把下周打算紧盯的五件事列出来也写上关注原因推理卡能效基准测试的第三轮数据重点看半载效率曲线而不是峰值。某款端侧新 SoC 的 AI 功耗实测结果验证官方 TOPS 数据在连续负载下打几折。内存合约价的周度数据是否延续涨幅这会影响下一季度项目预算。新一代人形机器人整机底盘参数发布重点看关节布置和散热设计。CXL 类内存池化方案的工具链集成成熟度这对内存扩展选型有直接参考价值。官方数字永远只能当参考自己跑一遍基准结论才会接近真实。我一般会在拿到样片的第一周固定跑满 72 小时压力测试把降频曲线、功耗波动、通信有效带宽记录下来这些数据才是下期写周报时真正有价值的东西。我写这类周报有一年多了最大的感受是 AI 硬件正快速从“单卡性能竞赛”过渡到“整机与系统竞争”。以前评判一块板卡看算力、显存、功耗就够了现在不行你至少要同时看它的互联、供电、散热、算法栈和机械结构还要懂一点集群运维和 BOM 成本。对做硬件的人来说这个变化的另一面是机会谁先理解系统谁就有更大的定义权。最后分享一个小习惯我会在每周五下午把当周的开源硬件发布、供应链价格、行业标准草案扔进一个摘要工具让它们自动聚合成简报。这个习惯坚持下来之后比等新闻快了大半周。如果时间充足我也会挑一两个硬件用一周时间专门做压力测试再在下期周报里给出实测结论这是我判断纸面性能和实际可用之间差距的主要方法。