DeepSeek V4专区【免费下载链接】community本项目是CANN开源社区的核心管理仓库包含社区的治理章程、治理组织、通用操作指引及流程规范等基础信息项目地址: https://gitcode.com/cann/community直播回看DeepSeek-V4昇腾首发基于CANN的训推优化实践技术报告NPU DeepSeek V4推理优化实践 | DeepSeek-V4昇腾训练支持模型部署推理|训练权重下载FLASHV4 算子Attention相关算子 | mHC相关算子 | PyPTO | Tilelang参与技术讨论专家在线答疑 | 有奖社区任务开源项目组件描述源码仓算子库提供了丰富的深度优化、硬件亲和的高性能算子为神经网络在昇腾硬件上加速计算提供基础。ops-nnops-mathops-transformerops-cv通信库基于昇腾硬件的高性能通信库提供单机多卡及多机多卡间的数据并行、模型并行通信方案。hixlshmemhcclhcomm领域加速库针对特定领域或场景的算子和算法的结合。ascend-transformer-boostsip图引擎面向昇腾的图编译器和执行器提供图优化、多流并行、内存复用和模型下沉等功能。gemetadefgraph-autofusiontriton-inference-server-ge-backend算子编程CANN针对算子开发场景推出的编程语言最大化匹配用户开发习惯提供算子模板库支持算子极简编程。asc-devkitpyascpyptopto-isaatvosscatlass运行时提供了高效的硬件资源管理、媒体数据预处理、单算子加载执行、模型推理等开发接口供开发者轻松构建高性能人工智能应用。runtime驱动提供了基础驱动、设备管理、资源管理及调度、通信能力等功能使能昇腾芯片充分发挥硬件能力支撑CANN上层软件高效稳定运行。driver工具提供CANN平台的各种工具如算子调试调优工具、故障定位、模型压缩等。asc-toolsoam-toolsamct关于社区社区治理架构及章程CANN 社区采用分层协作的治理模式当前架构主要包括以下组织技术指导委员会TSC-Technical Steering Committee项目管理委员会PMC-Project Management Committee特别兴趣小组SIG-Special Interest Group更多社区治理内容详见社区治理章程参与贡献基础贡献包含参与社区会议、社区邮件讨论、提交 Issue 、处理 Issue 任务、提交PR等。进阶贡献包含新建 SIG、成为核心贡献者、组织会议、新建仓库、引入开源软件、发布新版本或新仓库等。快速体验若您希望快速体验CANN算子的调用和开发过程请访问如下文档获取简易教程。算子调用介绍调用算子的基本步骤快速搭建环境实现算子编译执行。算子开发介绍开发算子的基本流程一键创建算子工程目录实现Tiling、Kernel核心交付件。一站式开发平台您也可在对应仓库中点击“CANNLab”在一站式在线开发环境中限时免费体验昇腾算力。实践样例⚓推理 | 训练 | 空间智能 | 具身智能 | 鸿蒙推理|热门实践 |描述 | |--|--| |NPU DeepSeek-V4推理优化实践 | DeepSeek团队发布了最新的模型DeepSeek-V4系列模型包含DeepSeek-V4 Flash和DeepSeek-V4 Pro两种规格。在DeepSeek-V3.2的稀疏AttentionDeepSeek Sparse Attention的基础上在不同层间进一步通过KV Cache滑窗 (Window Cache) 和压缩算法 (KV Cache Compress)减少Attention的计算和访存开销可以大幅提升长序列的计算效率降低推理的成本。本实践0 Day支持了DeepSeek-V4的模型推理部署并适配支持Atlas-A3和950PR/DT多代际昇腾芯片。 | |DeepSeek-V4昇腾训练支持 | 本文介绍 DeepSeek-V4-Flash 模型基于 CANN 平台的训练优化实践。基于 TorchTitan-NPU 框架采用纯 FSDP 大 EP 极简并行策略实现内存最优创新性地使能训练入图技术凭借 Ascend C AutoFuse 能力获得端到端 32% 的编译收益针对稀疏注意力结构定制高效融合算子充分释放芯片算力。 | |DeepSeek-V3.2-Exp模型支持推理部署 | 基于Transformers库在Atlas A3环境中Prefill阶段采用了长序列亲和的CP并行策略Decode阶段沿用大EP并行同时整网设计新的NPU融合Kernel和多流并行优化实现较高的吞吐推理性能。 | |DeepSeek-R1 RL训练优化实践 | 基于开源veRL框架搭配MindSpeedvLLM-Ascend框架在Atlas A3集群实现GRPO算法的高吞吐RL训练并达到120TPS/卡的系统吞吐量。 | |HunyuanVideo模型推理优化实践 | 基于xDiT框架在Atlas A2环境中采用了Ulysses序列并行和RingAttention序列并行测量同时适配了TeaCache加速实现了较优的推理性能。 | |VGGT模型推理优化实践 | 基于VGGT开源模型完成其在Atlas A2上的推理适配并提供其在相机位姿估计、点云三维重建、深度估计三个任务上的精度评测脚本。 | |Pi0模型推理优化实践 | 基于LeRobot库在Atlas A2环境适配Pi0模型通过使能融合算子、图模式、计算逻辑优化等手段实现了较低的推理时延。 | |QQ音乐声伴分离鸿蒙推理优化实践 | 实现QQ音乐声伴分离业务模型中的BandNorm等算子在鸿蒙设备上的高性能推理部署。 |社区活动社区会议日历如果您对CANN社区的各类会议感兴趣可访问会议日历。CANN开源开放系列直播大咖细剖开源政策和计划maintainer全面解读热门开源项目。昇腾AI算法挑战赛进阶赛昇腾AI算法挑战赛旨在汇聚全球各领域的优秀开发者同台竞技。开放昇腾AI计算平台的全栈能力与API资源鼓励开发者构建高效创新的AI模型解决实际场景问题。CANN训练营赢华为三折叠等大奖。昇腾AI创新大赛-算子挑战赛昇腾AI创新大赛-算子挑战赛旨在培养一批精通Ascend C算子开发的开发者鼓励开发者基于CANN的基础能力进行深度创新与实践。联系我们社区邮件订阅选择需要订阅的组织TSC/PMC/SIG等填写相关信息进行邮件订阅邮件推送内容包含会议通知、会议纪要、内容讨论等如果您对相关组织有诉求或者问题也可以通过邮箱途径联系。昇腾CANN社交媒体|B站|微信公众号|知乎|CSDN| |--|--|--|--| |||||canncann.team相关链接昇腾社区鸿蒙社区【免费下载链接】community本项目是CANN开源社区的核心管理仓库包含社区的治理章程、治理组织、通用操作指引及流程规范等基础信息项目地址: https://gitcode.com/cann/community创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考