资讯动态

CANN ops-math Muls 算子 aclnn 接口完全指南:aclnnMuls 与 aclnnInplaceMuls 两段式调用详解

发布时间:2026/9/21 15:42:46 来源:尧图企业网站定制
算子库人工智能CANN【免费下载链接】ops-math本项目是CANN提供的数学类基础计算算子库实现网络在NPU上加速计算。项目地址https://gitcode.com/cann/ops-math点击查看免费下载导读Muls 是 CANN ops-math 数学算子库中完成 Tensor 与 Scalar 逐元素乘法的基础算子本文以仓库文档 math/muls/docs/aclnnMulsaclnnInplaceMuls.md 为主体系统讲解其 aclnn 接口的两种调用形态普通模式aclnnMuls与就地模式aclnnInplaceMuls。读完本文你将掌握Muls 算子在各类 Ascend/Atlas 产品上的支持情况、两段式接口的完整调用流程与参数约束、参数校验失败时的错误码含义以及可直接复制运行的 C 调用示例并结合仓库源码理解其底层实现路径。产品支持情况根据文档与 math/muls/README.mdMuls 算子的 aclnn 接口支持情况如下产品是否支持Ascend 950PR/Ascend 950DT支持Atlas A3 训练系列产品/Atlas A3 推理系列产品支持Atlas A2 训练系列产品/Atlas A2 推理系列产品支持Atlas 200I/500 A2 推理产品不支持Atlas 推理系列产品支持Atlas 训练系列产品支持需要特别注意的是在Atlas 推理系列产品与Atlas 训练系列产品上aclnnMuls/aclnnInplaceMuls不支持 BFLOAT16 数据类型选用 BFLOAT16 前需确认目标设备的支持范围。功能说明与计算公式接口功能完成 tensor 与 scalar 间的乘法计算即对输入张量self的每个元素乘上标量other。计算公式$$ out_i self_i \times other $$从算子定义看见 math/muls/op_graph/muls_proto.h该算子的输入为x、标量属性为value、输出为y且输出与输入保持相同的 dtype 与 shape兼容 PyTorch 的muls算子语义。接口总览普通模式与就地模式aclnnMuls与aclnnInplaceMuls实现相同的计算功能二者的区别仅在于结果存储方式请根据实际场景选择aclnnMuls需新建一个输出张量对象out存储计算结果原输入张量保持不变。aclnnInplaceMuls无需新建输出张量对象直接在输入张量selfRef的内存中就地覆写计算结果适合需要节省内存、且原始输入不再使用的场景。从源码 math/muls/op_api/muls.cpp 可以看到两者底层的实现差异Muls通过executor-AllocTensor(self-GetViewShape(), self-GetDataType())基于输入张量的视图 shape 与数据类型新建一个输出张量mulsOut再以OP_INPUT(self)OP_OUTPUT(mulsOut)OP_ATTR(alpha)挂载 AICore 算子启动列表MulsInplace直接将self作为输出auto mulsOut self;输入输出指向同一块内存其余启动逻辑与普通模式完全一致。两种模式最终都复用同一个 AICore 计算任务ADD_TO_LAUNCHER_LIST_AICORE(Muls, ...)区别只体现在输出张量对象的分配策略上。两段式接口机制每个算子均采用两段式接口调用机制详见 docs/zh/context/two_phase_api.md必须先调用第一段接口aclnnMulsGetWorkspaceSize或aclnnInplaceMulsGetWorkspaceSize完成入参校验、输出 shape 推导、kernel tiling 等工作并返回workspaceSize算子在 NPU 上完成计算所需申请的临时内存workspace大小executor包含了算子计算流程的 op 执行器。根据workspaceSize在 Device 侧申请内存后再调用第二段接口aclnnMuls或aclnnInplaceMuls真正执行计算。注意第二段接口不能重复调用。正确的调用次序必须是GetWorkspaceSize → 执行接口且每个第一段接口得到的executor只能被消费一次。四个接口的函数原型如下aclnnStatus aclnnMulsGetWorkspaceSize( const aclTensor *self, const aclScalar *other, aclTensor *out, uint64_t *workspaceSize, aclOpExecutor **executor)aclnnStatus aclnnMuls( void *workspace, uint64_t workspaceSize, aclOpExecutor *executor, aclrtStream stream)aclnnStatus aclnnInplaceMulsGetWorkspaceSize( aclTensor *selfRef, const aclScalar *other, uint64_t *workspaceSize, aclOpExecutor **executor)aclnnStatus aclnnInplaceMuls( void *workspace, uint64_t workspaceSize, aclOpExecutor *executor, aclrtStream stream)可以看到普通模式需要传入输入self、标量other与输出out三个参数而就地模式只需传入selfRef与other两个参数输出即输入本身。aclnnMulsGetWorkspaceSize 接口详解参数说明参数名输入/输出描述使用说明数据类型数据格式维度(shape)非连续TensorselfaclTensor*输入公式中的输入self与 other 满足数据类型推导规则FLOAT、FLOAT16、DOUBLE、INT32、INT64、INT16、INT8、UINT8、BOOL、COMPLEX128、COMPLEX64、BFLOAT16ND不大于 8√otheraclScalar*输入公式中的输入other与 self 满足数据类型推导规则FLOAT、FLOAT16、DOUBLE、INT32、INT64、INT16、INT8、UINT8、BOOL、COMPLEX128、COMPLEX64、BFLOAT16---outaclTensor*输出公式中的输出out数据类型需是 self 与 other 推导之后可转换的数据类型参见互转换关系shape 与 self 的 shape 相等FLOAT、FLOAT16、DOUBLE、INT32、INT64、INT16、INT8、UINT8、BOOL、COMPLEX128、COMPLEX64、BFLOAT16ND与 self 相同√workspaceSizeuint64_t*输出返回需要在 Device 侧申请的 workspace 大小-----executoraclOpExecutor**输出返回 op 执行器包含了算子计算流程-----补充说明表格中非连续 Tensor √表示接口支持 stride 非连续的输入输出张量相关背景可参考 docs/zh/context/non_contiguous_tensor.md数据格式统一为 ND可参见 docs/zh/context/data_format.md。Atlas 推理系列产品、Atlas 训练系列产品不支持 BFLOAT16 数据类型。从算子底层定义看math/muls/op_host/muls_def.cppkernel 实际支持的 dtype 集合为 BF16、FLOAT16、FLOAT、INT16、INT32、INT64、COMPLEX32、COMPLEX64aclnn 接口层更宽的 dtype 列表如 DOUBLE、INT8、UINT8、BOOL、COMPLEX128 等会在接口内部通过数据类型推导与转换完成衔接。返回值与错误码返回aclnnStatus状态码具体参见 aclnn返回码。第一段接口完成入参校验出现以下场景时报错返回值错误码描述ACLNN_ERR_PARAM_NULLPTR161001传入的 self、other、out 是空指针时ACLNN_ERR_PARAM_INVALID161002self 和 out 的数据类型不在支持的范围内时ACLNN_ERR_PARAM_INVALID161002self 和 other 无法做数据类型推导ACLNN_ERR_PARAM_INVALID161002推导出的数据类型无法转换为指定输出 out 的类型ACLNN_ERR_PARAM_INVALID161002self 与 out 的 shape 不一致ACLNN_ERR_PARAM_INVALID161002self 和 out 的维度大于 8aclnnMuls 接口详解参数说明参数名输入/输出描述workspace输入在 Device 侧申请的 workspace 内存地址workspaceSize输入在 Device 侧申请的 workspace 大小由第一段接口 aclnnMulsGetWorkspaceSize 获取executor输入op 执行器包含了算子计算流程stream输入指定执行任务的 Stream返回值返回aclnnStatus状态码具体参见 aclnn返回码。aclnnInplaceMulsGetWorkspaceSize 接口详解参数说明参数名输入/输出描述使用说明数据类型数据格式维度(shape)非连续TensorselfRefaclTensor*输入公式中的输入self和输出out与 other 满足数据类型推导规则FLOAT、FLOAT16、DOUBLE、INT32、INT64、INT16、INT8、UINT8、BOOL、COMPLEX128、COMPLEX64、BFLOAT16ND不大于 8√otheraclScalar*输入公式中的输入other与 selfRef 满足数据类型推导关系FLOAT、FLOAT16、DOUBLE、INT32、INT64、INT16、INT8、UINT8、BOOL、COMPLEX128、COMPLEX64、BFLOAT16---workspaceSizeuint64_t*输出返回需要在 Device 侧申请的 workspace 大小-----executoraclOpExecutor**输出返回 op 执行器包含了算子计算流程-----与普通模式最大的差异在于selfRef一个参数同时承担输入与输出两个角色因此接口不再需要out参数其数据类型推导要求也直接体现在selfRef与other之间。返回值与错误码返回aclnnStatus状态码具体参见 aclnn返回码。第一段接口完成入参校验出现以下场景时报错返回值错误码描述ACLNN_ERR_PARAM_NULLPTR161001传入的 selfRef、other 是空指针时ACLNN_ERR_PARAM_INVALID161002selfRef 的数据类型不在支持的范围内时ACLNN_ERR_PARAM_INVALID161002selfRef 和 other 无法做数据类型推导ACLNN_ERR_PARAM_INVALID161002selfRef 的维度大于 8aclnnInplaceMuls 接口详解参数说明参数名输入/输出描述workspace输入在 Device 侧申请的 workspace 内存地址workspaceSize输入在 Device 侧申请的 workspace 大小由第一段接口 aclnnInplaceMulsGetWorkspaceSize 获取executor输入op 执行器包含了算子计算流程stream输入指定执行任务的 Stream返回值返回aclnnStatus状态码具体参见 aclnn返回码。约束说明确定性计算aclnnMuls 与 aclnnInplaceMuls 默认采用确定性实现确定性计算的含义可参考 docs/zh/context/determinism_compute.md。精度风险INT32/INT64 类型计算存在精度损失需谨慎使用。从算子定义注释math/muls/op_graph/muls_proto.h可以印证FLOAT32 类型参数无精度损失当 INT32/INT64 参数值超过 2^24 时会发生精度损失此时建议改用 Mul 算子。调用示例仓库提供了可直接编译运行的完整示例分别位于 math/muls/examples/test_aclnn_muls.cpp 与 math/muls/examples/test_aclnn_inplace_muls.cpp与文档中的示例代码一致两者核心流程完全相同仅输入输出构造方式不同。aclnnMuls 示例代码#include iostream #include vector #include acl/acl.h #include aclnnop/aclnn_mul.h #define CHECK_RET(cond, return_expr) \ do { \ if (!(cond)) { \ return_expr; \ } \ } while (0) #define LOG_PRINT(message, ...) \ do { \ printf(message, ##__VA_ARGS__); \ } while (0) int64_t GetShapeSize(const std::vectorint64_t shape) { int64_t shapeSize 1; for (auto i : shape) { shapeSize * i; } return shapeSize; } int Init(int32_t deviceId, aclrtStream* stream) { // 固定写法资源初始化 auto ret aclInit(nullptr); CHECK_RET(ret ACL_SUCCESS, LOG_PRINT(aclInit failed. ERROR: %d\n, ret); return ret); ret aclrtSetDevice(deviceId); CHECK_RET(ret ACL_SUCCESS, LOG_PRINT(aclrtSetDevice failed. ERROR: %d\n, ret); aclFinalize(); return ret); ret aclrtCreateStream(stream); CHECK_RET(ret ACL_SUCCESS, LOG_PRINT(aclrtCreateStream failed. ERROR: %d\n, ret); aclrtResetDevice(deviceId); aclFinalize(); return ret); return 0; } template typename T int CreateAclTensor(const std::vectorT hostData, const std::vectorint64_t shape, void** deviceAddr, aclDataType dataType, aclTensor** tensor) { auto size GetShapeSize(shape) * sizeof(T); // 调用aclrtMalloc申请device侧内存 auto ret aclrtMalloc(deviceAddr, size, ACL_MEM_MALLOC_HUGE_FIRST); CHECK_RET(ret ACL_SUCCESS, LOG_PRINT(aclrtMalloc failed. ERROR: %d\n, ret); return ret); // 调用aclrtMemcpy将host侧数据拷贝到device侧内存上 ret aclrtMemcpy(*deviceAddr, size, hostData.data(), size, ACL_MEMCPY_HOST_TO_DEVICE); CHECK_RET(ret ACL_SUCCESS, LOG_PRINT(aclrtMemcpy failed. ERROR: %d\n, ret); return ret); // 计算连续tensor的strides std::vectorint64_t strides(shape.size(), 1); for (int64_t i shape.size() - 2; i 0; i--) { strides[i] shape[i 1] * strides[i 1]; } // 调用aclCreateTensor接口创建aclTensor *tensor aclCreateTensor(shape.data(), shape.size(), dataType, strides.data(), 0, aclFormat::ACL_FORMAT_ND, shape.data(), shape.size(), *deviceAddr); return 0; } int main() { // 1.固定写法device/stream初始化参考acl API手册 // 根据自己的实际device填写deviceId int32_t deviceId 0; aclrtStream stream; auto ret Init(deviceId, stream); CHECK_RET(ret ACL_SUCCESS, LOG_PRINT(Init acl failed. ERROR: %d\n, ret); return ret); // 2.构造输入与输出需要根据API的接口自定义构造 std::vectorint64_t selfShape {4, 2}; std::vectorint64_t outShape {4, 2}; void* selfDeviceAddr nullptr; void* outDeviceAddr nullptr; aclTensor* self nullptr; aclScalar* other nullptr; aclTensor* out nullptr; std::vectorfloat selfHostData {0, 1, 2, 3, 4, 5, 6, 7}; float otherValue 1.2f; std::vectorfloat outHostData(8, 0); // 创建self aclTensor ret CreateAclTensor(selfHostData, selfShape, selfDeviceAddr, aclDataType::ACL_FLOAT, self); CHECK_RET(ret ACL_SUCCESS, return ret); // 创建other aclScalar other aclCreateScalar(otherValue, aclDataType::ACL_FLOAT); CHECK_RET(other ! nullptr, return ret); // 创建out aclTensor ret CreateAclTensor(outHostData, outShape, outDeviceAddr, aclDataType::ACL_FLOAT, out); CHECK_RET(ret ACL_SUCCESS, return ret); // 3.调用CANN算子库API需要修改为具体的API名称 uint64_t workspaceSize 0; aclOpExecutor* executor; // 调用aclnnMuls第一段接口 ret aclnnMulsGetWorkspaceSize(self, other, out, workspaceSize, executor); CHECK_RET(ret ACL_SUCCESS, LOG_PRINT(aclnnMulsGetWorkspaceSize failed. ERROR: %d\n, ret); return ret); // 根据第一段接口计算出的workspaceSize申请device内存 void* workspaceAddr nullptr; if (workspaceSize 0) { ret aclrtMalloc(workspaceAddr, workspaceSize, ACL_MEM_MALLOC_HUGE_FIRST); CHECK_RET(ret ACL_SUCCESS, LOG_PRINT(allocate workspace failed. ERROR: %d\n, ret); return ret); } // 调用aclnnMuls第二段接口 ret aclnnMuls(workspaceAddr, workspaceSize, executor, stream); CHECK_RET(ret ACL_SUCCESS, LOG_PRINT(aclnnMuls failed. ERROR: %d\n, ret); return ret); // 4.固定写法同步等待任务执行结束 ret aclrtSynchronizeStream(stream); CHECK_RET(ret ACL_SUCCESS, LOG_PRINT(aclrtSynchronizeStream failed. ERROR: %d\n, ret); return ret); // 5.获取输出的值将device侧内存上的结果拷贝至host侧需要根据具体API的接口定义修改 auto size GetShapeSize(outShape); std::vectorfloat resultData(size, 0); ret aclrtMemcpy(resultData.data(), resultData.size() * sizeof(resultData[0]), outDeviceAddr, size * sizeof(resultData[0]), ACL_MEMCPY_DEVICE_TO_HOST); CHECK_RET(ret ACL_SUCCESS, LOG_PRINT(copy result from device to host failed. ERROR: %d\n, ret); return ret); for (int64_t i 0; i size; i) { LOG_PRINT(result[%ld] is: %f\n, i, resultData[i]); } // 6.释放aclTensor和aclScalar需要根据具体API的接口定义修改 aclDestroyTensor(self); aclDestroyScalar(other); aclDestroyTensor(out); // 7.释放device资源 aclrtFree(selfDeviceAddr); aclrtFree(outDeviceAddr); if (workspaceSize 0) { aclrtFree(workspaceAddr); } aclrtDestroyStream(stream); aclrtResetDevice(deviceId); aclFinalize(); return 0; }上述示例以{0, 1, 2, 3, 4, 5, 6, 7}的 FLOAT 张量与标量1.2f相乘预期输出为{0, 1.2, 2.4, 3.6, 4.8, 6.0, 7.2, 8.4}由于浮点表示打印结果可能存在微小尾差。整个流程可以归纳为七个固定步骤初始化aclInit→aclrtSetDevice→aclrtCreateStream构造输入输出通过aclrtMallocaclrtMemcpy准备 Device 侧数据再用aclCreateTensor/aclCreateScalar创建 aclTensor 与 aclScalar两段式调用先aclnnMulsGetWorkspaceSize获取 workspaceSize 与 executor按需aclrtMalloc申请 workspace再aclnnMuls执行同步等待aclrtSynchronizeStream等待任务完成回拷结果aclrtMemcpy将 Device 侧输出拷贝至 Host 侧并打印释放张量aclDestroyTensor/aclDestroyScalar释放资源aclrtFree、aclrtDestroyStream、aclrtResetDevice、aclFinalize。aclnnInplaceMuls 示例代码就地模式与普通模式代码几乎一致差异集中在第 2、3、5、6 步#include iostream #include vector #include acl/acl.h #include aclnnop/aclnn_mul.h #define CHECK_RET(cond, return_expr) \ do { \ if (!(cond)) { \ return_expr; \ } \ } while (0) #define LOG_PRINT(message, ...) \ do { \ printf(message, ##__VA_ARGS__); \ } while (0) int64_t GetShapeSize(const std::vectorint64_t shape) { int64_t shapeSize 1; for (auto i : shape) { shapeSize * i; } return shapeSize; } int Init(int32_t deviceId, aclrtStream* stream) { // 固定写法资源初始化 auto ret aclInit(nullptr); CHECK_RET(ret ACL_SUCCESS, LOG_PRINT(aclInit failed. ERROR: %d\n, ret); return ret); ret aclrtSetDevice(deviceId); CHECK_RET(ret ACL_SUCCESS, LOG_PRINT(aclrtSetDevice failed. ERROR: %d\n, ret); aclFinalize(); return ret); ret aclrtCreateStream(stream); CHECK_RET(ret ACL_SUCCESS, LOG_PRINT(aclrtCreateStream failed. ERROR: %d\n, ret); aclrtResetDevice(deviceId); aclFinalize(); return ret); return 0; } template typename T int CreateAclTensor(const std::vectorT hostData, const std::vectorint64_t shape, void** deviceAddr, aclDataType dataType, aclTensor** tensor) { auto size GetShapeSize(shape) * sizeof(T); // 调用aclrtMalloc申请device侧内存 auto ret aclrtMalloc(deviceAddr, size, ACL_MEM_MALLOC_HUGE_FIRST); CHECK_RET(ret ACL_SUCCESS, LOG_PRINT(aclrtMalloc failed. ERROR: %d\n, ret); return ret); // 调用aclrtMemcpy将host侧数据拷贝到device侧内存上 ret aclrtMemcpy(*deviceAddr, size, hostData.data(), size, ACL_MEMCPY_HOST_TO_DEVICE); CHECK_RET(ret ACL_SUCCESS, LOG_PRINT(aclrtMemcpy failed. ERROR: %d\n, ret); return ret); // 计算连续tensor的strides std::vectorint64_t strides(shape.size(), 1); for (int64_t i shape.size() - 2; i 0; i--) { strides[i] shape[i 1] * strides[i 1]; } // 调用aclCreateTensor接口创建aclTensor *tensor aclCreateTensor(shape.data(), shape.size(), dataType, strides.data(), 0, aclFormat::ACL_FORMAT_ND, shape.data(), shape.size(), *deviceAddr); return 0; } int main() { // 1.固定写法device/stream初始化参考acl API手册 // 根据自己的实际device填写deviceId int32_t deviceId 0; aclrtStream stream; auto ret Init(deviceId, stream); CHECK_RET(ret ACL_SUCCESS, LOG_PRINT(Init acl failed. ERROR: %d\n, ret); return ret); // 2.构造输入需要根据API的接口自定义构造 std::vectorint64_t selfRefShape {4, 2}; std::vectorint64_t outShape {4, 2}; void* selfRefDeviceAddr nullptr; aclTensor* selfRef nullptr; aclScalar* other nullptr; std::vectorfloat selfRefHostData {0, 1, 2, 3, 4, 5, 6, 7}; float otherValue 1.2f; // 创建selfRef aclTensor ret CreateAclTensor(selfRefHostData, selfRefShape, selfRefDeviceAddr, aclDataType::ACL_FLOAT, selfRef); CHECK_RET(ret ACL_SUCCESS, return ret); // 创建other aclScalar other aclCreateScalar(otherValue, aclDataType::ACL_FLOAT); CHECK_RET(other ! nullptr, return ret); // 3.调用CANN算子库API需要修改为具体的API名称 uint64_t workspaceSize 0; aclOpExecutor* executor; // 调用aclnnInplaceMuls第一段接口 ret aclnnInplaceMulsGetWorkspaceSize(selfRef, other, workspaceSize, executor); CHECK_RET(ret ACL_SUCCESS, LOG_PRINT(aclnnInplaceMulsGetWorkspaceSize failed. ERROR: %d\n, ret); return ret); // 根据第一段接口计算出的workspaceSize申请device内存 void* workspaceAddr nullptr; if (workspaceSize 0) { ret aclrtMalloc(workspaceAddr, workspaceSize, ACL_MEM_MALLOC_HUGE_FIRST); CHECK_RET(ret ACL_SUCCESS, LOG_PRINT(allocate workspace failed. ERROR: %d\n, ret); return ret); } // 调用aclnnInplaceMuls第二段接口 ret aclnnInplaceMuls(workspaceAddr, workspaceSize, executor, stream); CHECK_RET(ret ACL_SUCCESS, LOG_PRINT(aclnnInplaceMuls failed. ERROR: %d\n, ret); return ret); // 4.固定写法同步等待任务执行结束 ret aclrtSynchronizeStream(stream); CHECK_RET(ret ACL_SUCCESS, LOG_PRINT(aclrtSynchronizeStream failed. ERROR: %d\n, ret); return ret); // 5.获取输出的值将device侧内存上的结果拷贝至host侧需要根据具体API的接口定义修改 auto size GetShapeSize(selfRefShape); std::vectorfloat resultData(size, 0); ret aclrtMemcpy(resultData.data(), resultData.size() * sizeof(resultData[0]), selfRefDeviceAddr, size * sizeof(resultData[0]), ACL_MEMCPY_DEVICE_TO_HOST); CHECK_RET(ret ACL_SUCCESS, LOG_PRINT(copy result from device to host failed. ERROR: %d\n, ret); return ret); for (int64_t i 0; i size; i) { LOG_PRINT(result[%ld] is: %f\n, i, resultData[i]); } // 6.释放aclTensor和aclScalar需要根据具体API的接口定义修改 aclDestroyTensor(selfRef); aclDestroyScalar(other); // 7.释放device资源需要根据具体API的接口定义修改 aclrtFree(selfRefDeviceAddr); if (workspaceSize 0) { aclrtFree(workspaceAddr); } aclrtDestroyStream(stream); aclrtResetDevice(deviceId); aclFinalize(); return 0; }就地模式的关键差异点第 2 步只创建selfRef张量与other标量不创建独立的输出张量第 5 步直接从selfRefDeviceAddr回拷结果结果已覆写进原输入内存第 6、7 步也无需释放独立的输出张量与输出内存。源码视角从 aclnn 接口到 AICore 计算除了接口文档Muls 算子在仓库中的实现链路完整可查可以帮助理解接口背后发生了什么算子 IR 定义math/muls/op_graph/muls_proto.h通过REG_OP(Muls)声明输入x、输出y与必选浮点属性value支持 1D~8D 输入dtype 覆盖 BF16/F16/F32/INT16/INT32/INT64/COMPLEX32/COMPLEX64输出与输入同 dtype 同 shape算子宿主定义math/muls/op_host/muls_def.cpp注册Muls的 OpDef配置了动态编译、动态 shape、动态 rank 支持以及PrecisionReduceFlag(true)精度优化标志并为 ascend950、ascend350 平台注册 AICore 配置opFile.value指向muls_aptshape 推导math/muls/op_host/muls_infershape.cpp复用Ops::Base::InferShape4Elewise逐元素算子的通用推导逻辑保证输出 shape 与输入一致aclnn 层实现math/muls/op_api/muls.cppMuls与MulsInplace分别通过AllocTensor新建输出或复用输入内存再经ADD_TO_LAUNCHER_LIST_AICORE将输入、输出与属性alpha组装进 AICore 启动列表最终由统一的执行器调度到 NPU 上完成逐元素乘标量计算kernel 与 tilingmath/muls/op_kernel、math/muls/op_host/arch35/muls_tiling_arch35.cpp负责在 AICore 侧的实际计算与多核切分策略arch35对应 Ascend 950/A3 等新一代平台架构。测试与验证仓库为 Muls 算子提供了配套的单元测试与示例可作为接口行为与实现的验证依据aclnn 接口示例math/muls/examples/test_aclnn_muls.cpp、math/muls/examples/test_aclnn_inplace_muls.cppop_api 单元测试math/muls/tests/ut/op_api/test_aclnn_muls.cppinfershape 单元测试math/muls/tests/ut/op_host/test_muls_infershape.cpptiling 单元测试math/muls/tests/ut/op_host/arch35/test_muls_tiling_arch35.cppST 用例数据math/muls/tests/st/arch35/ttk_kernel_muls_st.csv以及测试基准脚本 math/muls/tests/assets/golden.py。总结aclnnMuls与aclnnInplaceMuls是 CANN ops-math 中 Tensor×Scalar 乘法的标准 aclnn 入口普通模式输出独立张量、原输入保持不变适合结果需要复用、输入仍需保留的场景就地模式直接在输入内存覆写结果、省去输出张量的分配与搬运适合内存敏感或输入生命周期即将结束的场景。二者共享同一套两段式调用范式、数据类型推导规则与错误码体系且默认确定性实现。开发时只需对照本文的四个接口原型、参数表与两个可直接运行的示例即可快速在支持的 Ascend/Atlas 产品上完成接入。赞分享算子库人工智能CANN【免费下载链接】ops-math本项目是CANN提供的数学类基础计算算子库实现网络在NPU上加速计算。项目地址https://gitcode.com/cann/ops-math点击查看免费下载相关推荐CANN ops-math 算子调用指南aclnnReciprocal 与 aclnnInplaceReciprocal 两段式接口详解CANN ops math 算子调用指南aclnnReciprocal 与 aclnnInplaceReciprocal 两段式接口详解 本文以 CANN o算子库人工智能CANNCANN ops-math Addcmul 算子全解析两段式 aclnn 接口原理与 NPU 实战调用CANN ops math Addcmul 算子全解析两段式 aclnn 接口原理与 NPU 实战调用 导读 Addcmul 是 CANN ops math算子库人工智能CANNCANN ops-math 算子 API 指南aclnnNeTensor 与 aclnnInplaceNeTensor 两段式接口调用详解CANN ops math 算子 API 指南aclnnNeTensor 与 aclnnInplaceNeTensor 两段式接口调用详解 本指南基于 CAN算子库人工智能CANN上一篇解决CKEditor5 Cloud Services令牌刷新机制失效问题从原理到实战修复下一篇ru-bart-large-openmind词汇表优化原理从250k到25k的精简策略完整指南创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考

读完文章,也想定制专属网站?

尧图设计师 24 小时内与您沟通定制方案

免费获取报价