 详解与源码级实现剖析)
CANN opbase 算子开发指南aclTensor::Numel() 详解与源码级实现剖析【免费下载链接】opbase本项目是CANN算子库的基础框架库为算子提供公共依赖文件和基础调度能力。项目地址: https://gitcode.com/cann/opbase导读Numel()是 CANN opbase 框架中aclTensor类提供的一个轻量级查询接口用于获取张量的总元素个数number of elements。本文以 docs/zh/api/nnopbase/opdev/common_types/Numel.md 为主体结合仓库中aclTensor的声明、实现与单元测试深入讲解该接口的函数原型、底层实现原理View Shape 与 Storage Shape 的区分、与Size()的差异以及它在算子执行链路中的真实应用场景帮助算子开发者正确、高效地使用这一接口。功能说明Numel()用于获取一个aclTensor的总元素个数即张量在所有维度上的元素数量之积。例如一个形状为[2, 3, 4]的张量其Numel()返回24。该接口是aclTensor的只读查询方法不修改张量内部状态因此可以放心地在算子开发、参数校验、内存估算等场景中频繁调用。与之同属 common_types 系列查询接口的还有 GetViewShape、GetStorageShape、GetDataType、IsEmpty 等完整接口列表可参见 common_types 索引。函数原型int64_t Numel()在仓库中aclTensor类声明于 include/nnopbase/opdev/common_types.h其成员函数为const方法/** * Get the number of elements in this tensor */ int64_t Numel() const;注意头文件中的声明带有const限定符意味着该接口可以在const aclTensor*指针上调用不会修改张量对象本身中文 API 文档中的原型省略了const两者指向的是同一个接口。参数说明无参数。返回值说明返回int64_t类型的值即该aclTensor的总元素个数。使用 64 位有符号整数作为返回类型可以覆盖超大张量如维度乘积超过 32 位整数上限的情况这是算子开发中需要特别留意的一点——不要用int32_t接收返回值以免大张量场景下发生截断溢出。约束说明无特殊约束。该接口不要求张量数据已初始化、不检查内存有效性仅基于张量的形状信息进行计算因此对空张量Shape({0})和标量张量Shape({})同样安全可调用标量张量0 维的Numel()为1含 0 维度的张量如Shape({0})的Numel()为0。这一点在仓库的测试用例中得到了直接验证详见下文「测试验证」一节。实现原理Numel 统计的是 View Shape 的元素个数Numel()的真正语义需要深入到实现层面才能完整理解。在 src/nnopbase/common/utils/common_types.cpp 中Numel()与Size()的实现相邻且极易混淆int64_t aclTensor::Size() const { return GetStorageShape().GetShapeSize(); } int64_t aclTensor::Numel() const { return GetViewShape().GetShapeSize(); }由此可以提炼出本接口的核心实现事实Numel()返回GetViewShape().GetShapeSize()即基于View Shape视图形状计算元素个数而Size()返回GetStorageShape().GetShapeSize()即基于Storage Shape存储形状计算元素个数。GetViewShape()的实现同样位于 src/nnopbase/common/utils/common_types.cpp它直接返回aclTensor内部维护的viewShape_成员声明于 include/nnopbase/opdev/common_types.hconst op::Shape aclTensor::GetViewShape() const { return viewShape_; }因此从源码结构看Numel()的计算完全发生在 Host 侧只读取张量的视图形状元数据不涉及设备内存访问也不触发任何同步或数据传输。View Shape 与 Storage Shape 的区别理解Numel()的关键在于理解 CANN opbase 中aclTensor对「视图」与「存储」的双层形状建模View Shape视图形状用户或算子逻辑视角下张量的逻辑形状决定了一次按元素逻辑遍历时张量看起来是什么维度。Numel()基于它计算反映的是逻辑上的元素总数。Storage Shape存储形状张量数据在内存中实际排布的形状与 Format如FORMAT_FRACTAL_NZ等分形格式密切相关同一逻辑形状在不同存储格式下可能对应不同的存储形状。一个典型的差异场景形状为[16, 16]、存储格式为FORMAT_FRACTAL_NZ的张量其 View Shape 为[16, 16]Numel() 256而 Storage Shape 可能被改写为[16 * 16]之类的扁平形状。测试用例CreateViewTensor与CreateViewTensor2见下文中也出现了Shape({16, 16})与Shape({16 * 16})、Shape({4913})等 View 与 Storage 形状不一致的组合。若你需要的是存储层的数据元素个数用于计算内存字节数等应使用Size()或GetStorageShape()若需要的是逻辑层元素个数用于按元素循环、计算逻辑元素数等则应使用Numel()。二者极易混淆是算子开发中的常见坑点。调用示例中文文档给出的基础示例如下// 获取input的总元素个数 void Func(const aclTensor *input) { int64_t num input-Numel(); }结合上文原理可以给出一个更完整、更贴近真实算子开发场景的示例同时演示Numel()与Size()的差异// 打印张量的逻辑元素个数并与存储元素个数对比 void PrintTensorElementCount(const aclTensor *input) { // 逻辑视角View Shape 对应的元素个数 int64_t num input-Numel(); // 存储视角Storage Shape 对应的元素个数 int64_t storageNum input-Size(); std::cout view shape element count (Numel): num std::endl; std::cout storage shape element count (Size): storageNum std::endl; }实际开发中Numel()常与GetViewShape()、GetDataType()配合使用例如先获取逻辑元素个数再结合数据类型字节大小估算逻辑数据量。实际应用算子执行链路中的真实调用Numel()并非只在示例代码中存在它在仓库的算子执行链路中承担着实实在在的工作。在 src/nnopbase/individual_op/executor/indv_executor_tensor.cpp 中执行器将输入的aclTensor转换为运行时张量时会使用Numel()与GetDataType()计算张量的字节大小并写入目标张量rt2Tensor-SetSize(op::CalcShapeBytes(in_tensor-Numel(), in_tensor-GetDataType()));这里的op::CalcShapeBytes基于元素个数与数据类型大小计算总字节数。这一调用充分说明了Numel()在算子执行/参数适配链路中的典型用途以逻辑元素个数为基准为运行时张量计算 size 元数据。此外在 src/nnopbase/common/utils/common_types.cpp 中可以看到aclTensor构造时会用storageShape.GetShapeSize()乘以op::TypeSize(dataType)来分配内部缓冲区说明存储层内存分配依赖的是 Storage Shape而逻辑层元素统计依赖的是Numel()所对应的 View Shape——两者分工明确各司其职。测试验证仓库为Numel()提供了单元测试与系统测试双重验证均直接断言Numel()与 View Shape 的元素个数一致tests/nnopbase/ut/composite_op/test_common_types.cpptests/nnopbase/st/composite_op/test_common_types.cpp测试宏的核心断言为EXPECT_EQ(tensorName.Numel(), viewShape.GetShapeSize());在CreateViewTensor用例中测试覆盖了三种典型形态见 tests/nnopbase/st/composite_op/test_common_types.cppCHECK_VIEW_TENSOR(a, Shape({0}), DataType::DT_FLOAT, Format::FORMAT_ND, Shape({0}), 0, nullptr); CHECK_VIEW_TENSOR(b, Shape({}), DataType::DT_FLOAT, Format::FORMAT_ND, Shape({}), 0, nullptr); CHECK_VIEW_TENSOR(c, Shape({16, 16}), DataType::DT_FLOAT, Format::FORMAT_FRACTAL_NZ, Shape({12, 12}), 3, nullptr);用例a空张量Shape({0})Numel()返回 0用例b标量张量Shape({})Numel()返回 1用例c通过aclOpExecutor::CreateView创建的视图张量View Shape 为Shape({12, 12})Numel()返回 144同时其存储形状仍为Shape({16, 16})直观印证了「Numel 基于 View Shape 计算」的实现事实。总结要点说明函数原型int64_t Numel() const文档中写作int64_t Numel()功能返回aclTensor在 View Shape 下的总元素个数底层实现GetViewShape().GetShapeSize()见 common_types.cpp与Size()的区别Size()基于 Storage ShapeNumel()基于 View Shape适用场景逻辑元素统计、结合CalcShapeBytes估算数据量、算子参数校验特殊形态标量返回 1含 0 维度的张量返回 0对算子开发者而言Numel()是获取张量逻辑元素个数最直接、最轻量的方式只要牢记它与Size()在 View/Storage 语义上的差异就能在参数校验、元素遍历、字节估算等各类场景中放心使用。【免费下载链接】opbase本项目是CANN算子库的基础框架库为算子提供公共依赖文件和基础调度能力。项目地址: https://gitcode.com/cann/opbase创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考
CANN opbase 算子开发指南：aclTensor::Numel() 详解与源码级实现剖析
CANN opbase 算子开发指南aclTensor::Numel() 详解与源码级实现剖析【免费下载链接】opbase本项目是CANN算子库的基础框架库为算子提供公共依赖文件和基础调度能力。项目地址: https://gitcode.com/cann/opbase导读Numel()是 CANN opbase 框架中aclTensor类提供的一个轻量级查询接口用于获取张量的总元素个数number of elements。本文以 docs/zh/api/nnopbase/opdev/common_types/Numel.md 为主体结合仓库中aclTensor的声明、实现与单元测试深入讲解该接口的函数原型、底层实现原理View Shape 与 Storage Shape 的区分、与Size()的差异以及它在算子执行链路中的真实应用场景帮助算子开发者正确、高效地使用这一接口。功能说明Numel()用于获取一个aclTensor的总元素个数即张量在所有维度上的元素数量之积。例如一个形状为[2, 3, 4]的张量其Numel()返回24。该接口是aclTensor的只读查询方法不修改张量内部状态因此可以放心地在算子开发、参数校验、内存估算等场景中频繁调用。与之同属 common_types 系列查询接口的还有 GetViewShape、GetStorageShape、GetDataType、IsEmpty 等完整接口列表可参见 common_types 索引。函数原型int64_t Numel()在仓库中aclTensor类声明于 include/nnopbase/opdev/common_types.h其成员函数为const方法/** * Get the number of elements in this tensor */ int64_t Numel() const;注意头文件中的声明带有const限定符意味着该接口可以在const aclTensor*指针上调用不会修改张量对象本身中文 API 文档中的原型省略了const两者指向的是同一个接口。参数说明无参数。返回值说明返回int64_t类型的值即该aclTensor的总元素个数。使用 64 位有符号整数作为返回类型可以覆盖超大张量如维度乘积超过 32 位整数上限的情况这是算子开发中需要特别留意的一点——不要用int32_t接收返回值以免大张量场景下发生截断溢出。约束说明无特殊约束。该接口不要求张量数据已初始化、不检查内存有效性仅基于张量的形状信息进行计算因此对空张量Shape({0})和标量张量Shape({})同样安全可调用标量张量0 维的Numel()为1含 0 维度的张量如Shape({0})的Numel()为0。这一点在仓库的测试用例中得到了直接验证详见下文「测试验证」一节。实现原理Numel 统计的是 View Shape 的元素个数Numel()的真正语义需要深入到实现层面才能完整理解。在 src/nnopbase/common/utils/common_types.cpp 中Numel()与Size()的实现相邻且极易混淆int64_t aclTensor::Size() const { return GetStorageShape().GetShapeSize(); } int64_t aclTensor::Numel() const { return GetViewShape().GetShapeSize(); }由此可以提炼出本接口的核心实现事实Numel()返回GetViewShape().GetShapeSize()即基于View Shape视图形状计算元素个数而Size()返回GetStorageShape().GetShapeSize()即基于Storage Shape存储形状计算元素个数。GetViewShape()的实现同样位于 src/nnopbase/common/utils/common_types.cpp它直接返回aclTensor内部维护的viewShape_成员声明于 include/nnopbase/opdev/common_types.hconst op::Shape aclTensor::GetViewShape() const { return viewShape_; }因此从源码结构看Numel()的计算完全发生在 Host 侧只读取张量的视图形状元数据不涉及设备内存访问也不触发任何同步或数据传输。View Shape 与 Storage Shape 的区别理解Numel()的关键在于理解 CANN opbase 中aclTensor对「视图」与「存储」的双层形状建模View Shape视图形状用户或算子逻辑视角下张量的逻辑形状决定了一次按元素逻辑遍历时张量看起来是什么维度。Numel()基于它计算反映的是逻辑上的元素总数。Storage Shape存储形状张量数据在内存中实际排布的形状与 Format如FORMAT_FRACTAL_NZ等分形格式密切相关同一逻辑形状在不同存储格式下可能对应不同的存储形状。一个典型的差异场景形状为[16, 16]、存储格式为FORMAT_FRACTAL_NZ的张量其 View Shape 为[16, 16]Numel() 256而 Storage Shape 可能被改写为[16 * 16]之类的扁平形状。测试用例CreateViewTensor与CreateViewTensor2见下文中也出现了Shape({16, 16})与Shape({16 * 16})、Shape({4913})等 View 与 Storage 形状不一致的组合。若你需要的是存储层的数据元素个数用于计算内存字节数等应使用Size()或GetStorageShape()若需要的是逻辑层元素个数用于按元素循环、计算逻辑元素数等则应使用Numel()。二者极易混淆是算子开发中的常见坑点。调用示例中文文档给出的基础示例如下// 获取input的总元素个数 void Func(const aclTensor *input) { int64_t num input-Numel(); }结合上文原理可以给出一个更完整、更贴近真实算子开发场景的示例同时演示Numel()与Size()的差异// 打印张量的逻辑元素个数并与存储元素个数对比 void PrintTensorElementCount(const aclTensor *input) { // 逻辑视角View Shape 对应的元素个数 int64_t num input-Numel(); // 存储视角Storage Shape 对应的元素个数 int64_t storageNum input-Size(); std::cout view shape element count (Numel): num std::endl; std::cout storage shape element count (Size): storageNum std::endl; }实际开发中Numel()常与GetViewShape()、GetDataType()配合使用例如先获取逻辑元素个数再结合数据类型字节大小估算逻辑数据量。实际应用算子执行链路中的真实调用Numel()并非只在示例代码中存在它在仓库的算子执行链路中承担着实实在在的工作。在 src/nnopbase/individual_op/executor/indv_executor_tensor.cpp 中执行器将输入的aclTensor转换为运行时张量时会使用Numel()与GetDataType()计算张量的字节大小并写入目标张量rt2Tensor-SetSize(op::CalcShapeBytes(in_tensor-Numel(), in_tensor-GetDataType()));这里的op::CalcShapeBytes基于元素个数与数据类型大小计算总字节数。这一调用充分说明了Numel()在算子执行/参数适配链路中的典型用途以逻辑元素个数为基准为运行时张量计算 size 元数据。此外在 src/nnopbase/common/utils/common_types.cpp 中可以看到aclTensor构造时会用storageShape.GetShapeSize()乘以op::TypeSize(dataType)来分配内部缓冲区说明存储层内存分配依赖的是 Storage Shape而逻辑层元素统计依赖的是Numel()所对应的 View Shape——两者分工明确各司其职。测试验证仓库为Numel()提供了单元测试与系统测试双重验证均直接断言Numel()与 View Shape 的元素个数一致tests/nnopbase/ut/composite_op/test_common_types.cpptests/nnopbase/st/composite_op/test_common_types.cpp测试宏的核心断言为EXPECT_EQ(tensorName.Numel(), viewShape.GetShapeSize());在CreateViewTensor用例中测试覆盖了三种典型形态见 tests/nnopbase/st/composite_op/test_common_types.cppCHECK_VIEW_TENSOR(a, Shape({0}), DataType::DT_FLOAT, Format::FORMAT_ND, Shape({0}), 0, nullptr); CHECK_VIEW_TENSOR(b, Shape({}), DataType::DT_FLOAT, Format::FORMAT_ND, Shape({}), 0, nullptr); CHECK_VIEW_TENSOR(c, Shape({16, 16}), DataType::DT_FLOAT, Format::FORMAT_FRACTAL_NZ, Shape({12, 12}), 3, nullptr);用例a空张量Shape({0})Numel()返回 0用例b标量张量Shape({})Numel()返回 1用例c通过aclOpExecutor::CreateView创建的视图张量View Shape 为Shape({12, 12})Numel()返回 144同时其存储形状仍为Shape({16, 16})直观印证了「Numel 基于 View Shape 计算」的实现事实。总结要点说明函数原型int64_t Numel() const文档中写作int64_t Numel()功能返回aclTensor在 View Shape 下的总元素个数底层实现GetViewShape().GetShapeSize()见 common_types.cpp与Size()的区别Size()基于 Storage ShapeNumel()基于 View Shape适用场景逻辑元素统计、结合CalcShapeBytes估算数据量、算子参数校验特殊形态标量返回 1含 0 维度的张量返回 0对算子开发者而言Numel()是获取张量逻辑元素个数最直接、最轻量的方式只要牢记它与Size()在 View/Storage 语义上的差异就能在参数校验、元素遍历、字节估算等各类场景中放心使用。【免费下载链接】opbase本项目是CANN算子库的基础框架库为算子提供公共依赖文件和基础调度能力。项目地址: https://gitcode.com/cann/opbase创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考
