CANN/asc-devkit矩阵切K轴API
SetSplitK【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言原生支持C和C标准规范主要由类库和语言扩展层构成提供多层级API满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit功能说明EnableMultiCoreSplitK接口功能与该接口相同建议使用EnableMultiCoreSplitK。多核场景通过该接口开启切K轴。不调用该接口的情况下默认不切K轴。在GetTiling接口调用前使用。函数原型void SetSplitK(bool flag)参数说明表1参数说明参数名输入/输出描述flag输入是否开启切K轴。true开启切K轴false不开启切K轴返回值说明无约束说明如果在算子中使用该接口获取C矩阵结果时仅支持输出到Global Memory。如果在算子中使用该接口需在Kernel侧代码中首次将C矩阵分片的结果写入Global Memory之前先清零Global Memory随后在获取C矩阵分片的结果时再开启AtomicAdd累加。如果不预先清零Global Memory可能会因为累加Global Memory中原始的无效数据而产生精度问题。调用示例auto ascendcPlatform platform_ascendc::PlatformAscendC(context-GetPlatformInfo()) matmul_tiling::MultiCoreMatmulTiling tiling(ascendcPlatform); tiling.SetDim(useCoreNums); tiling.SetAType(matmul_tiling::TPosition::GM, matmul_tiling::CubeFormat::ND, matmul_tiling::DataType::DT_FLOAT16); tiling.SetBType(matmul_tiling::TPosition::GM, matmul_tiling::CubeFormat::ND, matmul_tiling::DataType::DT_FLOAT16); tiling.SetCType(matmul_tiling::TPosition::GM, matmul_tiling::CubeFormat::ND, matmul_tiling::DataType::DT_FLOAT); tiling.SetBiasType(matmul_tiling::TPosition::GM, matmul_tiling::CubeFormat::ND, matmul_tiling::DataType::DT_FLOAT); tiling.SetShape(M, N, K); tiling.SetOrgShape(M, N, K); tiling.SetBias(true); tiling.SetBufferSpace(-1, -1, -1); tiling.SetSplitK(true); optiling::TCubeTiling tilingData; int ret tiling.GetTiling(tilingData);【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言原生支持C和C标准规范主要由类库和语言扩展层构成提供多层级API满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考
