MrgSort【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言原生支持C和C标准规范主要由类库和语言扩展层构成提供多层级API满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit产品支持情况Ascend 950PR/Ascend 950DT支持Atlas A3 训练系列产品/Atlas A3 推理系列产品支持Atlas A2 训练系列产品/Atlas A2 推理系列产品支持Atlas 200I/500 A2 推理产品不支持Atlas 推理系列产品AI Core支持Atlas 推理系列产品Vector Core不支持Atlas 训练系列产品不支持功能说明将已经排好序的最多4条队列合并排列成1条队列结果按照score域由大到小排序排布方式如下Ascend 950PR/Ascend 950DT采用方式一。Atlas A3 训练系列产品/Atlas A3 推理系列产品采用方式一。Atlas A2 训练系列产品/Atlas A2 推理系列产品采用方式一。Atlas 推理系列产品AI Core采用方式二。排布方式一MrgSort处理的数据一般是经过Sort处理后的数据也就是Sort接口的输出队列的结构如下所示数据类型为float每个结构占据8Bytes。数据类型为half每个结构也占据8Bytes中间有2Bytes保留。排布方式二Region Proposal排布输入输出数据均为Region Proposal具体请参见Sort中的排布方式二。函数原型template typename T, bool isExhaustedSuspension false __aicore__ inline void MrgSort(const LocalTensorT dst, const MrgSortSrcListT sortList, const uint16_t elementCountList[4], uint32_t sortedNum[4], uint16_t validBit, const int32_t repeatTime)参数说明表1模板参数说明参数名描述T操作数的数据类型。支持的数据类型为half、float。isExhaustedSuspension某条队列耗尽即该队列已经全部排序到目的操作数后是否需要停止合并。类型为bool参数取值如下false直到所有队列耗尽完才停止合并。true某条队列耗尽后停止合并。默认值为false。表2接口参数说明参数名输入/输出描述dst输出目的操作数存储经过排序后的数据。类型为LocalTensor支持的TPosition为VECIN/VECCALC/VECOUT。sortList输入源操作数支持2-4个队列并且每个队列都已经排好序类型为MrgSortSrcList结构体具体请参考下表。MrgSortSrcList中传入要合并的队列定义如下方代码所示。elementCountList输入四个源队列的长度排序方式一8Bytes结构的数目排序方式二16*sizeof(T)Bytes结构的数目类型为长度为4的uint16_t数据类型的数组理论上每个元素取值范围[0, 4095]但不能超出UB的存储空间。sortedNum输出耗尽模式下即isExhaustedSuspension为true时停止合并时每个队列已排序的元素个数。validBit输入有效队列个数取值如下0b11前两条队列有效0b111前三条队列有效0b1111四条队列全部有效repeatTime输入迭代次数每一次源操作数和目的操作数跳过四个队列总长度。取值范围repeatTime∈[1,255]。repeatTime参数生效是有条件的需要同时满足以下四个条件srcLocal包含四条队列并且validBit15。四个源队列的长度一致。四个源队列连续存储。isExhaustedSuspension为false。template typename T struct MrgSortSrcList { LocalTensorT src1; LocalTensorT src2; LocalTensorT src3; // 当要合并的队列个数小于3可以为空tensor LocalTensorT src4; // 当要合并的队列个数小于4可以为空tensor };表3MrgSortSrcList参数说明参数名称输入/输出含义src1输入源操作数第一个已经排好序的队列。类型为LocalTensor支持的TPosition为VECIN/VECCALC/VECOUT。数据类型与目的操作数保持一致。支持的数据类型为half、float。src2输入源操作数第二个已经排好序的队列。类型为LocalTensor支持的TPosition为VECIN/VECCALC/VECOUT。数据类型与目的操作数保持一致。支持的数据类型为half、float。src3输入源操作数第三个已经排好序的队列。类型为LocalTensor支持的TPosition为VECIN/VECCALC/VECOUT。数据类型与目的操作数保持一致。支持的数据类型为half、float。src4输入源操作数第四个已经排好序的队列。类型为LocalTensor支持的TPosition为VECIN/VECCALC/VECOUT。数据类型与目的操作数保持一致。支持的数据类型为half、float。返回值说明无约束说明当存在score[i]与score[j]相同时如果ij则score[j]将首先被选出来排在前面即index的顺序与输入顺序一致。每次迭代内的数据会进行排序不同迭代间的数据不会进行排序。操作数地址对齐要求请参见通用地址对齐约束。调用示例处理128个half类型数据。该样例适用于Ascend 950PR/Ascend 950DTAtlas A2 训练系列产品/Atlas A2 推理系列产品Atlas A3 训练系列产品/Atlas A3 推理系列产品uint32_t elementCount 128; // 元素个数 uint32_t calcBufferSize elementCount * 8; // 每个元素占据8字节 uint32_t tmpBufferSize elementCount * 8; uint32_t sortedLocalSize elementCount * 4; uint32_t sortRepeatTimes elementCount / 32; uint32_t extractRepeatTimes elementCount / 32; uint32_t sortTmpLocalSize elementCount * 4; uint32_t singleMergeTmpElementCount elementCount / 4; uint32_t baseOffset AscendC::GetSortOffsethalf(singleMergeTmpElementCount); // sortList待合并的有序队列列表 AscendC::MrgSortSrcList sortList AscendC::MrgSortSrcList( sortedLocal[0], sortedLocal[baseOffset], sortedLocal[2 * baseOffset], sortedLocal[3 * baseOffset]); uint16_t singleDataSize elementCount / 4; // 队列长度 const uint16_t elementCountList[4] {singleDataSize, singleDataSize, singleDataSize, singleDataSize}; // 4个队列的长度 uint32_t sortedNum[4]; // 合并sortList中的4条队列 AscendC::MrgSorthalf, false(sortTmpLocal, sortList, elementCountList, sortedNum, 0b1111, 1);示例结果 输入数据(srcValueGm): 128个half类型数据 [31 30 29 ... 2 1 0 63 62 61 ... 34 33 32 95 94 93 ... 66 65 64 127 126 125 ... 98 97 96] 输入数据(srcIndexGm): [31 30 29 ... 2 1 0 63 62 61 ... 34 33 32 95 94 93 ... 66 65 64 127 126 125 ... 98 97 96] 输出数据(dstValueGm): [127 126 125 ... 2 1 0] 输出数据(dstIndexGm): [127 126 125 ... 2 1 0]处理64个half类型数据。该样例适用于Atlas 推理系列产品AI Coreuint32_t elementCount 64; // 元素个数 // 单条队列元素个数 uint32_t singleMergeTmpElementCount elementCount / 4; uint32_t baseOffset AscendC::GetSortOffsethalf(singleMergeTmpElementCount); // sortList待合并的有序队列列表 AscendC::MrgSortSrcList sortList AscendC::MrgSortSrcList( sortedLocal[0], sortedLocal[baseOffset], sortedLocal[2 * baseOffset], sortedLocal[3 * baseOffset]); uint16_t singleDataSize elementCount / 4; // 队列长度 const uint16_t elementCountList[4] {singleDataSize, singleDataSize, singleDataSize, singleDataSize}; // 4个队列的长度 uint32_t sortedNum[4]; // 合并sortList中的4条队列 AscendC::MrgSorthalf, false(sortTmpLocal, sortList, elementCountList, sortedNum, 0b1111, 1);示例结果 输入数据(srcValueGm): 64个half类型数据 [15 14 13 ... 2 1 0 31 30 29 ... 18 17 16 47 46 45 ... 34 33 32 63 62 61 ... 50 49 48] 输入数据(srcIndexGm): [15 14 13 ... 2 1 0 31 30 29 ... 18 17 16 47 46 45 ... 34 33 32 63 62 61 ... 50 49 48] 输出数据(dstValueGm): [63 62 61 ... 2 1 0] 输出数据(dstIndexGm): [63 62 61 ... 2 1 0]【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言原生支持C和C标准规范主要由类库和语言扩展层构成提供多层级API满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考