CANN/Ascend C SIMT精度转换
__ll2half_rz【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言原生支持C和C标准规范主要由类库和语言扩展层构成提供多层级API满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit产品支持情况Ascend 950PR/Ascend 950DT支持Atlas A3 训练系列产品/Atlas A3 推理系列产品不支持Atlas A2 训练系列产品/Atlas A2 推理系列产品不支持Atlas 200I/500 A2 推理产品不支持Atlas 推理系列产品AI Core不支持Atlas 推理系列产品Vector Core不支持Atlas 训练系列产品不支持功能说明遵循CAST_TRUNC模式将int64类型数据转换为half类型数据返回转换后的值。函数原型inline half __ll2half_rz(const long long int x)参数说明表1参数说明参数名输入/输出描述x输入源操作数。返回值说明输入遵循CAST_TRUNC模式转换成的half类型数据。本接口受全局饱和寄存器影响特殊值如下x值非饱和模式返回值饱和模式返回值000204920482048-2049-2048-2048ASCRT_MAX_NORMAL_FP16ASCRT_MAX_NORMAL_FP16ASCRT_MAX_NORMAL_FP1665505ASCRT_MAX_NORMAL_FP16ASCRT_MAX_NORMAL_FP16-65504-ASCRT_MAX_NORMAL_FP16-ASCRT_MAX_NORMAL_FP16-ASCRT_MAX_NORMAL_FP16-ASCRT_MAX_NORMAL_FP16-ASCRT_MAX_NORMAL_FP169223372036854775807long long最大值infASCRT_MAX_NORMAL_FP16-9223372036854775808long long最小值-inf-ASCRT_MAX_NORMAL_FP16约束说明无需要包含的头文件使用该接口需要包含simt_api/asc_fp16.h头文件。#include simt_api/asc_fp16.h调用示例SIMT编程场景__global__ __launch_bounds__(1024) void kernel__ll2half_rz(half* dst, int64_t* x) { int idx threadIdx.x blockIdx.x * blockDim.x; dst[idx] __ll2half_rz(x[idx]); }SIMD与SIMT混合编程场景__simt_vf__ __launch_bounds__(1024) inline void kernel__ll2half_rz(__gm__ half* dst, __gm__ int64_t* x) { int idx threadIdx.x blockIdx.x * blockDim.x; dst[idx] __ll2half_rz(x[idx]); }【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言原生支持C和C标准规范主要由类库和语言扩展层构成提供多层级API满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考
