原型定义接口REG_OP【免费下载链接】geGEGraph Engine是面向昇腾的图编译器和执行器提供了计算图优化、多流并行、内存复用和模型下沉等技术手段加速模型执行效率减少模型内存占用。 GE 提供对 PyTorch、TensorFlow 前端的友好接入能力并同时支持 onnx、pb 等主流模型格式的解析与编译。项目地址: https://gitcode.com/cann/ge产品支持情况产品是否支持Atlas A3 训练系列产品 / Atlas A3 推理系列产品√Atlas A2 训练系列产品 / Atlas A2 推理系列产品√头文件#include graph/operator_reg.h功能说明定义算子的原型包括算子的输入、输出、属性以及对应的数据类型。进行如上算子原型定义后即相当于向GE注册了该算子的原型告知GE对应类型的算子应该具备哪些输入、输出与属性同时相当于定义了一个op::xxx的Class开发者可以include该原型头文件然后实例化该Class进行IR模型构建如下所示conv op::Conv2D() conv.set_input_x(feature_map_data) conv.set_input_filter(weight_data)具体的模型构建可以参考《图模式开发指南》。函数原型函数原型定义示例如下REG_OP(xxx) .INPUT(x1, type) .OPTIONAL_INPUT(x2, type) .DYNAMIC_INPUT(x3, type) .OUTPUT(y1, type) .DYNAMIC_OUTPUT(y3, type) .REQUIRED_ATTR(a, type) .ATTR(b, type, default_value) .GRAPH(z1) .DYNAMIC_GRAPH(z2) .OP_END_FACTORY_REG(xxx)接口说明接口名称接口说明衍生接口可用于IR模型构建REG_OP(xxx)定义一个算子原型算子类型为xxx。REG_OP.INPUT(x, type)定义输入名称x和类型(type)。类型为TensorType类型例如TensorType{DT_FLOAT}TensorType({DT_FLOAT, DT_INT8})TensorType::ALL()INPUT.OPTIONAL_INPUT(x, type)定义可选输入的名称x和类型type。类型为TensorType类型例如TensorType{DT_FLOAT}TensorType({DT_FLOAT, DT_INT8})TensorType::ALL()OPTIONAL_INPUT.DYNAMIC_INPUT(x, type)定义动态输入的名称x和类型type。类型为TensorType类型例如TensorType{DT_FLOAT}TensorType({DT_FLOAT, DT_INT8})TensorType::ALL()DYNAMIC_INPUT.OUTPUT(x, type)定义输出的名称x和类型type。类型为TensorType类型例如TensorType{DT_FLOAT}TensorType({DT_FLOAT, DT_INT8})TensorType::ALL()OUTPUT.DYNAMIC_OUTPUT(x, type)定义动态输出的名称x和类型type。类型为TensorType类型例如TensorType{DT_FLOAT}TensorType({DT_FLOAT, DT_INT8})TensorType::ALL()DYNAMIC_OUTPUT.REQUIRED_ATTR(x, type)定义必备属性的名称x和类型type。type的可选值包括Int属性类型为int64_tFloat属性类型为floatString属性类型为stringBool属性类型为boolTensor属性类型为TensorType属性为Type枚举定义NamedAttrs属性类型为NamedAttrsAscendString属性类型为AscendStringListInt属性类型为vectorint64_tint64_t列表ListFloat属性类型为vectorfloatfloat列表ListString属性类型为vectorstringstring列表ListBool属性类型为vectorboolbool列表ListTensor属性类型为vectorTensorTensor列表Bytes属性类型为BufferListType属性类型为vectorTypeType列表ListListInt属性类型为vectorvectorint64_t2维列表ListAscendString属性类型为vectorAscendStringAscendString列表ListNamedAttrs属性类型为vectorNamedAttrsNamedAttrs列表REQUIRED_ATTR.ATTR(x, type, default_value)定义可选属性的名称、类型以及默认值。当用户不设置算子对象的属性时会使用此处设置的默认值。type的可选值包括Int属性类型为int64_tFloat属性类型为floatString属性类型为stringBool属性类型为boolTensor属性类型为TensorType属性为Type枚举定义NamedAttrs属性类型为NamedAttrsAscendString属性类型为AscendStringListInt属性类型为vectorint64_tint64_t列表ListFloat属性类型为vectorfloatfloat列表ListString属性类型为vectorstringstring列表ListBool属性类型为vectorboolbool列表ListTensor属性类型为vectorTensorTensor列表Bytes属性类型为BufferListType属性类型为vectorTypeType列表ListListInt属性类型为vectorvectorint64_t2维列表ListAscendString属性类型为vectorAscendStringAscendString列表ListNamedAttrs属性类型为vectorNamedAttrsNamedAttrs列表定义示例.ATTR(mode, Int, 1).ATTR(pad, ListInt, {0, 0, 0, 0})ATTR.GRAPH(z1)注册算子中包含的子图信息输入z1为子图名称。例如If算子注册的子图为.GRAPH(then_branch) .GRAPH(else_branch)对于同一个算子注册的算子子图名称需要保持唯一。GRAPH.DYNAMIC_GRAPH(z2)注册动态算子子图信息输入z2为子图名称。例如Case算子注册的子图为.DYNAMIC_GRAPH(branches)对于同一个算子注册的算子子图名称需要保持唯一。DYNAMIC_GRAPH.INFER_SHAPE_AND_TYPE()该接口为历史遗留兼容性接口当前版本用户无需使用。-.OP_END_FACTORY_REG(x)与REG_OP配对结束算子原型定义。算子类型x与REG_OP(x)中的类型相同。-[!NOTE]说明 OpReg类中的OpReg N()接口的功能是为了用户进行算子注册的时候使用.**的方式调用OpReg类的接口例如.INPUT(x, type)、.OUTPUT(x, type)无其他含义。返回值说明无约束说明REG_OP的算子类型必须全局唯一。同一个算子的输入名称之间不能重复。同一个算子的输出名称之间不能重复。同一个算子的属性名称之间不能重复。调用示例和相关API动态输入的算子原型定义示例REG_OP(AddN) .DYNAMIC_INPUT(x, TensorType({NumberType(), DT_VARIANT})) .OUTPUT(y, TensorType({NumberType(), DT_VARIANT})) .REQUIRED_ATTR(N, Int) .OP_END_FACTORY_REG(AddN)多输入的算子原型定义示例REG_OP(GreaterEqual) .INPUT(x1, TensorType::RealNumberType()) .INPUT(x2, TensorType::RealNumberType()) .OUTPUT(y, TensorType({DT_BOOL})) .OP_END_FACTORY_REG(GreaterEqual)注册子图的算子原型定义示例REG_OP(If) .INPUT(cond, TensorType::ALL()) .DYNAMIC_INPUT(input, TensorType::ALL()) .DYNAMIC_OUTPUT(output, TensorType::ALL()) .GRAPH(then_branch) .GRAPH(else_branch) .OP_END_FACTORY_REG(If)【免费下载链接】geGEGraph Engine是面向昇腾的图编译器和执行器提供了计算图优化、多流并行、内存复用和模型下沉等技术手段加速模型执行效率减少模型内存占用。 GE 提供对 PyTorch、TensorFlow 前端的友好接入能力并同时支持 onnx、pb 等主流模型格式的解析与编译。项目地址: https://gitcode.com/cann/ge创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考