CANN/ge ACL算子形状推断API

aclopInferShape

【免费下载链接】geGE（Graph Engine）是面向昇腾的图编译器和执行器，提供了计算图优化、多流并行、内存复用和模型下沉等技术手段，加速模型执行效率，减少模型内存占用。 GE 提供对 PyTorch、TensorFlow 前端的友好接入能力，并同时支持 onnx、pb 等主流模型格式的解析与编译。项目地址: https://gitcode.com/cann/ge

产品支持情况

• Ascend 950PR/Ascend 950DT：不支持

• Atlas A3 训练系列产品/Atlas A3 推理系列产品：支持

• Atlas A2 训练系列产品/Atlas A2 推理系列产品：支持

• Atlas 200I/500 A2 推理产品：支持

• Atlas 推理系列产品：支持

• Atlas 训练系列产品：支持

• IPV350：不支持

功能说明

根据算子的输入Shape、输入值推导出算子的输出Shape。

推导算子的输出Shape包含三种场景：

• 根据Shape推导，可以得到算子的准确输出Shape，则返回准确输出Shape；
• 根据Shape推导，无法得到算子的准确输出Shape，但可以得到输出Shape的范围，则在输出参数outputDesc中将算子输出tensor描述中的动态维度的维度值记为-1。该场景下，用户可调用aclGetTensorDescDimRange接口获取tensor描述中指定维度的范围值。
• （该场景预留）根据Shape推导，无法得到算子的准确输出Shape以及Shape范围，则在输出参数outputDesc中将算子输出tensor描述中的动态维度的维度值记为-2。

函数原型

aclError aclopInferShape(const char *opType, int numInputs, aclTensorDesc *inputDesc[], aclDataBuffer *inputs[], int numOutputs, aclTensorDesc *outputDesc[], aclopAttr *attr)

参数说明

返回值说明

返回0表示成功，返回其他值表示失败，请参见aclError。

约束说明

Ascend EP形态下，inputs参数处算子输入tensor数据的内存需申请Host上的内存。

Ascend RC形态下，inputs参数处算子输入tensor数据的内存需申请Device上的内存。

Control CPU开放形态下，inputs参数处算子输入tensor数据的内存需申请Device上的内存。

如果算子有动态输入DYNAMIC_INPUT或动态输出DYNAMIC_OUTPUT，在调用aclopInferShape接口推导算子的输出Shape前，需先调用aclSetTensorDescName接口设置所有输入和输出的tensor描述的名称，且名称必须按照如下要求：

• 对于必选输入、可选输入、必选输出，名称必须与算子IR原型中定义的输入/输出名称保持一致。
• 对于动态输入、动态输出，名称必须是：算子IR原型中定义的输入/输出名称+编号。编号根据动态输入/输出的个数确定，从0开始，0对应第一个动态输入/输出，1对应第二个动态输入/输出，以此类推。

例如某个算子有2个输入（第1个是必选输入x，第二个是动态输入y且输入个数为2）、1个必选输出z，则调用aclSetTensorDescName接口设置名称的代码示例如下：

aclSetTensorDescName(inputTensorDesc[0], "x"); aclSetTensorDescName(inputTensorDesc[1], "y0"); aclSetTensorDescName(inputTensorDesc[2], "y1"); aclSetTensorDescName(outputTensorDesc[0], "z");

【免费下载链接】geGE（Graph Engine）是面向昇腾的图编译器和执行器，提供了计算图优化、多流并行、内存复用和模型下沉等技术手段，加速模型执行效率，减少模型内存占用。 GE 提供对 PyTorch、TensorFlow 前端的友好接入能力，并同时支持 onnx、pb 等主流模型格式的解析与编译。项目地址: https://gitcode.com/cann/ge