aclSetTensorShapeRange
【免费下载链接】geGE(Graph Engine)是面向昇腾的图编译器和执行器,提供了计算图优化、多流并行、内存复用和模型下沉等技术手段,加速模型执行效率,减少模型内存占用。 GE 提供对 PyTorch、TensorFlow 前端的友好接入能力,并同时支持 onnx、pb 等主流模型格式的解析与编译。项目地址: https://gitcode.com/cann/ge
产品支持情况
功能说明
调用aclCreateTensorDesc接口创建tensor描述信息后,可通过本接口设置tensor的各个维度的取值范围。
使用场景:动态Shape的算子,其输入Shape中变化维度用-1表示,但每个变化维度的范围是不一样的,需要显式设置,如Shape为[16,-1,20,-1],对应的shape range可以是[[16,16],[1,128],[20,20],[1,10]],表示第一维的Shape范围固定为16,第二维的Shape范围为1到128,第三维的Shape范围固定为20,第四维的Shape范围为1到10。
函数原型
aclError aclSetTensorShapeRange(aclTensorDesc* desc, size_t dimsCount, int64_t dimsRange[][ACL_TENSOR_SHAPE_RANGE_NUM])参数说明
dimsRange为每个维度的取值范围,用二维数组表示范围。 如果Shape中的维度值不是-1时,表示固定维度,该维度对应的shape range中最大值和最小值相同;否则,表示动态维度,数组的两个维度分别表示对应tensor dims中的最小值和最大值。 #define ACL_TENSOR_SHAPE_RANGE_NUM 2 |
返回值说明
返回0表示成功,返回其他值表示失败,请参见aclError。
【免费下载链接】geGE(Graph Engine)是面向昇腾的图编译器和执行器,提供了计算图优化、多流并行、内存复用和模型下沉等技术手段,加速模型执行效率,减少模型内存占用。 GE 提供对 PyTorch、TensorFlow 前端的友好接入能力,并同时支持 onnx、pb 等主流模型格式的解析与编译。项目地址: https://gitcode.com/cann/ge
创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考