aclmdlGetCurOutputDims
【免费下载链接】geGE(Graph Engine)是面向昇腾的图编译器和执行器,提供了计算图优化、多流并行、内存复用和模型下沉等技术手段,加速模型执行效率,减少模型内存占用。 GE 提供对 PyTorch、TensorFlow 前端的友好接入能力,并同时支持 onnx、pb 等主流模型格式的解析与编译。项目地址: https://gitcode.com/cann/ge
产品支持情况
功能说明
根据模型描述信息获取指定的模型输出tensor的实际维度信息。
函数原型
aclError aclmdlGetCurOutputDims(const aclmdlDesc *modelDesc, size_t index, aclmdlIODims *dims)参数说明
返回值说明
返回0表示成功,返回其他值表示失败,请参见aclError。
约束说明
当前仅支持通过本接口获取以下场景中的模型输出tensor的维度信息:
- 通过模型转换设置多档Batch size或分辨率或维度值,实现动态Batch或动态分辨率或动态维度(ND格式)时,如果用户已调用aclmdlSetDynamicBatchSize设置Batch、或调用aclmdlSetDynamicHWSize接口设置输入图片的宽高、或调用aclmdlSetInputDynamicDims接口设置某动态维度的值,则可通过该接口获取指定模型输出tensor的实际维度信息;如果用户未调用aclmdlSetDynamicBatchSize接口、或aclmdlSetDynamicHWSize接口、或aclmdlSetInputDynamicDims接口,则通过该接口可获取最大档的维度信息。
- 固定Shape场景下,通过该接口获取指定的模型输出tensor的维度信息。
【免费下载链接】geGE(Graph Engine)是面向昇腾的图编译器和执行器,提供了计算图优化、多流并行、内存复用和模型下沉等技术手段,加速模型执行效率,减少模型内存占用。 GE 提供对 PyTorch、TensorFlow 前端的友好接入能力,并同时支持 onnx、pb 等主流模型格式的解析与编译。项目地址: https://gitcode.com/cann/ge
创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考