--om
【免费下载链接】geGE(Graph Engine)是面向昇腾的图编译器和执行器,提供了计算图优化、多流并行、内存复用和模型下沉等技术手段,加速模型执行效率,减少模型内存占用。 GE 提供对 PyTorch、TensorFlow 前端的友好接入能力,并同时支持 onnx、pb 等主流模型格式的解析与编译。项目地址: https://gitcode.com/cann/ge
产品支持情况
全量芯片支持
功能说明
离线模型(.om)、原始模型文件(例如Caffe框架的.prototxt,TensorFlow框架的.pb等)、GE dump图结构文件(.txt)的路径和文件名。
关联参数
若--mode取值为1:
离线模型转换为JSON文件
--om需要与--mode=1、--json参数配合使用。
原始模型文件转换为JSON文件
--om需要与--mode=1、--json、--framework参数配合使用。
若--mode取值为5:
GE dump图结构文件转JSON文件,--om需要与--mode=5、--json参数配合使用。
若--mode取值为6:
针对已有的离线模型,显示模型信息等信息,则--om只需要与--mode参数配合使用。
参数取值
参数值:离线模型(.om)、原始模型文件(例如Caffe框架的.prototxt,TensorFlow框架的.pb)或GE dump图结构文件(.txt)的路径。
参数值格式:路径和文件名:支持大小写字母(a-z,A-Z)、数字(0-9)、下划线(_)、短横线(-)、句点(.)、中文汉字。
推荐配置及收益
无。
示例
若--mode取值为1
离线模型转换为JSON文件
atc --mode=1 --om=$HOME/module/out/tf_resnet50.om --json=$HOME/module/out/tf_resnet50.json ...原始模型文件转换为JSON文件
atc --mode=1 --om=$HOME/module/resnet50_tensorflow.pb --json=$HOME/module/out/tf_resnet50.json --framework=3 ...
若--mode取值为5
atc --mode=5 --om=$HOME/module/ge_proto_00000000_PreRunBegin.txt --json=$HOME/module/out/ge_proto.json ...若--mode取值为6
atc --mode=6 --om=$HOME/module/out/tf_resnet50.om ...
依赖约束
无。
【免费下载链接】geGE(Graph Engine)是面向昇腾的图编译器和执行器,提供了计算图优化、多流并行、内存复用和模型下沉等技术手段,加速模型执行效率,减少模型内存占用。 GE 提供对 PyTorch、TensorFlow 前端的友好接入能力,并同时支持 onnx、pb 等主流模型格式的解析与编译。项目地址: https://gitcode.com/cann/ge
创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考