CANN/GE注册回调函数

RegisterCallBackFunc

【免费下载链接】geGE（Graph Engine）是面向昇腾的图编译器和执行器，提供了计算图优化、多流并行、内存复用和模型下沉等技术手段，加速模型执行效率，减少模型内存占用。 GE 提供对 PyTorch、TensorFlow 前端的友好接入能力，并同时支持 onnx、pb 等主流模型格式的解析与编译。项目地址: https://gitcode.com/cann/ge

产品支持情况

头文件/库文件

• 头文件：#include <ge/ge_api_v2.h>
• 库文件：libge_runner_v2.so

功能说明

注册回调函数。

注册用户指定的Summary、Checkpoint回调接口。当用户下发给GE的图中带有Summary、Checkpoint算子时，GE会调用该回调函数。

函数原型

Status RegisterCallBackFunc(const char *key, const RunCallBack &callback)

参数说明

typedef uint32_t session::(*RunCallBack)(uint32_t graph_id, const std::map<AscendString, gert::Tensor> &params_list);

返回值说明

约束说明

• 回调函数类型仅支持Summary、Save。
• 如无注册则下发Summary、Checkpoint算子会报错。
• 目前暂时只支持图执行完后一次性调用回调函数。

【免费下载链接】geGE（Graph Engine）是面向昇腾的图编译器和执行器，提供了计算图优化、多流并行、内存复用和模型下沉等技术手段，加速模型执行效率，减少模型内存占用。 GE 提供对 PyTorch、TensorFlow 前端的友好接入能力，并同时支持 onnx、pb 等主流模型格式的解析与编译。项目地址: https://gitcode.com/cann/ge