news 2026/6/20 17:04:58

CANN/GE内存模型初始化API

作者头像

张小明

前端开发工程师

1.2k 24
文章封面图
CANN/GE内存模型初始化API

aclmdlBundleInitFromMem

【免费下载链接】geGE(Graph Engine)是面向昇腾的图编译器和执行器,提供了计算图优化、多流并行、内存复用和模型下沉等技术手段,加速模型执行效率,减少模型内存占用。 GE 提供对 PyTorch、TensorFlow 前端的友好接入能力,并同时支持 onnx、pb 等主流模型格式的解析与编译。项目地址: https://gitcode.com/cann/ge

产品支持情况

产品

是否支持

Atlas A3 训练系列产品 / Atlas A3 推理系列产品

Atlas A2 训练系列产品 / Atlas A2 推理系列产品

功能说明

在模型执行阶段,如果涉及动态更新变量的场景,可以调用本接口从内存中初始化模型。

函数原型

aclError aclmdlBundleInitFromMem(const void* model, size_t modelSize, void *varWeightPtr, size_t varWeightSize, uint32_t *bundleId)

参数说明

参数名

输入/输出

说明

model

输入

存放模型数据的内存地址指针,由用户自行管理,加载aclmdlBundleLoadModel过程中不能释放该内存。

此处的模型文件是基于构图接口构建出来的,调用aclgrphBundleBuildModel接口编译模型、调用aclgrphBundleSaveModel接口保存模型,再由用户自行将保存出来的om模型文件读入内存,构图接口详细描述参见《图模式开发指南》。

应用运行在Host时,此处需申请Host上的内存;应用运行在Device时,此处需申请Device上的内存。内存申请接口请参见内存管理。

modelSize

输入

内存中的模型数据长度,单位Byte。

varWeightPtr

输入

模型所需的可刷新权重内存的地址指针,由用户自行管理,模型执行过程中不能释放该内存。

如果在此处传入空指针,表示由系统管理内存。

varWeightSize

输入

模型所需的可刷新权重内存的大小,单位Byte。workPtr为空指针时无效。

bundleId

输出

系统成功初始化捆绑模型后,返回bundleId作为后续操作时识别模型的标志。

返回值说明

返回0表示成功,返回其他值表示失败,请参见aclError。

【免费下载链接】geGE(Graph Engine)是面向昇腾的图编译器和执行器,提供了计算图优化、多流并行、内存复用和模型下沉等技术手段,加速模型执行效率,减少模型内存占用。 GE 提供对 PyTorch、TensorFlow 前端的友好接入能力,并同时支持 onnx、pb 等主流模型格式的解析与编译。项目地址: https://gitcode.com/cann/ge

创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考

版权声明: 本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若内容造成侵权/违法违规/事实不符,请联系邮箱:809451989@qq.com进行投诉反馈,一经查实,立即删除!
网站建设 2026/6/20 17:02:00

终极指南:如何无损解密QQ音乐加密音频的完整技术方案

终极指南:如何无损解密QQ音乐加密音频的完整技术方案 【免费下载链接】qmcdump 一个简单的QQ音乐解码(qmcflac/qmc0/qmc3 转 flac/mp3),仅为个人学习参考用。 项目地址: https://gitcode.com/gh_mirrors/qm/qmcdump qmcdum…

作者头像 李华
网站建设 2026/6/20 16:58:47

Gemma-3-12B-IT WebUI安全加固:HTTPS、IP白名单与频率限制实战

1. 项目概述:为什么你的Gemma-3-12B-IT WebUI需要安全加固?最近在折腾Gemma-3-12B-IT的WebUI部署,相信不少朋友跟我一样,在本地或者云服务器上跑通模型、看到那个简洁的交互界面能正常对话时,心里都挺有成就感。但兴奋…

作者头像 李华
网站建设 2026/6/20 16:48:19

Scoops源码解析:深入理解Android主题引擎的实现原理与动态换肤机制

Scoops源码解析:深入理解Android主题引擎的实现原理与动态换肤机制 【免费下载链接】Scoops 项目地址: https://gitcode.com/gh_mirrors/sc/Scoops 你是否曾为Android应用的主题切换功能感到头疼?想要实现像Material Design那样流畅的动态换肤效…

作者头像 李华
网站建设 2026/6/20 16:37:26

QtScrcpy终极指南:如何免费实现Android设备高清无线投屏与控制

QtScrcpy终极指南:如何免费实现Android设备高清无线投屏与控制 【免费下载链接】QtScrcpy Android real-time display control software 项目地址: https://gitcode.com/GitHub_Trending/qt/QtScrcpy QtScrcpy是一款强大且完全免费的开源Android控制工具&…

作者头像 李华
网站建设 2026/6/20 16:35:44

五大AI编码助手落地实战:从失败排查到协同工作流

1. 项目概述:这不是一个“工具安装教程”,而是一份面向真实开发场景的智能编码助手落地手册你点开这个标题,大概率正被三件事困扰:第一,Claude Code在本地跑不起来,npm install完一启动就报错;第…

作者头像 李华