news 2026/5/9 22:05:58

CANN/opbase AI CPU参数处理器接口

作者头像

张小明

前端开发工程师

1.2k 24
文章封面图
CANN/opbase AI CPU参数处理器接口

aicpu_args_handler

【免费下载链接】opbase本项目是CANN算子库的基础框架库,为算子提供公共依赖文件和基础调度能力。项目地址: https://gitcode.com/cann/opbase

本章接口为预留接口,后续有可能变更或废弃,不建议开发者使用,开发者无需关注。

表 1接口列表

接口定义功能说明
AicpuArgsHandler(const std::string &opType, const std::string &nodeName, const uint32_t ioNum, const bool needDeviceExt)AI CPU框架用于构造AI CPU opTask时的辅助类。
opType_(opType)算子名称。
nodeName_(nodeName)预留参数,当前同算子名称。
ioNum_(ioNum)算子的输入和输出个数之和。
needDeviceExt_(needDeviceExt)标识是否需要分配额外device侧内存。
args_({})与Runtime运行时交互的参数的对象,用于计算任务下发。
GetIoAddr()获取args内存中存放input/output地址的内存指针。
get()获取智能指针管理的内存的首地址。
GetExtInfoAddr()获取args中存放拓展参数的内存指针。
GetArgs()获取指向args内存的指针。
GetArgsEx()获取与Runtime运行时交互的对象的指针。
GetNodeName()获取节点名称,当前为算子名。
GetIoNum()获取算子的输入和输出个数之和。
GetHostInputSize()获取host侧输入的内存大小。
GetInputAddrAlignBytes()获取指定的地址分配字节对齐参数。
SetSpace(void *space)记录此Args handle归属于哪个算子空间。
MallocMem()申请args的内存。
ResetHostInputInfo()重置host侧输入的统计信息。
AddHostInput(const size_t idx, void *data, const size_t srcSize, const size_t alignSize)记录host侧输入信息。
UpdateIoAddr(const FVector<const aclTensor> &inputs, const FVector<aclTensor> &outputs, const aclrtStream stream, aclOpExecutor *executor, const uint64_t deviceExtMemSize, const uint64_t deviceCacheOffset)更新args中的input、output的地址信息。
AicpuArgsHandler()AI CPU框架用于构造AI CPU opTask时的辅助类。
UpdateDeviceExtInfoAddr(void *deviceExtInfoAddr)更新device侧存储拓展参数的地址。
SetLaunchArgs(const size_t argSize)设置args中参数大小。
GetDeviceCacheAddr(void&deviceAddr, aclOpExecutorexecutor, const uint64_t deviceCacheOffset)获取预留的device侧内存地址。
AicpuCCArgsHandler(const std::string &opType, const std::string &nodeName, const uint32_t ioNum, const bool needDeviceExt)AI CPU CANN算子框架参数管理类。
AicpuArgsHandler(opType, nodeName, ioNum, needDeviceExt)AI CPU框架用于构造AI CPU opTask时的辅助类。
GenCCArgs(const FVector<const aclTensor> &inputs, const FVector<aclTensor> &outputs, const AicpuAttrs &attrs, std::string &taskInfo)生成CANN算子args中nodedef及head信息。
BuildCCArgs(const std::string &argData, const std::string &kernelName, const std::string &soName, const size_t extInfoSize)封装CANN算子args中参数。
SetHostArgs(const std::string &argData, const size_t extInfoSize)设置args中内存的地址和长度信息。
SetOffsetArgs()设置args中偏移值。
AicpuTfArgsHandler(const std::string &opType, const std::string &nodeName, const uint32_t ioNum, const bool needDeviceExt)AI CPU Tensorflow算子框架参数管理类。
GenTfArgs(const FVector<const aclTensor> &inputs, const FVector<aclTensor> &outputs, const AicpuAttrs &attrs, STR_FWK_OP_KERNEL &fwkOpKernel, std::string &taskInfo)生成CANN算子args中nodedef及head信息。
BuildTfArgs(STR_FWK_OP_KERNEL &fwkOpKernel, const std::string &taskInfo, const size_t extInfoSize)封装Tensorflow算子args中参数。
GenNodeDef(const FVector<const aclTensor *> &inputs, const AicpuAttrs &attrs, ge::Buffer &nodeDefBytes)生成算子的描述符信息,包含输入、输出的地址和shape等信息。
UpdateKernelId()更新args中的Kernel字段,用于匹配Device侧的Kernel Cache。

【免费下载链接】opbase本项目是CANN算子库的基础框架库,为算子提供公共依赖文件和基础调度能力。项目地址: https://gitcode.com/cann/opbase

创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考

版权声明: 本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若内容造成侵权/违法违规/事实不符,请联系邮箱:809451989@qq.com进行投诉反馈,一经查实,立即删除!
网站建设 2026/5/9 22:04:15

教育科技公司构建ai助教系统时如何利用taotoken管理多模型成本

&#x1f680; 告别海外账号与网络限制&#xff01;稳定直连全球优质大模型&#xff0c;限时半价接入中。 &#x1f449; 点击领取海量免费额度 教育科技公司构建AI助教系统时如何利用Taotoken管理多模型成本 一家教育科技公司计划开发一个集成多种AI能力的智能助教系统。这个…

作者头像 李华
网站建设 2026/5/9 21:59:03

Python生成十二等律音高表:从A4=440.01Hz到Excel的完整实现(附源码)

Python实现十二等律音高表&#xff1a;从数学原理到Excel导出的完整指南 音乐与数学的完美结合在十二等律体系中得到了充分体现。作为一名开发者&#xff0c;当你需要为音频处理软件、乐器调音器或音乐理论研究工具生成精确的音高频率对照表时&#xff0c;Python可以成为你的得…

作者头像 李华
网站建设 2026/5/9 21:58:55

CNN-LSTM混合网络在太阳耀斑AI预报中的工程实践

1. 项目概述&#xff1a;当AI遇见太阳风暴太阳耀斑&#xff0c;这个听起来有些遥远的天文现象&#xff0c;其实与我们的现代生活息息相关。一次强烈的耀斑爆发&#xff0c;会向地球抛射出大量的高能粒子和电磁辐射&#xff0c;可能干扰卫星通信、影响电网稳定&#xff0c;甚至威…

作者头像 李华
网站建设 2026/5/9 21:56:18

AI驱动创业金融决策:文献计量揭示智能尽调与风险评估新范式

1. 项目概述与核心价值最近几年&#xff0c;和不少做早期投资的朋友聊天&#xff0c;大家聊得最多的一个词就是“信息过载”。每天涌入BP&#xff08;商业计划书&#xff09;的邮箱、各种行业研报、学术论文、专利数据&#xff0c;还有社交媒体上的碎片化讨论&#xff0c;信息量…

作者头像 李华
网站建设 2026/5/9 21:54:40

华为CANN HCCL:使用通信库API实现通信功能

使用通信库API实现通信功能 【免费下载链接】hccl 集合通信库&#xff08;Huawei Collective Communication Library&#xff0c;简称HCCL&#xff09;是基于昇腾AI处理器的高性能集合通信库&#xff0c;为计算集群提供高性能、高可靠的通信方案 项目地址: https://gitcode.c…

作者头像 李华