news 2026/7/5 18:38:34

CANN/Ascend C矩阵计算缓冲区获取

作者头像

张小明

前端开发工程师

1.2k 24
文章封面图
CANN/Ascend C矩阵计算缓冲区获取

MatmulGetTmpBufSizeV2

【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言,原生支持C和C++标准规范,主要由类库和语言扩展层构成,提供多层级API,满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit

功能说明

单核Matmul Tiling调用GetTiling接口获取Tiling参数后,根据Tiling结构体信息获取L1 Buffer/Unified Buffer/L0C Buffer的使用大小。

函数原型

int32_t MatmulGetTmpBufSizeV2(AscendC::tiling::TCubeTiling& tiling, matmul_tiling::SysTilingTempBufSize& bufSize)

参数说明

表1参数说明

参数名输入/输出描述
tiling输入Matmul单核Tiling的结构体,即MatmulTiling对象得到的TCubeTiling结构体。

TCubeTiling为Kernel侧定义的Matmul TilingData,与入参为带AscendC::tiling命名空间的TCubeTiling结构体的GetTiling接口配合使用。
bufSize输出根据TCubeTiling结构体信息获取L1 Buffer/Unified Buffer/L0C Buffer的使用大小。

SysTilingTempBufSize结构定义如下方代码所示。
struct SysTilingTempBufSize { int32_t ubSize = 0; // Unified Buffer大小 int32_t l1Size = 0; // L1 Buffer大小 int32_t l0cSize = 0; // L0C Buffer大小 };

返回值说明

-1表示获取失败; 0表示获取成功。

约束说明

调用示例

auto ascendcPlatform = platform_ascendc::PlatformAscendC(context->GetPlatformInfo()); matmul_tiling::MatmulApiTiling tiling(ascendcPlatform); AscendC::tiling::TCubeTiling tilingData; ... // 初始化tilingData,详见MatmulTiling类使用说明 int ret = tiling.GetTiling(tilingData); // 获取Tiling参数 SysTilingTempBufSize bufSize; MatmulGetTmpBufSizeV2(tilingData, bufSize);

【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言,原生支持C和C++标准规范,主要由类库和语言扩展层构成,提供多层级API,满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit

创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考

版权声明: 本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若内容造成侵权/违法违规/事实不符,请联系邮箱:809451989@qq.com进行投诉反馈,一经查实,立即删除!
网站建设 2026/7/5 18:38:00

MiniMax-M3-NVFP4模型全面解析:4280亿参数的多模态AI新标杆

MiniMax-M3-NVFP4模型全面解析:4280亿参数的多模态AI新标杆 【免费下载链接】MiniMax-M3-NVFP4 项目地址: https://ai.gitcode.com/hf_mirrors/nvidia/MiniMax-M3-NVFP4 MiniMax-M3-NVFP4是一款由NVIDIA优化的多模态AI模型,基于MiniMax-M3架构采…

作者头像 李华
网站建设 2026/7/5 18:37:58

Instatic Markdown支持:编辑器功能与语法扩展完全指南

Instatic Markdown支持:编辑器功能与语法扩展完全指南 【免费下载链接】Instatic Instatic is a modern self-hosted visual CMS - get it running in 1 minute 项目地址: https://gitcode.com/GitHub_Trending/in/Instatic Instatic作为一款现代自托管视觉C…

作者头像 李华
网站建设 2026/7/5 18:37:35

AI学术会议倒计时终极指南:2000+顶级会议投稿时间精准掌控

AI学术会议倒计时终极指南:2000顶级会议投稿时间精准掌控 【免费下载链接】ai-deadlines :alarm_clock: AI conference deadline countdowns 项目地址: https://gitcode.com/gh_mirrors/ai/ai-deadlines 还在为错过重要AI会议投稿截止日期而烦恼吗&#xff…

作者头像 李华
网站建设 2026/7/5 18:35:28

Flutter Planets进阶技巧:如何扩展行星应用添加搜索和筛选功能

Flutter Planets进阶技巧:如何扩展行星应用添加搜索和筛选功能 【免费下载链接】flutter_planets_tutorial The Flutter Planets app tutorial with commits per lesson 项目地址: https://gitcode.com/gh_mirrors/fl/flutter_planets_tutorial 如果你已经完…

作者头像 李华