news 2026/5/11 13:24:32

CANN asc-devkit Maxs API参考

作者头像

张小明

前端开发工程师

1.2k 24
文章封面图
CANN asc-devkit Maxs API参考

Maxs

【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言,原生支持C和C++标准规范,主要由类库和语言扩展层构成,提供多层级API,满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit

产品支持情况

产品

是否支持

Ascend 950PR/Ascend 950DT

Atlas A3 训练系列产品 / Atlas A3 推理系列产品

Atlas A2 训练系列产品 / Atlas A2 推理系列产品

Kirin X90

Kirin 9030

功能说明

源操作数矢量内每个元素与标量相比,如果比标量大,则取源操作数值,比标量的值小,则取标量值。

计算公式如下:

函数原型

  • tensor前n个数据计算

    template <typename T, bool isSetMask = true> __aicore__ inline void Maxs(const LocalTensor<T>& dst, const LocalTensor<T>& src, const T& scalarValue, const int32_t& count)
  • tensor高维切分计算

    • mask逐bit模式

      template <typename T, bool isSetMask = true> __aicore__ inline void Maxs(const LocalTensor<T>& dst, const LocalTensor<T>& src, const T& scalarValue, uint64_t mask[], const uint8_t repeatTime, const UnaryRepeatParams& repeatParams)
    • mask连续模式

      template <typename T, bool isSetMask = true> __aicore__ inline void Maxs(const LocalTensor<T>& dst, const LocalTensor<T>& src, const T& scalarValue, uint64_t mask, const uint8_t repeatTime, const UnaryRepeatParams& repeatParams)

dst和src使用TensorTrait类型时,其数据类型TensorTrait和scalarValue的数据类型(对应TensorTrait中的LiteType类型)不一致。因此新增模板类型U表示scalarValue的数据类型,并通过std::enable_if检查T中萃取出的LiteType和U是否完全一致,一致则接口通过编译,否则编译失败。接口原型定义如下:

  • tensor前n个数据计算

    template <typename T, typename U, bool isSetMask = true, typename Std::enable_if<Std::is_same<PrimT<T>, U>::value, bool>::type = true> __aicore__ inline void Maxs(const LocalTensor<T>& dst, const LocalTensor<T>& src, const U& scalarValue, const int32_t& count)
  • tensor高维切分计算

    • mask逐bit模式

      template <typename T, typename U, bool isSetMask = true, typename Std::enable_if<Std::is_same<PrimT<T>, U>::value, bool>::type = true> __aicore__ inline void Maxs(const LocalTensor<T>& dst, const LocalTensor<T>& src, const U& scalarValue, uint64_t mask[], const uint8_t repeatTime, const UnaryRepeatParams& repeatParams)
    • mask连续模式

      template <typename T, typename U, bool isSetMask = true, typename Std::enable_if<Std::is_same<PrimT<T>, U>::value, bool>::type = true> __aicore__ inline void Maxs(const LocalTensor<T>& dst, const LocalTensor<T>& src, const U& scalarValue, uint64_t mask, const uint8_t repeatTime, const UnaryRepeatParams& repeatParams)

参数说明

表 1模板参数说明

参数名

描述

T

操作数数据类型。

Atlas A2 训练系列产品 / Atlas A2 推理系列产品,支持的数据类型为:half、int16_t、float、int32_t。

Atlas A3 训练系列产品 / Atlas A3 推理系列产品,支持的数据类型为:half、int16_t、float、int32_t。

Ascend 950PR/Ascend 950DT,支持的数据类型为:uint8_t、int8_t、half、bfloat16_t、int16_t、float、int32_t、uint64_t、int64_t。

Kirin X90,支持的数据类型为:half、int16_t、int32_t、float。

Kirin 9030,支持的数据类型为:half、int16_t、int32_t、float。

U

scalarValue数据类型。

Atlas A2 训练系列产品 / Atlas A2 推理系列产品,支持的数据类型为:half、int16_t、float、int32_t。

Atlas A3 训练系列产品 / Atlas A3 推理系列产品,支持的数据类型为:half、int16_t、float、int32_t。

Ascend 950PR/Ascend 950DT,支持的数据类型为:uint8_t、int8_t、half、bfloat16_t、int16_t、float、int32_t、uint64_t、int64_t。

Kirin X90,支持的数据类型为:half、int16_t、int32_t、float。

Kirin 9030,支持的数据类型为:half、int16_t、int32_t、float。

isSetMask

是否在接口内部设置mask模式和mask值。

针对以下型号,tensor前n个数据计算API中的isSetMask参数不生效,保持默认值即可。

表 2参数说明

参数名称

类型

说明

dst

输出

目的操作数。

类型为LocalTensor,支持的TPosition为VECIN/VECCALC/VECOUT。

LocalTensor的起始地址需要32字节对齐。

src

输入

源操作数。

类型为LocalTensor,支持的TPosition为VECIN/VECCALC/VECOUT。

LocalTensor的起始地址需要32字节对齐。

数据类型需要与目的操作数保持一致。

scalarValue

输入

源操作数,数据类型需要与目的操作数Tensor中元素的数据类型保持一致。

count

输入

参与计算的元素个数。

mask/mask[]

输入

mask用于控制每次迭代内参与计算的元素。

  • 连续模式:表示前面连续的多少个元素参与计算。取值范围和操作数的数据类型有关,数据类型不同,每次迭代内能够处理的元素个数最大值不同。当操作数为16位时,mask∈[1, 128];当操作数为32位时,mask∈[1, 64];当操作数为64位时,mask∈[1, 32]。

repeatTime

输入

重复迭代次数。 矢量计算单元,每次读取连续的256Bytes数据进行计算,为完成对输入数据的处理,必须通过多次迭代(repeat)才能完成所有数据的读取与计算。repeatTime表示迭代的次数。

repeatParams

输入

元素操作控制结构信息,具体请参考UnaryRepeatParams。

返回值说明

约束说明

  • 操作数地址对齐要求请参见通用地址对齐约束。

  • 操作数地址重叠约束请参考通用地址重叠约束。

  • 针对Ascend 950PR/Ascend 950DT,int8_t/uint8_t/uint64_t/int64_t数据类型仅支持tensor前n个数据计算接口。

调用示例

更多样例可参考LINK。

  • tensor高维切分计算样例-mask连续模式

    uint64_t mask = 128; int16_t scalar = 2; // repeatTime = 4, 单次迭代处理128个数,计算512个数需要迭代4次 // dstBlkStride, srcBlkStride = 1, 每个迭代内src0参与计算的数据地址间隔为1个datablock,表示单次迭代内数据连续读取和写入 // dstRepStride, srcRepStride = 8, 相邻迭代间的地址间隔为8个datablock,表示相邻迭代间数据连续读取和写入 AscendC::Maxs(dstLocal, srcLocal, scalar, mask, 4, { 1, 1, 8, 8 });
  • tensor高维切分计算样例-mask逐bit模式

    uint64_t mask[2] = { UINT64_MAX, UINT64_MAX }; int16_t scalar = 2; // repeatTime = 4, 单次迭代处理128个数,计算512个数需要迭代4次 // dstBlkStride, srcBlkStride = 1, 每个迭代内src0参与计算的数据地址间隔为1个datablock,表示单次迭代内数据连续读取和写入 // dstRepStride, srcRepStride = 8, 相邻迭代间的地址间隔为8个datablock,表示相邻迭代间数据连续读取和写入 AscendC::Maxs(dstLocal, srcLocal, scalar, mask, 4, {1, 1, 8, 8});
  • tensor前n个数据计算样例

    int16_t scalar = 2; AscendC::Maxs(dstLocal, srcLocal, scalar, 512);

结果示例如下:

输入数据src0Local:[1 2 3 ... 512] 输入数据scalar = 2 输出数据dstLocal:[2 2 3 ... 512]

【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言,原生支持C和C++标准规范,主要由类库和语言扩展层构成,提供多层级API,满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit

创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考

版权声明: 本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若内容造成侵权/违法违规/事实不符,请联系邮箱:809451989@qq.com进行投诉反馈,一经查实,立即删除!
网站建设 2026/5/11 13:21:15

GPT 1到5代及chat系列的演进笔记

GPT 发展脉络 gpt-1(2018): 提出了 “预训练 微调”&#xff08;Pretrain-Finetune&#xff09;的范式, 证明了 transformers 架构下用更多的参数和语料可以带来更强的泛化能力, 下游训练变得容易.gpt-2(2019): 不再 fine-tune, 实现了 zero/few shot 的能力. 因为依靠数据集…

作者头像 李华
网站建设 2026/5/11 13:19:18

告别手速困扰!League-Toolkit极地大乱斗智能抢英雄终极指南

告别手速困扰&#xff01;League-Toolkit极地大乱斗智能抢英雄终极指南 【免费下载链接】League-Toolkit An all-in-one toolkit for LeagueClient. Gathering power &#x1f680;. 项目地址: https://gitcode.com/gh_mirrors/le/League-Toolkit 你是否曾在极地大乱斗中…

作者头像 李华
网站建设 2026/5/11 13:18:55

2026年安装Hermes Agent/OpenClaw配置Token Plan最简单方法

2026年安装Hermes Agent/OpenClaw配置Token Plan最简单方法。OpenClaw作为阿里云生态下新一代的开源AI自动化代理平台&#xff0c;曾用名Moltbot/Clawdbot&#xff0c;凭借“自然语言交互自动化任务执行大模型智能决策”的核心能力&#xff0c;正在重构个人与企业的工作效率边界…

作者头像 李华
网站建设 2026/5/11 13:08:35

Ascend C __hmax函数API文档

__hmax 【免费下载链接】asc-devkit 本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言&#xff0c;原生支持C和C标准规范&#xff0c;主要由类库和语言扩展层构成&#xff0c;提供多层级API&#xff0c;满足多维场景算子开发诉求。 项目地址: https://gitcode.com/can…

作者头像 李华
网站建设 2026/5/11 13:07:40

Whisper Web应用部署教程:构建自己的语音转录平台

Whisper Web应用部署教程&#xff1a;构建自己的语音转录平台 【免费下载链接】awesome-whisper &#x1f50a; Awesome list for Whisper — an open-source AI-powered speech recognition system developed by OpenAI 项目地址: https://gitcode.com/gh_mirrors/aw/awesom…

作者头像 李华