CANN/catlass GEMV向量乘标量

TileVmuls

【免费下载链接】catlass本项目是CANN的算子模板库，提供NPU上高性能矩阵乘及其相关融合类算子模板样例。项目地址: https://gitcode.com/cann/catlass

代码位置

[TOC]

功能说明

TileVmuls实现 GEMV 场景下向量乘以标量的操作。通过AscendC::Muls对 UB 上指定长度的向量逐元素乘以标量值。

• 适用范围：所有架构（无架构特化）
• 使用AscendC::SetVectorMask<Element, MaskMode::COUNTER>(len)控制有效长度

模板原型

template <class ArchTag, class VType_> struct TileVmuls;

调用接口

void operator()( AscendC::LocalTensor<Element> dstTensor, // 目的 UB LocalTensor AscendC::LocalTensor<Element> srcTensor, // 源 UB LocalTensor Element scalar, // 标量值 uint32_t len // 向量长度 )

调用示例

#include "catlass/gemv/tile/tile_vmuls.hpp" using namespace Catlass::Gemv::Tile; using Element = half; using VType = Gemm::GemmType<Element, layout::VectorLayout>; uint32_t len = 64; Element scale = 0.5f; AscendC::LocalTensor<Element> dstTensor, srcTensor; using VmulsOp = TileVmuls<Arch::AtlasA2, VType>; VmulsOp vmuls; vmuls(dstTensor, srcTensor, scale, len);

【免费下载链接】catlass本项目是CANN的算子模板库，提供NPU上高性能矩阵乘及其相关融合类算子模板样例。项目地址: https://gitcode.com/cann/catlass