TVM 现已更新到 0.21.0 版本,TVM 中文文档已经和新版本对齐。
Apache TVM 是一个深度的深度学习编译框架,适用于 CPU、GPU 和各种机器学习加速芯片。
在线运行 TVM 学习教程→https://go.hyper.ai/PEh1Q
TensorIR 是 Apache TVM 栈中的核心抽象之一,用于表示和优化原始的张量函数。
张量程序抽象
- 张量程序的关键元素
- TensorIR 中的额外结构
理解 TensorIR 抽象
- 函数参数与缓冲区
- 循环迭代
- 计算块
- 块轴属性
- 为什么计算块中需要额外信息
- 绑定块轴的语法
TensorIR 的创建
- 使用 TVMScript 创建 TensorIR
- 使用张量表达式创建 TensorIR
转换
- 初始化调度
- 循环切分(Tiling)
- 利用数据局部性
- 重写归约操作
- 追踪变换过程