
2026 年 1 月 16 日,2025 冬季 InfiniTensor 大模型与人工智能系统训练营 Triton & 九齿系列第二课《Triton-Ascend 编程》开讲。
本节课将详解 Triton 在昇腾 NPU 上的适配与优化。前置课程为《Triton 练气术》,如果有需要的同学可以点击复习。
Triton-Ascend 架构
Triton 简介
Triton 是一种面向 GPU 的高效算子编程语言,其核心特点包括:
- 高效的并行计算模型
- 显式但高效的内存访问模型
- 简洁的 API 设计
昇腾使能:
Triton-Ascend + AscendNPU IR

关键区别:
昇腾的 CMD 架构要求数据访问尽可能连续,而 GPU 架构对数据连续性要求相对宽松。
Triton 算子开发范式

Triton kernel 开发

Triton kernel 调用

面向昇腾算子开发
Grid 设置与物理核匹配

昇腾的并行基于物理核,与 GPU 不同:
- 推荐设置:Grid 大小应等于物理核数
- 原因:避免逻辑核数量超过物理核,减少调度开销
- 通过代码获取物理核数

昇腾硬件架构

性能优化
算子性能测试

数据类型调整

离散访存优化

访存调度优化



高性能样例:matmul


总结与展望
随着 Triton-Ascend 的不断成熟,更多算子被 Triton-Ascend 适配,昇腾 NPU 的算子开发将更加高效,昇腾平台的生态将更加丰富,为 AI 应用在昇腾平台上的部署提供强大支持。

💡 学习贴士
更多细节及完整课程内容,请观看直播或查看课程回放。
链接:https://www.infinitensor.com/camp/winter2025
📚 训练营报名持续进行中
扫码报名与加入群聊,或点击 「阅读原文」 直达官网报名

