2026 年 1 月 28 日，2025 冬季 InfiniTensor 大模型与人工智能系统训练营 Triton&九齿系列第六课《DLCompiler 的高性能算子开发实践》开讲。
本节课讲解包括大 kernel 写法、GroupMatmul 优化、千问3 Next Attention Prolog 优化以及DeepSeek V3 Attention Prolog 优化。
基于绑核优化实现 MegaKernel 总体思路
GroupMatmul的高性能实现
1. GroupMatmul的计算流程
2. 传统实现的问题
传统实现方式存在：
- 通过host侧循环处理group
- 产生同步开销
- 计算核空闲，资源利用率低
3. 高性能实现
(1) 动态确定分组边界
(2) 对角线分核优化
Qwen3 Next-AttentionProlog 的高性能实现
计算流程
输入 x 经过 weight 矩阵得到 QQKV，经过 split 拆分
数据拆分过程：
融合思路
1.融合思路
- 最大化利用矩阵计算单元和向量运算单元
- 避免 tensor 变换
2. 融合（Norm+Rope）方式一
3. 融合（Norm+Rope）方式二
4. 融合 rmsnorm+sigmoid
5. 异步编程
6. PartialROPE
3. 实现效果
- 通过上述优化，千问3 Next Attention Prolog 在 8 K输入场景下，相比不融合方案，速度提升约 1.8 倍。
DeepSeek V3 attention prolog的高性能实现
DeepSeek V3 Attention Prolog 计算流程
- x 经过 weight 得到q、k、v
- 独立运行 RMSNorm
- split 后，部分进入 BMM，部分进入 RPE
优化策略
1. 融合方式一
2. 融合方式二
实现效果
DeepSeek V3 的 Attention Prolog 优化后，相比单算子实现，加速比达到170%。
总结
DLCompiler 通过创新的算子开发方法和优化策略，显著提升了国产芯片上的算子性能。DLCompiler 为开发者提供了一套高效、易用的工具链，助力国产芯片在 AI 时代发挥更大价值。
💡 学习贴士
更多细节及完整课程内容，请观看直播或查看课程回放。
链接：https://www.infinitensor.com/camp/winter2025
📚 训练营报名持续进行中
扫码报名与加入群聊，或点击 「阅读原文」 直达官网报名
