2025年冬季InfiniTensor大模型与人工智能系统训练营
已结束

主办方:启元实验室

赞助方:新华三技术有限公司

时间:2025-12-24 ~ 2026-03-27

报名人数

0

AI 编译器 (AI Compiler)
2025年冬季InfiniTensor大模型与人工智能系统训练营
专业阶段
本课程内容涵盖传统编译器与AI编译器的核心区别、AI编译器的完整工作流程及主流生态。重点探讨AI编译器前端技术,包括模型导入与图优化,并梳理以PyTorch为代表的动态计算图优化演进路线。
讲师: 张允泽、张博伦、段晨婕、上海人工智能实验室团队、华为团队
1
AI编译器中的前端优化
探讨介绍AI编译器流程中前端部分,包含模型导入及其可以做的图优化,并以一个实例来演示优化前后的模型结构,提升学员对前端优化方法的理解和应用能力。

请先登录后观看视频

课件
  • AI编译器中的前端优化
2
PyTorch中图优化
从 PyTorch 的核心设计理念——动态计算图出发,梳理图优化技术体系的演进历程,包括三条代表性技术路线:早期的 TorchScript(包含 jit.trace 和 jit.script);中期的 torch.fx 图重写机制;以及 PyTorch 2.0 引入的统一编译入口 torch.compile,并深入分析其核心组件 TorchDynamo、AOTAutograd 以及 TorchInductor 后端的设计原理与亮点。

请先登录后观看视频

课件
  • PyTorch中图优化
3
AI编译器中的后端优化
探讨并介绍AI编译器流程中后端部分,包含运行时、算子调用以及在此阶段可以做的优化方法,提升学员对后端优化方法的理解和应用能力。

请先登录后观看视频

课件
  • AI编译器中的后端优化
4
AI编译器概述
介绍传统编译器和AI编译器的区别,AI编译器的核心流程,一些主流的AI编译器生态介绍,继而转向介绍AI编译器对AI程序的抽象,探讨AI编译器中的计算图表示。

请先登录后观看视频

课件
  • AI编译器概述
5
Stable Diffusion 在 InfiniTensor 推理框架中的适配与工程实践
探讨并介绍StableDiffusion扩散模型生成图片的原理,并根据源码介绍StableDiffusion工作流,在InfiniTensor推理框架中进行适配。

请先登录后观看视频

6
拓展 Triton 深度学习编译器——DLCompiler
介绍扩展Triton的深度学习编译器DLCompiler及其核心技术架构。DLCompiler通过扩展 DSL,实现片上缓存分配、多处理单元流水抽象、灵活编译提示、细粒度缓存切分等功能,让 DSA 芯片也能享受极致的编程体验和性能;此外支持全新编程模型,并且无需了解硬件细节设计,便可通过核内调度、访存合并释放芯片算力。DLCompiler已应用在上海AI实验室多模态大模型训练中,提升训练性能和效率。

请先登录后观看视频

课件
  • 拓展 Triton 深度学习编译器——DLCompiler
7
(MLIR) AscendNPU IR 编译堆栈

请先登录后观看视频