2026 年 1 月 12 日，InfiniTensor 冬季大模型与人工智能系统训练营 AI 编译器方向第一课《AI 编译器概述》正式开讲。

本节课主要讲述 AI 编译器的历史、架构、与传统编译器的区别，以及主流 AI 编译器（如 TVM 和 MLIR）的工作原理，并深入探讨 AI 程序中的核心概念——张量与计算图。

AI的历史与现状

1. AI的起源

• 艾伦·图灵与图灵测试（1950年）
• 1956年达特茅斯会议：AI的诞生与术语提出

2. AI的发展历程

3.AI系统架构

• 应用层：CV、NLP、搜索推荐、大模型等
• 开发框架层：Pytorch、Tensorflow 等AI框架，TensorRT 等推理引擎
• 编程编译层：AI编译器核心职责与架构
• AI芯片层：硬件接口、抽象、驱动与计算库

传统编译器与AI编译器对比

1.传统编译器发展

• GCC：一对多架构，高耦合度，难以维护
• LLVM：引入中间表示（IR），解耦前端与后端，提升模块化、可维护性与可复用性

2.传统编译器架构

• 前端：词法分析、语法分析、语义分析，生成与硬件无关的中间表示
• 优化器：围绕IR进行工作，通过pass进行独立分析或转换操作
• 后端：将优化后的IR映射到具体目标硬件，进行指令选择、寄存器分配、指令调度

3.AI编译器设计背景

• 多样化深度学习框架与碎片化硬件计算平台

4.AI编译器与传统编译器的核心区别

• 领域特定计算抽象优化能力
• 适配异构与可配置AI加速器的能力
• 区分训练与推理场景需求的能力

5.AI编译器目标

• 接口层面：Python作为主要前端语言
• 系统架构：多层中间表示设计
• 优化能力：面向神经网络，集成训练与推理场景需求
• 跨硬件代码生成能力

主流AI编译器介绍

1.TVM（Tensor Virtual Machine）

• 工作流程：

• 核心创新：解耦计算定义与执行调度，自动搜索最优代码实现方案

2.MLIR（Multilevel Intermediate Representation）

• 核心思想：分层中间表示与可扩展方言系统
• 解决的问题：编译器领域重复造轮子问题，通过统一IR与方言系统复用优化技术

AI程序的抽象：张量与计算图

1.张量（Tensor）

• 定义：AI中对高维数组的统一称谓，动态化数据结构，封装数据类型、形状、名称与存储区域
• 阶数与数学意义：0维标量、1维向量、2维矩阵、更高阶张量
• 形状与语义：形状决定计算方式，如矩阵乘法
• 存储布局：逻辑形状与物理存储解耦，引入步长与偏移概念，提升操作灵活性与执行效率
• 变换操作：转置、切片、广播、重塑等

2.计算图（Computational Graph）

• 定义：由拓扑、张量、算子三要素构成的AI程序表示
• 拓扑：基于深度神经网络的有向无环图，表示数据流关系
• 张量：操作大规模数据的高维数组
• 算子：计算方式的表示
• 图变化操作：张量推导、图优化、核函数选择与优化
• ONNX（Open Neural Network Exchange）：开放格式，表示深度神经网络模型，提供模型互操作性基础
• 张量推导：根据算子信息与输入张量信息推导输出张量信息，包括形状推导与数据类型推导

总结与展望

本节课了解了AI历史与现状，理解AI编译器的重要性；对比传统编译器与AI编译器，掌握AI编译器的核心优势；介绍了主流AI编译器TVM与MLIR，理解其工作原理与创新点；探讨AI程序中的核心概念——张量与计算图，掌握其基本操作与应用。后续将继续深入学习AI编译器相关技术。

💡 学习贴士

更多细节及完整课程内容，请观看直播或查看课程回放。

链接：https://www.infinitensor.com/camp/winter2025

📚 训练营报名持续进行中

扫码报名与加入群聊，或点击 「阅读原文」 直达官网报名