多范式算子开发实战营课程回顾,吴航讲解 AI Coding 演进、Agent 系统架构,结合 MoE Expert FFN Kernel 案例,演示 AI‑Agent 算子开发、验证与调优全流程。
多范式算子开发实战营《基于九齿复杂算子实现案例》深入讲解基于九齿 DSL 实现矩阵乘法与 Flash Attention 等复杂算子的实战方法,涵盖 Tiling 分块并行算法、Tile/Expand/Squeeze核心原语及 Roofline Model 性能分析模型。
多范式算子开发实战营《九齿的设计思想与核心编程范式》深入解析九齿 DSL 的设计思想与核心编程范式,横向对比 Triton、TileLang 的实现差异。详解 Triton 四大核心 API 及 Block 级编程模型,并通过向量加法实战演示九齿 Arrangement 与 Application 分离的设计精髓、Make API 组合逻辑及双重可视化工具,帮助开发者掌握张量级抽象的并行编程思维。
多范式算子开发实战营由九源、沐曦、AI Infra 等社区联合推出,聚焦 TileLang、Triton、九齿等多 DSL 对比学习与国产异构算力实践。开营仪式首节课程由王豪杰老师带来《九源软件栈核心技术与开源生态》,结合吕墨尘老师“从调用 AI 到构建 AI”开营分享,系统呈现国产异构算力平台下的算子开发学习路径与开源生态实践。
2026 夏季 InfiniTensor 训练营第四节大咖课由清华大学陈键飞教授带来《大模型量化》,详解低精度计算加速深度学习核心技术,涵盖 FP8/FP4 量化原理、Microscaling 微缩放、SageAttention 及量化感知训练(QAT)等前沿方法。课程深入解析仅权重量化、KV Cache 压缩与低精度训练等实战场景。
2026 夏季 InfiniTensor 训练营第三节大咖课国防科技大学余杰导师《人工智能时代操作系统的机遇与挑战》,解析人工智能时代操作系统的机遇与挑战,系统梳理 OS 发展历程、OS for AI 训练推理优化、OS with AI 智能化技术及AIOS架构演进,并结合麒麟团队 OpenKylin AIPC 端侧大模型部署实践揭示大模型作为内核的AI原生操作系统未来趋势。
2026 夏季 InfiniTensor 训练营《基于九源平台的国产化集群应用实践及优化》详解曙光智算国产 DCU 算力集群的模型推理实践,涵盖超算互联网平台架构、深算三号 BW 系列加速卡特性、DTK/DAS 全栈软件兼容方案及 Notebook 实操部署流程。
2026 夏季 InfiniTensor 训练营《多模态智能及其应用》以 Nano Banana Pro 为落地案例拆解一体化多模态三大设计思路;梳理 CLIP / SD 双技术演进线,讲解统一图文端到端架构;深度剖析解码、视觉特征、语义三层核心矛盾,对比四大建模派系优劣。
2026 夏季 InfiniTensor 训练营《InfiniLM》详解 LLAI SYS 作业工程结构,解析 InfiniLM/InfiniCore 项目架构,提供 MLA、MTP、MoE 等新模型适配、性能优化、量化推理等选题指南,明确作业与项目提交规范及评审标准。
2026 夏季 InfiniTensor 训练营《麒麟 Agent 运行时系统和智算软件栈优化方法》完整讲解银河麒麟全系列国产操作系统产品;拆解统一智算软件栈异构底座;介绍麒麟 Agent 运行时模型调度、权限安全、多会话内存管理核心能力,配套数字员工、教学一体机等私有化行业落地方案。
2026 夏季 InfiniTensor 训练营《强化学习基础与 DeepSeek 训练介绍》系统讲解强化学习核心理论与经典算法,涵盖马尔可夫决策过程、Q-Learning、DQN、策略梯度、Actor-Critic 及 PPO 等关键知识点。同时深入解析 DeepSeek V3 至 V4 的架构演进,包括 MoE、MLA、DSA、CSA/HCA 等设计及其在百万级长上下文场景下的优化思路。
2026 夏季 InfiniTensor 训练营《量化与工业级算子调优部署》讲解 FP 16 / BF 16 等全系列低精度数据类型;完整拆解量化四大分类与 INT 8 量化落地流程;深入 PTX 底层汇编、编译器修饰符、L1 缓存控制、Warp 线程发散优化;介绍 ILP / TLP 并行平衡、SOA 数据排布,最后梳理 cuDNN / cuBLAS / CUB 官方加速库。
2026 夏季 InfiniTensor 训练营《大模型自主智能体》解析大模型智能体与自主智能体核心技术,涵盖 ReAct 框架、工具学习三大范式及 X-Agent 双循环机制。详解 RepoAgent 代码文档生成、APA 流程自动化等垂直应用,并探讨多智能体系统的组织架构、通信协议与 ChatDev 协作实践。
2026 夏季 InfiniTensor 训练营《AI Agent 应用:本地模型接入与能力调用》详解 AI Agent 应用中本地模型接入与能力调用的工程化实践,解析 LangChain 支架体系八大核心组件,涵盖 Ollama 推理运行时、工具安全设计、权限双层控制、结构化输出及中间件等关键技术并做实例演示。
讲解大模型线上服务完整架构,涵盖 OpenAI 流式 API、Paged Attention 分页 KV Cache、连续批次调度,拆解三层服务模块与并发优化方案。
讲解九齿 DSL 算子融合、Roofline 性能分析法,通过 RMSNorm 实战对比 PyTorch 原生实现,配套张量可视化工具,给出算子自动调优落地流程。
天数智芯架构专家分享串行 / 并行 / 加速三次计算范式跃迁,解析 GPU、HBM 等基础设施,剖析芯片三大指标权衡,分信息 / 行动 / 智能三阶段预判 AI 发展路线。
详解 OpenCL Argmax、Softmax、GEMM/GEMV 算子开发,介绍子组、向量化、合并访存、GGUF 量化等核心优化手段,覆盖大模型推理高频算子落地方案。
讲解 AI 编译器后端全套优化方案,包含显存生命周期内存池、多层循环变换、FlashAttention、Auto Tuning 自动调优、Triton 与九齿 DSL 代码生成全流程。
基于 BANG 平台实战 Sigmoid、MatMul 算子,讲解 BANG C++ 内核编写、异步访存、NRAM 片上存储优化、多级任务拆分与 PyTorch 算子完整集成调优流程。
讲解大模型推理核心痛点,覆盖 FP8/INT4 量化、GQA/MoE、FlashAttention、投机采样,详解张量 / 流水线并行等分布式推理混合部署方案。
全面讲解寒武纪 NeuWare 五层软件栈与 BANG 异构平台,解析 CNToolkit 工具链、CNCL 通信库、Triton 适配方案,覆盖 MLU 硬件架构、算子开发与多框架适配技术。
深入九齿符号张量、tile/flatten 元操作,详解排布 + 应用编程范式,介绍自动调优机制,通过多层 tile、矩阵归约实战演示高性能 Kernel 开发流程。
依托超算互联网平台,讲解科研智能体四层架构,演示材料、生信、本地客户端三大场景,介绍自然语言驱动、自动化仿真、文献复现全链路搭建流程。
结合麒麟 KylinClaw 案例,定义智能体完整闭环架构,梳理模型、规划、记忆等核心技术栈,剖析算力、幻觉等行业痛点,给出本体论等工程方案并预判五大长期发展趋势。
讲解 OpenCL 平台 / 执行 / 内存 / 四大编程模型,详解 Kernel 语法、NDRange 索引、四类内存地址空间,介绍原子操作、Barrier 同步与树形并行归约实现。
以 MiniAgent 适配 Phi-3.5 为实战案例,讲解 Skills 复用、三类开发驱动模式、分层测试梯度、标准化 Debug 流程与上下文归档,给出 AI 编程完整落地规范。
基于 C++ 与 xmake 搭建测试框架,实战 GEMM 优化,讲解 BLAS 标准、LD 维度、多线程、SIMD/FMA、OpenMP 与 Intel MKL 数学库多层性能提升方案。
讲解 CPU 与 GPU 硬件差异、多层存储与 SM 架构,完整介绍 Grid/Block/Thread 编程模型,实战向量加法与分层树状规约,补充 Warp Shuffle、CUB 库加速手段。
讲解自回归文本生成,核心拆解 KV Cache Prefill/Decode 双阶段加速,介绍 Chat Template、角色对话结构,对比 Top-P/Beam Search 等各类采样策略。
介绍自研九齿 DSL 语言,采用排布 + 应用范式屏蔽底层内存细节,对比 Triton,通过向量乘、GEMM、卷积、FlashAttention 案例演示简洁并行 Kernel 开发。
梳理科研智能化三阶段演进,介绍 CoScientist、ChemCrowd 等四大科研 Agent,讲解 ReAct/CodeAct 开发范式,展示超算互联网自主科研智能体落地案例。
基于 Roofline 模型提升计算强度,讲解原子操作弊端、Warp / 共享内存树状规约,解析 GPU 内存层级与 Bank 冲突,介绍 Cooperative Groups 跨块同步优化手段。
讲解 AI 编译器四类图等价优化:常量折叠、冗余消除、算子融合、布局转换,介绍子图 Plugin 替换与 CUDA Graph 批捕获加速方案,覆盖推理端工程优化落地。
解析大模型单卡显存与算力瓶颈,详解数据、张量、流水、MoE 四大并行方案,对比 PS 与 AllReduce,介绍 GPipe/1F1B 等流水线空泡优化及混合并行落地策略。
区分问答、固定工作流与 AI Agent,讲解 Agent 六大核心组件、执行循环、自主性分级、四维评测与六层安全防护,给出各类场景选型判断标准。
基于底层互联知识,讲解数据 / 张量 / 流水线 / MoE 四大并行,详解 Ring AllReduce 等集合通信,介绍计算通信重叠、DualPipe 流水线优化方案。
介绍跨平台并行标准 OpenCL,拆解平台、设备、上下文、Kernel 等 12 步运行时 API 全流程,对比 CUDA,讲解端侧异构设备适配优势。
讲解内存墙与 Roofline 性能模型,使用 NCU 工具定位访存瓶颈,实战向量化访存、内存合并对齐,结合 FP16 半精度 SIMD 实现 GPU Kernel 提速。
讲解 Triton 适配国产芯片价值,对比 CUDA 开发差异,拆解寒武纪 Triton 编译器、Triton 转 Linalg 流程、指针连续性分析,配套开源 triton-linalg 项目介绍。
梳理大模型三大核心学习范式,详解预训练 Scaling Law、SFT 指令微调各类数据集方案、RLHF 人类反馈对齐,对比主流开源微调实践案例。
面向智能体时代讲解 CPU 全套优化方案,覆盖多级缓存、局部性、SIMD、多线程、矩阵分块、PTQ/QAT 量化、NUMA 架构,配套工程落地优化思路。
Triton 并行编程入门课,对比 CUDA 说明开发优势,详解 program_id、load、store 四大核心 API,搭配 Triton Puzzles 可视化实战掌握 GPU 高性能算子开发。
课程拆解 Transformer 架构,对比 RNN 缺陷,讲解自注意力 QKV、RoPE 位置编码、多头注意力、Decoder 组件,介绍分词、Embedding 等大模型基础模块。
分布式训练推理前置基础课,区分通用与 AI 高性能通信,详解 PCIe、NVLink、RDMA、集群服务器与 Spine-Leaf 拓扑,搭建算力底层通信知识体系。
课程搭建 AI 编译器完整认知框架,对比传统编译器差异,讲解 TVM/MLIR 架构、张量、计算图、Stride 与张量推导,覆盖前端图优化与后端硬件代码生成。
课程从工程视角解析神经网络训练核心原理,讲解反向传播、PyTorch Autograd、混合精度训练,并介绍自研 InfiniTrain 训练框架分布式与显存优化技术。
本次课程围绕 AI Agent Coding 工程化落地,拆解 AI 代码代理完整工程体系,梳理 AI 编程演进、Agent 循环、上下文、技能体系与多层评测,搭建仓库级自主代码代理落地认知。
2026 夏训推理引擎入门课,面向零基础讲解符号 / 联结主义、神经网络、梯度下降、矩阵运算等核心知识,介绍 CNN、残差等网络结构,梳理 AI 任务分类,搭建大模型推理前置理论基础。
2026 夏训 CUDA 入门第一课,讲解并行核心概念、CPU/GPU 架构差异与 CUDA 编程模型,搭配向量加法实战,演示核函数、内存操作、Grid-Stride 优化,附带性能分析、调试工具与零基础学习指引。
2025 冬季 InfiniTensor 训练营推出 Python 入门课,面向零基础学员,讲解命令行操作、变量与数据类型、列表 / 字典 / 元组等数据结构、循环判断、正则表达式、函数及类与对象等 Python 核心基础。
2025 InfiniTensor 冬季训练营 C++ 实践第3课:从 VLA 报错切入,详解 const 关键字、动态数组 capacity 机制、new/delete 内存管理、构造/析构函数、RAII 模式、模板类及访问封装,带你手写一个动态 Vector 容器。
2025 InfiniTensor 冬季训练营 C++ 实践第2课:从简易计算器升级切入,详解函数模块化、参数引用传递、Git 版本管理、代码风格规范、const 修饰符、数组与循环遍历、函数返回值、结构体封装及 getline / stringstream 变长输入解析。
2025 InfiniTensor 冬季训练营 C++ 实践第1课:从零搭建 C++ 开发环境切入,带你认识 WSL、终端与 VS Code,掌握 ls、cd、mkdir、cat、code 等基础命令,理解 C++ 编译运行流程、main 函数结构、变量类型、初始化、cout 输出与 cin 输入,完成第一个可交互的 Hello World 小程序。
讲解多模态智能的核心方法与落地场景,涵盖图文融合、跨模态理解与应用实践。
系统介绍 InfiniLM 推理引擎能力,聚焦大模型推理流程、性能优化与工程部署。
围绕强化学习与 DeepSeek 训练思路展开,梳理关键原理、训练策略与实战要点。
聚焦 CUDA 量化与工业级调优部署,覆盖精度权衡、性能优化和线上落地流程。
解读 vLLM-Ascend 推理方案,说明大模型推理架构、吞吐优化与工程化实践。
介绍 Triton 与九齿课程内容,围绕九齿三重天通相关机制与算子实践进行讲解。
聚焦大模型服务系统设计,涵盖服务架构、请求调度、稳定性与可扩展性建设。
讲解训练框架编程基础,覆盖训练流程拆解、模块组织与训练系统开发入门。
围绕大模型自主智能体展开,介绍智能体能力构建、任务编排与应用场景。
解析 MLIR 与 AscendNPU IR 编译堆栈,梳理 AI 编译器流程与后端优化思路。
讲解 OpenCL 算子实现与优化方法,覆盖算子开发流程、性能分析与调优实践。
围绕 DLCompiler 高性能算子开发实践,讲解 Triton 与九齿体系下的实现路径与优化方法。
介绍 Stable Diffusion 在 InfiniTensor 推理框架中的适配流程,覆盖模型接入与工程化落地经验。
聚焦 CUDA 异步并行与底层控制技巧,解析系统级性能优化思路与实战案例。
以天数智芯平台为例开展 Triton 实战,讲解算子开发流程、调试方法与性能调优。
讲解大模型计算优化与分布式推理技术,覆盖并行策略、吞吐提升与部署关键点。
围绕大模型训练显存优化展开,介绍显存管理、重计算策略与训练稳定性实践。
介绍 DLCompiler 作为 Triton 深度学习编译器拓展方向,讲解架构设计与开发实践。
聚焦 AI 编译器后端优化,解析算子生成、代码优化与硬件适配的核心思路。
讲解九齿二重渐悟阶段核心内容,覆盖 Triton 与九齿协同开发中的关键方法。
梳理大模型前沿架构演进方向,介绍主流结构特点、能力边界与应用趋势。
讲解 OpenCL 编程抽象与语法基础,帮助建立跨平台并行计算开发的核心认知。
讲解 CUDA 分块与不规则访存优化方法,帮助定位访存瓶颈并提升并行计算效率。
介绍 CUDA 程序迁移至天数智芯 GPU 的关键流程,覆盖适配要点与性能验证方法。
围绕检索增强语言模型展开,讲解 RAG 思路、知识接入流程与问答效果提升策略。
从大模型推理到 AI 对话应用,讲解推理链路、会话构建与工程化接入实践。
聚焦 PyTorch 图优化方法,解析计算图层面的性能优化路径与编译协同思路。
系统介绍分布式训练基础与实践,涵盖并行训练流程、资源调度与训练效率优化。
讲解鲲鹏 CPU 矩阵加速与体系特性,结合案例说明 CPU 并行性能提升方法。
围绕九齿一重初窥阶段内容,介绍 Triton 与九齿协同开发的入门能力与方法。
讲解 CUDA 内存模型与规约优化,覆盖共享内存使用、规约设计与吞吐提升策略。
介绍大模型并行策略与通信优化,说明多卡训练中的通信开销控制与效率提升。
聚焦 CPU 性能加速实战,讲解热点分析、向量化优化与并行执行调优技巧。
介绍 OpenCL 概述与运行时机制,帮助建立异构计算平台上的程序执行与调度认知。
讲解 Triton-Ascend 编程实践,覆盖算子编写流程、适配方法与性能优化要点。
聚焦 AI 编译器前端优化,解析图层改写、算子融合与前端阶段性能提升方法。
围绕 CUDA 性能模型与逐元素优化展开,讲解 kernel 设计与热点优化实践。
介绍科学多模态大模型的发展方向,讲解跨模态建模能力与科研应用场景。
讲解大模型原理与结构基础,梳理核心组件、推理流程与模型能力形成机制。
围绕互联、集群与通信主题,介绍分布式系统中的网络通信基础与并行协同机制。
从学习路径出发讲解大模型学习方法,覆盖知识体系搭建与实践能力提升建议。
以 Triton 练气术为主题介绍入门能力,讲解 Triton 编程思维与基础实操方法。
讲解训练系统基础介绍,涵盖训练流程、关键组件与训练工程入门知识。
面向 CPU 并行编程入门,介绍 CPU 性能优化导论与常见优化策略。
介绍 AI 编译器概述与基础能力,帮助理解编译器在模型加速与部署中的核心作用。
讲解 AI 模型导论与推理基础原理,建立推理引擎方向的概念体系与实践认知。
面向 CUDA 新手介绍并行编程导论与 CUDA 入门,覆盖基础模型与开发流程。
围绕 PyTorch 入门展开,讲解张量操作、模型搭建与训练实践的基础能力。
讲解 Python 入门核心知识,覆盖语法基础、数据结构与工程实践起步方法。
通过 C++ 实践4课程巩固工程开发能力,聚焦代码实现细节与问题排查思路。
C++ 实践3课程聚焦实操训练,强化语法应用、程序组织与基础算法实现能力。
C++ 实践2课程围绕核心语法与编程训练展开,提升代码编写规范与实现效率。
C++ 实践1课程作为基础起点,帮助建立变量、流程控制与函数使用的核心认知。