Triton 并行编程入门课,对比 CUDA 说明开发优势,详解 program_id、load、store 四大核心 API,搭配 Triton Puzzles 可视化实战掌握 GPU 高性能算子开发。
课程拆解 Transformer 架构,对比 RNN 缺陷,讲解自注意力 QKV、RoPE 位置编码、多头注意力、Decoder 组件,介绍分词、Embedding 等大模型基础模块。
分布式训练推理前置基础课,区分通用与 AI 高性能通信,详解 PCIe、NVLink、RDMA、集群服务器与 Spine-Leaf 拓扑,搭建算力底层通信知识体系。
课程搭建 AI 编译器完整认知框架,对比传统编译器差异,讲解 TVM/MLIR 架构、张量、计算图、Stride 与张量推导,覆盖前端图优化与后端硬件代码生成。
课程从工程视角解析神经网络训练核心原理,讲解反向传播、PyTorch Autograd、混合精度训练,并介绍自研 InfiniTrain 训练框架分布式与显存优化技术。
本次课程围绕 AI Agent Coding 工程化落地,拆解 AI 代码代理完整工程体系,梳理 AI 编程演进、Agent 循环、上下文、技能体系与多层评测,搭建仓库级自主代码代理落地认知。
2026 夏训推理引擎入门课,面向零基础讲解符号 / 联结主义、神经网络、梯度下降、矩阵运算等核心知识,介绍 CNN、残差等网络结构,梳理 AI 任务分类,搭建大模型推理前置理论基础。
2026 夏训 CUDA 入门第一课,讲解并行核心概念、CPU/GPU 架构差异与 CUDA 编程模型,搭配向量加法实战,演示核函数、内存操作、Grid-Stride 优化,附带性能分析、调试工具与零基础学习指引。
2025 冬季 InfiniTensor 训练营推出 Python 入门课,面向零基础学员,讲解命令行操作、变量与数据类型、列表 / 字典 / 元组等数据结构、循环判断、正则表达式、函数及类与对象等 Python 核心基础。
2025 InfiniTensor 冬季训练营 C++ 实践第3课:从 VLA 报错切入,详解 const 关键字、动态数组 capacity 机制、new/delete 内存管理、构造/析构函数、RAII 模式、模板类及访问封装,带你手写一个动态 Vector 容器。
2025 InfiniTensor 冬季训练营 C++ 实践第2课:从简易计算器升级切入,详解函数模块化、参数引用传递、Git 版本管理、代码风格规范、const 修饰符、数组与循环遍历、函数返回值、结构体封装及 getline / stringstream 变长输入解析。
2025 InfiniTensor 冬季训练营 C++ 实践第1课:从零搭建 C++ 开发环境切入,带你认识 WSL、终端与 VS Code,掌握 ls、cd、mkdir、cat、code 等基础命令,理解 C++ 编译运行流程、main 函数结构、变量类型、初始化、cout 输出与 cin 输入,完成第一个可交互的 Hello World 小程序。
讲解多模态智能的核心方法与落地场景,涵盖图文融合、跨模态理解与应用实践。
系统介绍 InfiniLM 推理引擎能力,聚焦大模型推理流程、性能优化与工程部署。
围绕强化学习与 DeepSeek 训练思路展开,梳理关键原理、训练策略与实战要点。
聚焦 CUDA 量化与工业级调优部署,覆盖精度权衡、性能优化和线上落地流程。
解读 vLLM-Ascend 推理方案,说明大模型推理架构、吞吐优化与工程化实践。
介绍 Triton 与九齿课程内容,围绕九齿三重天通相关机制与算子实践进行讲解。
聚焦大模型服务系统设计,涵盖服务架构、请求调度、稳定性与可扩展性建设。
讲解训练框架编程基础,覆盖训练流程拆解、模块组织与训练系统开发入门。
围绕大模型自主智能体展开,介绍智能体能力构建、任务编排与应用场景。
解析 MLIR 与 AscendNPU IR 编译堆栈,梳理 AI 编译器流程与后端优化思路。
讲解 OpenCL 算子实现与优化方法,覆盖算子开发流程、性能分析与调优实践。
围绕 DLCompiler 高性能算子开发实践,讲解 Triton 与九齿体系下的实现路径与优化方法。
介绍 Stable Diffusion 在 InfiniTensor 推理框架中的适配流程,覆盖模型接入与工程化落地经验。
聚焦 CUDA 异步并行与底层控制技巧,解析系统级性能优化思路与实战案例。
以天数智芯平台为例开展 Triton 实战,讲解算子开发流程、调试方法与性能调优。
讲解大模型计算优化与分布式推理技术,覆盖并行策略、吞吐提升与部署关键点。
围绕大模型训练显存优化展开,介绍显存管理、重计算策略与训练稳定性实践。
介绍 DLCompiler 作为 Triton 深度学习编译器拓展方向,讲解架构设计与开发实践。
聚焦 AI 编译器后端优化,解析算子生成、代码优化与硬件适配的核心思路。
讲解九齿二重渐悟阶段核心内容,覆盖 Triton 与九齿协同开发中的关键方法。
梳理大模型前沿架构演进方向,介绍主流结构特点、能力边界与应用趋势。
讲解 OpenCL 编程抽象与语法基础,帮助建立跨平台并行计算开发的核心认知。
讲解 CUDA 分块与不规则访存优化方法,帮助定位访存瓶颈并提升并行计算效率。
介绍 CUDA 程序迁移至天数智芯 GPU 的关键流程,覆盖适配要点与性能验证方法。
围绕检索增强语言模型展开,讲解 RAG 思路、知识接入流程与问答效果提升策略。
从大模型推理到 AI 对话应用,讲解推理链路、会话构建与工程化接入实践。
聚焦 PyTorch 图优化方法,解析计算图层面的性能优化路径与编译协同思路。
系统介绍分布式训练基础与实践,涵盖并行训练流程、资源调度与训练效率优化。
讲解鲲鹏 CPU 矩阵加速与体系特性,结合案例说明 CPU 并行性能提升方法。
围绕九齿一重初窥阶段内容,介绍 Triton 与九齿协同开发的入门能力与方法。
讲解 CUDA 内存模型与规约优化,覆盖共享内存使用、规约设计与吞吐提升策略。
介绍大模型并行策略与通信优化,说明多卡训练中的通信开销控制与效率提升。
聚焦 CPU 性能加速实战,讲解热点分析、向量化优化与并行执行调优技巧。
介绍 OpenCL 概述与运行时机制,帮助建立异构计算平台上的程序执行与调度认知。
讲解 Triton-Ascend 编程实践,覆盖算子编写流程、适配方法与性能优化要点。
聚焦 AI 编译器前端优化,解析图层改写、算子融合与前端阶段性能提升方法。
围绕 CUDA 性能模型与逐元素优化展开,讲解 kernel 设计与热点优化实践。
介绍科学多模态大模型的发展方向,讲解跨模态建模能力与科研应用场景。
讲解大模型原理与结构基础,梳理核心组件、推理流程与模型能力形成机制。
围绕互联、集群与通信主题,介绍分布式系统中的网络通信基础与并行协同机制。
从学习路径出发讲解大模型学习方法,覆盖知识体系搭建与实践能力提升建议。
以 Triton 练气术为主题介绍入门能力,讲解 Triton 编程思维与基础实操方法。
讲解训练系统基础介绍,涵盖训练流程、关键组件与训练工程入门知识。
面向 CPU 并行编程入门,介绍 CPU 性能优化导论与常见优化策略。
介绍 AI 编译器概述与基础能力,帮助理解编译器在模型加速与部署中的核心作用。
讲解 AI 模型导论与推理基础原理,建立推理引擎方向的概念体系与实践认知。
面向 CUDA 新手介绍并行编程导论与 CUDA 入门,覆盖基础模型与开发流程。
围绕 PyTorch 入门展开,讲解张量操作、模型搭建与训练实践的基础能力。
讲解 Python 入门核心知识,覆盖语法基础、数据结构与工程实践起步方法。
通过 C++ 实践4课程巩固工程开发能力,聚焦代码实现细节与问题排查思路。
C++ 实践3课程聚焦实操训练,强化语法应用、程序组织与基础算法实现能力。
C++ 实践2课程围绕核心语法与编程训练展开,提升代码编写规范与实现效率。
C++ 实践1课程作为基础起点,帮助建立变量、流程控制与函数使用的核心认知。