学习资料
2026 夏季 InfiniTensor 训练营推理引擎 1:AI 模型导论与推理基础原理
发表于:

2026 夏季 InfiniTensor 训练营推理引擎 1:《AI 模型导论与推理基础原理》

7 月 13 日, 2026 夏季 InfiniTensor 大模型与人工智能系统训练营推理引擎方向第一课《AI模型导论与推理基础原理》开讲。本节课面向零基础学员,不涉及复杂推理实操,完整梳理人工智能底层基础概念,搭建 AI 基础认知框架。

重新定义智能与人工智能

什么是人工智能?底层统一逻辑

1.生物智能举例:草履虫应激反应

  • 营养液环境下,草履虫主动向营养液移动
  • 高盐不适环境下,草履虫主动远离有害水体
  • 生物根据环境变化做出对应反馈,是最基础的智能表现

2.人工智能各类智能场景

  • 图像识别系统,区分人脸性别、对应身份
  • AlphaGo 依据当前棋盘局势,输出最优落子方案
  • 对话类大模型,读懂用户需求,输出匹配回答,支持本地文件操作

3.数学抽象:AI 等价于黑盒函数 f (x)=y

  • x 代表输入,即当前场景、特征信息
  • y 代表输出,也就是模型给出的智能反馈
  • 图灵测试是一种行为测试。如果模型在限定条件下与人对话,评测者无法稳定区分人与机器,则说明模型具有接近人类的对话表现能力,可作为衡量人工智能的一种经典测试方法。

AI 两大核心发展路线:符号主义与联结主义

符号主义:早期人工智能,代表产物专家系统

1.符号主义核心思想

  • 认定智能本质是符号逻辑处理,全部认知均可通过固定逻辑表达式描述
  • 以阴天、潮湿推断下雨、出门带伞为例,人脑依靠多层逻辑推导完成判断
  • 人类所有思考行为,都能拆解为标准化逻辑公式

2.专家系统两大核心模块

  • 知识库:由行业专家手动录入全部逻辑规则,系统无法自主新增知识
  • 推理机:读取知识库规则,结合输入信息自动推导对应结论
  • 经典应用 MYCIN:面向医生的辅助疾病诊断系统,通过症状逻辑完成初步诊断

3.符号主义与专家系统固有缺陷

  • 不具备自主学习能力,环境发生变化后,只能依靠人工手动更新规则库
  • 大量现实规律无法用简单逻辑描述,例如中医脉象、细微感官差异,难以符号化表达

BQACAgUAAyEGAASHRsPbAAEXKgtqVbR-usk_2FzDP-2oIjdKJVXVBQACPCUAAkvwsVY0xJsyRe_M7D0E.png

联结主义:模仿人脑神经元,神经网络理论基础

1.连接主义核心思路

  • 人类智能根源为人脑神经元网络,复刻神经元联结模式即可实现人工智能
  • 人脑依靠海量神经元、突触完成电信号、化学信号并行传递,这是智能的底层载体

2.感知器:单神经元简易数学模型

  • 基础计算分为两步:线性加权运算 + 非线性激活判断
  • 线性计算:输入特征搭配对应权重,叠加偏移值完成数值汇总
  • 非线性计算:判断神经元是否激活,区分输出结果

3.案例:水果识别感知器

  • 提取水果标准化特征:尺寸、颜色、口味,转化为数值向量输入模型
  • 感知器接收连续数值特征,区别于专家系统非黑即白的逻辑判断
  • 仅调整权重参数、不改动整体结构,即可切换识别目标(苹果、西瓜等)

4.单层感知器的局限:无法解决异或问题

  • 异或逻辑属于线性不可分问题
  • 单层感知器仅能在高维空间绘制一条分割直线,无法区分对角分布样本点
  • 该缺陷曾让联结主义研究长期陷入发展低谷

BQACAgUAAyEGAASHRsPbAAEXKhZqVbTXd-kYSSf_gmtVs5B2tbKcdQACRyUAAkvwsVYKjxG5Pbo33z0E.png

多层感知器解决线性不可分问题

1.两层感知器实现异或逻辑

  • 两层神经元分别绘制分割线,划分空间局部区域
  • 最后一层神经元做 “与逻辑” 判断,整合两层输出结果,完成异或运算

BQACAgUAAyEGAASHRsPbAAEXKipqVbVnVNv5x49Gtvn4lrp5aM2HZQACXiUAAkvwsVZ8Db9WII8GVD0E.png

2.多层感知器通用能力

  • 两层感知器:可拟合空间内任意形状决策边界
  • 三层感知器:输入层、隐藏层、输出层,理论可模拟任意复杂决策边界
  • 多分类任务采用 one hot 编码,多输出神经元对应不同类别判定

BQACAgUAAyEGAASHRsPbAAEXKi5qVbWSr_aMMH3S8ywjWx9ezJNhPQACYiUAAkvwsVYDcmkJAw8cRT0E.png

3.深度神经网络由来

  • 多层三层神经网络相互串联堆叠,形成深度神经网络
  • 输入层维度匹配特征数量,输出层维度匹配分类数量,隐藏层自由扩充神经元数量

BQACAgUAAyEGAASHRsPbAAEXKi9qVbW0BC2zPwIw7XDfc919KjURNwACYyUAAkvwsVaFHcSWcIMBIT0E.png

神经网络训练核心原理

最优参数求解:损失函数与梯度下降

1.损失函数作用

  • 量化模型预测结果与真实结果的差距
  • 识别准确率越低,损失函数数值越大;识别精准,损失数值趋近于 0
  • 训练目标:寻找一组参数,让损失函数数值最小

2.梯度下降法底层逻辑

  • 通过求导计算损失函数梯度,判断参数调整方向
  • 类比山谷寻最低点:沿下坡方向持续调整权重参数,不断降低整体损失

3.训练完整流程

  • 将参数优化转化为函数求极值数学问题
  • 持续迭代更新权重,自动拟合最优函数,整套自动化流程即为机器学习

激活函数:神经元非线性计算单元

1.符号函数缺陷

  • 除零点外导数均为 0,梯度下降无法更新参数,无法用于模型训练

2.通用激活函数特点

  • 输出不再局限 0、1,存在中间连续数值
  • 分类任务通过取最大值(argmax)、随机采样完成类别判定
  • 大模型主流使用 SwiGLU 函数,后续课程详细讲解

BQACAgUAAyEGAASHRsPbAAEXKjRqVbXfhK2AdKAxThkkzLIkDcPh8gACaCUAAkvwsVavXKo8IDZrYD0E.png

神经网络核心计算:矩阵乘法

1.线性计算数学表达

  • 单样本输入:向量与权重矩阵相乘,叠加偏移值
  • 批量样本输入:矩阵与矩阵相乘,一次性完成全部样本并行计算

2.矩阵乘硬件优势

  • 计算逻辑高度并行,适配 AI 芯片算力架构
  • 循环逐次计算无法充分利用硬件性能,批量矩阵运算算力利用率更高

3.大模型硬件算力挑战

  • 千亿、万亿级别参数需要大容量内存存储权重
  • 海量矩阵运算对芯片并行算力、低延迟、高能效提出硬性要求

BQACAgUAAyEGAASHRsPbAAEXKjdqVbX5sVE6e0hPOB_k-gscG9kOhgACayUAAkvwsVYUpQToy1jgiz0E.png

特殊神经网络结构设计逻辑

通用深度网络存在的短板

单纯堆叠多层神经元,拟合复杂特征需要大量参数、算力与训练时间,效率偏低。

专用结构核心优势

提前结合数据固有特征设计网络架构,用更少参数捕捉关键特征,降低算力、内存、训练耗时。

1.卷积神经网络(视觉专用)

  • 通过卷积核提取图像局部特征,类似七段灯拆解数字轮廓
  • 图像识别场景参数更少、训练速度更快、识别精度更高

2.残差结构

  • 拷贝浅层原始信息传递至深层,缓解多层网络信息丢失、特征弱化问题

BQACAgUAAyEGAASHRsPbAAEXKjhqVbYfB3CzmtT1Tl21WwABL2oZ_7oAAmwlAAJL8LFWKsIv7TxoQkY9BA.png

3.层归一化

  • 统一每层数值区间,避免浮点数计算累积溢出
  • 大语言模型常用简化版 RmsNorm,仅缩放数值、不做中心化处理
  • 优化向量区分度,提升模型收敛速度

AI 模型任务类型

BQACAgUAAyEGAASHRsPbAAEXKjlqVbY4mwhG03qaI-fOQmNwXYc6ywACbSUAAkvwsVbWDUSwgq67Wz0E.png

按输入数据形态分类

  1. 向量:固定长度一维数值,如手写数字展平特征
  2. 矩阵:二维结构化数据,典型代表图片
  3. 序列:长度不固定的向量组合,文字、语音、视频均属于序列输入

按输出任务目标分类

  1. 回归任务:输出单一连续数值,例如气温预测、数值预估
  2. 分类任务:划分固定类别,例如手写数字 0-9 识别
  3. 生成任务:基于输入生成全新内容,例如文生图、文本续写

加入训练营

InfiniTensor 官网报名/听课: [https://www.infinitensor.com]

B站直播: InfiniTensor 官方直播间

答疑交流: 训练营官方社群⬇️

Description

2026 夏季 InfiniteTensor 大模型与人工智能系统训练营推理引擎第一课,完整搭建了人工智能与深度神经网络的零基础核心认知体系,串联了 AI 发展迭代、网络原理、训练逻辑、特殊结构及模型任务五大核心内容,为后续大模型学习扫清基础认知障碍。

关注与交流