
7 月 28 日,2026 夏季 InfiniTensor 训练营 AI 编程与智能体应用第四课《AI 编程与智能体应用实践:从需求到原型实现》开讲。
前三课依次讲解通用 Agent 系统完整架构、循环执行机制、安全评估体系,以及科研领域多类科研智能体落地案例,搭建 Agent 理论与行业落地认知。
本节课承接前三节 Agent 理论与科研场景落地内容,以 MiniAgent 推理框架适配 Phi-3.5 模型为完整实战案例,完整演示标准化 AI Coding 全流程,讲解 Skills 复用、任务驱动开发、分层调试规范与项目归档方法。
准备工作:Skills 与环境构建
Skills 的获取与管理

- 核心价值:复用已优化的 Prompt 和范式,避免重复造轮子。
- 推荐资源:skills.sh 网站。
- 本次实战必备 Skills:
model-pr-history-knowledge:读取模型结构经验。diagnosing-bugs:对话式修 bug。codebase-design:代码库设计与模仿。tdd:测试驱动开发。simplify:代码简化与清理。
项目初始化规范
- 文件夹结构:建立标准目录(如
code_building存放过程文档,DOCS存放中间文档)。 - 环境校准:
- 让 Agent 阅读开发规范与 Debug 哲学。
- 运行基准测试(如 Qwen3-8B)确认环境与框架无误。
- 定性评估任务量,识别 Gap(如 RoPE 类型、Head Dimension 等)。
Coding Agent Loop 与驱动模式
Agent Loop 基本逻辑

- 循环机制:环境搜索信息 → 形成长 Context → 模型决策 → 调用工具执行 → 发现新 Bug → 修改迭代。
- 人机协作:Agent 提出 Plan A/B/C,人类识别意图并选择正确方案。
三种驱动模式(水无常形)

- Plan First + Test Driven(本次重点):先理清任务,再通过测试脚本触发 Bug,逐步修复。适用于清晰的功能开发。
- Spec Driven:给定具体指标/限制,让 Agent 在约束内持续优化。适用于性能优化任务。
- Review Driven:人类密集参与,通过不断对话矫正方向。适用于探索性/不定向任务。
实战演练:Phi-3.5 适配全流程

测试梯度设计(关键方法论)

- 原则:每次测试只覆盖一个接口/功能,由浅入深。
- 标准梯度示例:
- 注册与配置文件补齐。
- 模型树节点分析(复用 vs 重写)。
- 长上下文 RoPE(Long RoPE)数学分析与构建。
- 单层 Logic 精度对准。
- 全模型 Logic 精度对准。
- Prefill & Decode 多阶段核对。
- 端到端文本生成(Temperature=0)。
- 离线服务 → 在线服务 → TP 支持。
执行过程中的 Review 要点

- Plan 审查:检查方案是否符合开发规范与人类意图(这是自动化顺畅的关键)。
- Debug 监控:
- 确保推 Bug 过程线性推进,禁止跳跃。
- 警惕激进修改(如误删代码行),及时制止。
- 关注边界条件测试(如 Long RoPE 的触发条件)。
- 环境问题处理:当前使用的 FlashInfer kernel 对 Head Dim=96 支持有限,引导 Agent Fallback 到 FlashAttention。
代码清理与回归
- 防御性编程的取舍:初期可写,后期须简化以保性能。
- 回归测试:简化后必须重跑 CoreTest 确保功能无损。
Debug 规范与上下文管理
Debug 规范精选

- 不猜机制,找变量
- Print,让数据说话。
- 隔离实验:一次只验证一个假说,防止交叉感染。
- 先确认路径,再看数据
- 二分法找边界
- 预期 vs 实测:先列预期数据,再跑实测,对比 Gap 分析根因。
长上下文与多 TP 扩展
- Chunk Prefill 陷阱:注意序列级模式选择被破坏的问题。
- TP=2 建设:TP=2 支持需要在算子正确性验证基础上,进一步检查权重切分、通信逻辑和并行一致性。

上下文压缩与归档(防失忆)
- 痛点:长对话导致 Context 极限或新会话失忆。
- 解决方案:
- 主动归档:将链路总结为过程文档(命令、数据、现象、结论)。
- 上下文恢复:新会话让 Agent 重读自己生成的归档文件恢复记忆。
- 固化工作流:将成熟的 Debug/归档流程封装为新的 Skills。
总结:AI Coding 三原则
- 无代码:尽量让 Agent 完成所有编码工作。
- 自动化:通过测试梯度和 Skills 驱动自动迭代。
- 抓好入口和出口
加入训练营
📺完整课程内容,请观看直播或查看课程回放:
InfiniTensor 官网: https://www.infinitensor.com
B站直播: InfiniTensor 官方直播间
视频号直播: InfiniTensor 视频号预约
答疑交流: 训练营官方社群⬇️

关注与交流

