MODERN AI SYSTEMS · FALL 2026
从会用 Agent,
到读懂整个系统。
把原理读懂,把代码跑通,把结果测清楚。
沿着 12 章中文教程,构建你的第一个 Agent 系统。
A SYSTEM, LAYER BY LAYER
01—06Agent engineering循环 · 工具 · 上下文 · 评测
↓
07—12Inference & systems成本 · 推理 · 缓存 · 调度
READ → BUILD → MEASURE
12完整中文教程
24随堂自测
03离线 Python 实验
已完成 0 / 12
先读一章,再跑一个实验。Python 基础薄弱时先熟悉字典、函数与异常;学习后半程前补齐并发、内存和延迟概念。本站提供独立编写的中文配套讲解,原始课件与正式作业要求请查看官网。
PART I / BUILD THE AGENT
Agent 工程
让模型走出对话框,学会调用、记忆与验证。
CHAPTER 01入门 · 约 25 分钟
从一次对话到 Agent 循环
拆开模型、工具与运行框架,亲手跑通一个有证据的文件问答助手。
6 节讲解 · 2 道自测开始阅读 ↗
CHAPTER 02入门 · 约 30 分钟
设计可靠的工具接口
让 Agent 明白能做什么、参数怎么填,以及一次失败意味着什么。
6 节讲解 · 2 道自测开始阅读 ↗
CHAPTER 03进阶 · 约 30 分钟
把上下文当作有限预算
决定每轮模型真正需要看什么,并在压缩后保住目标、约束和证据。
6 节讲解 · 2 道自测开始阅读 ↗
CHAPTER 04进阶 · 约 30 分钟
让记忆保留证据,而不是固化错误
区分工作状态、事实和经验,为持久记忆加入来源、范围与失效规则。
6 节讲解 · 2 道自测开始阅读 ↗
CHAPTER 05进阶 · 约 30 分钟
在值得并行的地方使用多 Agent
划清任务边界、传递证据、合并结果,并为协调成本建立预算。
6 节讲解 · 2 道自测开始阅读 ↗
CHAPTER 06进阶 · 约 35 分钟
建立能发现退步的 Agent 评测
从任务结果出发,衡量正确性、可靠性、成本,并避免把测试答案泄漏给系统。
6 节讲解 · 2 道自测开始阅读 ↗
PART II / OWN THE SYSTEM
推理与系统
沿着一次请求,理解每个 token 背后的代价。
CHAPTER 07进阶 · 约 25 分钟
成本与模型路由
把每次调用的账单,变成每个成功任务的成本。
6 节讲解 · 2 道自测开始阅读 ↗
CHAPTER 08进阶 · 约 30 分钟
从模型调用到推理服务
沿着一个请求,读懂 prefill、decode 与延迟指标。
6 节讲解 · 2 道自测开始阅读 ↗
CHAPTER 09进阶 · 约 30 分钟
KV cache 与前缀复用
算清上下文的内存账,理解缓存究竟省掉哪段计算。
6 节讲解 · 2 道自测开始阅读 ↗
CHAPTER 10进阶 · 约 30 分钟
连续批处理与调度
让请求及时进出批次,同时守住等待时间与公平性。
6 节讲解 · 2 道自测开始阅读 ↗
CHAPTER 11进阶 · 约 35 分钟
量化与推测解码
一种减少表示成本,一种减少串行等待,分别验证收益。
6 节讲解 · 2 道自测开始阅读 ↗
CHAPTER 12进阶 · 约 35 分钟
全栈性能实验与结课项目
从慢在哪开始,以可复现的质量、成本和延迟结果结束。
6 节讲解 · 2 道自测开始阅读 ↗
视频导读 ↗
YouTube 与 Bilibili 精选视频,按章节配合阅读。
交互实验室 ↗成本、KV cache 与调度算例,无需 GPU。
概念速查 ↗从 harness 到 TTFT,遇到术语随时查。
学习记录 ↗查看学习进度、自测成绩,导出已有笔记。
进度与笔记仅保存在当前浏览器,可在笔记页导出备份;不会上传到服务器。