Appearance
实验目录
教程实验的快速重跑索引。每个实验页只有一句价值主张和一个回链，完整命令、预期输出、概念图和故障注入都在对应章节页面的「动手实验」一节里，不在本分区重复维护。
⚡ 想要免环境直接在线手写代码与断言？
- 🚀 16 关算法演练台 (Cloud IDE) — 关卡驱动，支持一键「💡 看答案 / ↺ 还原练习」双向无损切换与 WebAssembly 秒级执行；
- ✨ 自由探索沙箱 (Scratchpad) — 纯净空白试验场，随时随地测试任意 Python 3.11 数值原型与算法想法。
每个实验页回链到对应章节，文件编号和章节号不是同一套。第2章与第3章共用 02-python-math；第12章 DeepSeek 的索引是 20-deepseek，第20章 Multi-Agent 的索引是 21-multi-agent，第22章 Capstone 的索引是 19-capstone。第1章是环境审计，没有配套实验。不要求按顺序做。
怎么开始
bash
# 克隆仓库并安装依赖
git clone <private-repository-url>
cd learn-llm
python3.11 -m venv .venv && source .venv/bin/activate
python -m pip install -r requirements.txt
export PYTHONPATH="$PWD/python"
# 跑任一实验（命令见回链指向的章节页面「动手实验」一节）每个实验页回链到对应章节页面的「动手实验」锚点：可复制命令、预期输出和故障注入表以章节页面为唯一权威；跑通后再回到章节正文看理论。
实验列表（20 个）
| # | 名称 | 对应章节 | 在线演练沙箱 | 深度要求 |
|---|---|---|---|---|
| 02 | Python/数学坡道 | 第2/3章 | ⚡ 演练台 ↗ · 中心差商数值对拍 | L1 |
| 03 | 标量 autograd | 第4章 | ⚡ 演练台 ↗ · 手写计算图与拓扑反传 | L3 |
| 04 | Bigram/MLP 字符 LM | 第5章 | ⚡ 演练台 ↗ · 转移概率与 NLL 交叉熵 | L3 |
| 05 | UTF-8 BPE 往返 | 第6章 | ⚡ 演练台 ↗ · 字节级贪心 BPE 词表合并 | L3 |
| 06 | Tensor 反传 + Norm | 第7章 | ⚡ 演练台 ↗ · RMSNorm 均方根归一化 | L3 |
| 07 | Scaled Dot-Product + Causal | 第8章 | ⚡ 演练台 ↗ · 因果注意力下三角遮罩 | L3 |
| 08 | TinyGPT 端到端训练 | 第9章 | ⚡ 演练台 ↗ · 自回归 Next-Token 采样 | L3 |
| 09 | RoPE + KV Cache | 第10章 | ⚡ 演练台 ↗ · 2D 旋转矩阵与平移不变性 | L3 |
| 10 | SFT/LoRA 对比 | 第11章 | ⚡ 演练台 ↗ · 零额外推理延迟权重合并 | L2 |
| 11 | RAG + ACL | 第13章 | ⚡ 演练台 ↗ · 向量余弦检索与 ACL 严格隔离 | L2 |
| 12 | RAG 实战（真实 Embedding） | 第14章 | 向量空间降维投影 | L2 |
| 13 | Agent + MCP | 第15章 | ⚡ 演练台 ↗ · 声明式 Tool 派发状态机 | L2 |
| 14 | 真实 LLM API | 第16章 | 结构化输出校验 | L2 |
| 15 | Prompt 工程与记忆 | 第17章 | 上下文窗口预算与滑窗策略 | L2 |
| 16 | LangGraph 实操 | 第18章 | ⚡ 演练台 ↗ · 循环状态图与条件边路由 | L2 |
| 17 | 全栈流式交付 | 第19章 | ⚡ 演练台 ↗ · SSE 流式字节块增量重组 | L2 |
| 18 | Eval + 安全 | 第21章 | OWASP Top 10 攻击防御矩阵 | L2 |
| 19 | Capstone 综合 | 第22章 | 全栈 Agent 综合验收 | 综合 |
| 20 | DeepSeek 模型专题 | 第12章 | ⚡ 演练台 ↗ · MoE Top-2 动态门控路由 | L1+ |
| 21 | Subagent / Multi-Agent | 第20章 | ⚡ 演练台 ↗ · Subagent 上下文隔离派发 | L2 |
全书 23 章按严格单调递进编排：第 12 章（DeepSeek 专题）承接第 11 章后训练，第 20 章（Multi-Agent）承接第 19 章流式交付，第 23 章（取舍的骨架）收在 Capstone 之后作为毕业后的读法。建议按章节顺序由浅入深推进。
推荐学习路径
最小可用核心链（L3 底层实现）：02 → 03 → 04 → 05 → 06 → 07 → 08 → 09 → 19
完整工程路径（全书主线闭环）：02 → 03 → 04 → 05 → 06 → 07 → 08 → 09 → 10 → 20 → 11 → 12 → 13 → 14 → 15 → 16 → 17 → 21 → 18 → 19
应用交付路径（Agent 实战向）：02 → 11 → 12 → 13 → 14 → 15 → 16 → 17 → 21 → 18 → 19
全栈智能体专项：02 → 03 → 07 → 09 → 11 → 13 → 21 → 18 → 19
实验 vs 章节的关系
- 实验：章节页面「动手实验」一节的重跑入口；命令与阈值以章节页面为唯一权威
- 章节：完整理论、故障表、论文绑定、口述题
先跑实验，再读章节会让抽象概念更具体；反过来读章节再跑实验会让命令更清晰。两种顺序都成立。
不在实验索引里的内容
下一步
→ 第1章 环境审计 · 实验 03 autograd · 参考 / 术语表