全部课程 / L3 系统层
L3-04 RAG 与检索
学时 5h(3 次) 前置 L2-04 性质 工程课
为什么学这门
你的工作区里有大量文档(数学题库、内容引擎、课程文案)。RAG 是把这些文档变成可用知识的标准手段。
这门课的目标是让你能判断:一个 RAG 系统为什么不好用,该改哪一环。
课时拆解
第 1 次(2h)检索基础
- 稀疏检索:BM25(为什么关键词匹配仍然强大)
- 稠密检索:embedding + 向量相似度
- 两者的互补性 → 混合检索
- embedding 模型的选择维度:维度、语言、领域
- 向量库:HNSW 索引的直觉
动手:用 BM25 和向量检索各查同一批问题,对比召回结果差异。
第 2 次(1.5h)Chunking 与索引
- 为什么要切块(上下文限制 + 检索粒度)
- 切块策略:固定长度、按语义、按结构(标题层级)
- 重叠窗口的作用
- 元数据:来源、时间、章节——用于过滤和引用
- 父子块:小块检索、大块喂给模型
动手:对一份真实文档设计切块方案,说明块大小、重叠、元数据字段。
第 3 次(1.5h)重排与生成
- Rerank:用交叉编码器精排 top-k
- 为什么召回调大、精排调小
- 上下文组装:顺序、去重、长度控制
- 引用与溯源
- 失败模式:检索到了但没用上、检索错了、模型忽略上下文
动手:设计一个 RAG 的端到端评估方案(检索命中率 + 答案准确率分开测)。
核心概念清单
- BM25 与向量检索各自擅长什么
- chunk 大小如何影响效果
- rerank 为什么必要
- 检索评估与生成评估为什么要分开
- RAG 的三种典型失败模式
材料
- 任意一篇 RAG 综述的前两节
- BM25 的直观解释(不需要读原论文)
验收作业
- 检索对比:同一批 10 个问题,BM25 与向量检索的 top-5 结果对比表,标注各自漏了什么。
- 切块方案:一份真实文档的切块设计,含参数与理由。
- rerank 实验:加 rerank 前后的 top-3 准确率对比。
- 评估方案:检索层与生成层分开的评估设计。
- 失败分析:构造 3 个 RAG 会失败的查询,分析失败在哪一环。
常见卡点
| 卡点 | 真相 |
|---|---|
| 「向量检索为什么不如关键词」 | 专有名词、编号、代码这类 token,embedding 表达不好 |
| 「chunk 多大合适」 | 没有通解。经验值 300–800 token,必须实测 |
| 「为什么加了 rerank 效果反而差」 | 可能是召回集里本来就没有正确文档 |