AI 学位·
全部课程 / L3 系统层

L3-04 RAG 与检索

学时 5h(3 次) 前置 L2-04 性质 工程课


为什么学这门

你的工作区里有大量文档(数学题库、内容引擎、课程文案)。RAG 是把这些文档变成可用知识的标准手段。

这门课的目标是让你能判断:一个 RAG 系统为什么不好用,该改哪一环。


课时拆解

第 1 次(2h)检索基础

  • 稀疏检索:BM25(为什么关键词匹配仍然强大)
  • 稠密检索:embedding + 向量相似度
  • 两者的互补性 → 混合检索
  • embedding 模型的选择维度:维度、语言、领域
  • 向量库:HNSW 索引的直觉

动手:用 BM25 和向量检索各查同一批问题,对比召回结果差异。

第 2 次(1.5h)Chunking 与索引

  • 为什么要切块(上下文限制 + 检索粒度)
  • 切块策略:固定长度、按语义、按结构(标题层级)
  • 重叠窗口的作用
  • 元数据:来源、时间、章节——用于过滤和引用
  • 父子块:小块检索、大块喂给模型

动手:对一份真实文档设计切块方案,说明块大小、重叠、元数据字段。

第 3 次(1.5h)重排与生成

  • Rerank:用交叉编码器精排 top-k
  • 为什么召回调大、精排调小
  • 上下文组装:顺序、去重、长度控制
  • 引用与溯源
  • 失败模式:检索到了但没用上、检索错了、模型忽略上下文

动手:设计一个 RAG 的端到端评估方案(检索命中率 + 答案准确率分开测)。


核心概念清单

  • BM25 与向量检索各自擅长什么
  • chunk 大小如何影响效果
  • rerank 为什么必要
  • 检索评估与生成评估为什么要分开
  • RAG 的三种典型失败模式

材料

  • 任意一篇 RAG 综述的前两节
  • BM25 的直观解释(不需要读原论文)

验收作业

  1. 检索对比:同一批 10 个问题,BM25 与向量检索的 top-5 结果对比表,标注各自漏了什么。
  2. 切块方案:一份真实文档的切块设计,含参数与理由。
  3. rerank 实验:加 rerank 前后的 top-3 准确率对比。
  4. 评估方案:检索层与生成层分开的评估设计。
  5. 失败分析:构造 3 个 RAG 会失败的查询,分析失败在哪一环。

常见卡点

卡点 真相
「向量检索为什么不如关键词」 专有名词、编号、代码这类 token,embedding 表达不好
「chunk 多大合适」 没有通解。经验值 300–800 token,必须实测
「为什么加了 rerank 效果反而差」 可能是召回集里本来就没有正确文档