我把自己 Nuxt3 知识库（my-nuxt-app）的调试工具链整个做成了一套排查方法，这篇按层过一遍。

总原则：控制变量 + 只看检索不生成

两条铁律贯穿所有排查：

1. 召回策略是唯一变量。我把检索做成 hybrid / bm25 / vector 三档模式开关，同一问题各跑一遍，后面的精排、生成完全一致——谁拖后腿一眼看见。
2. 检索和生成分开验。有 retrieveOnly 开关：只看召回了哪些片段、名次如何，不跑生成。答案不对，先确认是「没捞到」还是「捞到了模型没用好」，这两件事的修法完全不同。

分层排查

层 1：入库（文档→分块→向量）

七步建库链路：知识整理 → 清理格式化 → 内容切分 → 向量化 → 挂元数据 → 载入向量库 → 集成。效果差的病根很多在这：切太碎丢上下文，切太粗检索不准。

我项目的真实分块参数：递归切分器 chunker.ts，目标 800 字符（标题→空行段落→句号→硬切四层降级，短文档直接一片不硬切）；BM25 侧启动全量预热——最新实测：172 个 chunk / 3015 个词项，建索引 2688ms（TiDB 拉取+分词+倒排全算上）。

排查动作：随机抽几个 chunk 看语义是否自包含；问一个已知有答案的问题，确认目标 chunk 的文本入库时没被解析器吃掉（表格/PDF 是重灾区）。

层 2：检索（两路单测）

关键词路和向量路各留了单路调试接口：/api/rag/keyword-search、/api/rag/vector-search——单路粗召、不精排，专治「不知道哪路烂」。

典型病症对照：

• 专有名词/条款号/型号搜不到 → 关键词路问题：查分词（我的 BM25 用中文分词器切 query 和文档，分词烂则倒排全烂）、查索引预热是否成功（控制台看 docs/vocab 数）
• 换个说法就搜不到 → 只有 BM25 在干活，向量路没接上或阈值过严
• 召回一堆语义相近但没用的 → 向量路正常但缺精排，去层 4

层 3：融合（RRF 名次日志）

两路各召 top20，RRF 融合（score=Σ1/(60+rank)）。FusedResult 里我专门存了每个 id 的 ranks: [向量路名次, BM25路名次]（未命中记 null），服务端控制台按模式打印——融合后排名怪，直接看是「一路强推」还是「两路共认」。

坑：别把余弦分和 BM25 分直接加权，量纲不同（0~1 vs 无上限），必须转名次。

层 4：精排

粗召本质是盲选——入库时分块单独算的向量，从没和你的问题同框比过。精排用 cross-encoder（bge-reranker-v2-m3）把「问题+候选」成对打分，融合 top20 → 精排 top5。

排查信号：召回明明有正确答案却排在 15 名开外进不了上下文 → 看 rerank 分数；rerank 服务挂了会自动降级按 RRF 分排，日志里有标记，别把降级的锅算到检索头上。

层 5：生成

检索没问题、答案还是烂，才轮到生成层：prompt 里资料怎么拼、有没有约束「只用资料作答、引用标来源页码」、模型是不是被无关片段带偏（top5 塞太多噪声也是病，回头减 FINAL_TOP_K）。

常见三病因（课件口径 + 我的实战对应）

1. 文档处理和切割颗粒度问题 → 层 1
2. 召回不准，想命中的片段排序太靠后 → 层 2/3/4
3. 检索到了但整合生成没用对 → 层 5

对应五个提准手段（我项目落了的标 ✓）：切分技巧 ✓（递归四层+短文档保护）、取相邻片段（父页面类方案，评估后我没做）、多召回+rerank ✓（20→5）、混合检索 ✓（BM25+向量）、Query 重写 ✓（改写只进检索）。

面试话术一句话

「我调试 RAG 的路径是分层二分：先用 retrieveOnly 把检索和生成切开，再用三模式开关把两路召回切开，每层都有接口和名次日志。定位到层之后，改参数—回归—再定位，不靠玄学。」

这就是面试官要听的：不是你知道多少技巧，而是你有能把问题范围每次减半的方法。

本篇最早于 2026 年 10 月 10 日发布于小红书，此为博客完整版。

我把自己的企业知识库项目（Nuxt3 my-nuxt-app：私有制度文档问答，检索走向量+BM25 混合，生成走 deepseek-chat API）从头选到尾，这篇文章把三层的边界和我的决策过程讲清楚——这也是面试被问最多的一题。

先摆认知地基：训练范式在干嘛

一张表说人话（来自我系统补的《语言模型训练范式》课件，老师一句话总结：大模型 = 会接话茬的机器（Pretrain）+ 会做任务的机器（SFT）+ 会自我评判的机器（RM/PPO/DPO））：

硬核数字记一个就够：Llama 3.1 405B 预训练 = 16384 块 H100 跑 54 天，亿级人民币。所以普通企业和个人根本不碰预训练，选择题只在「现成模型 + 什么方式喂能力」之间做。

面试加分项也在这：SFT/微调 ≠ 给模型喂知识，是教模型「做任务」。 知识靠 Pretrain（通用）+ RAG（私有/新）供给。很多人把微调当成「把公司文档灌进模型」，方向从根上就错了。

三层模式，按成本从低到高

第一层：Prompt / 上下文工程

把关键信息直接写进 system prompt。适合：全局规则、输出格式、角色设定。

局限：窗口有限，塞不进几十份制度文档；每轮都重复计费。我的项目里它只负责「只用资料作答、不编造、标注来源页码」这类约束。

第二层：RAG——知识在模型外面

文档入库切块 → 向量化（我用 Chroma + bge-m3）→ 提问先检索（混合检索：BM25+向量，RRF 融合，reranker 精排取 top5）→ 检索结果拼进 prompt → 生成。

知识更新 = 重新入库，分钟级。 文档改了版本，知识库表里状态机走一遍（草稿→发布→下架），不动模型一根手指。回答能带来源文件和页码——可溯源，这是企业场景的硬需求，微调给不了。

第三层：微调——把能力焊进权重

拿几百到几万条「输入→期望输出」对模型做 SFT。适合什么？固定的输出格式、领域语气、术语习惯——也就是「行为方式」，不是「知识内容」。

我的真实三笔账（为什么 my-nuxt-app 选了 RAG，微调碰都不碰）

1. 知识更新频率。 部门制度文档是活的：新考勤规则、修订的报销流程。RAG 重新入库就完事；微调要攒数据、排队训练、验证回归——为「上周改的那条婚假规定」重训一次模型，纯属行为艺术。

2. 机器现实。 我的生产环境是 99 元/年的 2核2G 阿里云 ECS，内存预算排完（nginx 64MB + node-app 384MB + 系统 + swap）只剩 1G 出头。这台机器连一个 7B 模型都推理不动，更别说训练。我架构里所有重活全在云 API：Embedding 走 bge-m3、精排走硅基流动 bge-reranker-v2-m3、生成走 deepseek-chat。微调需要训练数据+算力+评测集三件套，对个人项目是三重成本。

3. 可回滚性。 RAG 答错了，改文档、调分块、调检索参数，改完立刻生效，还能追溯「当时引用了哪一页」。微调把错误知识焊进权重后，你连它为什么胡说都查不出来，回滚要重训。

什么时候我才会上微调

预判一下自己：等业务问答稳定，出现这类需求再考虑——「回答必须严格按公司工单模板的语气和结构输出」这种格式/风格问题。届时也是 LoRA 这类轻量方案 + 现成 API 模型，依旧不碰预训练。知识类需求，永远 RAG。

速查表

一句话收束：知识在模型外面解决（RAG），行为在模型权重里解决（微调）——分不清这两件事，选型必错。

下一篇讲 RAG 效果差怎么调试。

本篇最早于 2026 年 10 月 9 日发布于小红书，此为博客完整版。