08. 高级 RAG
选择原则
先用评估集证明基础检索的瓶颈,再增加一个变量。复杂度带来更多延迟、成本、失败路径和安全面。
| 症状 | 可尝试 | 代价 |
|---|---|---|
| 精确词和语义各丢一部分 | BM25 + dense + RRF | 两套索引与调参 |
| 问题表达与文档差异大 | query rewrite/HyDE | 改写可能引入幻觉 |
| 需要跨实体多跳 | GraphRAG/实体检索 | 图构建和维护成本 |
| 需要判断是否继续检索 | Agentic RAG | 循环、工具权限、延迟 |
| PDF 表格/图片重要 | 多模态解析/视觉模型 | 解析成本和验证难 |
Hybrid、查询改写与 HyDE
Hybrid 将关键词匹配和向量召回合并,常用 Reciprocal Rank Fusion;先保留每路候选的来源和分数,便于诊断。查询改写可补全缩写、拆分多问题,但必须保留原问题并限制改写次数。HyDE 让模型先生成“假想答案”再向量检索,适合问题和文档词汇差异大时;假想答案不是证据,不能直接回答用户。
GraphRAG
知识图谱适合实体关系和跨文档聚合,例如“哪些部门受某制度影响”。实体抽取错误、图过时和社区摘要丢细节是主要风险。先问:关系是否真的比原文段落更稳定?如果只是单文档问答,图通常增加成本而不增益。参考 Microsoft GraphRAG 的索引与查询说明,部署前核查版本和资源要求。
Agentic RAG
Agent 可以选择搜索、过滤、数据库查询或请求澄清。给工具设置白名单、预算、超时和最大步数;每一步记录理由和输入输出。不要让 Agent 自己改变 ACL、删除索引或执行任意 URL 请求。固定工作流问题优先使用确定性编排。
多模态与长上下文
解析 PDF 时保留页码、表格坐标和图片引用;视觉模型输出需要抽样核验。长上下文不是把所有文档塞进去:候选排序、去重、分组和上下文预算仍然重要。测试“正确证据在中间”的位置偏差。
练习与验收
- 同一组题比较 dense、BM25 和 hybrid 的 Recall@5,写出失败类型。
- 为“跨三个制度找出共同条件”设计图检索方案,并列出图过时的回滚办法。
- 给 Agent 写工具契约:输入校验、权限、预算、超时和审计字段。
验收标准:每个高级模式都能说出适用症状、一个失败案例和“不用它”的理由。可从 10 GitHub 项目 选择实现进行对照。
评论
正在加载评论…