给想让 AI 读过你资料的人的实用指南

RAG
是什么?

RAG(Retrieval-Augmented Generation,检索增强生成)是让模型"开卷考试"的工程方法:回答之前,先从你的资料里检索出相关段落,连同问题一起交给模型——答案有出处、可更新、不靠死记硬背。

比如对公司知识库做问答:模型没读过你们的报销制度,硬答就是幻觉;RAG 先搜出制度原文里最相关的三段,让它"根据以下材料作答,并标注出处"——答案立刻从"碰运气"变成"可验证"。

2020 · Meta 论文提出 开卷考试类比 治幻觉第一味药 企业落地首选
rag — 流程演示

流程拆解

六步,搭起一条开卷流水线

所有 RAG 系统万变不离这六步。点击左侧步骤,右侧看它的职责与要点——顺序就是数据流的方向。

rag — 内部视角
2020 · 论文起点

检索 + 生成首度合体

Lewis 等人(Facebook AI Research)提出 RAG:参数化知识(模型内化)+ 非参数化知识(外挂检索),在开放域问答上验证价值。

2023 · 企业落地

知识库问答元年

向量数据库与 embedding 模型产品化,"把公司文档接给大模型"成为大模型第一波企业级场景。

2025+ · 与长上下文共存

窗口再大,RAG 不倒

百万 token 窗口让"整本塞进去"成为可能,但成本、精度与权限控制,让检索增强依然不可替代。

谁在用

三个最常见的落地形态

RAG 不是实验室技术——它是过去几年企业接入大模型的第一入口。

场景一知识库问答

企业内部知识库

制度、产品文档、工单历史入索引。员工用自然语言提问,直接得到带出处的答案——新人培训周期肉眼可见地缩短。

典型 → 内部问答 · 制度查询
场景二客服

先查帮助中心再回答

客户问题先检索帮助文档,答不上来转人工;回答附带引用链接,让客户自己核对——投诉率和重复咨询一起降。

典型 → 帮助中心 · 工单辅助
衔接Agent

Agent 的外接记忆

Agent 干活中途要查文档、查工单、查代码库,靠的多半是 RAG 式检索——它是姊妹篇里那双"手"背后的"资料柜"。

衔接 → 姊妹篇 · Agent Harness

以上为典型落地形态 · 实际效果取决于资料质量与检索调优。

为什么重要

让模型开卷考试,
而不是背下整座图书馆。

原论文的表述是"把参数化知识(模型内化的)与非参数化知识(外挂检索的)结合起来"。翻译成大白话:模型内化语言与推理,事实交给外部资料库。知识可以随时更新、按权限隔离、每句都有出处——这三件事,纯训练一件都做不到。

01

知识外挂

更新不重训:索引夜里换一批,答案白天就是新的。模型的知识冻结日期,不再是系统的知识边界。

02

每句有出处

引用让"信我"变成"自己验证"。它既是产品信任感,也是收窄幻觉的第一道闸(见姊妹篇幻觉页)。

03

权限可隔离

谁能搜到什么,在检索层说了算。这一条让它成为企业敢把私有资料接给 AI 的前提。

依据与事实

先说清楚这门手艺

全称
Retrieval-Augmented Generation检索增强生成——"先查资料,再作答"
出生
2020 · Meta(Facebook AI Research)Lewis et al.,arXiv:2005.11401
类比
开卷考试模型带推理能力入场,资料外挂开卷
流程
索引 → 检索 → 生成切块 · 嵌入 · 向量库 · top-k · 引用
治病
幻觉第一味药答案限定在材料内,并要求标注出处
取舍
与长上下文共存窗口再大,也贵、也慢、也管不了权限

一门手艺的编年史

  • 2020 论文提出

    Facebook AI Research 的 Lewis 等人把检索器(DPR)与生成器(BART)拼接,在开放域问答上验证了"检索增强"的价值,并给它起了这个名字。

  • 2022–2023 基建成熟

    embedding 模型与向量数据库产品化,"把公司文档接给大模型"从论文里的一张图,变成一套标准工程。

  • 2023–2024 企业普及

    知识库问答成为大模型第一波落地场景;分块策略、混合检索、重排序成为专门学问。

  • 2025+ 持续进化

    GraphRAG、多路召回、Agentic RAG(让 Agent 自己决定查什么)接连出现;长上下文没有杀死它,反而逼它变得更精。

设计取舍与常见误解

  • 检索准 vs 召回全——top-k 太少漏关键,太多塞噪声;重排序(rerank)是中场裁判。
  • 切块大 vs 小——大块保上下文,小块保精度;按文档结构切通常最稳。
  • 向量 vs 关键词——语义检索懂变体,关键词检索懂编号与专名;混合检索全都要。
  • 长上下文 vs RAG——塞得下不等于查得准、付得起、管得住权限;两者常配合使用。
  • 自动化 vs 权限——检索层必须继承文档权限,否则 AI 会变成最大的越权接口。
  • 引用 vs 流畅——要求标注出处会约束文风,但换来可验证性,值。

三个常见误解:① RAG ≠ 把文档全部塞给模型——全塞只是"长上下文",检索与引用才是 RAG 的灵魂;② RAG 不能消灭幻觉——它收窄幻觉空间,但模型仍可能不忠实于材料,所以要评测;③ 建完就一劳永逸——文档在变,索引要跟着更新,效果要持续测。

接下来继续了解

常见问题

RAG 和微调怎么选?+
记事实用 RAG(可更新、有出处),学风格与领域技能才考虑微调。绝大多数"模型不懂我们业务"的问题,答案是 RAG 而不是微调——因为你要的其实是一份会更新的资料,而不是一个新大脑。
需要专门的向量数据库吗?+
小规模用 pgvector 这类数据库插件就够;百万级以上再考虑专用向量库。先跑通流程、验证检索质量,再优化基建——顺序别反了。
为什么我的 RAG 答非所问?+
九成问题出在检索:切块不合理、embedding 选型不当、top-k 太小、材料太旧。排查顺序:先看检索回来的段落对不对,再怪模型。检索是上限,生成只是下限的兑现。
长上下文来了,RAG 会死吗?+
不会。塞整本书又贵又慢,权限没法隔离,也难标出处。实践中常见"长上下文 + 检索"混用:窗口装常驻资料,检索补时效内容与长尾。
RAG 能完全治好幻觉吗?+
不能,只能大幅收窄:检索可能漏掉关键段,模型也可能不忠实于材料。引用 + 评测 + 允许说"不知道",三件套一起上——详见姊妹篇《什么是幻觉?》。
企业的敏感文档能接吗?+
能,而且权限过滤是必须项:检索层继承文档权限,谁提问就只能搜到谁有权看的块。这件事要在架构里做,不能靠提示词"求"模型别泄露。

它适合谁

四类人,四个入口

For KM

知识管理者

把沉睡的制度与文档变成随问随答的知识库,答案带出处,更新只动索引。

起点 → 流程六步 ↓
For Devs

开发者

从 pgvector 加一个 embedding 模型起步,一天跑通最小闭环,再谈优化。

起点 → arXiv:2005.11401
For Secs

安全团队

权限过滤、审计日志、材料来源——RAG 让"AI 读过什么"第一次可管理。

起点 → 构件 ⑥ 生成与引用
For PMs

产品经理

设计"引用与跳转"体验:让用户一键核对答案出处,信任感翻倍。

起点 → 姊妹篇 Prompt 工程

开始动手

先让 AI 读你的资料

十行伪代码,就是所有 RAG 系统共用的骨架。

问题 = 用户输入
段落 = 向量库.检索(问题, top_k=3)
提示 = "根据以下材料作答并标注出处:"
       + 段落
答案 = model(提示)
微信公众号「大话数据分析」二维码

微信扫码关注「大话数据分析」数据 · 分析 · AI 实战