RAG 到底解决了通用 AI 的什么毛病
您问 AI 一个本行的问题——某个实验方法的适用条件，或某份指南里对一个指标的具体界定。它答得又快又顺，术语、条件、注意事项一应俱全，读着完全像个内行。可您留了个心眼，拿去引用前回头核对，却发现它把一个前提说反了；又或者它那句「这出自某指南」，您在原文里根本找不到对应的句子。这一刻您只剩两个选择：信，或者不信——手上没有第三条路去核。
这篇想讲的，就是那条被很多产品叫作「知识库问答」的第三条路，以及它背后的机制：RAG（检索增强生成）。说清楚它治好了通用大模型的什么毛病，也说清楚它治不好什么。
通用模型的毛病：它在「凭记忆答」，不是「查着答」
要弄明白 RAG 补的是什么，得先看通用大模型为什么爱胡说。它把海量文本里的规律压进了参数，记住的是「什么样的说法看起来对」，而不是「哪句话真有出处」。所以它回答时，是在当场「生成」一段最合理的文字，而不是从某个地方「取出」一段现成的事实。
这就带来一个要命的毛病：它分不清「我确定」和「我在猜」，两种情况下一样流畅、一样自信。您问一个它没把握的细节，它不会停下来说「这条我不敢确定」，而会顺手补上一个读起来最顺的答案。也正因为答案是生成出来的，它没法告诉您这句话到底出自哪里——因为压根没有那个「哪里」。又顺又像样，却无据可查，这是通用模型的底层毛病。
RAG 做的，是一件朴素得有点反直觉的事
既然凭记忆容易编，那就干脆不让它只凭记忆。RAG 的做法是：在回答之前，先拿您的问题去一个可信的资料库里检索相关内容，把找到的原文段落连同您的问题一起交给模型，要求它「只依据这些材料」作答，并告诉您答案出自哪一段。
打个比方：没有 RAG 时，模型是在闭卷考试凭记忆答；有了 RAG，它变成开卷——先翻到相关的那几页，再照着写。前者容易记串、记错，后者手边摊着原文，编的空间被压小了很多。
它「翻到相关段落」，靠的不只是关键词，而是按意思去找：您问的和资料里写的哪怕用词不同，只要说的是一回事，也能被检索到。这让它比死抠关键词的搜索更懂您真正想问什么——但也埋了个坑，后面会讲。
它到底改变了什么
把「信或不信」变成「可以去查」
对科研人来说，RAG 最实在的改变不是答案「更准」，而是答案「可核」。它给的每一句结论，原则上都能顺着出处回到原文那一段。您不必再在「盲信」和「一概不信」之间二选一，而是可以像审稿那样，点开出处，自己判断这一句站不站得住。审稿本就是您的看家本事，这次不过是把 AI 的答案摆上台面审一遍。
知识的范围，归您掌控
通用模型的知识是训练时「冻」进去的：又旧又泛，您也说不清它究竟读过什么、没读过什么。RAG 把这件事翻了过来——库里放什么，由您定。您可以只放本领域的可信文献，放实验室内部的标准流程，放某一版您认可的指南。于是回答的依据既是眼下最新的，也是您这一行真正认账的那批材料，而不是互联网上一个笼统的平均值。
但它不是万能药
把 RAG 当成幻觉的「解药」，照样会栽跟头。它至少有三种情形会翻车，值得您记在心里。
库里没有的，它可能照样「补」给您
检索没找到合适材料时，不少系统不会老实说「查不到」，而是退回老路——凭模型自己的记忆硬答。这时您拿到的又是一段没有真实出处的生成文字，却因为整套系统挂着「知识库」的名头，显得格外可信。越像有据可查，越要留神。
检索错了，它会被带偏
上一节说的「按意思检索」是把双刃剑。万一系统捞回来的是一段看着相关、其实答非所问的材料，模型往往还是硬着头皮照它作答，把您领偏。答案有出处，不等于那个出处真撑得住这个结论——对不对得上，还得您扫一眼。
材料对了，归纳仍可能走样
哪怕检索到的原文完全正确，模型在「读材料、写答案」这一步依然可能出错：把「提示」读成「证明」，漏掉一个限定条件，或把两段材料的意思揉到一块。所以出处是让您能核，不是替您核——真要引用，那一眼原文还是省不掉。
挑工具，盯住两个硬指标
看懂了机制，您就知道评价一个「知识库问答」产品，不该看它话术多漂亮，而要盯两件事。
一，库的质量
答案的天花板是库。库里是不是可信、贴您领域、够新的资料，直接决定它能不能答对。一个塞满泛泛网文的库，包装得再好也答不出专业问题。有条件的话，弄清它的库从哪来、能不能换成您自己的材料，比试聊几句更看得出深浅。
二，给不给出处，能不能一键回到原文
这是分辨「真 RAG」和「借个名头」的照妖镜。真正基于检索的回答，该能明确告诉您每段结论出自哪、并让您点回原文。给不出出处、或出处点进去对不上的，您就当它其实还在凭记忆答。带出处的专题知识库问答就是这么个样子：把一个领域的可信资料圈成一个库，回答时只在这个范围里找证据，再把出处一并递给您——两个指标落到实处，大致如此。
说到底，它换的是您和 AI 的关系
绕回开头那个「信或不信」的两难。RAG 没把 AI 变得更聪明，它会编的本事还在；它改的是您跟它打交道的方式——把「您只能赌它对不对」变成「您可以去查它对不对」。负担从「信任」挪到了「核对」，而核对，本就是科研人该做、也做得来的事。
所以别指望哪个工具能让 AI 从此不出错。您真正该要的，是一个肯把话说得可核、把出处摊开给您看的工具。剩下那一步——点开原文，确认它没读偏——永远是您的。这不是 RAG 的短板，这正是它该有的样子。