三个词读懂科研 AI:大模型、智能体、RAG
您让 AI 帮您找一篇能支持某个结论的文献。它答得又快又体面:作者、年份、期刊,连 DOI 都排得整整齐齐。您把 DOI 复制进数据库,回车——零条结果。换标题再搜,还是零。这篇文章根本不存在。
它不是在骗您,它只是把一篇文献「该长什么样」猜得太逼真了。而这一刻,您已经撞上了科研 AI 的核心矛盾:它极其流畅,但流畅从来不等于可靠。要判断什么时候能信它、什么时候得多留个心眼,您不用读一篇论文,只要搞清三个词:大模型、智能体、RAG。把它们弄明白,再回头看那些花哨的产品页,您会清醒很多。
大模型:见多识广,但会「一本正经地胡说」
大模型(LLM)的本质,是在海量文本上训练出来的「下一个词预测器」。您给它半句话,它算出接下来最可能出现的词,一个接一个续下去。听着简单,可当规模足够大,这种续写就涌现出惊人的能力:它能总结、能推理、能写代码、能把一段行话翻成人话。
要害在于——它学会的是「什么样的表达看起来对」,而不是「什么是事实」。所以当您问一个它没把握的问题,它不会像人那样说「我不确定」,而会顺畅地补出一个「读起来最合理」的答案。这就是幻觉。它编造文献、编造数字、把两个真实概念嫁接成一个不存在的方法,往往都发生在它「语气最笃定」的时候。
抓住这一条,判断就有了着落:大模型擅长加工您给它的信息,不擅长凭空提供您没给它的事实。 让它润色您写好的段落、解释一段您贴进去的报错、把零散思路理成提纲,它很稳;让它凭记忆报一个精确数字、报一篇具体文献,您就得亲自去核。
智能体:会规划,会动手,不只是陪您聊天
聊天机器人和智能体(agent)的区别,常被产品文案抹平,但对科研人很关键。
聊天机器人是一问一答:您说一句,它回一句,所有事都在对话框里发生,它自己碰不到任何真实的东西。智能体多了两样本事——会拆解任务,会调用工具。您给它一个目标,比如「把这个表达矩阵做差异分析、画火山图」,它不会只回一段建议,而是自己规划:读数据、选方法、写代码跑一遍、看结果、报错了再改,最后把图和结论一并交给您。
这中间,它真的调用了「运行代码」这个工具。于是它的产出不再是「听起来对的一段话」,而是「真的算出来、能复现的结果」。意义正在这里:当输出能被真实工具检验——代码报错就是报错,数据对不上就是对不上——幻觉的空间被大大压缩了。 一个组学分析智能体的好处,不在于它「更聪明」,而在于它把结论落到了一份您能复跑、能核对的代码上:错了,您一眼看得见。
所以判断一个 AI 值不值得托付任务,别听它话说得多漂亮,看它的结果能不能被验证。
RAG:先查证,再开口,给幻觉套上缰绳
大模型爱编事实,怎么治?答案是第三个词:RAG(检索增强生成)。
它的原理朴素得近乎反直觉:既然模型凭记忆容易胡说,那就干脆不让它凭记忆。回答之前,先去一个可信资料库里检索相关内容,把找到的原文一并塞给它,要求它基于这些材料作答,并告诉您答案出自哪里。这就是「知识库问答」背后的机制。
这一步改变了什么?没有 RAG 时,您问「某方法的适用条件」,模型是在「回忆」;有了 RAG,它是在「开卷答题」——先翻到相关章节,再照着说。前者容易编,后者有据可查,而且您能顺着它给的出处自己去核。对科研人来说,这条「出处」极其宝贵:它把「您只能选择信或不信」变成了「您可以去查」。
当然 RAG 不是万能药。库里没有的内容,它照样可能替您「补」上;检索到不相关的段落,它也可能被带偏。但方向是对的:让回答先在可信资料里找证据,是目前对付幻觉最实在的办法。 库的质量、给不给出处,就是您挑工具时该死盯的硬指标。
您真正该关心的,从来不是术语
绕回开头那个编造文献的场景。现在您有了判断的坐标:那是大模型在凭记忆硬答,正是幻觉高发区;如果它是从一个真实文献库里检索出处再回答(RAG),或是能调工具去数据库验证一遍(智能体),可信度就完全是另一回事。
说到底,这三个词是在回答同一个问题:这一次,它是在凭感觉说,还是查过、算过、能让您验证地说? 前者只配当灵感和草稿,后者才敢往论文里放。会分这一刀,比记住任何缩写都值钱。
AI 最该为您做的,不是递上一个漂亮答案,而是让您每一步都看得见依据——它凭什么这么说,您能不能顺着查下去。挑工具时,把这句话当尺子:它敢不敢告诉您,这个答案是从哪来的。