跳到正文

RAG

中级通用

RAG(检索增强生成)是在回答问题前,先从指定资料中检索相关内容,再交给模型组织答案的方法。它让 AI 能利用未写进模型参数的产品文档,例如根据最新版帮助中心回答用户问题。

你可能会说:「我想让客服 AI 查我们自己的帮助文档再回答用户,文档更新后也能用上新内容。」

读之前建议先了解

动手看看

提问用户检索器帮助文档模型尚未作答
1

用户问会员退款入口在哪里。检索器先接住问题,不让模型直接凭记忆猜。

要点

  1. 1

    先把资料整理成可检索的内容

    我们可以把帮助文档、操作手册等资料切成片段,并记录标题、版本等信息。这样用户提问时,系统才有机会找到对应段落,而不是把整套文档都塞给模型。

  2. 2

    按问题找资料再生成回答

    用户问「怎么取消订阅」时,系统先检索相关片段,再把问题和片段一起交给模型。检索可以用关键词、语义匹配或两者结合;模型负责读懂材料并组织回答。

  3. 3

    答案仍要核对来源和权限

    检索到资料不代表答案一定正确:可能找错段落,也可能把过期说明当成现行规则。我们可以展示引用来源,并按用户权限过滤资料,这样更容易核对,也能减少越权泄露。

容易混淆的地方

RAG 和微调解决的问题不同:微调会改变模型参数,RAG 则在回答时提供检索到的材料;要跟上频繁更新的文档,通常先考虑 RAG。它也不等于普通搜索:搜索主要返回结果,RAG 还让模型依据结果生成回答,但生成的内容仍可能出错。

什么时候用

适合用

  • 给 SaaS 产品做帮助中心问答,让 AI 根据不断更新的功能说明回答,并附上对应文档。
  • 给内部开发助手接入项目文档,让它回答接口约定时能找到相关版本的说明。
  • 让售后助手查询已公开的保修政策,再用用户容易理解的话解释适用条件。

不适合用

  • 只是要在网站里按标题查找文档,用户自己看结果就够了,用普通站内搜索更直接。
  • 要查询用户此刻的订单状态,数据来自实时业务系统,直接调用受权限控制的订单 API 更合适。
  • 只是想固定 AI 的回答语气,没有外部资料需要查,用提示词约定风格即可。

练一练

你在做一款团队协作 App。用户常问功能怎么用,帮助文档每周更新,还希望答案能指出依据。你会选哪种方案?

让 AI 帮你做

请为帮助中心问答设计 RAG 方案:从现有文档检索与问题相关的片段,再据此生成回答并标出来源。考虑文档版本和用户权限;找不到足够依据时明确说明,不要编造操作步骤。先给出实现思路和验证方法。

接下来学什么