RAG 问答与知识库
RAG(检索增强生成)先从站内归档文章检索材料,再让文本生成式 AI 基于这些材料回答问题。该功能需要登录,并依赖部署者配置 Meilisearch、向量数据库和 LLM 服务。
使用步骤
- 通过 CP OAuth 登录。
- 可选:在文章页点击“加入知识库”,最多加入 10 篇。
- 打开“RAG 问答”。
- 输入问题;需要限定材料时勾选“使用知识库强制召回”。
- 提交后等待工作流完成。
- 阅读回答,并打开来源文章核对。
Ctrl + Enter 可以提交问题。
工作流阶段
界面会展示六类进度:
- 规划检索词:AI 生成多个检索查询;
- 关键词检索:Meilisearch 返回候选文章;
- 向量生成:为查询生成嵌入向量;
- 向量检索:从摘要与正文分块向量中召回文章;
- 构建上下文:合并、截断并整理检索结果与知识库;
- 生成回答:LLM 基于上下文生成最终文本。
当前前端请求最多使用 10 篇文章和约 20,000 字符上下文。部署配置可能进一步限制模型、并发或检索数量。
本地知识库
知识库条目只保存文章 ID、标题和加入时间,并存放在当前浏览器本地。勾选强制召回时,这些文章 ID 会随本次 RAG 请求发送给服务器。
- 最多 10 篇;
- 只接受保存站文章;
- 清理浏览器数据会丢失;
- 加入知识库不会复制或修改文章;
- 知识库不在多设备间自动同步。
正确理解回答
RAG 不能证明回答正确。以下情况都可能发生:
- 检索没有命中关键文章;
- 归档版本已经过时;
- 上下文被长度限制截断;
- 模型错误理解 Markdown、公式或代码;
- 模型生成来源中不存在的结论。
因此回答下方的来源文章比生成文本更重要。涉及算法正确性、比赛规则、安全、法律或个人权益时,必须回到原文和权威来源复核。
隐私提示
问题文本、召回文章内容和必要的上下文会发送到部署者配置的模型提供方。不要提交密码、Token、Cookie、未公开题目、个人隐私或其他不应交给第三方模型处理的信息。