教程:用私有知识库搭一个会查资料的聊天机器人
通用大模型答不出你们公司的内部资料。本教程手把手用检索增强(RAG)把文档接进对话,让机器人只说你给的料。
为什么不能直接用通用模型
通用大模型见过互联网上的公开内容,却没见过你们的产品手册、价格表、客户记录。你问它「我们旗舰版的退货政策是什么」,它只能编一个听起来合理的答案——这正是企业最怕的幻觉。
检索增强(RAG)的思路很简单:先把文档切成小块、转成向量存起来,用户提问时先去库里找最相关的几段,再把这几段连同问题一起交给模型生成答案。模型说的每句话,都锚定在你给的资料上。
准备你的资料
从最常被问到的 20 份文档开始:FAQ、产品手册、内部制度、价格表。格式不限 PDF/Word/网页,关键是内容要干净、段落清晰。
把文档按主题归好类,后面做权限隔离会很省事——比如客服能查售后的资料,财务能查合同的资料。
四步接进对话
第一步,上传并切片:平台会把文档拆成语义完整的小块,每块生成向量写入知识库。
第二步,配置检索:设定每次回答前取回几段、相似度阈值多少。阈值太高会漏掉相关内容,太低会混入噪音,先用中等值再微调。
第三步,绑定到对话:在智能体配置里勾选「回答前先检索知识库」,模型就会自动走 RAG 流程。
第四步,加引用:让回答末尾标注「依据:XX 文档第 N 节」,既方便用户核对,也方便你事后审计。
- 上传切片 → 生成向量
- 配置检索条数 + 相似度阈值
- 对话绑定知识库,自动走 RAG
- 回答带引用,可追溯可审计
怎么知道它答得对
准备 10 道真实高频问题,先把「不带知识库」和「带知识库」的回答各跑一遍,对比准确率。你大概率会看到幻觉明显减少。
再故意问一个资料里没有的问题,看它会不会硬编——合格的配置应当回答「资料里没有这部分内容」,而不是编造。
上线后别忘了维护
文档会更新,知识库也得同步。建立「资料变更即重新切片」的习惯,避免机器人一直在引用三个月前的旧政策。
定期看命中率与拒答率,命中率低说明切片或检索参数要调,拒答率过高说明资料覆盖还不够。
一个会查资料的机器人,价值不在于它「多聪明」,而在于它「只说你给的料」。把 RAG 做对,它就成了团队里最靠谱的那个资料员。