过去两年我们参与了 30+ 家企业的 RAG 知识库项目。能在上线 3 个月后仍有 60% 以上员工日活的，只有 9 家。剩下的项目最终都活成了「又一个没人用的内网知识库」——领导问起就打开演示一下，平时谁也不点。
失败的根因不是技术。我们试过 LangChain、LlamaIndex、Dify、自研，模型从开源 7B 到 GPT-4 全部试遍。结论是：技术差异决定回答好不好，但**决定有没有人用的，是另外 7 件事**。
动作 1：先解决「文档质量」，再谈模型
企业现有文档 80% 都是 PPT 截图、扫描合同、半成品 Word。直接喂给 RAG，结果就是 AI 信誓旦旦给一个错答案。正确顺序是：先用一周时间梳理出 100 篇真正可信、结构清晰的「黄金文档」，让 RAG 只在这个池子里检索。等使用习惯建立了，再扩库。
动作 2：每个答案必须带「原文引用」
员工不信任 AI，本能反应是「它凭啥这么说」。强制每个答案附带原文出处 + 可点击跳转的源文档，员工能查到出处，信任就会建立。没有引用，再准的答案也没人敢用在工作上。
动作 3：「错答反馈」一键到位
回答下面放一个「错了」按钮，员工一点，自动通知文档维护人。第一个月你会收到上百条反馈——这是金子，不是负担。处理这些反馈 4 周，知识库准确率会从 60% 跳到 85%。
动作 4：嵌入工具，不要建网站
不要建一个独立的「公司知识库网站」让员工记住一个新 URL。把入口嵌进钉钉机器人、飞书侧边栏、企微对话框——员工本来就在那里，零学习成本。我们的数据是：嵌入式入口比独立网站接入率高 5 倍以上。
「知识库的成败不在 RAG 怎么实现，在于员工卡壳的那一秒，他第一个手会伸向哪里。」
动作 5：按部门隔离权限
HR 文档、财务报表、研发图纸不应该谁都能问。一开始就做好部门级权限隔离，能避免 80% 的合规担忧，也能让管理层放心持续扩库。
动作 6：留一条「问不到就转人工」的兜底
AI 答不出的问题，要能一键转给真人值班同事（最好接到部门群）。这条兜底既保证体验，又能持续收集「AI 答不出来的真实问题」，反向补文档。
动作 7：每月一次「热问题排行榜」
每月给管理层发一份报告：本月被问最多的 30 个问题、AI 答对率、答错的典型案例。这份报告会让老板真正看见这个知识库在跑——这是它继续被预算支持的唯一理由。
总结一句：RAG 不是模型项目，是产品 + 内容运营项目。模型差距早就拉不开，差距全在这 7 个动作。
想看这些方法如何在你公司落地？
预约架构师 1v1