企业要的不是"能聊天",而是问"这个客户的验收标准是什么"时,答案准确、有出处、权限对得上。这需要文档治理、切分策略、检索与重排,以及一套能长期维护的更新机制。
工作时间内 30 分钟响应 · 不需要留资也能先打电话聊
我们会按您留下的电话尽快联系;着急可直接拨打 189 1027 6806。
同一个模型,有人用得好,有人用得像玩具,差别在前面的工序。
文档没治理。同一份制度有五个版本,扫描件是歪的,表格跨页断裂,PDF 里全是图片。垃圾进、垃圾出——切出来的片段本身就是错的,模型再强也答不对。
切分太粗。按 1000 字硬切,会把一条完整条款劈成两半,检索到上半段却答不全。正确做法是按标题层级、条款结构、表格边界切,并给每个片段补上所属章节的上下文。
只做向量检索。用户问"报销标准是多少",向量能找到语义相近的段落,但找不到精确的金额表格;反过来关键词能命中"报销标准"却不懂同义表达。所以要关键词 + 向量混合检索,再用重排模型精排。
没有权限。销售能搜到财务报表,这在企业里是事故。权限必须在检索层过滤,而不是在回答后遮住。
| 方案 | 做法 | 效果 | 成本 |
|---|---|---|---|
| 直接提问 | 把文档塞进提示词 | 短文档可用,长文档必丢 | 极低 |
| 向量检索(RAG) | 切分 + 向量召回 + 生成 | 通用问答可用,精确条款易错 | 中 |
| 混合检索 + 重排 | 关键词 + 向量召回,重排后生成 | 条款、表格、编号类问题明显更准 | 中高 |
| 知识图谱增强 | 实体与关系建模,配合检索 | 多跳问题强,建设成本高 | 高 |
PDF、Word、Excel、扫描件 OCR,表格与图片单独处理。
按章节结构切分,补上下文与元数据(部门、版本、生效期)。
关键词 + 向量混合召回,重排模型精排,返回带出处。
多轮追问、引用定位、转人工、工单自动创建。
按部门/角色过滤召回结果,问答日志可追溯。
文档增删改、失效提醒、未命中问题清单。
选一个高频、答案明确的场景先做,比如售后排障。
收集文档、统一版本、扫描件 OCR、补齐元数据。
切分策略、召回数量、提示词模板,用真实问题集测。
先给 10-20 人用,记录未命中与错答,每周优化。
把验证过的方法复制到第二个、第三个场景。
报价口径:不含 GPU 服务器与大模型授权。用公有 API 的话按 token 计费,通常每月数百至数千元;私有化部署需一次性硬件投入。
没列到的直接来电 189 1027 6806,技术负责人接
AI 客服多为通用话术 + 简单检索,适合售前答疑;企业知识库要处理条款、表格、编号、版本、权限,需要文档治理与混合检索。前者开箱即用,后者要建设,但答得准、能追责。
能,但要先做 OCR 与版面分析,识别标题层级、表格结构、印章与手写。质量差的扫描件需要人工校对一部分,这部分工作量通常占总量的 20%-30%,要在报价里体现。
先看是"没检索到"还是"检索到但答错"。前者补文档、调切分、加同义词;后者改提示词、加约束、要求必须引用原文。我们上线时会建一个真实问题集(50-100 条),每次调整都用它跑一遍看提升。
三条线:模型侧选私有化部署或承诺不留存的 API;检索侧按权限过滤;日志侧脱敏存储。涉及敏感行业的建议直接私有化,硬件成本换数据可控。
支持手动上传与定时同步(共享盘、Confluence、企业微信文档)。更新后重建索引,旧版本标记失效但保留;问答时优先返回生效版本,并在答案里标注版本与生效日期。
大多数知识库场景不需要微调,RAG 就够。微调适合"风格与格式"要求高的任务(如固定格式的工单摘要),或者有大量标注数据、通用模型确实学不会的行业表达。
说清文档类型、数量和使用者,我们先做一个可测的小场景,用真实问题跑准确率再决定是否扩大。
我们会按您留下的电话尽快联系;着急可直接拨打 189 1027 6806。