通用模型不懂企业业务：知识库和微调效果难落地

很多企业已经部署了通用大模型，也导入了一批内部资料，但实际使用时仍然会遇到一些问题：模型能够回答通用问题，却不了解企业内部术语；能够生成一段完整内容，却不一定符合企业制度；知识库已经建立，检索结果却不够准确；完成模型微调后，业务效果仍然没有明显改善。

这些问题并不一定说明模型能力不足。更常见的原因是，企业原始数据尚未经过系统治理，知识库缺少高质量语料，模型微调也缺少准确、规范、具有业务代表性的训练数据。

一、通用模型为什么不懂企业业务

通用大模型主要基于公开数据进行训练，擅长语言理解、内容生成和通用知识问答，但企业内部的大量知识通常不会出现在公开训练数据中，例如：

• 企业内部使用的专业术语、系统简称和项目名称；

• 只在单位内部流转的制度文件、操作手册和业务规范；

• 不同部门之间的职责分工、审批条件和处理流程；

• 随业务变化持续更新的产品资料、政策口径和工作要求；

• 特定业务场景中的例外条件、判断规则和风险边界；

• 企业习惯使用的回答格式、表达方式和专业口径。

同一个词语在不同行业、不同企业中可能具有完全不同的含义。一项业务流程也可能包含前置条件、审批角色、特殊情况和版本差异。通用模型如果没有接触这些内部资料，只能根据公开知识和语言概率生成回答，很难天然理解企业真正的业务要求。

因此，企业在直接使用通用模型时，容易出现以下情况：

• 回答内容比较宽泛，无法解决具体业务问题；

• 对企业缩写、专业术语和系统名称理解错误；

• 将通用做法当作企业内部规定，回答与实际制度不一致；

• 无法区分新旧文件和不同业务版本；

• 回答表达流畅，但缺少企业原始资料作为依据；

• 不同时间对同一问题给出不同口径，难以稳定使用。

二、导入资料不等于建成了可用的知识库

有些企业认为，只要把内部文件上传到知识库，通用模型就能够理解企业业务。实际上，知识库效果不仅取决于模型，也取决于原始资料的质量和数据处理方式。

如果导入的资料中存在重复文件、新旧版本混杂、扫描内容识别不完整、表格结构丢失、内容切分不合理或来源信息缺失等问题，知识检索就可能找不到正确内容，或者同时检索出多份相互冲突的资料。

知识库常见的问题包括：

• 原始文档格式不统一，部分内容无法正确解析；

• 文档切分过长或过短，导致检索内容不完整；

• 同一制度存在多个版本，系统无法判断应使用哪一份；

• 资料缺少明确的标题、来源和版本信息；

• 检索到了相似内容，却没有找到真正能够回答问题的关键段落；

• 回答没有显示原文证据，业务人员无法判断是否准确。

因此，知识库建设不能只完成“上传文件”这一步，还需要先对企业资料进行清洗、切分、去重、标准化和来源标记，形成适合知识检索的企业专属语料库。

三、模型微调也需要高质量数据基础

LoRA微调可以帮助模型学习特定的业务表达、回答格式和任务处理方式，但微调并不是把企业全部资料直接交给模型训练，也不能自动修复原始数据中的质量问题。

如果训练数据中存在答案错误、内容重复、证据不一致、业务范围混合或旧制度未清理等问题，模型可能会进一步学习并固化这些错误。数据数量很多，也不代表微调效果一定更好。

用于模型微调的数据集通常需要具备以下条件：

• 问题能够反映真实业务场景；

• 答案准确、完整，并符合企业业务口径；

• 答案能够与原文证据相互对应；

• 样本格式统一，字段结构符合训练要求；

• 重复、无效和低价值样本得到有效控制；

• 数据来源、生成方式和处理版本能够追溯；

• 建立独立的评估样本，用于比较微调前后的真实效果。

因此，模型微调的核心不是简单增加训练次数，而是使用经过治理、校验和评估的高质量业务数据。

四、知识库与LoRA微调分别解决什么问题

知识库与模型微调并不是二选一，也不能互相完全替代。两者解决的问题有所不同。

本地知识库主要解决“模型不知道企业资料”的问题。它适合承载制度文件、产品资料、项目文档和业务数据库等需要持续更新的知识，并能够在回答时提供原文引用和来源记录。资料发生变化后，可以通过更新知识库及时调整，不必每次重新训练模型。

LoRA微调主要解决“模型不熟悉企业任务和表达方式”的问题。它更适合让模型学习专业问答方式、固定输出格式、业务分类规则和企业表达风格，提高模型在特定任务中的稳定性。

可以简单理解为：

本地知识库 → 让模型能够查询企业最新知识，并返回原文依据；

LoRA微调 → 让模型更熟悉企业的专业术语、任务方式和回答要求。

对于需要知识准确性和来源引用的场景，应优先建设高质量语料库和本地知识库；当知识库已经能够提供正确资料，但模型在业务理解、回答结构或任务执行方面仍不稳定时，再根据评估结果考虑LoRA微调。

五、飞燕AI如何解决

飞燕AI围绕企业私有数据，建立从原始资料到知识库和模型应用的数据处理链路：

企业文档与业务数据库 → 数据清洗与内容切分 → 企业专属语料库 → 高质量数据集 → 本地知识库 → LoRA微调与效果评估

在数据治理阶段，系统对客户授权的文档和数据库内容进行统一接入、清洗、切分、去重和标准化处理，同时保留数据来源和处理记录。

在语料库建设阶段，将原始资料转化为适合知识检索的内容片段，减少格式混乱、内容重复和版本不清对检索效果的影响。

在数据集建设阶段，可围绕企业真实业务内容生成问答样本，并对问题、答案、原文证据和数据来源进行关联与校验，过滤无效、重复和证据不一致的样本。

在质量评估阶段，系统对数据来源、生成结果、证据一致性、重复情况和数据范围进行汇总，生成数据集质量报告。客户可以查看质量指标、风险提示和代表性样本，判断数据集是否具备交付和后续使用条件。

在应用阶段，可先使用企业专属语料库建设本地知识库，验证知识检索、问答准确性和来源引用效果。在具备相应算力和明确业务需求的情况下，再选择高质量数据集开展LoRA微调，并通过固定评估问题比较微调前后的效果。

六、可交付成果

根据项目范围，飞燕AI可提供以下成果：

• 完成清洗、切分和标准化处理的企业专属语料库；

• 包含问题、答案、原文证据和来源记录的高质量数据集；

• 包含质量指标、代表性样本和风险提示的数据集质量报告；

• 支持企业资料检索、智能问答和来源核验的本地知识库；

• 用于知识库或模型效果验证的业务评估问题集；

• 根据需要提供LoRA微调、效果评估和部署支持；

• 数据处理、系统部署和成果使用所需的相关技术说明。

七、先解决数据问题，再决定是否微调

企业AI项目不必一开始就同时建设全部能力。更稳妥的方式，是先选择一批具有代表性的业务资料，完成数据治理和本地知识库验证，检查模型能否检索到正确内容、回答是否符合业务要求、原文来源是否可以核验。

如果问题主要来自资料缺失、内容切分或检索不准确，应优先优化语料库和知识库；如果资料检索已经准确，但模型仍然不能稳定理解业务任务、回答格式或专业表达，再考虑开展LoRA微调。

飞燕AI希望解决的核心问题是：不只是为企业部署一个通用模型，而是通过企业专属语料库、高质量数据集、本地知识库和按需微调，让模型逐步理解企业知识、适应业务任务，并形成能够验证和持续优化的AI应用能力。