行业大模型在政务场景「不好用」的三个原因与增训思路

通用大模型在闲聊和通用问答上表现不错，接入政务业务后往往显得不专业。问题多出在语料、口径与部署方式三件事上，与参数规模关系不大。

一、三个直接原因

• 术语与口径不匹配。同一项业务在不同地区叫法不同，材料模板也不一样，模型容易张冠李戴；
• 政策时效跟不上。文件废止与修订频繁，通用模型的训练数据停在某个时点；
• 数据不能出域。多数政务场景要求私有化部署，公有云接口无法使用。

二、三条技术路径的取舍

继续预训练适合语料规模大、领域差异明显的场景，成本最高；指令微调适合把业务规范固化进模型，见效较快；检索增强把政策文件与业务知识放在外部库，回答时实时检索，更新最灵活。工程实践中常见的是后两者组合，检索增强保证时效与可溯源，微调保证表达符合业务习惯。

三、语料从哪里来

• 政策文件、办事指南、标准规范，做结构化切分并标注版本与生效时间；
• 历史工单与咨询问答，脱敏后作为指令微调样本；
• 业务专家的批注与纠错，作为高质量评测集的主要来源。

语料环节最容易低估工作量。清洗、去重、脱敏、标注这几步通常占总工作量的一半以上，而且需要业务部门参与，纯技术团队做不了。

四、评测怎么做

建议在项目初期就建立本地评测集，覆盖高频问题、易错问题与边界问题三类，规模不必大，两三百条即可。指标除了准确率，还应包括拒答率、引用命中率与响应时延。上线采用灰度方式，先对内开放，保留人工复核环节，让业务人员给回答打标，再据此调整检索范围与提示词。

五、部署与合规

私有化部署是目前政务场景的主流选择，模型与语料都在内网。需要关注模型文件来源合规、生成内容留痕与审计、对外服务时的内容安全过滤。涉及个人信息与敏感数据的场景，应在检索层做权限隔离，不同岗位看到的知识范围不同，避免越权检索。

六、一个务实的判断标准

判断一个行业大模型项目是否值得做，看它能不能把某类高频工作的耗时压下来，并且回答可以追溯到原文。做不到这两点，功能列表再长也只是演示效果。