微调
Fine-tuning
高级通用微调(Fine-tuning)是在已有模型上继续训练,让模型参数适应一批特定样例。它解决的是通用模型反复学不会某种稳定任务或输出习惯的问题,比如按团队的工单分类方式给新工单打标签。
你可能会说:「我给了 AI 很多工单示例,它还是分不准类,能不能让它学会我们的分类方式?」
动手看看让模型按团队规则分类工单
1
先试一张留作测试的工单:「成员无法进入项目」。团队要求标成「账号权限」,基础模型却给出「登录问题」。这里的结果只是示意。
要点微调是怎样让模型学会任务的?
- 1
用样例改变模型参数
你把输入和期望输出整理成训练样例,模型通过继续训练调整参数。之后遇到相似输入,它更可能按样例里的方式回答,而不是每次都靠你在提示词里重讲规则。
- 2
适合相对稳定的输出规律
比如客服后台长期按同一套类别标记工单,微调可以让模型熟悉这些类别的判法。如果类别定义每周都变,重新整理数据、训练和验证的成本就可能不划算。
- 3
效果取决于数据和验证
微调不是把正确答案直接存进模型。样例标错或覆盖不全,模型也可能学偏。我们通常留出未参与训练的案例测试它,再检查错误是否集中在某些类别或边界情况。
容易混淆的地方
提示词是在每次请求时告诉模型怎么做,微调则通过训练改变模型参数。RAG 是在回答时检索外部资料,适合引用常更新的内容;微调更适合学习稳定的任务模式。它不能保证模型记住每条资料,也不能替代查询最新数据。
什么时候用
适合用
- 客服后台积累了足够多、标注一致的历史工单,想让模型长期按团队的分类方式处理新工单。
- AI 工具需要反复把用户描述转成固定结构,而提示词已难以稳定处理那些有代表性的复杂输入。
- 产品中有大量同类文本需要按稳定规则改写,并且有样例和测试集可用来衡量改写效果。
不适合用
- 只是想让 AI 回答今天更新的商品价格和库存,用数据库查询或检索提供实时数据更合适。
- 只需让模型这一次按指定 JSON 格式回答,先用提示词或结构化输出功能即可。
- 还没有明确任务,也拿不出可核对的正确样例,先梳理需求并建立测试用例更有帮助。
练一练选一个答案,看看解释
你在做客服后台:工单类别半年才调整一次,已有大量人工核对过的分类样例。当前模型即使看到分类说明,仍经常分错相近类别。下一步哪种方案最值得评估?
让 AI 帮你做复制给 AI Agent 直接用
请评估我们的工单分类任务是否适合微调。先检查类别是否稳定、样例标注是否一致,并设计训练集与独立测试集;再与当前提示词方案比较各类别的效果、成本和维护工作量。先给评估方案,不要直接开始训练。