跳到正文

微调

Fine-tuning

高级通用

微调(Fine-tuning)是在已有模型上继续训练,让模型参数适应一批特定样例。它解决的是通用模型反复学不会某种稳定任务或输出习惯的问题,比如按团队的工单分类方式给新工单打标签。

你可能会说:「我给了 AI 很多工单示例,它还是分不准类,能不能让它学会我们的分类方式?」

读之前建议先了解(这是一个高级概念)

动手看看

测试工单登录问题工单集留作测试基础模型分类不符训练器微调模型尚未生成
1

先试一张留作测试的工单:「成员无法进入项目」。团队要求标成「账号权限」,基础模型却给出「登录问题」。这里的结果只是示意。

要点

  1. 1

    用样例改变模型参数

    你把输入和期望输出整理成训练样例,模型通过继续训练调整参数。之后遇到相似输入,它更可能按样例里的方式回答,而不是每次都靠你在提示词里重讲规则。

  2. 2

    适合相对稳定的输出规律

    比如客服后台长期按同一套类别标记工单,微调可以让模型熟悉这些类别的判法。如果类别定义每周都变,重新整理数据、训练和验证的成本就可能不划算。

  3. 3

    效果取决于数据和验证

    微调不是把正确答案直接存进模型。样例标错或覆盖不全,模型也可能学偏。我们通常留出未参与训练的案例测试它,再检查错误是否集中在某些类别或边界情况。

容易混淆的地方

提示词是在每次请求时告诉模型怎么做,微调则通过训练改变模型参数。RAG 是在回答时检索外部资料,适合引用常更新的内容;微调更适合学习稳定的任务模式。它不能保证模型记住每条资料,也不能替代查询最新数据。

什么时候用

适合用

  • 客服后台积累了足够多、标注一致的历史工单,想让模型长期按团队的分类方式处理新工单。
  • AI 工具需要反复把用户描述转成固定结构,而提示词已难以稳定处理那些有代表性的复杂输入。
  • 产品中有大量同类文本需要按稳定规则改写,并且有样例和测试集可用来衡量改写效果。

不适合用

  • 只是想让 AI 回答今天更新的商品价格和库存,用数据库查询或检索提供实时数据更合适。
  • 只需让模型这一次按指定 JSON 格式回答,先用提示词或结构化输出功能即可。
  • 还没有明确任务,也拿不出可核对的正确样例,先梳理需求并建立测试用例更有帮助。

练一练

你在做客服后台:工单类别半年才调整一次,已有大量人工核对过的分类样例。当前模型即使看到分类说明,仍经常分错相近类别。下一步哪种方案最值得评估?

让 AI 帮你做

请评估我们的工单分类任务是否适合微调。先检查类别是否稳定、样例标注是否一致,并设计训练集与独立测试集;再与当前提示词方案比较各类别的效果、成本和维护工作量。先给评估方案,不要直接开始训练。

接下来学什么