跳到正文

最大输出长度

Max Tokens

中级通用

最大输出长度(Max Tokens)是一次模型请求允许生成的 Token 数量上限。它帮你控制回复规模,并判断代码或长文为什么写到一半就停了;把上限调高,也不代表模型一定会写满。

你可能会说:「我让 AI 写完整个页面,它总在代码写到一半时停下,能不能让它一次写完?」

读之前建议先了解

动手看看

周报助手
输出上限:80 Token
这周的项目进展:
1. 搜索支持按项目筛选,定位文档更快。
2. 权限面板已经……
2. 权限面板已完成联调,管理员可批量授权。
3. 下周计划是补齐……
3. 下周计划是补齐操作日志,并邀请试用用户反馈。
4. 目前需要协助的是……
4. 目前需要协助的是确认试用名单。
已到输出上限,回复在此停止
回复已完整结束
同一条请求 · 下方仅调整输出上限

拖动最大输出 Token 数,比较同一份周报停在哪里。这里用分段示意截断位置,不是逐字计算 Token。

调到 80 后,第二项写完整了,但第三项仍被截断。上限控制的是最多能生成多少,不保证内容一定完整。

要点

  1. 1

    它限制的是生成量而非字数

    Token 是模型处理文本的单位,不能直接换算成固定字数。你设置的最大输出长度是生成上限,不是目标长度;任务几句话就能答完时,模型通常会提前结束。

  2. 2

    上限用尽时内容可能中断

    比如你让 AI Agent 一次写完页面组件、样式和测试,上限先用尽,回复就可能停在代码中间。看到半截文件时,我们可以检查请求参数和结束原因,而不是先认定代码逻辑有错。

  3. 3

    调高上限也要考虑任务规模

    更高的上限给长回复留出空间,但实际能设多高取决于模型和接口。部分模型的思考过程也会占用输出额度;如果任务很大,按文件或步骤拆开,通常比只调高上限更稳。

容易混淆的地方

最大输出长度管的是这一次最多生成多少,不是上下文窗口:后者关系到请求中能容纳多少输入和输出。它也不是提示词里的“写短一点”;提示词表达内容偏好,上限则是请求参数设定的边界。两者都不能保证回复恰好有指定字数。

什么时候用

适合用

  • AI Agent 经常把组件代码写到一半就停,你想检查并调整单次请求的生成上限。
  • 做摘要接口时,你想限制每次回复的最大规模,避免偶发的过长输出影响成本。
  • 生成较长的结构化结果时,你想给完整字段留出输出空间,并检查是否因达到上限而截断。

不适合用

  • 你需要标题严格不超过 20 个汉字;用生成后的字数校验和重写流程,而不是靠 Token 上限换算。
  • AI 漏掉了你之前提供的需求;先检查对话历史和上下文整理,调高输出上限不能找回没传入的内容。
  • 页面生成需要跨多个文件反复修改;让 Agent 分文件实施和验证,比追求一次回复写完更合适。

练一练

你做一个生成后台页面的 AI 工具。模型返回的代码常停在文件中间,但简短问答都正常。你会先怎么排查?

让 AI 帮你做

请检查生成后台页面代码的模型请求:当前最大输出长度设为多少,响应是否因达到上限而结束。如果是,请在接口允许的范围内调整,并把任务拆成可逐个验证的文件;不要把上限当成精确字数要求。

接下来学什么