COST 成本与额度

输入输出差价:为什么回答越长越贵,怎么让它少说

同一轮对话,你打一千字和它回一千字,后者的价钱通常是前者的两到四倍。省钱先省它说的那部分。

输入输出差价:为什么回答越长越贵,怎么让它少说
题图 / Unsplash

两头不是一个价

输入是你发过去的全部内容,输出是它生成的全部内容,单价分开算。

双手在笔记本键盘上输入材料
场景配图 / Unsplash

多数平台的输出单价是输入的两到四倍,个别更高。这个比例不是随便定的,和生成方式有关。

算成本时如果只记一个总价,很容易低估。一次任务里输出占的 token 少,但单价高,可能贡献三成以上的费用。

反过来,长文档总结这类任务,输入占九成以上,输出那点钱可以忽略。所以先看任务类型,再决定省哪头。

一个简单的判断:输入占总 token 八成以上的任务,优化输入;输出占三成以上的,优化输出。两边都占一半的,先优化流程,别急着调价。

输出为什么贵

输入可以并行处理,几万 token 一次性算完。输出是串行的,生成一个字才能算下一个,每一步都要把之前所有内容重新过一遍注意力。

结果就两条:慢,贵。同样一千 token,输出花的时间可能是输入的几十倍。

钢笔在纸上一笔一笔书写
场景配图 / Unsplash

理解这一点有用:让它“先想再答”会明显变贵,因为思考过程也是输出。有些平台把思考单独计价,看账单时要留意。

这也是为什么“让它自我检查三遍”这种提示词,成本会明显高于预期。检查也是输出,三遍就是三倍。

让它少说的四个办法

限定字数。别说“简短”,说“不超过一百五十字”,它才知道边界在哪。

禁止复述。它爱把你的问题重述一遍再回答,明确说“不要重复我的问题,直接给结论”。

结构化输出。列表和表格比段落省,因为省掉了连接词和过渡句。

先给结论再给理由。这句话能砍掉三成的铺垫,而且人读起来更快。

  • 字数写成数字
  • 禁止复述问题
  • 用列表代替段落
  • 先结论后理由

三种不该省输出的情况

代码。让它省注释、省错误处理,省下的钱远不够你后面调试。

眼镜放在摊开的笔记本上,逐行核对
场景配图 / Unsplash

需要推理过程的判断。让它只给结论,你就没法核它中间哪一步错了。这类任务宁可多花,也要它把步骤写出来。

要留档的内容。审计、合规、对外沟通的记录,写全比写短重要。

补充一句一个反直觉的结论:省输出最有效的办法不是压字数,是让它一次做对。返工一次的成本,通常超过你省下来的那点字数。

常见问题

限制输出长度会不会导致答案不完整?

会,尤其是需要列举的任务。设上限时给个余量,比如实际想要三百字,设五百。

流式输出会影响计费吗?

不影响,按 token 算,不按时间算。流式只是让你早点看到字。

缓存能降低输出成本吗?

不能。缓存只作用于输入前缀,输出每次都重新生成。