大模型不“写作文”了,改行当“裁判”。10 月 22 日,OpenAI 宣布 Decisions API 正式可用(GA,10 月 6 日起公测):这是 Responses API 的“窄身兄弟”——不让模型生成文本,只让它做判断,返回机器可读的、形状固定的答案。

它能回答三种问题

新端点是 POST /v1/decisions,目前只支持 gpt-6-luna 一个模型。开发者可以问三类问题:

  • predicate(判定):返回某个条件为真的概率,0 到 1 之间。比如“这封邮件是投诉吗”,直接给一个 0.87 这样的数字。
  • choice(选择):从一组固定选项里选一个,并给出每个选项的概率。比如工单该分给哪个团队。
  • score(打分):按有序量表打分,比如内容风险等级 1 到 5。

输入可以是文本、图片(需内联 base64)或 JSON,单次请求最多可以塞 400 个问题(公测时上限是 200)。典型场景一目了然:内容分类、工单路由、审批流、智能体下一步动作的选择——都是“要判断、不要废话”的业务逻辑。

定价和速度都很激进

定价:输入每百万 token 0.10 美元,缓存输入 0.01 美元,输出、缓存读、缓存写全部免费。OpenAI 宣称它比 Responses API 快约 10 倍——DevDay 幻灯片上的数字是 150 毫秒对 1.6 秒。不过要提醒一句:这是官方口径,目前还没有独立第三方的实测数据。

首批吃螃蟹的企业包括 Box、Datadog、Ramp、Sierra 和 Speak。合规层面开箱即用:支持 Zero Data Retention(零数据留存)、HIPAA,美欧数据驻地可选——明显瞄准金融、客服、内容审核这些对合规敏感的生产场景。

打的是谁的擂台

明眼人都看得出来:这是 OpenAI 对 TypeSafe AI 在 9 月推出的决策模型 Jev 的直接回应。Jev 主打的就是“结构化判断”这个细分市场,OpenAI 用“输出免费 + 低输入价”正面迎战——分类类工作负载的成本,按这个定价大约只有标准 Luna 的五分之一。

要点解读

  • 范式上值得注意:“Typed answers”把 LLM 当“判断器”而不是“写作器”,输出的是带概率的可量化答案。这和 Structured Outputs 不是一回事——后者只保证格式,不保证置信度。
  • 对做 Agent 和自动化流程的团队,这是个实用工具:以前用大模型做分类,得解析它生成的文本,还得防它“自由发挥”;现在判断结果直接是结构化数据,可靠性上了一个台阶。
  • 但“快 10 倍”先打个问号再说。延迟数字来自官方幻灯片,真实生产环境的表现、以及只支持 gpt-6-luna 这一个模型的限制,都是落地前要验证的。建议先在小流量上 A/B 测一把。

(观点部分为本刊解读,仅供参考。)

最后修改:2026-10-23
如果觉得我的文章对你有用,请随意赞赏