150 毫秒极速响应：OpenAI 推出 Decisions API，让 AI 从“聊天”走向“实时决策”

AI 总结
• 9月30日，OpenAI在2026开发者日活动中推出Decisions API，这是一个专为实时低延迟场景设计的分类与路由API。
• Decisions API基于小型模型Luna构建，响应速度约150毫秒，比常规API快约10倍，专门针对“快速单次决策”场景优化。
• 该API允许开发者预定义问题与有限答案集合，输入上下文后返回选中的答案及置信度等结构化信息，目前同类主要竞争者是TypeSafe的Jev。
• 典型应用场景包括客服工单自动分类、内容审核策略选择、多步工作流中的Agent编排决策节点以及实时业务规则辅助。
• 这一发布标志着OpenAI推动AI从“聊天”向“实时决策”领域拓展，为业务逻辑提供更高效的底层智能支持。

【150毫秒极速响应：OpenAI 推出 Decisions API】
IT之家 9 月 30 日消息，在今天召开的 2026 开发者日活动中，OpenAI 宣布推出 Decisions API，这是一个面向实时、低延迟分类与路由场景的全新 API，可以大约在 150 毫秒内返回结果，比通过常规 API 使用 Luna 快大约 10 倍。

定位方面，Decisions API 为“快速单次决策”设计，把模型（当前基于 OpenAI 的小型模型 Luna）的“智能”聚焦到一组用户预定义的问题 + 有限答案集合上，用极低的延迟返回结构化决策结果。

                               
登录/注册后可看大图

在目前同类模型中，主要是 TypeSafe 的 Jev，但专门专注于将模型智能转化为快速决策。

                               
登录/注册后可看大图

开发者提供上下文（文本或图片），并预先定义好“问题 + 可选答案”，API 返回选中的答案及置信度等结构化信息，用于后续业务逻辑。

在典型应用场景方面，Decisions API 比较适合以下场景：

客服 / 工单系统：根据用户描述自动判定问题类型、优先级、应分配的团队。

内容审核与策略选择：在几个预定义策略（例如：允许 / 限流 / 人工复审）中快速选择。

Agent 编排中的“决策节点”：在多步工作流中，用 Decisions API 来决定下一步调用哪个工具 / 哪个子 agent，而不是让大模型自由发挥。

实时业务规则辅助：在已有规则引擎之上，用 Decisions API 处理模糊地带，在有限选项内给出建议决策，再由规则引擎做最终裁定。

[来源链接] https://www.ithome.com/1/008/531.htm