AI 竞品情报
← 时间线|OpenAI Platform 全部动态 →
OpenAI Platform重要能力增强docs发生于 2026-04-22

通过 Responses API 中的 WebSocket 加速 Agent 工作流

Speeding up agentic workflows with WebSockets in the Responses API

https://openai.com/news/engineering/rss.xml

对我们的启示

💡
要做Agent 工作流的延迟优化直接影响开发者体验,WebSocket + 缓存方案是我们 Agent Runtime 必须对标的核心能力。

战略视角

Agent 工作流的延迟是开发者体验的关键瓶颈。OpenAI 的 WebSocket + 连接级缓存方案解决了 Agent 循环中重复调用模型的高开销问题——每个 Agent 步骤都需要多次 API 调用,传统 HTTP 短连接模式会带来显著的握手开销和重复计算。这一优化直接提升 Coding Agent 的响应速度,影响所有使用 Agent 的开发者群体。对于我们的 MaaS 平台,如果 Agent Runtime 仍基于 HTTP 轮询模式,体验差距会非常明显。建议将 WebSocket 支持和会话级上下文缓存纳入 Agent Runtime 的核心设计,窗口期:需在 Agent Runtime 产品化前完成。

一句话摘要

OpenAI 通过 WebSocket 和连接级缓存优化 Codex Agent 循环的延迟和 API 开销。

详细描述

A deep dive into the Codex agent loop, showing how WebSockets and connection-scoped caching reduced API overhead and improved model latency for agentic workflows.

深入剖析 Codex Agent 循环,展示 WebSocket 和连接级缓存如何降低 API 开销并改善 Agent 工作流的模型延迟。

原文摘录

A deep dive into the Codex agent loop, showing how WebSockets and connection-scoped caching reduced API overhead and improved model latency.