[OpenAI Blog] Speeding up agentic workflows with WebSockets in the Responses API
Nguồn: OpenAI Blog Tóm tắt OpenAI đã thêm hỗ trợ WebSockets vào Responses API, giải quyết một bottleneck quan trọng trong các agentic workflows. Trước đây, mỗi bước trong pipeline của agent phải thiết lập kết nối HTTP mới, gây ra latency tích lũy đáng kể khi agent thực hiện nhiều tool calls liên tiếp. Với WebSockets, client duy trì một persistent connection xuyên suốt toàn bộ vòng đời của agent session....