实时 LLM Agent 通用接口缺失:AsyncLLM 论文引出异步智能体构建之问
phill1992 · reddit · 2026-09-30
Reddit 帖讨论一个前沿问题:LLM 已能在特定场景做实时交互(机器人 agent、实时语音助手、视频通话、OpenAI Codex 的 mid-turn steering 可在 agent 工作中途插入澄清),但能否泛化,让开发者像写自定义 MCP 工具一样写出自己的实时 agent?
要点:
- 现有厂商的 real-time API(Gemini Live API、OpenAI Realtime)主要面向语音/编码场景,缺少通用的异步 agent 接口。
- 目标场景:边思考边响应外部刺激——用户打断语音 agent、浏览器弹窗、研究 agent 在搜索中途接收反馈等;可组合出实时调试的编码 agent、对话式深度研究 agent、语音控制助手等。
- 最接近的通用方案是 AsyncLLM 预印本(作者认识作者):程序员用 asyncio 写协程、共享内存块作为 agent 通信机制,但仍需自己写底层推理管线。
- 作者之问:如果要为异步 agent 设计一个通用 API,接口应该长什么样?希望 openai/anthropic 等能暴露让开发者喂入实时事件流的通用异步 agent API。
「编程与Agent」频道最新
- Agent 身份验证初创 Beltic 出 stealth，获 880 万美元融资 — alifcoder · 2026-10-01
- 分析师:OpenAI 商城不强制用其推理,或绕开平台变现杠杆 — matt_slotnick · 2026-10-01
- Gemini 上线 Skills:一套指令存成快捷方式,反复任务免重复 prompt — GeminiApp · 2026-10-01
- LangChain 发布 LangSmith Engine v2,可主动红队测试你的 Agent — LangChain · 2026-10-01
- AI 上下文层产品 HQ 正式发布,近千家企业已在用它运营业务 — jacob_posel · 2026-10-01
- Agent 正在接管数据工作,与 dbt 创始人 Tristan Handy 对谈 — juansequeda · 2026-10-01