yoavgo 警告:Anthropic/OpenAI 服务端会话 API 将遮蔽模型内部
yoavgo · x · 2026-11-19
AI 研究者 yoav Goldberg(Allen AI)提出一个被忽视的开放性问题:API 的开放性。
- 传统 LLM API 与模型实际收到的内容近乎一一对应:带角色的消息序列,调用方完全掌控每次交互序列,既有透明度也有控制力。
- Anthropic 和 OpenAI 正在转向服务端管理会话状态的新 API,他预测旧的无状态接口将在不远的将来被弃用。
- 这会在用户与「AI」(不再只是 LLM,而是不透明系统)之间加一层黑箱:公众、研究者、开发者对实际运行内容的可见性和可干预点大幅减少,agentic harness、上下文管理等研究将几乎无法开展。
- 他认为这与支持开放权重模型同等重要甚至更重要,并呼吁社区组织起来公开反对。
这是一个值得整个 AI 工程圈关注的前瞻性判断:API 形态的变化可能在无声中收走研究与工程的底层可见性。
所属事件:Yoav Goldberg 警告:服务端托管会话 API 将让 LLM 变黑箱(2 条相关)→
「漫话AGI」频道最新
- Yoav Goldberg 撰文反驳:AI 不是 ML,LLM 已是新学科 — yoavgo · 2026-11-19
- 社会学者新文:传统社会科学能为 AI Agent 互动研究带来什么 — RobbWiller · 2026-11-19
- Anu Atluru 播客谈地位游戏与 AI 写作的「努力缺口」 — round · 2026-11-19
- 「聊天框就是终极 UI?」开发者吐槽行业懒于创新 — weswinder · 2026-11-19
- Meta 研究员追问:生成数学黑板图像的模型懂数学吗? — francoisfleuret · 2026-11-19
- Polymarket开盘:OpenAI年内全面暂停训练的概率仅5% — Polymarket · 2026-11-19