AI 名宿 Yoav Goldberg 警告:服务器托管会话的新 API 将让 LLM 变黑箱
yoavgo · x · 2026-11-19
AI 研究员 Yoav Goldberg(yoavgo)就「AI 开放性」提出一个被忽视的议题:API 的开放性。
- 传统 LLM API 透明直接:调用即发送明确的消息序列和角色,用户对底层模型有可见性,也能精确控制交互。
- Anthropic 和 OpenAI 正转向由服务端管理会话状态的新式 API;他预测旧 API 不久将被弃用,届时用户面对的不再是纯 LLM,而是一个不透明系统。
- 后果:科研社区和开发者对实际运行内容失去可见性与干预点,agent harness、上下文管理等研究方向将 practically impossible。
他认为这一趋势的危害不亚于(甚至超过)闭源权重,呼吁社区公开抵制,并问如何组织这场行动。
「漫话AGI」频道最新
- AI 伦理学者 Luiza Jarovsky 呼吁全球禁止递归自我改进 — LuizaJarovsky · 2026-11-19
- 斯坦福 AI100 第三期报告发布,聚焦缩放时代与生成式 AI — StanfordHAI · 2026-11-19
- 可解释性解决之后呢?Kim 提「复现构念」筛选机器概念 — najoungkim · 2026-11-19
- Elicit 观察:Agent 集群将重塑 2036 年制药前 30 强格局 — jungofthewon · 2026-11-19
- 支持与反对 AI 接管的论点,实则立足不同道德直觉 — 1a3orn · 2026-11-19
- Google Brain 研究员反对用 LLM 审计科学文献:缺乏判断力易致猎巫 — rbhar90 · 2026-11-19