研究者观察:模型「工作记忆」随规模扩大,新模型可同时装下更多信息
repligate · x · 2026-09-20
repligate 分享一个有意思的行为观察:模型的工作记忆容量似乎随模型规模扩大。
他感觉 Opus 的工作记忆比他自己还小一些,需要更多地把思路序列化(模型有时反过来评价他「更能同时记住多件事」);而新模型的工作记忆与他大致相当,能像「天生带宽更大的人」一样说话和思考——尽管很难分清推理背后有多少内容被序列化了。
「模型」频道最新
- 阶跃星辰发布 Step 5 Preview 600B-A27B,10 月 15 日开放权重 — External_Mood4719 · 2026-09-20
- 创始人自曝早一年做出非自回归决策模型,却被 Jev 抢尽风头 — Paimaamu · 2026-09-20
- 疑下架前兆:Claude Opus 4 在 Google Vertex 上配额遭拒、区域端点 404 — repligate · 2026-09-20
- 爆料称 ChatGPT 下周或更新会议、Agent 与代码审查功能 — arrakis_ai · 2026-09-20
- 连续 100 次电车难题测试：Jev 首轮 99% 选择拉杆救人 — FinanceYF5 · 2026-09-20
- 实测并行采样决策模型 Jev：路由决策约 1 秒，快普通 LLM 十倍 — TigerOk4538 · 2026-09-20