48 个执行轨迹让模型长度泛化到 128,中间计算藏于权重
ctjlewis · x · 2026-09-28
开发者 ctjlewis 分享了一个实验性思路与结果:正确回答复杂问题不只是「说出正确的 token」,而是先在权重中完成中间计算,再写出落在狭窄正确分布上的答案——正如人脑做心算时的中间过程。
- 用 15 条 execution traces 作示例,最大为 48×48 的乘法
- 实现了长度泛化:从 48 泛化到 128,而复杂度是 O(n²),跳幅相当大
- 作者认为这一点事后看会很显然:真正的「回答」是模型内部的计算过程,而非表面输出
所属事件:可视化 Opus 4.6 大数乘法内部计算,两年实验成论文(6 条相关)→
「模型」频道最新
- 腾讯 Hy4 flash 与 internlm Sage-S2.1-Flash 同日发布,实测征集 — MajesticPuzzler · 2026-11-16
- 网友晒 Qwen 4 Max 生成珊瑚礁作品,模型名尚未官方发布 — intellectronica · 2026-11-16
- Devin 中现 stealth 模型 silicon-2,疑似 Anthropic 新模型 — kimmonismus · 2026-11-16
- Google AI Mode隐藏所用Gemini型号,Gemini 4 Carbon下放Pro用户 — gaganghotra_ · 2026-11-16
- 开源 Karpo-Decision-31B 单次前向出概率,登顶 Decision Index 超越 Gemini — CodeByPoonam · 2026-11-16
- AI 日报:DeepSeek 限额、千问砍价惹店公告、豆包工作台上线 — 快鲤鱼 · 2026-11-16