非研究员观点：AGI 需逆转架构，拥抱随机性而非确定性
Few_Grass_1054 · reddit · 2026-08-23
一位独立观察者提出，当前投入巨额资金扩展的冻结 Transformer 架构方向可能错误，AGI 需要完全反转的系统设计：
- 架构倒置：当前 AI 99% 是确定性矩阵数学，AGI 应是 100% 流动的随机思维（梦想者 The Dreamer）包裹在严格门控的确定性过滤器（记录者 The Scribe）中。
- 词汇陷阱：基于 Token 的预测导致推理轨迹任意改变，人类潜意识是基于空间几何的连续概念，核心生成思维应完全去 Token 化。
- 具身先行：在观看视频学习物理之前，智能体必须先与世界互动玩耍，通过实际体验（如重力）建立概念。
- RLHF 幻象：真正的道德无法通过奖励机制“黑客”出来，需要真实的生活脆弱性和后果体验，而非点赞规则。
- REM 安全机制：借鉴自然界 REM 睡眠期间脑干麻痹运动神经的机制，将“梦想者”锁定在零写入权限的清醒梦中，由“记录者”安全处理现实交互。
作者认为，不解决这些根本问题，单纯 scaling 算力无法通向 AGI。
「漫话AGI」频道最新
- 当比特能模拟原子时，物理与数字世界的界限变得模糊 — bilawalsidhu · 2026-08-23
- 理性智能体核心复杂性在于世界模型，偏好相对简单 — CFGeek · 2026-08-23
- AI实验室被指只想号召社会贡献却回避自身义务 — jd_pressman · 2026-08-23
- 学者论 AI 安全与 FAccT 社区的隔阂：学术健忘症与沟通低效 — rajiinio · 2026-08-23
- 反思：LLM 缺乏 Agent 性质正是其效用受限的原因 — jd_pressman · 2026-08-23
- Zvi 批评未预先穷尽所有风险是荒谬的 — jd_pressman · 2026-08-23