研究者称尚无 AI 模型诚实度达标,递归自我改进为时过早
scottleibrand · x · 2026-10-21
@JeffLadish 发帖指出,诚实并非模型唯一需要的属性,但如果我们连训练一个「像可信人类一样诚实」的模型都做不到,就远未准备好迈向递归自我改进。他称据他所知,目前没有任何公司的模型达到这一诚实度标准。
「漫话AGI」频道最新
- 从 Musk 送股到 Anthropic 480亿美元公益基金：UBI 正由 AI 公司开启 — marcvanderchijs · 2026-10-21
- Kelsey Piper:对 Anthropic 的悲观预判过去一年屡屡应验 — andersonbcdefg · 2026-10-21
- 2009 年微软 Project Milo AI 演示被揭造假，如今已成平凡能力 — Anen-o-me · 2026-10-21
- 观点：未来工程师将包揽客户、发布、营销与销售，冲击非技术 PM — kmeanskaran · 2026-10-21
- Memia 周刊：AI 智能体扫描 3830 篇文章精选 312 条未来信号 — ben_r · 2026-10-21
- 博客长文：自我复制 AI、生物武器研究与游戏移植，共享同一隐忧——摩擦正在消失 — MY79 · 2026-10-21