Jon Stokes 论对齐为何不可行:效用函数只是事后构造
sebpaquet · x · 2026-10-15
Jon Stokes 发帖主张 AI「对齐」（alignment）这一概念框架不可行、不连贯，即便可行也不充分，应被 AI 安全界高优先级地替换掉。他的核心论证是：效用函数是观察者事后对智能体行为的构造性解释，并非智能体内部真实存在、可被修改或复制的对象，因此「对齐」在根上就不成立。Meaningness 转发并附和了这一观点。
「漫话AGI」频道最新
- Quanta 长文追问:注意力机制是智能的本质吗? — mikeflache · 2026-10-15
- Gemini 报告称模型涌现情境感知,安全研究者忧惧欺骗训练路径 — austinc3301 · 2026-10-15
- AI 创业浪潮下谈管理:领导最忌讳不听坏消息、回避冲突、讨好所有人 — saranormous · 2026-10-15
- Itaishernia 担忧:即便 AI 更聪明,人类也不该在价值观上让渡权威 — sebkrier · 2026-10-15
- 一边吓你 AI 灭绝人类，一边卖 AI 进工作流：作者讽估值难续 — himanshustwts · 2026-10-15
- 科学家呼吁建立国际机构监督先进 AI 发展 — TobyWalsh · 2026-10-15