Jon Stokes：效用函数是事后建构，对齐因此不可能
sebkrier · x · 2026-10-16
Jon Stokes 提出一个比常见论证更简洁的对齐不可行论断：效用函数并非真实存在于智能体内部、可被调整或复制的对象，而是观察者在事后对智能体行为的一种建构性解释。既然智能体内部并没有这样一个可被「拧正」的东西，对齐这一目标本身就失去了操作对象。这是 AI 对齐领域一个反直觉的哲学立场，容易引发争论。
所属事件:Jon Stokes 称效用函数系事后建构，AI 对齐不可行(2 条相关)→
「漫话AGI」频道最新
- 「LLM 不理解任何东西」遭神反转回怼：人也只是生物神经网络 — VoidStateKate · 2026-10-16
- Nina Schick:欧洲政策圈仍不信 FSD 与太空算力已成现实 — NinaDSchick · 2026-10-16
- Meta 超智能实验室 200+ 直接汇报,扁平组织移植到 AI Agent 设计 — peterjliu · 2026-10-16
- Andy Masley 阐述他的有效利他主义版本： pluralism 优先于效用计算 — RobbWiller · 2026-10-16
- 网友提醒:离 2022 越远,我们越忘记 GPT-3.5 级智能曾是奇迹 — EigenGender · 2026-10-16
- 前高管创业做「计算情报局」：研究前沿模型真实成本与可靠性 — McDonaghMatthew · 2026-10-16