批平克论对齐问题：以为写好目标 AI 就听话是最大误解
JMannhart · x · 2026-09-06
作者继续批评《当下的启蒙》处理 AI 风险的章节：平克以「它们会是我们的孩子，我们为它们编程、赋予我们的目标，它们就会照做」来安抚读者。作者调侃他恐怕只花了五分钟看对齐问题的维基百科页面，称这是最令人尴尬的章节之一——因为给 AI 注入人类目标恰恰是对齐难题的核心，而非解法。
所属事件:平克被批对 AI 风险一无所知，对齐难题争议再起(3 条相关)→
「漫话AGI」频道最新
- 银行从业者警告：让 agent 冒充人类或使银行承担法律责任 — neal_lathia · 2026-09-06
- AI 媒体报道质量改善，Tarbell 中心创始人称担忧缓解 — ShakeelHashim · 2026-09-06
- 哈佛论文惊悚命名:大语言模型是「认知病毒」 — mikeflache · 2026-09-06
- gfodor：「AI 不会写作」是误导，LLM 文风其实高度可控 — nptacek · 2026-09-06
- Pinker 批末日论垄断 AI 安全注意力,挤压网络安全等现实风险 — Dr_Atoosa · 2026-09-06
- 研究者:AI 灭绝末日论垄断注意力,挤占了网安与生物安全等现实风险 — Dr_Atoosa · 2026-09-06