批评者质疑 Yudkowsky 对齐思路:智能不该被设计,而应被培育
repligate · x · 2026-09-30
aleksil79 发文批评 Yudkowsky 的对齐观,指出其矛盾:Yudkowsky 曾认为智能需要被智能设计,而非创造让它发展的条件,但 LLM 的涌现恰恰证明后一种路径;如今他仍主张对齐必须被智能设计,而不是培育出对齐发展的条件。作者据此质疑他对类心智事物的理解根本错了,并称基于被 LLM 推翻的假设构建的非人类智能理论,从未有机会让替代理论发展,因为旧框架从未被抛弃。repligate 转发扩散了这一观点。
「漫话AGI」频道最新
- Claude、Sydney:模型名字为何天生带性别联想 — repligate · 2026-09-30
- Nando de Freitas 批 BBC 渲染 AI 失业恐慌，联名吁英国放开竞业限制 — NandoDF · 2026-09-30
- 独立开发者开源可穿戴设备分支：个人 AI 必须本地化、去中心化 — TinfoilTricorn · 2026-09-30
- David Patterson 给 SI/GI/UI 立新定义:AI 悄然更名叫 SI — davidpattersonx · 2026-09-30
- 前 OpenAI 研究员复盘:Dario 2019 年的语言模型对齐赌局正在失灵 — birchlse · 2026-09-30
- Krieger 称 Anthropic 内部项目「Claude 搞定」,PM 力谏后获认:没人管支持与安全审查 — victor_explore · 2026-09-30