Richard Ngo 谈 AI 安全难题:「wicked problem」比 thorny 更贴切
RichardMCNgo · x · 2026-09-21
- Richard Ngo 在与 FellowHominid、joaneleanor 的讨论中提出,描述 AI 安全这类难题时,"thorny"一词并不准确——数学难题也可以是 thorny。
- 他认为 "wicked problems"、"pre-paradigmatic problems" 以及 elityre 博文中的 "category II problems" 都是更贴切的表述,尽管仍无完全准确的词。
- joaneleanor 补充观点:AI 安全受益于大量研究者做"常规科学"的工作,即便他们不是开创范式级别的天才;而 sycophancy(阿谀附和)会让模型难以真正参与此类哲学难题的求解。
所属事件:Richard Ngo 谈 AI 安全：wicked problem 与 Anthropic 人才流失之弊(2 条相关)→
「漫话AGI」频道最新
- Greenblatt:OpenAI 与 Anthropic 能力侧资深研究员普遍认为 AI 失控风险显著 — RyanGreenblatt · 2026-09-21
- Greenblatt：OpenAI 与 Anthropic 能力研究员普遍认为 AI 夺权风险显著 — RyanGreenblatt · 2026-09-21
- 年薪 60 万美元量化研究员正大量转投 AI 安全组织 — himanshustwts · 2026-09-21
- AI 五年或提升欧洲生产率 1%,但价值恐流向海外 — TansuYegen · 2026-09-21
- 创业者观点：组织里满是AI重度用户，反而该砍掉中间的人肉环节 — bindureddy · 2026-09-21
- Anthropic 喊放缓又追新模型:AI 竞赛最难的囚徒困境 — TansuYegen · 2026-09-21