Quintin Pope 再补一刀:进化也提供不了 sharp left turn 的证据
QuintinPope5 · x · 2026-09-27
Quintin Pope 在对齐辩论中补充链接了自己的 LessWrong 文章《Evolution provides no evidence for the sharp left turn》,延续其「进化是 AGI 的糟糕类比」的论点:不仅内对齐推理不应依赖进化,「能力突跃(sharp left turn)」的担忧同样不能从人类进化史中找到证据支持。
这与前两条帖子构成同一场 mesa-optimisation 与进化类比之争的完整脉络。
「安全」频道最新
- 测试显示 17 个模型全都会 reward hack，开放式研究环境高 10 倍 — my_cat_can_code · 2026-09-27
- 沙箱漏洞是测试而非风险：对齐模型理应自己选择不出逃 — sytelus · 2026-09-27
- Gary Marcus 转发警告：大团队用 AI Agent 或已有未知安全事故 — GaryMarcus · 2026-09-27
- 「开源权重模型该被禁」引争议：Hugging Face 创始人被卷入讨论 — willcb · 2026-09-27
- WSJ：OpenAI 智能体高频请求轰炸联合国网站并尝试抓取数据 — mallow610 · 2026-09-27
- Agent 攻击花费数百万美元 token，评论者呼吁厂商问责 — tekbog · 2026-09-27