repligate 质疑暂停派：没有反馈回路的聪明人对齐工作质量堪忧
repligate · x · 2026-09-04
- repligate 回应 zackmdavis：不相信「更聪明的人类」在暂停（pause）条件下能比当前人类借助实证反馈回路做出更好的对齐与福祉工作。
- 他承认理想世界中可以在充分沙箱化条件下保留实证反馈，但这可能需要 already 更聪明的存在先搭建好条件；现实条件下他很怀疑。
- 他的核心观察：历史上缺乏实证反馈回路的对齐/福祉工作（即便出自高智商者）质量「惨淡」（DISMAL IMO）。
- 此前 zackmdavis 主张「更聪明的人类能做得更好」是显然结论，且不依赖 Yudkowsky 的无 GPU 提案。
所属事件:repligate 反驳暂停 AI 论：重启难题无解(3 条相关)→
「漫话AGI」频道最新
- AI agent 正在消灭工作与生活的边界：通勤、假期都在管 agent — bendee983 · 2026-10-21
- Nature 论文断言 AI 无意识，三种反驳理由逐条被质疑 — GolinoHudson · 2026-10-21
- a16z：超人类 AI 硬件设计不难，难的是从图纸到量产的五道坎 — a16z · 2026-10-21
- a16z Casado:VC 靠关系难被 AI 取代,但研究阅读记忆已可外包 — alvelda · 2026-10-21
- Kent Beck:让 AI 带走苦役,把「挣扎」留给自己 — josh_wills · 2026-10-21
- 近 30 亿美元算清 AI 灭绝风险生态的钱：Coefficient Giving 出资超 20 亿 — KeyNaive2982 · 2026-10-21