LessWrong 长文激辩:对齐研究员该放下边缘改进,公开拉响警报
zetalyrae · x · 2026-11-17
- 推主 zetalyrae 认同 KatjaGrace 在 LessWrong 文章《Live disagreements with people around me》中关于公开倡导的观点,尤其认同「在 AI 公司内边际改进模型安全性,远不如公开拉响警报有竞争力」。
- KatjaGrace 的核心论点包括:尽快阻止危险 AI 远比避免过度阻止 AI 更重要;停掉 AI 开发后长期无法重启的风险很低;让公众参与并不危险,公共传播的下 行风险不大;尽快暂停先进 AI 能大幅提高生存几率;暂停前不需要完备计划。
- zetalyrae 进一步判断:几乎所有从事对齐工作的人,通过公开谈论风险都能更好地实现自己的目标。
「漫话AGI」频道最新
- 大学申请文书陷入怪圈:AI 大量代写,招生办也用 AI 来审 — fkasummer · 2026-11-17
- 「代码公开≠权力分散」:开源模型难破算力集中之门 — tallmetommy · 2026-11-17
- Anthropic 提交 S-1 修订版,自称已达 AI 研发能力阈值 — thione · 2026-11-17
- 技术人的核心价值:不止实现,而是「重新发明」 — neal_lathia · 2026-11-17
- 数据墙并非终点:Reddit 热议 AI 自主实验室循环做实验 — Ideflax · 2026-11-17
- 具身智能圈论战:做 VLA 是网红领域,投身预训练才是大斜率 — ChongZzZhang · 2026-11-17