对齐研究争论焦点：GPT-3/4 时代是否已在面向 AGI
geoffreyirving · x · 2026-08-04
发帖人表示自己之前误解了对方，现在已经明白对方是在表达一种个人感受。
被引用的原话提到：在 GPT-3/4 时代做 alignment research 时，会觉得有点顾虑，因为真正的 AGI、以及带推理和工具使用能力的 RL 模型还没起来；但同时也补充说，很多研究者当时其实已经在做非常相关的对齐研究，并没有偏离主题。
「漫话AGI」频道最新
- 当机器更会答题时，人类优势也许只剩好奇心 — arpit_bhayani · 2026-08-04
- 作者认为，顶尖数学家或将转向 AI x-risk 研究 — zetalyrae · 2026-08-04
- 一条转发认为，AGI 至少要能自如参与四方实时对话 — alexisgallagher · 2026-08-04
- 把每个答案都审查掉，智能就不如许可重要了 — PierceLilholt · 2026-08-04
- Toby Walsh 9 月 11 日将发布 AGI 风险新书 — TobyWalsh · 2026-08-04
- 数学仍然重要，因为证明训练的是 AI 时代最稀缺的推理力 — jxmnop · 2026-08-04