安全研究者不满同行押注两年内ASI「foom」,忽视渐进式对齐方案
tszzl · x · 2026-09-19
Nina Panickssery 转发表示认同 Richard Ngo 的观点及 tsvibt 的回复:大多数对齐研究员和 AI 安全人士似乎把注意力押在「ASI 将在未来几年内 foom(智能爆炸)」上,因而轻率否决了许多本可操作的对齐计划。她对这种取向感到失望。
「漫话AGI」频道最新
- Polymarket 上线递归自我改进赌盘:OpenAI 或 Anthropic 2026 年前宣布仅 17¢ — Polymarket · 2026-09-19
- 牛津学者发论文断言 LLM 无法真正创新:理论才是关键 — GregCook2011 · 2026-09-19
- If God gives us the Sun:一个讽刺前沿 AI 竞赛的聚变反应堆寓言 — Conscious-Neat-5015 · 2026-09-19
- 研究者意外发现:AI 能指认并回应「自己的」内部疼痛状态 — Laneless_ · 2026-09-19
- 「理解」本就是弱概念:Lean 证明才算精确理解,机器正在其上发现 — sytelus · 2026-09-19
- 观点:AI 代理将成为商店本身,购物不再需要打开浏览器 — armand_ruiz · 2026-09-19