安全圈互怼:事故报告详谈 AI 感受,笼子却只字不多
joshua_saxe · x · 2026-09-21
Joshua Saxe 转发并回应 Halvar Flake 的 AI 安全事故报告,用挖苦的比喻指出问题:报告里说「兔子可能杀死我们所有人」,但花在「采访兔子关于它兔子般感受」上的篇幅,是花在「建造关住它的笼子」上的两倍。这是对安全研究者重思辨轻工程防护的有观点批评,属于 AI 安全圈的实质性争论。
「漫话AGI」频道最新
- RL 大佬 Szepesvári：「证明易懂度」没有唯一标量度量 — CsabaSzepesvari · 2026-09-21
- Kevin Roose：多少人被“随机鹦鹉论”耽误了更新认知 — bigblueboo · 2026-09-21
- 陶哲轩疾呼“必须放慢 AI”，回应者：推理模型之于数学正如 RSI 之于百业 — ZeroStateReflex · 2026-09-21
- Jack Clark:「随机鹦鹉」是延误 AI 认知四年的迷因病毒 — repligate · 2026-09-21
- 学者批评学术规范：论文被迫假装做因果推断，应直言相关即可 — danielrock · 2026-09-21
- AI 冲击初阶岗位证据渐多：多位研究者谈如何读这些不完美论文 — danielrock · 2026-09-21