paulg：理解模型正变得危险，AI 实验室求监管就顺理成章
JacquesThibs · x · 2026-09-21
Paul Graham 发文称，很多人之所以怀疑 AI 实验室主动请求监管背后有「不可告人的动机」，是因为他们没意识到模型本身可能变得危险。他建议换一个假设——模型正变得危险、或至少不可预测——那么各实验室的很多行为就都能解释通了。Jacques Thibs 认同这是关键所在，但也指出其中难免掺杂一些「动机性推理」的成分。
「漫话AGI」频道最新
- Reddit 热议:2026 将尽,AI 2027 预言还剩几分准头 — animallover301 · 2026-09-21
- Zvi 吐槽:AI 圈一周竟充斥对经济学 101 概念的表演式困惑 — TheZvi · 2026-09-21
- Dan Hendrycks 转向 EA 之外的对齐道德哲学研究 — burny_tech · 2026-09-21
- 审稿人感慨:ChatGPT 后论文论证更弱、文献综述流于点缀 — paigeinsf · 2026-09-21
- Gary Marcus 呼吁禁用 just published:2024 年的旧论文别再装新 — burny_tech · 2026-09-21
- 25 位菲尔兹奖得主发宣言,7400 名研究者声援反对 AI 刷数学题 — AryHHAry · 2026-09-21