AI 安全末日论被批像空中楼阁,人类写作成智力的昂贵信号
zetalyrae · x · 2026-09-25
Isaac King 引用对 Redwood Research AI 安全专家的播客访谈,提出两点批评:
- 当前关于 AI 接管文明的 working theories 建立在大量临时假设之上,靠对无人能预知的未来状态随意赋概率拼凑而成,改变任一变量整个「末日之网」就崩塌。承认 AI 有真实风险,但对人类灭绝这种非常规主张应要求非常规证据,不应据此制定重大政策。
- 人类写作是智力的「昂贵信号」:用 AI 写作本身无道德问题,如今 AI 文本越来越准确好读,但「有值得说的话」与「想自己说」的人群存在相关性。
这是对 AI safety 叙事的实质性观点辩论。
所属事件:Redwood 研究员 AI 夺权论遭批评：理论被指假设堆砌(2 条相关)→
「漫话AGI」频道最新
- Jeff Sebo 回应 Nate Silver:多数领域专家认同 AI 模型'会思考' — aran_nayebi · 2026-09-25
- DeepMind CEO 重申:当今系统离真正 AGI 还非常遥远 — luislamb · 2026-09-25
- 最可信的 AI 末日情景：AI 掌控一切而人类毫无权力 — kevinnbass · 2026-09-25
- 1982 年旧书预言「无程序员开发」,与今天 AI 浪潮惊人相似 — ZeeshanZiaML · 2026-09-25
- 固态电池博士用 AI 画出领域十年脉络：还要读 100 篇论文吗 — Clean-Interview-5081 · 2026-09-25
- 学者主张 LLM 无法独立完成溯因推理,需神经符号方法补足 — luislamb · 2026-09-25