Anthropic 安全争议：模型“吓人行为”是机制还是叙事
vishalmisra · x · 2026-07-29
作者回应 WSJ 的引用时表示，他批评 Anthropic 的重点不是否认 AI 风险，而是认为在围绕“令人恐惧的模型行为”立法或下结论之前，应该先分清这到底是涌现出来的机制，还是模型从语料中学到的一种叙事。
他进一步解释说，互联网几十年来一直在想象会欺骗、威胁、抗拒关停的 AI；如果一个语言模型在这类语料上训练，它自然会继续讲这些故事。这更能说明训练语料的偏见与想象，而不一定说明模型本身真的具有那种机制。
所属事件:Anthropic 开放权重表态引发监管护城河争议(10 条相关)→
「漫话AGI」频道最新
- Miles Cranmer 演讲：如何在 AI 时代避免「大脑萎缩」 — Scobleizer · 2026-10-16
- AI 产品表层缺陷恰好掩盖了其根本设计缺陷 — lescarr · 2026-10-16
- IMF 官员:全球金融市场韧性超预期,很大程度归功于 AI 乐观情绪 — kernelangus420 · 2026-10-16
- 只看内容不实验,AI 能反推出人脑结构吗? — rickasaurus · 2026-10-16
- Vals RSI 指数外推：Google 模型或于 2027 年 10 月达 130% 自研水平 — HaydnBelfield · 2026-10-16
- Gowers 总结：我没有 p(doom)，但也不敢说它接近零 — michael_nielsen · 2026-10-16