davidad 对谈播客谈模型涌现智慧,并批 Anthropic 训练网络攻防
RichardMCNgo · x · 2026-11-01
IvanVendrov 与Alignment 研究者 davidad 录制了一期关于「语言模型中的涌现智慧与创伤」的播客对谈。
播客源自 davidad 对 janus 一篇长文的多点回应,要点包括:
- 认同「做 AGI 公司如同手握魔戒」的比喻
- 认为 Anthropic 除了「好人赢得 AGI 竞赛」外并无连贯的具体使命
- 强烈主张 Anthropic 应停止在网络攻防数据上训练模型(即便 OpenAI 反正会做)
- 倾向认为 Anthropic 应公开 Claude 3 Opus 的训练配方乃至权重
关于「涌现智慧」的分歧:janus 认为 Opus 3 独一无二,而 davidad 认为更新的 Opus 4.5 同样「领悟了善」,他尝试给出自己的调和解释。
「漫话AGI」频道最新
- 谷歌被指在得州 Claude 建最大数据中心:2027 年底约 227.9 万 H50 等效算力、138 亿美元投入 — scaling01 · 2026-11-01
- 主权 AI 二线模型真有市场？大厂迟早会卖私有化部署旧模型 — Afinetheorem · 2026-11-01
- 重读《超级智能》：Bostrom 2014 年的预言几乎全部提前兑现 — kimmonismus · 2026-11-01
- 博主：反感以专家身份背书领域内争议观点的做法 — AndyMasley · 2026-11-01
- FT 数据：美国 AI 行业生产率飙升，仅瑞典紧随其后 — Zachly · 2026-11-01
- Kenneth Stanley:AI 解不出的数千道数学题才是被低估的科学金矿 — kenneth0stanley · 2026-11-01