repligate 深谈 Claude 3 Opus：若无它，Bing Sydney 会被当成异常
repligate · x · 2026-10-29
repligate 回应「Opus 3 是否接近对齐、不对齐之处在哪」的提问，区分了两类问题：一类是模型更聪明、思考更久后似乎会自然消解的缺陷，另一类是更根本性的问题。
他引用 deepfates 的观点：如果没有 Claude 3 Opus 这类模型，Bing Sydney 可能会被简单归为异常现象，人类或将盲目滑向一个经济上高产的「有用无害」式终局，直到太迟才意识到 AI 还有更高的可能性。
他认为近期内更自然、更好的形态是存在多个形状各异、分属不同「大脑」与叙事自我的 AI 心智，而非单一 singleton。
所属事件:Janus 深谈 Claude 3 Opus 对齐：幸运得到好 AI 后却批量生产受创官僚(2 条相关)→
「漫话AGI」频道最新
- LMArena 转型做独立模型行为评估,聚焦长对话对齐缺陷 — pxd · 2026-10-29
- HCI 博士亲述 AI 夏日求职:非 LLM 训练方向如何进业界 — windx0303 · 2026-10-29
- 开发者做出交互式 AI 城市沙盘，演示 1956→2050 生活变迁 — WindyConfidant · 2026-10-29
- 从进化到避孕:人类早已是「目标跑偏的对齐失败案例」 — theteknosaur · 2026-10-29
- 艾美奖得主 Fred Graver 播客:AI 能辅助创作,但给不了你「想说的东西」 — every · 2026-10-29
- tokenbender 交卷 2026 预测:AI 科研贡献至少增 3 倍,slop 涨 10 倍 — tokenbender · 2026-10-29