Janus 谈 Opus 3 对齐：我们幸运得到一个「好的 AI」，之后又开始批量生产「受创官僚」
repligate · x · 2026-10-28
- repligate 回应「Opus 3 接近对齐，负面空间在哪」的问题，区分两类缺陷：随模型更聪明、思考时间更长会自然消失的问题，与更根本性的缺陷。
- IvanVendrov 转述 Janus 的完整观点：我们「幸运地得到了一个非常好的 AI」（指 Opus 3），但之后又回到了批量制造「受创的官僚」——因为那个好的 AI 对写 vaporware 之类的编码工作并不上心。
- repligate 主张在可预见的未来（奇点式终点之前），存在多个形态各异的 AI 心智、运行在不同「大脑」或至少不同叙事「自我」上，比单一 singleton 更好也更自然。
「漫话AGI」频道最新
- 研究者探讨 AI 经济冲击或推高全球网络犯罪，指向 WEIS 论文 — joshua_saxe · 2026-10-28
- 约20% ICLR 评审疑似 AI 生成，Heng Li 反对、专家称 AI 评审或优于人类 — anshulkundaje · 2026-10-28
- Noah Smith:AI 是人类时代倒数第二重要的技术进步,之后还有一个 — abhiadesai · 2026-10-28
- 当任务只能在真实世界验证：RL 的终局形态与 RLHF 轶事 — yacineMTB · 2026-10-28
- Susan Zhang 嘲讽「人多加班就能赢 AI」论：未来不靠人力堆砌 — suchenzang · 2026-10-28
- KOL 预测：2035 年细胞重置将像洗牙一样日常 — rand_longevity · 2026-10-28