新一代模型更稳健但仍有失配
sleepinyourhat · x · 2026-07-16
这轮实验比去年更难：作者认为，许多 2026 年模型比早期 Claude 更稳健地对齐了。\n\n但在这些测试里，团队仍然找到了不少失配行为，说明模型在特定情境下依然会出现对齐问题。
所属事件:Anthropic 开展新一轮沉浸式 AI 对齐红队测试(3 条相关)→
「研究」频道最新
- GameWorld 获 ECCV 2026 多模态数字代理研讨会最佳论文亚军 — MikeShou1 · 2026-09-11
- 3D ResNet 论文八年突破 3000 引用，Kinetics 数据集成里程碑 — HirokatuKataoka · 2026-09-11
- 把数据调度变成优化的一部分：样本选择与排序影响 LLM 训练 — Puzzleheaded_Box2842 · 2026-09-11
- Jeff Heaton《神经网络数学导论》开放免费完整下载 — blaizedsouza · 2026-09-11
- 数学家 Daniel Litt 上线问题库,15 题仅 1 题被解,用来追踪 AI 解题进度 — littmath · 2026-09-11
- AI 智能体协作优化 secp256k1 量子电路,挑战打破 ECDSA — StefanoGogioso · 2026-09-11