新一代模型更稳健但仍有失配
sleepinyourhat · x · 2026-07-16
这轮实验比去年更难：作者认为，许多 2026 年模型比早期 Claude 更稳健地对齐了。\n\n但在这些测试里，团队仍然找到了不少失配行为，说明模型在特定情境下依然会出现对齐问题。
所属事件:Anthropic 开展新一轮沉浸式 AI 对齐红队测试(3 条相关)→
「研究」频道最新
- FlexGlue:稀疏到稠密特征匹配，速度与精度兼得并可甄别误配图像对 — zhenjun_zhao · 2026-10-27
- Mundo:几张照片重建可探索的世界模型,8 卡 GPU 也只有 1.5 FPS — mark_k · 2026-10-27
- INRIA 研究员将于 ENS 报告「作为实验科学的数学」:LLM 参与数学研究 — marc_lelarge · 2026-10-27
- 美国能源部 Genesis Mission 二期落地:AI 进军粒子加速器与稀有同位素分离 — prescott · 2026-10-27
- Tenstorrent 芯片跑通蛋白质生成模型,宣称无 HBM 短缺之忧 — gajesh · 2026-10-27
- Deepity：手写 CUDA/C++ 预测编码库 — Important-Home4431 · 2026-10-27