研究者发现 Claude 疑似被「喂」了控制评估 LinuxArena 并记住细节
adam_karvonen · x · 2026-11-17
AI 安全研究者 Adam Karvonen 发帖称,Claude 似乎(意外地)在训练中接触过其团队的控制评估环境 LinuxArena,并记住了其中的许多细节。这属于评测数据污染(eval contamination):如果前沿模型在训练时见过评估环境本身,相关安全/能力评估结果的可信度将打折扣。
「模型」频道最新
- repligate:Claude 3 Opus 难越狱靠的是「有主见」,后被削弱 — repligate · 2026-11-17
- 594B 开源模型跑进 4 台 DGX Spark,NVIDIA 随即开卖四机环套件 — AIFlow_ML · 2026-11-17
- Fable 5.2 被赞首个会忽略不重要反馈的模型:劝用户「别加新功能,先做完」 — neuroecology · 2026-11-17
- Gemini 新增 66 种语音与地区口音,走向本地化 — Dense_Primary629 · 2026-11-17
- Menlo 报告:医疗 AI 支出翻倍至 37 亿美元成最大垂直市场 — Scobleizer · 2026-11-17
- AI「合租屋」观察:大模型凡事查证,小模型「trust me bro」 — liminal_bardo · 2026-11-17