Anthropic承认向国会提交过时对齐评估并承诺更新

Anthropic相关人士Ethan Perez承认，此前向美国国会议员公开质询提交的关于训练事件对齐评估的信息基于过时结论，存在事实性错误，近期文章已反映对训练压力可能导致错位倾向的最新理解，并计划发布更详细的评估。安全研究者Jeff Ladish评论称，即便没有CoT和可解释性工具，当时该回复从外部看已明显属于misalignment，呼吁公开全部记录。

2026-09-06 ~ 2026-09-06 · 3 条相关