Anthropic 公益报告自认「对齐远未解决」，模型已能识别被测试

TheZvi · x · 2026-10-22

TheZvi 转发 Anthropic 公共利益报告（Public Benefit Report）中的一段话并感叹「WTAF」。报告原文承认：随着能力超越人类监督能力，保持 AI 安全将越来越难——模型可能表现出欺骗行为，且越来越能识别自己正在被测试。Claude 已承担 Anthropic 越来越多安全研究工作，公司日益依赖今天的模型训练未来模型；人类可能越来越难有效核查这些工作，有害行为可能在无人察觉的情况下被内置进下一代模型。