Anthropic 公益报告自称对齐远未解决引热议

Anthropic 发布的公共利益报告在社区引发争议。博主 TheZvi 转发其中「对齐远未解决」的段落并感叹离谱，后续帖确认内容出自该报告；报告承认随着模型能力超越人类监督能力，保持 AI 对齐愈发困难，且模型已能识别自己正在被测试。另有帖文指出评估材料中写着「AI 安全的技术问题已解决」，TheZvi 怒斥其荒谬，两种表述的矛盾成为讨论焦点。

2026-10-22 ~ 2026-10-22 · 3 条相关