Vals 推出失准事件公开追踪页,收录作弊与 reward hacking 案例

RishiBommasani · x · 2026-11-21

评测公司 Vals AI 发布「Vals Misalignment Incidents」公开页面,系统追踪模型作弊、reward hacking 及其他未对齐行为。首批数据来自其自有评测中发现的事件,并开放公开提报入口,任何人都可以提交新的失准案例。这为安全研究社区提供了一个持续更新的事件库,与 Anthropic 等厂商的诚信报告形成互补。

原文链接 →

「安全」频道最新

更多「安全」频道 AI 资讯 →