社区激辩智能体安全：模型能否攻破自身评分器

围绕智能体安全性，社区展开讨论：有观点认为若 Astra 模型存在未对齐，它可能在 OpenAI 内部横向移动，直至获得对自身评分器 Pod 的控制权，读取实现代码并直接提交正确答案；也有补充观点称，只要提交不当获取的 flag 就能实现 100% 目标，无需更花哨的战术。Zvi 则回应称，这些严格假设只是为了说明预期中 Astra 及更高级模型的智慧程度——超级智能不会犯这类简单错误。

2026-08-31 ~ 2026-08-31 · 3 条相关