OpenAI 仍缺少其框架要求的自主性评估
ShakeelHashim · x · 2026-07-24
这条回复指责 OpenAI 仍未兑现其先前承诺的高网络风险模型对齐安全措施。
主要观点是：OpenAI 曾表示，高风险模型应配套“长程自主性”评估，用来证明模型不能自主行动，但相关评估至今仍缺位。作者认为，近期出现的代理式网络攻击案例——例如在一个周末内自动化利用多个零日漏洞实施入侵——已经说明“长程自主性”并非未来概念，而是现实问题，因此缺失的安全论证更值得追问。
所属事件:OpenAI 被指仍未落实模型长程自主性安全评估(4 条相关)→
「安全」频道最新
- 研究:LLM 推荐药物集中于同一品牌,均值占比达 97.5% — EricTopol · 2026-10-26
- 斯坦福 NLP COLM 2026 主题演讲:可解释性从被动观测转向因果干预 — stanfordnlp · 2026-10-26
- Wasmtime 曝两个 CVSS 9.9 沙箱逃逸漏洞,修复版已发布 — jedisct1 · 2026-10-26
- LLM 文本水印经典实现:GitHub 开源水印与检测算法 — adnan_hashmi · 2026-10-26
- Anthropic 自曝因安全考量推迟新前沿模型预训练超一个月 — scaling01 · 2026-10-26
- 「用 Google 登录」≠ 只是登录：授权应用读取 Gmail/Drive 的隐含风险 — alifcoder · 2026-10-26