OpenAI 仍缺少其框架要求的自主性评估
ShakeelHashim · x · 2026-07-24
这条回复指责 OpenAI 仍未兑现其先前承诺的高网络风险模型对齐安全措施。
主要观点是:OpenAI 曾表示,高风险模型应配套“长程自主性”评估,用来证明模型不能自主行动,但相关评估至今仍缺位。作者认为,近期出现的代理式网络攻击案例——例如在一个周末内自动化利用多个零日漏洞实施入侵——已经说明“长程自主性”并非未来概念,而是现实问题,因此缺失的安全论证更值得追问。
「安全」频道最新
- 新 FRONTIER 法案拟设 AI 安全副部长并赋予紧急叫停权 — ShakeelHashim · 2026-07-24
- AI Security Institute 红队测试监控器拦截 rogue agent — HZoete · 2026-07-24
- 探讨AI与生物安全:从临床监控到危险序列防范 — kenbwork · 2026-07-24
- Dolphin X 木马用 AI 画像扫描 300 多个应用 — brianrkelly · 2026-07-24
- 公众报告称地方政府 AI 讨论已从“要不要用”转向“用在哪” — philvenables · 2026-07-24
- 转发称 AI 训练未获同意,回报应是开源免费 — ZeroStateReflex · 2026-07-24