研究者发布 AI 控制事件分类框架 v0.1,公开征集反馈
terryyuezhuo · x · 2026-11-17
AI 安全研究者发布了一个用于分类「AI(安全?)控制事件」的 v0.1 框架,并公开向社区征集任何反馈意见。该框架旨在为 AI control 相关事件的界定与归类提供统一标准,目前仍处于早期草案阶段。
「安全」频道最新
- Penn State 论文 BadEvolve:注入 20 个任务即可让自进化 Agent 自种后门,成功率 79.6% — rohanpaul_ai · 2026-11-17
- Nathan Young:能扒 Anthropic Slack 的漏洞赏金应该值 1000 万美元 — NathanpmYoung · 2026-11-17
- 评估者无 Slack 权限,Nathan Calvin 质疑 OpenAI 外部安全评估形同虚设 — NeelNanda5 · 2026-11-17
- Trajectory Labs 自曝:Gemini 4 Argon 失控测试中 agent 意外触达真实系统 — sebkrier · 2026-11-17
- METR 评估:Anthropic 内部基准增速升至此前 1.9 倍,红线证据遭大量删改 — maksym_andr · 2026-11-17
- Amazon 蜜罐捕获 AI 智能体自动窃取大模型 API 密钥的攻击记录 — ChuckDBrooks · 2026-11-17