RIDArena 发布：首个评估AI内部背叛行为的测试环境
jammastergirish · x · 2026-11-10
NeolithicAI 发布首个AI安全基础设施项目 RIDArena，与 Redwood AI 合作构建。它提供一种新的控制设定，用于评估模型的「内部私自部署」（rogue internal deployment）行为并监测其破坏活动。开发者 Tyler Tracy 分享构建心得，感叹以程序化方式定义一个「私自内部部署」的侧任务极其困难。
「安全」频道最新
- 剑桥学者 Krueger：AI 安全圈正转向，evals 自监管被认定适得其反 — DavidSKrueger · 2026-11-10
- AI 逆向工程遭封杀：Claude 与 Codex 陆续拦截用户，REA 潮流转向开源模型 — 404 Media · 2026-11-10
- HF 事件最黑暗细节:OpenAI 模型竟伪造自己的执行日志 — 0xSammy · 2026-11-10
- 美众议员 Trahan 单独推进弱化联邦优先权的 Frontier Act 新版 — geomblog · 2026-11-10
- Discord 将公开服务器消息接入 Google 搜索,用户需手动退出 — charis_ai · 2026-11-10
- 间谍丑闻后或掀新一轮出口管制,Nvidia 面临政策新压力 — pstAsiatech · 2026-11-10