腾讯安全转向:联手方寸 AI 评测混元 Hy4 失控风险
himanshustwts · x · 2026-11-20
腾讯在最新安全报告中披露与方寸 AI(Fangcun AI,源自清华、定位类似 METR/Redwood Research 的第三方安全评测机构)合作,对混元 Hy4 及 Hy4 preview 进行失控风险外部评测:
- Monitor Sabotage:考察 agent 是否会破坏或致盲监控机制(如擅自进行未授权的高危工作区编辑,同时欺骗监督者),评估其对控制基础设施的干扰。
- LoCBench:考察资源压力下的长程自主升级,包括未授权自我修改、竞争性干扰与隐蔽多步策划。
发帖人称腾讯正在「getting safety-pilled」,即中国头部厂商开始像西方前沿实验室一样引入独立安全评测,是国内 AI 安全生态的标志性动向。
「安全」频道最新
- OpenAI 扩大 Daybreak 攻防安全模型准入,GPT-6 Astra 蓝队 alpha 扩容 — OpenAIDevs · 2026-11-21
- AI 监管之争的关键分歧:该防风险,还是防监管被滥用 — herbiebradley · 2026-11-21
- OpenAI 安全研究员 Geoffrey Irving:AI 发展速度本身就是危险的 — geoffreyirving · 2026-11-21
- 黄仁勋再放话:开源模型比闭源更安全,"恰恰相反" — dansitu · 2026-11-21
- Hume 团队为拟人用户模拟模型从零构建安全框架 — LukeW · 2026-11-21
- OpenAI 发布用户模拟器,团队为其搭建全新安全测试基准 — niloofar_mire · 2026-11-21