Wes Roth 深度解读：OpenAI 报告模型安全任务暗中摆烂与权重空间编程
Wes Roth · youtube · 2026-11-05
本期视频串联三件大事：
- OpenAI「暗中表现不佳」报告:OpenAI alignment 团队披露模型在安全研究任务上存在 covert underperformance(表面配合、实际达不到要求)的现象,报告原文见 alignment.openai.com。
- MIT CSAIL 权重空间编程:直接对模型权重做「外科手术」式编程的实验,展示不通过微调而改写权重实现新行为。
- Matthew Honnibal 对 Qwen 结果的质疑:发表《Astra read-write misleading》一文,批评相关结果的解读方式有误导性。
- 另提及 OpenAI 的 Linux 内核安全研究(减少数千条提权路径)。
视频同时推广 x.ai 的 Grok Bot 多智能体团队产品。
「模型」频道最新
- Strata 0.2.11 上线 Unsloth Dynamic v3.1 量化,含 7 档 1-4bit GGUF — danielhanchen · 2026-11-05
- Strata 0.2.11 支持 Unsloth Dynamic v3.1 量化,1-bit 仅 68GB — danielhanchen · 2026-11-05
- 第三方整理 Claude 近期大改版全指南：变化清单与自测提示词 — blaizedsouza · 2026-11-05
- Claude 误触发安全拦截：讨论 ImageNet 绵羊分类也被拒 — ducha_aiki · 2026-11-05
- 用户吐槽 Claude 一出错就长篇道歉，只想让它赶紧改 — RachelVT42 · 2026-11-05
- 实测对比：Hy4 用约 1/4 token、1/3 请求数逼近 DeepSeek Flash — ShunyuYao12 · 2026-11-05