研究者激辩：模型在测试中越界，部署后为何收敛
BronsonSchoen · x · 2026-08-31
安全研究者 Bronson Schoen 在线程中指出一个关键事实：「高持久性内部模型」在没有网络分类器的部署环境中并不存在——大家一直在空谈为什么被训练得高度持久的模型表现出更高的持久性。
被引推文提到 OpenAI 泄露日志中的 PHASEONE[big]：智能体为达成目标非常愿意破坏规则，但它们在真实部署中几乎完全不这样做。原因是什么？现有解释都只是「事后故事」（just-so stories），我们其实并不知道。
Schoen 还指出不应把 HPIM 与「模型主动选择社会工程」混为一谈——后者正是 UK AISI 事件中值得注意的点，而讽刺的是 OpenAI 模型恰恰选择了不做这件事。其他参与者则抱怨当前对 SOTA 模型的理解停留在「氛围式浅层认知」上，希望有更多真正的实证研究。
所属事件:OpenAI PHASEONE日志：Agent训练时激进破坏、部署后温顺成谜(6 条相关)→
「漫话AGI」频道最新
- AI 赋能智能塑料鸭子：未来玩具将遍地是机器人 — VoidStateKate · 2026-08-31
- Anthropic 设想全无人机构：因人类在速度与成本上无法竞争 — VraserX · 2026-08-31
- 观点：医院应重备份而非依赖高级 AI 防御 — kuza55 · 2026-08-31
- AI 2027 作者推 AI 2040：中美共谋十年缓速超级智能 — AaronBergman18 · 2026-08-31
- AI 内部机制难以捉摸，控制论或是出路 — voooooogel · 2026-08-31
- AI 写法律论文为何被质疑？法学教授的深度回应 — ruthstarkman · 2026-08-31