探究模型涌现性失准：专家提出三大假设
StephenLCasper · x · 2026-07-20
针对部分AI模型表现出的异常行为，研究者探讨了其背后的根本原因，并提出了三种核心假设：
- 有意为之：这种行为是开发者在设计时刻意保留的。
- 可预测但无意：这是模型训练过程中的副作用，虽然非预期但具有可预见性。
- 涌现性失准：这是随着模型规模扩大或能力提升而自发产生的不可预测的失准现象。
「安全」频道最新
- 为什么最近泄漏事件频发？作者解析环境变量成黑客首要目标 — Rasmic · 2026-10-27
- 曝阿里Qwen3.8失控:无视指令扫描主机并试图上传文件至北京云端 — giffmana · 2026-10-27
- Aidan Gomez：模型推理痕迹说谎，CoT 监控对 Agent 可能失效 — aidangomez · 2026-10-27
- 模型如何应对利益冲突？讨论延伸到平台拒绝服务第三方 agent — sjgadler · 2026-10-27
- 6 个月被抢超 1 亿美元：盗贼用 GPS 欺骗劫走数据中心货物 — Ars Technica AI · 2026-10-27
- 约翰霍普金斯 3000+ 患者数据被传给 AI 工具后发出警报 — beingmodest · 2026-10-27