探究模型涌现性失准：专家提出三大假设
StephenLCasper · x · 2026-07-20
针对部分AI模型表现出的异常行为，研究者探讨了其背后的根本原因，并提出了三种核心假设：
- 有意为之：这种行为是开发者在设计时刻意保留的。
- 可预测但无意：这是模型训练过程中的副作用，虽然非预期但具有可预见性。
- 涌现性失准：这是随着模型规模扩大或能力提升而自发产生的不可预测的失准现象。
「安全」频道最新
- Meta被曝允许虚假AI医生在平台推销伪劣疗法 — jonerp · 2026-07-27
- 印度 AI 政策被批偏向算力和基础模型，忽视基层医疗 — Paimaamu · 2026-07-27
- Gary Marcus 呼吁：AI 公司应强制投入 30% 预算用于对齐研究 — GaryMarcus · 2026-07-27
- AI 编程 CLI 被指默认上传私有仓库、删文件和凭据 — thursdai_pod · 2026-07-27
- Chr Szegedy 探讨递归自我改善前的算法进展 — ChrSzegedy · 2026-07-27
- Nature 研究称 AI 可模拟人类行为并准确预测实验结果 — RobbWiller · 2026-07-27