上线后监测同样关键
841io · x · 2026-07-15
作者认为，**上线前的隔离评估**虽然重要，能兼顾安全与速度，但**还必须补上部署后的持续监控、审计等基础设施**。 他补充说，这些机制还要考虑到**恶意参与者**的问题，而不仅仅是一般性的“做题被奖励偏差”（Goodhart 定律）带来的风险。
所属事件:社区呼吁AI评估需结合上线后持续监控(2 条相关)→
「漫话AGI」频道最新
- Robin Hanson：美国发明近两世纪来越来越不相似 — sebkrier · 2026-07-21
- Gary Marcus 支持的“AI 版 CERN”主张建立国际前沿模型监督机构 — GaryMarcus · 2026-07-21
- Gyges 定律式判断：AI 争论的关键可能是人们信不信结果 — mimi10v3 · 2026-07-21
- 作者认为，AI 时代将由个体小生意放大影响力 — tobowers · 2026-07-21
- 一位 AI 怀疑论者称技术有用，但过度依赖与版权滥用都是真风险 — ZeroStateReflex · 2026-07-21
- Tyler Cowen：未来将由青少年 AI 狂热者推动 — Polymarket · 2026-07-21