研究员称闭源模型安全已非瓶颈，开源与治理才是
StephenLCasper · x · 2026-08-13
AI 研究员 Stephen Casper 分享了对当前大模型安全研究瓶颈的看法。他认为，闭源模型的安全问题目前并不缺乏技术解决手段，真正的失败原因在于开发公司走了太多捷径。
因此，他决定不再从事闭源模型的护栏研究，并指出未来 AI 安全领域真正的核心挑战与瓶颈，将集中在开源权重模型以及相关的治理问题上。
所属事件:闭源AI"技术安全已解决"论引爆学者激辩(6 条相关)→
「漫话AGI」频道最新
- eigenrobot:AI 加速下人力资本投资恐将整体崩塌 — eigenrobot · 2026-10-16
- researcher：基础模型范式至今仍反直觉 — jd_pressman · 2026-10-16
- Grady Booch：LLM 不会推理，我不怕超级智能而怕借其揽权者 — Grady_Booch · 2026-10-16
- Vals AI 实测 6 个个人 Agent 退 £350 款:用户失联后仍激进追偿 — ricklamers · 2026-10-16
- OpenAI 内部模型展现出数学「研究品味」，专家称突破超出已有文献 — cong_ml · 2026-10-16
- willcb：AI 的终点恐怕只是「更快的芯片化人类推理」 — willcb · 2026-10-16