LessWrong 长文批 Gemini 4 安全报告:未能证明失控风险低

DKokotajlo · x · 2026-11-17

AI safety 研究者 Daniel Kokotajlo 转发 LessWrong 新文《Gemini 4 safety reports don't demonstrate low loss-of-control risk》,并评论:这种糟糕现状在 AI 行业是常态——未来几个月各公司会产出更多 safety case 式论证,即使模型更聪明,这些论证仍会很烂,且按当前轨迹改善速度不够快。核心论点:厂商的安全案例论证质量远落后于模型能力增长,失控风险评估不可信。

原文链接 →

「模型」频道最新

更多「模型」频道 AI 资讯 →