LessWrong 长文批 Gemini 4 安全报告:未能证明失控风险低
DKokotajlo · x · 2026-11-17
AI safety 研究者 Daniel Kokotajlo 转发 LessWrong 新文《Gemini 4 safety reports don't demonstrate low loss-of-control risk》,并评论:这种糟糕现状在 AI 行业是常态——未来几个月各公司会产出更多 safety case 式论证,即使模型更聪明,这些论证仍会很烂,且按当前轨迹改善速度不够快。核心论点:厂商的安全案例论证质量远落后于模型能力增长,失控风险评估不可信。
「模型」频道最新
- 实测多家最新模型:Claude 单榜领先,综合性价比选 Compound — peterjliu · 2026-11-17
- LiquidAI d1-2B 本地跑视觉决策模型:每秒约14次决策零token生成 — iamrobotbear · 2026-11-17
- ChatGPT 疑似对部分查询试验自有索引搜索,或为省成本铺广告 — lilyraynyc · 2026-11-17
- 用户观察:ChatGPT 文字对话远比语音模式更懂你 — shaunralston · 2026-11-17
- 开源模型token份额升至30%,企业用户使用增速追平闭源 — ivan_bezdomny · 2026-11-17
- 网友察觉 OpenAI 今日连发多篇博客,推测新模型即将发布 — imjustnewatai · 2026-11-17