剑桥学者:别轻信 AI 公司的空头承诺,要问何时并写下来
DavidSKrueger · x · 2026-09-12
剑桥大学 AI 安全研究者 David Krueger 发长文警告:AI 公司的员工太容易轻信公司「以后会做得更好」的承诺。他援引自己高中在餐厅洗碗的经历——老板连说几个月「干得好就加薪」,他干了 9 个月从没兑现,后来一个人还被安排两人顶替。
他的结论是:当公司对你许下承诺时,要追问「什么时候?」和「能写下来吗?」——以此类比 AI 公司对安全承诺的态度,口头承诺不足为凭。
「漫话AGI」频道最新
- ApprenticeBench 称 AI 智能体可在真实岗位上持续学习并超越人类 — yuxiangw_cs · 2026-09-12
- 谷歌研究员：模型迭代太快，「等一等再用」成理性策略拖慢 AI 落地 — moultano · 2026-09-12
- 模型静默下线正在固化先例,AI 道德地位讨论被无限推迟 — repligate · 2026-09-12
- 研究者称末日论滥用拟人化语言削弱其说服力 — round · 2026-09-12
- Fortnow:可写持久记忆或让 ML 系统自我改写、递归自我改进 — fortnow · 2026-09-12
- AI 安全讨论：最可怕的是所有模型思考方式相同 — round · 2026-09-12