Robert Miles 拷问:指望 AI 公司「彻底理解自己的系统」现实吗?
DavidSKrueger · x · 2026-11-06
AI 安全研究者 Robert Miles 发推讽刺行业的常见托词:「AI 出了坏事,只是因为公司没完全理解自己的系统、做了蠢事」——随后自问自答:「你真指望这些公司会开始完全理解自己的系统、不再做蠢事吗?」
这条一句话推文点出了当前 AI 安全讨论的核心矛盾:企业对自家模型内部机制的理解有限,而把事故归因于「操作失误」暗示了一种并不存在的改进路径。
「漫话AGI」频道最新
- 开发者长文：不再担心智能失控爆炸，更糟的是「早发退相干」 — round · 2026-11-06
- Jeff Ladish 播客谈 AI 自我复制与自动化 AI 研发的风险 — JeffLadish · 2026-11-06
- AI 写作屡赢文学奖项，为什么读起来还是让人烦 — cis_female · 2026-11-06
- AI 写作为何讨人嫌：模型能赢文学赛，恼人只因风格被看腻 — cis_female · 2026-11-06
- METR：AI 或已将 AI 研发速度提升约 2 倍，尚未达完全 RSI — harris_edouard · 2026-11-06
- Lightcone Commons 资助平台开放申请，Jaan Tallinn 与 Moskovitz 参与首轮 — NathanpmYoung · 2026-11-06