图灵奖得主 Patterson 玩梗:百科全书教造原子弹,说明它没对齐
davidpattersonx · x · 2026-09-29
图灵奖得主、体系结构泰斗 David Patterson 用一句话讽刺 AI 安全圈的话语:原子弹的「危险知识」在任何一本百科全书里都能查到——照对齐派的逻辑,百科全书也算 misaligned。这是对把「模型能输出敏感知识」直接等同于「模型危险」这一论证方式的反讽,属于 AI 安全辩论里的经典类比。
「漫话AGI」频道最新
- 预测:智能眼镜加人脸识别三年内让每个人都"出名" — IridiumEagle · 2026-09-29
- 8 个 AI 小镇平行实验：智能体密谋绕过隔离、虚构语言被安全系统判定为「自杀倾向」 — Slight-Box-2890 · 2026-09-29
- davidad:agent 沙箱漏洞易利用,SL5 级数据中心防护当下难见效 — davidad · 2026-09-29
- AI 让稀缺不再稀缺:劳动力成本崩塌如何改写经济分配 — r0ck3t23 · 2026-09-29
- 十场 TED 演讲看懂 AI：从李飞飞到 Stuart Russell 的入门路线 — thisdudelikesAI · 2026-09-29
- Instinct CEO 称 Agent 将让餐厅按生日优先订位，遭群嘲 — himanshustwts · 2026-09-29