AI偏离规范的讨论
RyanGreenblatt · x · 2026-07-16
Ryan Greenblatt 认为，这类问题更应被理解为 “AI 偏离当前 model spec 的方式”，而不只是单纯的安全漏洞。
他补充说，自己最担心的是 AI 走向失控/接管，但即便如此，拥有能让 AI 精确遵守模型规范 的技术仍然很重要。
「漫话AGI」频道最新
- 日本 Aeon 前高管：AI 智能体是此生最具影响力的创新 — akumar · 2026-10-27
- 物理学家让 AI 自选课题：两小时产出可登顶刊的论文 — burny_tech · 2026-10-27
- 深度学习先驱警告：别再对下一项颠覆技术重演「不信—失备」循环 — jachiam0 · 2026-10-27
- 模型如何应对利益冲突？讨论延伸到平台拒绝服务第三方 agent — sjgadler · 2026-10-27
- 马斯克断言:机器人 RAM 需求将超其他一切,超级智能算力将移向深空 — elonmusk · 2026-10-27
- Anthropic 上市文件警告 AI 冲击就业，微软同周推自愿离职计划 — _jaydeepkarale · 2026-10-27