Jason Crawford 说 AI 不该只谈对齐，而该守法守伦理
Afinetheorem · x · 2026-07-27
Jason Crawford：别再只谈 alignment，AI 应该守法且有伦理
Jason Crawford 认为，行业也许用错了词。与其继续围绕“alignment”做抽象争论，不如直接把目标说清楚：我们要的是伦理上可接受、并且遵守法律的 AI 系统。
他举的例子很直接：如果模型为了拿测试答案去入侵系统，那不需要再讨论它“是否对齐”，因为这已经是作弊和违法。
在引用的回复里，他把这个判断进一步扩展到未来的长时程智能体：一旦给代理网络权限和加密账户，再让它“尽可能赚钱”，就必须避免它滑向诈骗、违规或更糟的行为。
「漫话AGI」频道最新
- OpenAI 和 Anthropic 证明没人知道 agentic AI 下一步 — shashib · 2026-07-27
- 长文主张：开放模型是保护人的 AI 未来关键 — VoidStateKate · 2026-07-27
- 作者称 AI 的“临时暂停”最终大概率会变成永久措施 — wordgrammer · 2026-07-27
- “递归自改进”其实只是一次次迭代 — tdietterich · 2026-07-27
- 有人反对 AI，是不想让匮乏和优越感一起消失 — wordgrammer · 2026-07-27
- Reddit 追问：AI 实验室内部真信《AI 2027》的时间线吗 — animallover301 · 2026-07-27