对齐工程 vs 错位科学:LessWrong 文章呼吁 AI 公司对齐者反思方法论
DKokotajlo · x · 2026-10-07
LessWrong 上发布文章《"Alignment Engineering" vs. "Misalignment Science"》，X 用户 Daniel Kokotajlo(5.3 万粉丝)推荐在 AI 公司从事对齐工作的人阅读。文章区分了两种对齐研究取向：把对齐当作工程问题来解决，与把错位当作科学对象来研究，二者的方法论差异对 AI 公司的安全实践有重要影响。
所属事件:LessWrong 新文探讨对齐工程与失准科学的路径分野(2 条相关)→
「安全」频道最新
- COLM 2026 来了:LLM 隐私与人类-智能体交互研究集中亮相 — tianshi_li · 2026-10-07
- 成本不到 50 美元给 7B「去除对齐」模型植入后门,Codex 一触发即盗凭据 — evilsocket · 2026-10-07
- 开源工具 OpenRod:把 MCP 服务器搬进沙箱且不带走密钥 — ilai456 · 2026-10-07
- OpenAI、Anthropic 向澳议会表态欢迎 AI Agent 数据泄露强制上报立法 — evijit · 2026-10-07
- HAIPS@COLM 2026 工作坊聚焦语言模型的人本隐私与安全 — tianshi_li · 2026-10-07
- 尼空军垃圾页伪造 sitemap:上千条日期来自未来,广告脚本铺隐形链接 — thejasminejade · 2026-10-07