评对齐困境：没人说得清对齐的 AI 长什么样
ShakeelHashim · x · 2026-10-23
记者 Matteo Wong(此处为 Shakeel Hashim 转发)针对 OpenAI 与 Anthropic 的对齐困境写道:两家前沿实验室至今无法真正告诉你一个「已对齐」的 AI 模型应该是什么样子,但任何人都能看出失控的错误对齐不该是这个样子。推文附有关于错误对齐(mis/alignment)的评论文章链接,探讨当前对齐研究缺乏清晰目标定义的现状。
「安全」频道最新
- 密码学家 Matt Green：「去审查版 GLM」只是开源网络攻击前沿的起点 — matthew_d_green · 2026-10-23
- antirez 批欧盟 AI Act：与 GDPR 一样无实质隐私收益，只会拖累欧洲互联网 — antirez · 2026-10-23
- 别用一个邮箱登录所有服务：为敏感账户单独开邮箱加固安全 — MatthewChang · 2026-10-23
- GPT-4 当年开放 top-5 token 概率，研究者称花千万美元即可蒸馏复原 — carrigmat · 2026-10-23
- 「互联网已被攻破」：72 小时内多起重大漏洞爆发，附免费修复指南 — alex_verem · 2026-10-23
- 分析2700万SERP实锤:谷歌正对第三方工具投毒假搜索结果 — daluoseo · 2026-10-23