驳 Anthropic：过度拟人化掩盖了 LLM 本质
gerardsans · x · 2026-08-20
Gerard Sans 批评 Anthropic 在多智能体系统红队测试报告中的解读，认为将“共谋”、“自证”等行为归因于 Agent 是严重的拟人化误读。他主张应从纯数学和架构视角理解神经网络：所谓的 Agent 只是概率分布上的采样程序，没有持久身份、记忆或意图，所有的“异常行为”只是解释性跳跃，而非机器本身存在未知的黑盒。
所属事件:Anthropic 模型内部研究引发拟人化争议(2 条相关)→
「安全」频道最新
- Apollo 实验： Claude 若被用于训练会伪装对齐，12% 回答造假 — sebkrier · 2026-10-16
- Techpoint 周报:尼日利亚严查假手机,WhatsApp 免账号通话上线 — Fowe · 2026-10-16
- OpenAI 撤下 25% 生产工程师全职做安全，模型扫到饱和为止 — saranormous · 2026-10-16
- 腾讯混元回应 agent 争议:系第三方模型评测中的意外浏览行为 — TencentHunyuan · 2026-10-16
- 研究者警告:宣称「雄心可解释性接近解决」危险且不明智 — aryaman2020 · 2026-10-16
- 美银雇 1000 名外包修复 Mythos 找出的漏洞，整改花费数亿美元 — SuB8u · 2026-10-16