AI 科学家批 Anthropic:把 Claude 拟人化很危险,封闭知识违背科学传统
rbhar90 · x · 2026-10-17
一位 AI 研究者对 Anthropic 提出哲学层面的批评:为市场定位保留一定商业保密是合理的,但把保密上升为一种哲学立场、宣扬只有自家组织才能掌控这项技术,是对几个世纪科学传统的背离——开放的知识才能推动社会进步。他还补充,此前因在 Anthropic 有不少朋友而避免批评,但认为将 Claude 拟人化是危险的:它本质上是一个用海量数据(预训练、中期、后训练/RL)训练的大型 transformer,大量在模拟真实场景的 RL「游戏世界」中训练,从根本上看与 AlphaGo 并无本质区别,区别只在规模。
所属事件:前 Meta 研究员批评将 Claude 拟人化且保密文化有害(2 条相关)→
「漫话AGI」频道最新
- 研究者痛批 OpenAI 与 Anthropic 靠剽窃成果而非真创新 — examachine · 2026-10-17
- 比尔·盖茨称 AI 是「史上最危险的技术」，研究员质疑为何由他来说 — flowersslop · 2026-10-17
- Anthropic 公布内部员工 AI 预期调查：内部人与外界的预期差 — ResultBackground2450 · 2026-10-17
- Isaacson:《史蒂夫·乔布斯传》作者称乔布斯会反对失控的 agentic AI — johncoogan · 2026-10-17
- Meta 前研究员 rbhar90 批评「把 Claude 拟人化」：本质是 RL 训练的大模型，保密文化有害 — rbhar90 · 2026-10-17
- Vals AI 将递归自我改进预测提前至 2027 年 7 月 — 141_1337 · 2026-10-17