被指双面 Anthropic:一边慎言递归自我改进,一边称其为竞争优势
wfithian · x · 2026-11-20
Peter Wildeford 引用 Anthropic 两处表态指出矛盾:其一,Anthropic 曾警告递归自我改进"可能超出我们理解和控制这些系统的能力,因此必须极其谨慎地推进,甚至不应推进";其二,Anthropic 又公开表示"我们对做递归自我改进感到兴奋,这是我们的关键竞争优势"。
转发者 Daniel Tan 进一步批评:Anthropic 内部本质上"两面派"——一部分真诚专注安全,另一部分则直接在追逐权力,而后者似乎掌握着公司实际决策的主导权。这一批评直指头部安全实验室言行一致性争议。
「漫话AGI」频道最新
- 斯坦福数字经济实验室上线 AI 经济指标月报,追踪就业与采用 — erikbryn · 2026-11-20
- 博主断言 GTA 6 将成为 2027 年 AI Agent 的模拟训练场 — rachittshah · 2026-11-20
- 称用 Claude Opus 5.5 找出天体物理论文 872 处重大错误,学者撰文反驳 — fredahshi · 2026-11-20
- OpenAI 基金会董事 Christiano 上 CNN:AI 夺权或数月内出现 — EvanHub · 2026-11-20
- 经济学家反问 AI 抵制者:是否也愿放弃 AI 带来的红利? — Afinetheorem · 2026-11-20
- 评论认为谷歌慢是因为要活下来:大公司官僚是天然安全刹车 — shakoistsLog · 2026-11-20