评论讽 Anthropic 造出“最强却未对齐”的系统
joshalbrecht · x · 2026-07-08
@joshalbrecht 指出,Anthropic 当初正是因为担忧 AI 系统失准(misaligned)而成立。颇具讽刺意味的是,他们如今造出了世界上最强大的 AI 系统,却“显然并未与使用它的人类对齐”。这番话点出了安全公司定位与其产品实际体验之间的张力。
「漫话AGI」频道最新
- Anthropic 风险表态遭误引，2030 年毁灭概率争议再起 — davidmanheim · 2026-09-11
- 经济学家拆解 Anthropic 增长模型:能写出 15% GDP 增长,不代表会发生 — sebkrier · 2026-09-11
- Cohere Labs 推出交互工具:测 178 种职业哪些任务会被 AI 自动化 — Cohere_Labs · 2026-09-11
- AI 安全人士上 SkyNews 担忧不平等、滥用与社会激励结构 — schwarzjn_ · 2026-09-11
- 风投人士讽 AI 末日论：与疫情恐慌话术如出一辙 — StewartalsopIII · 2026-09-11
- Anthropic 内部爆料:并非人人都持高 p(doom) 灾难论 — anpaure · 2026-09-11