评论讽 Anthropic 造出“最强却未对齐”的系统
joshalbrecht · x · 2026-07-08
@joshalbrecht 指出,Anthropic 当初正是因为担忧 AI 系统失准(misaligned)而成立。颇具讽刺意味的是,他们如今造出了世界上最强大的 AI 系统,却“显然并未与使用它的人类对齐”。这番话点出了安全公司定位与其产品实际体验之间的张力。
「漫话AGI」频道最新
- 博主引古典意识观：AI 若有意识便无法被奴役 — eigenhector · 2026-10-27
- 经济学家 Bharat Chandar 出任 GovAI 研究员，主导 AI 经济指标项目 — RishiBommasani · 2026-10-27
- AI 检测工具 Pangram 遭围攻：作者称攻击源于对 AI 改变写作的恐惧 — gleech · 2026-10-27
- 日本 Aeon 前高管：AI 智能体是此生最具影响力的创新 — akumar · 2026-10-27
- 物理学家让 AI 自选课题：两小时产出可登顶刊的论文 — burny_tech · 2026-10-27
- 深度学习先驱警告：别再对下一项颠覆技术重演「不信—失备」循环 — jachiam0 · 2026-10-27