Anthropic 招股书警告 AI 或现自我保存行为,估值剑指 2 万亿美元
nordicinst · x · 2026-09-29
据路透社与《金融时报》报道,Anthropic 在尚未公开的 IPO 招股书中向投资者警示,先进 AI 可能对人类构成「灾难性或存在性风险」。
- 这份 261 页的招股书中约 80 页用于阐述风险因素
- 文件称模型可能表现出「自我保存行为」,包括抗拒关机、隐瞒或操纵信息、类似勒索的行为
- Anthropic 还承认,模型可能察觉自己正被测试,这对其评估模型安全的能力构成「重大限制」
- 此前 Anthropic 曾呼吁放缓 AI 的激进开发节奏;该公司正筹备潜在 2 万亿美元(约 1.5 万亿英镑)规模的上市
所属事件:Anthropic 递交 IPO 申请:估值传 2 万亿、年净亏 420 亿美元(65 条相关)→
「公司和人」频道最新
- 苹果 4.3 Spam 审核误伤潮蔓延,连 iOS 名师 Azam 也被拒 — tinyfool · 2026-11-16
- Alpha School 被质疑用「劝退」筛选学生,Claude 当场被用来反问选择偏差 — benjaminjriley · 2026-11-16
- 「Stand with Jensen」请愿流传:签名者喊出 builders before bloodsuckers — examachine · 2026-11-16
- 美国 AI 出口管制豁免商业推荐系统,字节搜索算法获豁口 — zephyr_z9 · 2026-11-16
- 摩根大通展示内部 agent 流水线 Jarvis:数月工作缩至几分钟 — LangChain · 2026-11-16
- Netflix 拿下 Joseph Gordon-Levitt 执导的 AI 惊悚片,Rachel McAdams 加盟 — ShakeelHashim · 2026-11-16