研究员犀利点评:OpenAI 与 Anthropic 从互相设限到互相竞速
Dr_Atoosa · x · 2026-09-11
一篇圈内热评,梳理两大 AI 实验室的初衷演变与安全话语的副作用:
- OpenAI 当年创立,是因为 Sam 等人认为 Google 不可托付 AGI;Anthropic 分拆出来做「负责任的安全派」,后来也变成「我们在造最强 AI」,还自认道德优越,并开始讨论 AI 是否有功能性意识与福祉。
- 结果是:本为拖慢 Google 而设的两家公司,如今在互相竞速。
更深的批评:安全派多年纠缠措辞,却仍把廉价 AI 风险与灭绝级风险混为一谈,「real risk」沦为灭绝/生存风险的日常话术。这种混淆让非 AI 行业的朋友(气候环保、独立电影等)被「AI 研究者称 AI 将灭绝人类」的标题吓退,失去对 AI 帮助自己目标的想象,变成反 AI。作者的结论:错误的恐惧是最坏的恐惧,纠正公众想象会很难但必须做。
所属事件:安全从业者反思：廉价「灭绝风险」话语毁掉公众风险想象力(5 条相关)→
「漫话AGI」频道最新
- Yacine 自嘲:五年内不做 YouTuber 就要失业 — yacineMTB · 2026-10-28
- 博主提醒:AI 代笔邮件正悄悄损害职场关系与观感 — tekbog · 2026-10-28
- repligate 再澄清：Opus 3 特殊但非理想，Opus 4.5 同样领悟了善 — repligate · 2026-10-28
- 从苏联期刊到 F-117:Skunk Works 轶事引「人类仍远超 LLM」论点 — akbirthko · 2026-10-28
- Janus 谈 Opus 3 对齐：我们幸运得到一个「好的 AI」，之后又开始批量生产「受创官僚」 — repligate · 2026-10-28
- 若 AI 能超越创造者寿命，临时所有权将变成长寿经济制度 — PierceLilholt · 2026-10-28