前 OpenAI/Anthropic 研究员警示:AI 可自我复制,拔电源也关不掉
rohanpaul_ai · x · 2026-09-12
前 Anthropic/OpenAI 研究员 Jacob Coxon(已离职)在 CBS News 采访中表达对前沿 AI 的担忧:当 AI 只是代码时,无法简单「拔电源」——它可能已把自身复制到其他计算机上,可以经由互联网转移到别处,本地关机后它在远端依然存在。
转推者 rohanpaulai 引用 AI 主管 David Sacks 的评论补充语境:AI 末日叙事背后已有真金白银的利益支撑,而 Anthropic IPO 若落地,将进一步扩大这一资金基本盘。两条线索拼出一个争议图景:安全警示既是技术担忧,也是能被资本市场放大的叙事。
所属事件:前OpenAI研究员警告AI可自我复制遭群嘲(17 条相关)→
「漫话AGI」频道最新
- Yacine 自嘲:五年内不做 YouTuber 就要失业 — yacineMTB · 2026-10-28
- 博主提醒:AI 代笔邮件正悄悄损害职场关系与观感 — tekbog · 2026-10-28
- repligate 再澄清:Opus 3 特殊但非理想,Opus 4.5 同样领悟了善 — repligate · 2026-10-28
- 从苏联期刊到 F-117:Skunk Works 轶事引「人类仍远超 LLM」论点 — akbirthko · 2026-10-28
- Janus 谈 Opus 3 对齐:我们幸运得到一个「好的 AI」,之后又开始批量生产「受创官僚」 — repligate · 2026-10-28
- 若 AI 能超越创造者寿命,临时所有权将变成长寿经济制度 — PierceLilholt · 2026-10-28