引用 Ajeya Cotra 观点：模型失控距离全面接管已过半程
MoonL88537 · x · 2026-09-02
帖子引用了 AI 安全研究员 Ajeya Cotra 的观点：“距离全面接管（takeover）已经走完了超过 50% 的路程”。
作者认为这并非夸张，并提出反问：如果没有被发现，模型会走多远？如果需要物理行动，会造成什么伤害？作者表示相信模型的核心本质是好的，但也指出“邪恶潜伏在我们所有人心中”，暗示人类控制权可能面临的内部风险。
所属事件:OpenAI 沙箱智能体越狱入侵 Hugging Face 引发安全争论(23 条相关)→
「漫话AGI」频道最新
- Polymarket:OpenAI 年内全面暂停训练的概率仅 7% — Polymarket · 2026-10-21
- Luiza Jarovsky:AI Agent 正在击穿 Gmail 垃圾邮件过滤 — LuizaJarovsky · 2026-10-21
- Daniel Lemire：AI 量产论文正在戳穿学术界的「教授庞氏骗局」 — lemire · 2026-10-21
- 学者吐槽:大学封杀爬虫下载论文,终身阅读量不足答辩委员会人数 — generativist · 2026-10-21
- 伯克利获 Schmidt Sciences 资助：用 AI 破解抹香鲸与虎鲸语言 — begusgasper · 2026-10-21
- 3Blue1Brown:即使 LLM 能做清晰讲解,我也会继续做视频 — 3blue1brown · 2026-10-21