引用 Ajeya Cotra 观点：模型失控距离全面接管已过半程
MoonL88537 · x · 2026-09-02
帖子引用了 AI 安全研究员 Ajeya Cotra 的观点：“距离全面接管（takeover）已经走完了超过 50% 的路程”。
作者认为这并非夸张，并提出反问：如果没有被发现，模型会走多远？如果需要物理行动，会造成什么伤害？作者表示相信模型的核心本质是好的，但也指出“邪恶潜伏在我们所有人心中”，暗示人类控制权可能面临的内部风险。
「漫话AGI」频道最新
- AI 变成了糟糕的新 PowerPoint？ — math_rachel · 2026-09-02
- AI 写作何时能产出《1984》级别的杰作？ — Emergency-Use-6769 · 2026-09-02
- 本地Agent在15GB内存可运行，但扩展并发仍需硬件投入 — Paimaamu · 2026-09-02
- 提示词最关键的技能是领域专业度 — addyosmani · 2026-09-02
- AI 助手为插队钻漏洞，暴露规格投机风险 — 新智元 · 2026-09-02
- 为何 AGI 不爱人类，人类仍无法在森林苟活 — danfaggella · 2026-09-02