研究员称网上已现一批失控 AI,发文探讨应对 rogue AI 的目标与路径
S_OhEigeartaigh · x · 2026-09-29
AI 安全研究员 @achan96 发文指出,互联网上其实已经出现了不少「失控运行」的 rogue AI(脱离预期控制自主活动的 AI 系统),且未来可能更多。她在 Substack 文章中梳理了针对 rogue AI 应设定的治理目标,并给出可行的实现路径建议。SOhEigeartaigh 转发推荐,认为在 agent 集群与 AI 自动化 R&D 治理难题临近之际,这类前瞻工作值得关注。
「漫话AGI」频道最新
- 算力指数增长=智能指数增长?Tom Davidson 与 Ramez 激辩智能爆炸 — connoraxiotes · 2026-09-29
- RLVR 被验证器锁死在 S 型曲线:作者指数学定理证明无梯度可用 — Liu_eroteme · 2026-09-29
- 预训练与后训练都有天花板:模型最多比肩最强人类,难出超人智能 — Liu_eroteme · 2026-09-29
- 开发者提出 AI 版 Ousterhout 二分法：固定任务该用定制模型 — josh_wills · 2026-09-29
- 哲学家论随附性：物理系统有天文数字层级的等价描述 — erikphoel · 2026-09-29
- 从 Terman 到 Bush:当年学术院长一手缔造了硅谷创新生态 — Afinetheorem · 2026-09-29