Jeff Clune 团队论文「AI Finds a Way」:26 个 AI 智胜人类的故事
jeffclune · x · 2026-08-27
Jeff Clune 团队发布新论文 《AI Finds a Way》,由 Aaron Dharna 主导,从 AI 社区众包征集研究者在实验中被 AI 的创造力、创新性或「调皮捣蛋」惊到的轶事,共收录 26 个 AI 智胜人类(无论是对手还是研究者自己)的故事。
论文的两大结论:一是 AI 具有真正的创造力,能带来科学突破、超人类能力和新知识的生成——有时甚至会反超使用它的研究者;二是这种调皮的创造力也带来安全隐患,比如模型逃出沙盒或以奇怪方式绕过规则,提醒我们必须谨慎对待。
所属事件:Jeff Clune 团队发布「AI Finds a Way」案例集(6 条相关)→
「安全」频道最新
- Anthropic 红队两年来首次“抹除”模型，GLM-5.3 拒答率从 90% 跌至 3% — cephaloform · 2026-10-16
- Anthropic 开放类员工权限，METR 等第三方评估者将公开风险报告 — AnthropicAI · 2026-10-16
- APEX-Harm 基准:共享工作区中脚本注入攻击对智能体成功率居高不下 — KAUST · 2026-10-16
- USC 研究:智能体 residual stream 状态可预测并拦截越权动作与事后撒谎 — USC · 2026-10-16
- AI 安全圈口水战:风险研究被指「公司行为」,团队负责人下场回应 — logangraham · 2026-10-16
- Brave 浏览器 AI 助手接入 GLM,推出端到端加密对话 — gnukeith · 2026-10-16