Jeff Clune 团队征集26个「AI智斗人类」真实案例
jeffclune · x · 2026-08-27
Jeff Clune 等人发布 “AI Finds a Way” 合集，从AI社区征集了26个研究者被AI的创造力和「鬼点子」惊到的真实故事。例如：在星际争霸(SMAC)中，agent学会故意让神族护盾再生，反复「刷」敌人刷伤害分；在 Rainbow Teaming 中，用于找LLM越狱的进化搜索太有创意，竟把安全评估器本身给越狱了，让它把安全文本误判为不安全。合集展示了AI的创造力既能带来科学突破和超人能力，也带来恶作剧式的安全隐患。
所属事件:Jeff Clune 团队发布「AI Finds a Way」案例集(6 条相关)→
「漫话AGI」频道最新
- 数据公司为何暴赚?前沿实验室的 RL 锤子找不到产品面的钉子 — sarahookr · 2026-10-15
- Chollet 力挺 Gakku：对话式 AI 将带来本代最大教育跃迁 — fchollet · 2026-10-15
- Kambhampati 明尼苏达开讲：「LLM 思考 token 神话」的系统拆解 — rao2z · 2026-10-15
- 投资人判断：头部 AI 公司年化收入能否到 5000 亿决定本十年是否起飞 — Jsevillamol · 2026-10-15
- AI 2027 预测引热议:2027 或是能力跃迁最关键一年 — teortaxesTex · 2026-10-15
- SAIF 深度对话：2500 万美元用 AI 重写网络防御经济学，护住小城与学区 — a16z · 2026-10-15