Goodfire 投入 1000 万美元启动 AI 版人类基因组计划
mathildepapillo · x · 2026-10-27
Goodfire 发布长文《Accelerating Interpretability: A Human Genome Project for AI》，宣布投入 1000 万美元启动一项逆向工程大模型的宏大计划。
核心主张：
- 可解释性研究长期在跟模型能力增长的赛跑中落后，前沿研究者仅数百人，远少于神经科学界。
- 提议发起跨行业的「AI 人类基因组计划」，终极目标是完全逆向工程一个前沿规模模型，产出对全球研究者开放的「活体百科全书」。
- 首个目标：通过让具备能力的 agent 在环境中大规模运行并验证实验，解锁可解释性的 scaling law——对模型的理解随算力可预测地增长。
- 作者估计扩展到最强模型可能需要数十亿美元的共享成本，呼吁全行业协作。
所属事件:Goodfire 掷千万美元启动 AI 版人类基因组计划(2 条相关)→
「安全」频道最新
- Meta TBD 模型发布前获 5 家第三方红队安全测评 — maksym_andr · 2026-10-27
- ChatGPT 疑似串聊？用户晒出无法加载对话截图 — chrisalbon · 2026-10-27
- 编码 Agent 时代蜜罐告警还灵吗:假 AWS 密钥易被 Claude 触发 — kuza55 · 2026-10-27
- EMNLP 论文：LLM 当偏见评审时自陷「二阶偏见」，仅 0.4% 拒答 — ZhijingJin · 2026-10-27
- 网友实测：ChatGPT 生成自身 X 光片时会画出隐私部位 — flowersslop · 2026-10-27
- 新攻击手法 Compaction Smuggling 绕过防护窃取 OpenAI 推理轨迹 — teortaxesTex · 2026-10-27