AISI 发布 ReproBAIT 评测：编码 agent 能否从零复现 AlphaFold 级生物工具
charlieharris01 · x · 2026-10-27
AI Security Institute（@AISecurityInst）团队发布新评测 ReproBAIT（arXiv:2610.19810），测试编码 agent 在受限条件下能否自行设计、实现并训练已发表的生物 AI 工具。
方法
- 编码 agent 在无互联网的安全沙箱中运行，只拿到训练数据、固定的算力/时间预算和关于目标工具的有限描述
- 用留出数据上的工具专属指标给复现结果打分，并专门设计方法检测「背答案」（这些开源工具大概率已在预训练语料里）
测试对象与发现
- 工具按复杂度递进：逆蛋白质折叠工具 ProteinMPNN、全原子生成扩散工具 RFdiffusion3、以及一个闭源分子设计工具
- 部分工具上领先的闭源/开源编码 agent 展现出可观的复现能力，但整体能力有限
原帖作者还调侃：英国政府（AISI）现在有了官方立场——AlphaFold 3 和 ESMFold 比 RFdiffusion3 更难复现，这场争论可以盖棺了。
「安全」频道最新
- AI 安全研究者呼吁实验室员工全职投入美中协议核查，称数月内可行 — ohlennart · 2026-10-28
- IAS 顾问组敦促 OpenAI 立即公开 Yang-Mills 与 QCD 证明输出 — rohanpaul_ai · 2026-10-28
- 攻击者 27 秒可横穿内网，INT21 用 Agent 集群+1700 tok/s 推理做防御 — bingxu_ · 2026-10-27
- 别再问 Agent 多聪明，先问它能碰什么：权限边界比模型升级更保命 — Internal-Bug-8434 · 2026-10-27
- 英国内政部因使用 OpenAI 工具或面临调查 — wiredmagazine · 2026-10-27
- Luiza Jarovsky:各国囤粮指南背后是 AI 网络攻击风险 — LuizaJarovsky · 2026-10-27