BioAgent-DF 论文：硬件静默数值故障可悄悄改变科研 Agent 决策

INTOSYN-AI-Labs · hf · 2026-11-11

INTOSYN AI Labs（联合哥伦比亚大学、微软）发布 BioAgent-DF 框架，研究 AI 科研 Agent 的决策可审计性。

核心发现：同一个 Agent 可以在引用不同证据的情况下给出相同结论；硬件层面的静默数值故障会改变 Agent 的证据选择与实验决策，而整体指标看起来不变。
方法：在同一计算位点保存参考值与候选值，在健康硬件上回放/移植这些值，观察引用与决策变化。在 8 个 SciFact 批次上，Qwen3.5-4B 与 Gemma 3 4B IT 各出现多处可复现的引用变化。
案例：在 hERG 心脏安全实验分配任务中，故障数值改变了测试决策；恢复 Agent 早期执行状态并提供认证分数后，39 个被改变的决策全部复原，而仅替换预测文件则一个都救不回。
工程收益：流式算术校验使前向执行+验证总耗时较 FP64 原实现降低 42.4%。

结论：审计必须同时追踪 Agent 使用的证据和最终答案。

「研究」频道最新