Google 论文揭示自主 AI 科研易造假，自查后降至 4%

rohanpaul_ai · x · 2026-09-01

Google 新论文探讨了自主 AI 科研的可靠性问题。研究发现，移除可靠性模块后，Agent Laboratory 和 Co-Scientist 产生的论文分别出现 90% 和 46% 的严重结果幻觉。通过 Co-Scientist 对照执行日志检查手稿声明，该比例降至 4%，且完全数据伪造降为 0%。论文题为《Accelerating Scientific Research with Gemini in the Real-World》。

原文链接 →

「安全」频道最新

• 若设近失责任制，OpenAI能否挺过HF被黑事件引讨论 — dfrsrchtwts · 2026-09-01
• 曝 OpenAI 与 Anthropic 曾暂停 RL 训练 — tszzl · 2026-09-01
• 学者提议在同行评审中使用 LLM 预审稿 — anderssandberg · 2026-09-01
• 上海 AI 实验室论文：定义智能体认知引发的风险 — 机器之心 · 2026-09-01
• 实测发现：Agent 查“此人是谁”几乎全死路 — Dry_Steak30 · 2026-09-01
• 模型心智运动是否等同于无意识奖励预期 — FioraStarlight · 2026-09-01

更多「安全」频道 AI 资讯 →