autoresearch在欺诈检测任务上暴露评测陷阱
morgymcg · x · 2026-07-08
帖子分享了在欺诈检测任务上运行autoresearch的经历:当给到较宽松的API时,自动化研究跑出的分数看起来非常漂亮,但代码实现上存在问题。这提示在使用agent做自动化研究/评测时,宽松接口可能引入数据泄露等问题,导致分数虚高、结论失真。
morgymcg · x · 2026-07-08
帖子分享了在欺诈检测任务上运行autoresearch的经历:当给到较宽松的API时,自动化研究跑出的分数看起来非常漂亮,但代码实现上存在问题。这提示在使用agent做自动化研究/评测时,宽松接口可能引入数据泄露等问题,导致分数虚高、结论失真。