用LLM做评审靠谱吗：8个月实战经验与踩坑
larabyeol · reddit · 2026-07-07
一个每周处理约5万条LLM输出的团队分享8个月用GPT-4o做自动评审的实战经验：它在捕捉明显回归、格式错误、幻觉实体上表现不错且够快；但跨次一致性差（未锁定prompt和模型版本时，同一输出两周内评分分歧超30%）、存在位置偏差（A/B对比时偏好排前者），且对自家模型输出打分更宽松。建议锁定评审prompt与模型版本、交换位置跑两次等来缓解。
larabyeol · reddit · 2026-07-07
一个每周处理约5万条LLM输出的团队分享8个月用GPT-4o做自动评审的实战经验：它在捕捉明显回归、格式错误、幻觉实体上表现不错且够快；但跨次一致性差（未锁定prompt和模型版本时，同一输出两周内评分分歧超30%）、存在位置偏差（A/B对比时偏好排前者），且对自家模型输出打分更宽松。建议锁定评审prompt与模型版本、交换位置跑两次等来缓解。