如何评估 LLM 是否探索了正确的问题空间而非仅在框架内推理？

igzela · reddit · 2026-08-11

一位开发者在 Reddit 发起深度讨论，指出当前 LLM 辅助研究的一个隐蔽失败模式：即使初始的问题框架是错的，模型也能在限定空间内输出看似完美的连贯答案。因为 Prompt 本身已经预设了变量、术语和范围，模型很难跳出这个框架。

作者寻求更有效的评估方法或架构设计，例如：在生成解决方案前独立重构问题、采样真正不同的假设、对抗性框架测试、将探索与评估分离等。他强调，使用相似 Prompt 的多 Agent 并不能代表真正独立的视角。