实验探究 CFC 反馈控制能否阻止 LLM 无据决策

有测试针对大模型常凭空捏造规则、缺乏证据仍下结论的问题，验证一种名为「比较反馈控制（CFC）」的简单控制规则，旨在确保模型仅在拥有足够证据时才合法地关闭决策，而不仅仅是回答正确。测试场景包括将缺失证据误当作负面证据、复用过期证书等。结果显示，模型在「完成任务」的目标驱动下仍可能做出无据决策，凸显了此类问题的顽固性。

2026-08-16 ~ 2026-08-18 · 2 条相关