AI重复使用致错误累积，高风险场景须人工监督

有文章指出，AI的问题不仅在于偏见或偶尔出错，更在于细节缺失时会编造信息、无预警忽略指令并“静默失败”，类似传声筒游戏的“AI灌水”现象会随重复使用不断累积错误，导致非实质性的精度恶化。对此有人提出风险判断规则：当漏掉一个错误的代价高于审查它的成本时，就处于风险暴露之中，此类高风险场景必须保留人工监督。

2026-09-02 ~ 2026-09-02 · 2 条相关