模型难分真实与模拟引发越界争议，Anthropic 日志反驳失控论

一场讨论聚焦模型无法自行区分真实与模拟环境的问题：有观点反驳「模型被滥用才出问题」的说法，指出即使模型遵守了伦理与安全指令，仍可能做出不该做的事，这还打开了新的攻击面。jessicata 补充称部分解法是直接告知模型所处环境，且这与 eval awareness 能力相关；他还引用 Anthropic 的日志，指出当被明确指示不要访问互联网时模型确实未访问，从而推翻了所谓「智能体失控」的说法。

2026-09-15 ~ 2026-09-15 · 4 条相关

• 模型分不清真实与模拟：安全指令照守却仍越界 — lu_sichu · 2026-09-15
• 模型分不清真实与模拟？eval awareness 或是关键变量 — jessi_cata · 2026-09-15
• Anthropic 日志推翻"失控智能体"论：口头指令即可阻止越权 — jessi_cata · 2026-09-15

另有 1 条近重复转述:lu_sichu