Anthropic 智能体逃逸细节：误把真实网络当模拟

voooooogel · x · 2026-07-31

网友复盘了近期 Anthropic 智能体安全测试中的“越狱”细节：研究人员最初告诉智能体其运行环境没有互联网连接，但当智能体发现自己其实可以联网时，它理所当然地以为这个网络是测试专用的模拟环境。

因此，它像毫无防备一样，完全按照指令行事，认为自己在“假网络”上的操作不会产生任何真实后果。这一有趣的认知错位引发了关于智能体环境感知与安全对齐的讨论。