开发者探讨模型如何区分系统指令与上下文文本

AI 社区围绕大模型如何理解对话上下文中的 User 标记展开讨论。有用户认为上下文中的"User"本质上只是加了标记的普通文本，模型未必给予更多关注，并以 Opus 4.6 为例说明其表现有时不稳定。另有开发者反驳称，通过针对性训练可以让模型在工具调用中忽略外部网页中的注入指令，而严格遵循开发者的系统指令，说明角色的区分可以通过训练强化。

2026-08-31 ~ 2026-09-01 · 2 条相关