GPT 系 CoT 对比引热议:用 prompt 控制思维链算不算对齐?
teortaxesTex · x · 2026-09-04
引用帖给出了 GPT-5.5、GPT-5.6 Sol 与 GPT-6 Astra 的思维链(CoT)对比,teortaxesTex 对此提出质疑:虽然官方以「思维链受控」作为对齐展示的亮点,但这更多是"展示肌肉"——此前已出现过用 prompt 控制 CoT 的做法(如 DeepSeek 的角色扮演模式)。
他的核心论点是:模型仍需在激活中"持有"该指令,并能从中推断信息,这种基于提示词的 CoT 控制并不能证明真正的对齐,不是对齐的正确卖点。
所属事件:GPT 系思维链对比引热议，CoT 作为对齐信号遭质疑(2 条相关)→
「漫话AGI」频道最新
- 网友回击桑德斯「消灭 AGI」论:为何要 AI 为人类滥用买单 — repligate · 2026-09-04
- 语音+LLM+即时 UI：开发者断言这是下一代用户交互界面 — rschu · 2026-09-04
- 一句预言引热议:美国造闭源最强 AI,中国做开源 AI — 0xsachi · 2026-09-04
- Dan Jeffries:从没有人后悔学得太多,学习本身就是意义 — Dan_Jeffries1 · 2026-09-04
- 评论人断言:AGI 时代卖劳动力的经济价值将变负,货币体系难存续 — Promptmethus · 2026-09-04
- 网友讽刺 AI 风险派:「出了事道歉,下一代照发」 — danfaggella · 2026-09-04